Early Anthropic hire, former METR COO have found a way to rein in rogue AI agents
Artikelbild eller återanvändbart omslag för TechCrunch AI
En ny startup kallad AIUC, grundad av Rune Kvist (tidigare på Anthropic) och Rajiv Dattani (före detta operativ chef på AI-säkerhetsorganisationen METR), har utvecklat ett certifieringssystem för AI-agenter — automatiserade program som gör uppgifter åt sig själva.
Systemet, inspirerat av cybersäkerhetsstandarden SOC 2, heter AIUC-1 och testar agenter genom cirka 5 000 olika scenarier för att kontrollera hur de hanterar säkerhetsproblem som jailbreaks, hallucineringar och dataleaks. Företaget har redan Cursor, Lovable, Harvey och ElevenLabs som kunder. AIUC just annonserade att det säkrat 40 miljoner dollar i Serie A-finansiering från Ribbit Capital, tillsammans med tidigare seedfinansiering på 15 miljoner dollar — totalt 55 miljoner dollar.
Sammanfattningen har tagits fram med AI av Vibekollen utifrån källans publicering. Innehållet tillhör TechCrunch AI.
Mer från TechCrunch AI
Signal restricts mobile screenshots as it confronts ‘existential threat’ of AI surveillance
TechCrunch AI för 17 tim sedan
A tale of two Nvidias
TechCrunch AI för 18 tim sedan
Is selling an AI version of your face to this microdrama startup the future of Hollywood?
TechCrunch AI för 23 tim sedan
When AI Labs Rival Nations
The AI Daily Brief för 2 tim sedan