Early Anthropic hire, former METR COO have found a way to rein in rogue AI agents
Artikelbild eller återanvändbart omslag för TechCrunch AI
En ny startup kallad AIUC, grundad av Rune Kvist (tidigare på Anthropic) och Rajiv Dattani (före detta operativ chef på AI-säkerhetsorganisationen METR), har utvecklat ett certifieringssystem för AI-agenter — automatiserade program som gör uppgifter åt sig själva.
Systemet, inspirerat av cybersäkerhetsstandarden SOC 2, heter AIUC-1 och testar agenter genom cirka 5 000 olika scenarier för att kontrollera hur de hanterar säkerhetsproblem som jailbreaks, hallucineringar och dataleaks. Företaget har redan Cursor, Lovable, Harvey och ElevenLabs som kunder. AIUC just annonserade att det säkrat 40 miljoner dollar i Serie A-finansiering från Ribbit Capital, tillsammans med tidigare seedfinansiering på 15 miljoner dollar — totalt 55 miljoner dollar.
Sammanfattningen har tagits fram med AI av Vibekollen utifrån källans publicering. Innehållet tillhör TechCrunch AI.
Mer från TechCrunch AI
Google froze its open source bug bounty program due to a ‘significant rise’ in AI submissions
TechCrunch AI för 14 tim sedan
Can ‘super intelligence’ and a non-binding safety pact solve AI’s image problem?
TechCrunch AI för 14 tim sedan
Trump unveils his new Super Intelligence Force
TechCrunch AI för 19 tim sedan
Amazon responds to data center backlash, says it no longer uses NDAs
TechCrunch AI 3 okt.