Anthropic CEO outlines plan to ‘pace the frontier’
Artikelbild eller återanvändbart omslag för TechCrunch AI
Anthropic-chefen Dario Amodei har föreslagit tre strategier för att bromsa utvecklingen av AI-systemen och säga att det är dags att gå långsammare.
Han föreslår bland annat att oberoende granskare från organisationer som METR ska få arbeta inne på AI-företagen för att kontrollera att säkerhetslöften efterföljs, att de ledande AI-företagen ska samordna gemensamma säkerhetsstandarder, och att USA bör samordna med andra länder — även Kina — för att förhindra farlig AI-användning. Antropic säger att det själva redan åtar sig att ta emot dessa granskare, vilket innebär att ge dem kontorsplats och tillgång till samma information som interna säkerhetsteam.
Sammanfattningen har tagits fram med AI av Vibekollen utifrån källans publicering. Innehållet tillhör TechCrunch AI.
Mer från TechCrunch AI
Google froze its open source bug bounty program due to a ‘significant rise’ in AI submissions
TechCrunch AI för 15 tim sedan
Can ‘super intelligence’ and a non-binding safety pact solve AI’s image problem?
TechCrunch AI för 15 tim sedan
Trump unveils his new Super Intelligence Force
TechCrunch AI för 20 tim sedan
Amazon responds to data center backlash, says it no longer uses NDAs
TechCrunch AI 3 okt.