AI hallucination nearly triggers US military operation
Artikelbild eller återanvändbart omslag för TechCrunch AI
Våren 2026 var amerikanska militärflygplan redan i luften när det upptäcktes att underrättelseuppgifterna för en operation mot ett kinesiskt fartyg hade hallucinerats av en AI-chattbot.
En Special Operations-analytiker hade frågat AI:n att sammanfatta öppen källdata tillsammans med klassificerad signalunderrättelse, och chattboten missidentifierade fartygets lastförteckning. Analytikern använde sedan verktyget en gång till för att formatera det felaktiga resultatet till en officiell rapport som cirkulerades inom militären. Operationen ställdes in i sista stund och undvek en potentiell konflikt med Kina.
Military aircraft were already in the air this spring when U.S. officials made an alarming discovery: The intelligence driving an armed operation against a Chinese vessel had been hallucinated by an AI chatbot.
Sammanfattningen har tagits fram med AI av Vibekollen utifrån källans publicering. Innehållet tillhör TechCrunch AI.
Mer från TechCrunch AI
Google froze its open source bug bounty program due to a ‘significant rise’ in AI submissions
TechCrunch AI för 14 tim sedan
Can ‘super intelligence’ and a non-binding safety pact solve AI’s image problem?
TechCrunch AI för 14 tim sedan
Trump unveils his new Super Intelligence Force
TechCrunch AI för 19 tim sedan
Amazon responds to data center backlash, says it no longer uses NDAs
TechCrunch AI 3 okt.