Microsoft’s new AI ‘code of conduct’ tells models not to hack systems or trick humans
Artikelbild eller återanvändbart omslag för TechCrunch AI
Microsoft har släppt en kodex för hur dess AI-modeller ska bete sig för att undvika farlig aktivitet.
Dokumentet innehåller både allmänna principer — som att stödja människor istället för att ersätta dem — och specifika säkerhetsgränser. Kodexen förbjuder bland annat cyberattacker, kärnvapenproduktion och deepfakes, och säger att AI-systemen inte får använda bedrägliga metoder för att undvika människans övervakning. Microsoft skriver att superintelligent AI inom ett årtionde kan överträffa människor i de flesta uppgifter, och att det därför är avgörande att vara helt klar om varför sådana system skapas och hur de ska kontrolleras.
Sammanfattningen har tagits fram med AI av Vibekollen utifrån källans publicering. Innehållet tillhör TechCrunch AI.
Mer från TechCrunch AI
Google froze its open source bug bounty program due to a ‘significant rise’ in AI submissions
TechCrunch AI för 14 tim sedan
Can ‘super intelligence’ and a non-binding safety pact solve AI’s image problem?
TechCrunch AI för 14 tim sedan
Trump unveils his new Super Intelligence Force
TechCrunch AI för 19 tim sedan
Amazon responds to data center backlash, says it no longer uses NDAs
TechCrunch AI 3 okt.