Loophole: Adversarial Agents To Stress Test Your Morality — Brendan Rappazzo, Morgan Stanley
Loophole är ett AI-projekt av Brendan Rappazzo som testar om skrivna regler faktiskt motsvarar vad man moralpolitiskt menar.
Du beskriver dina värderingar på naturligt språk, en AI gör dem till formella regler, och sedan två motsatta agenter jagar efter luckor: en söker efter saker som är ommorala men lagliga, den andra efter saker som är moraliska men olagliga. En domare-agent bedömer om det bara är svårt formulerat eller ett genuint motsägelsefel i dina värderingar. Projektet utforskar flera vägar framåt, bland annat moraliska instruktioner för chatbotar, kontraktsanalys och en simulator som omskriver lagförslag tills de skulle passera den amerikanska senaten.
Sammanfattningen har tagits fram med AI av Vibekollen utifrån källans publicering. Innehållet tillhör AI Engineer.
Mer att läsa
When AI Labs Rival Nations
The AI Daily Brief för 53 min sedan
Experts say AI has made planning cyberattacks on industrial equipment faster by helping attackers read manuals and research past accidents more quickly
Techmeme för 3 tim sedan
Current and former officials from the US and other countries describe the Chinese spy agency MSS' campaign to help Chinese companies acquire advanced AI chips
Techmeme för 7 tim sedan
Tesla rolls out FSD v15, featuring a photorealistic rendering of car surroundings; Elon Musk says it is real-time AI video generation without using game engines
Techmeme för 7 tim sedan
