How long can your skills be before your agent forgets what you told it? — Laurie Voss, Arize AI
Laurie Voss från Arize AI testade hur många instruktioner AI-modeller kan följa när man ger dem en lista med ord som ska finnas med i ett svar.
För ett år sedan glömde modellerna bort instruktioner när listan växte till 200–300 ord. Idag klarar de senaste modellerna 5 000 instruktioner innan något går fel — en tiofaldig förbättring på tolv månader. Men modellerna misslyckas på olika sätt: några glömmer regler, andra vägrar på grund av säkerhetskontroller, och några använder all sin beräkningskraft för att verifiera instruktioner istället för att svara. Voss säger att problemet inte längre är att få in instruktionerna, utan att kontrollera att modellen faktiskt följer dem.
Sammanfattningen har tagits fram med AI av Vibekollen utifrån källans publicering. Innehållet tillhör AI Engineer.
Mer att läsa
What Runs Where? Local AI in Production — Ahmad Osman, Osmantic
AI Engineer 21 nov.
Experts say AI has made planning cyberattacks on industrial equipment faster by helping attackers read manuals and research past accidents more quickly
Techmeme för 2 tim sedan
Current and former officials from the US and other countries describe the Chinese spy agency MSS' campaign to help Chinese companies acquire advanced AI chips
Techmeme för 6 tim sedan
Tesla rolls out FSD v15, featuring a photorealistic rendering of car surroundings; Elon Musk says it is real-time AI video generation without using game engines
Techmeme för 7 tim sedan
