Beyond Static Intelligence: Evaluating Continual Learning — Parth Asawa, UC Berkeley
Parth Asawa från UC Berkeley kritiserar hur AI-modeller utvärderas idag.
Alla rankinglistan bygger på att testa en modell på en uppgift, nollställa dess minne, och testa på nästa — vilket döljer hur väl systemet faktiskt lär sig över tid. Han presenterar ett nytt mätverktyg som jämför samma system när det kan lära sig (behålla minne mellan uppgifter) mot när det nollställs efter varje uppgift. Resultaten är överraskande: enkel in-context-inlärning (där modellen använder tidigare svar för att förbättra sig inom samma konversation) slår mer komplicerade minneshanteringssystem. Hans benchmark täcker sex områden, från databassökning till prognosmodeller, och avslöjar problem som att modeller kan glömma sina egna korrigeringar.
Sammanfattningen har tagits fram med AI av Vibekollen utifrån källans publicering. Innehållet tillhör AI Engineer.
Mer från AI Engineer
Inside Arca's Long-Horizon Agents That Run the Business - Aman Singh, Arca
AI Engineer 23 okt.
Real AI Agent Attacks and What Would Have Stopped Them — Andrey Rybka, Bloomberg
AI Engineer 23 okt.
Outside of tech there has been no financial payoff to US companies for using AI, now viewed as a margin-hurting cost center, as VC-backed firms burn more tokens
Techmeme för 3 tim sedan
Source: Replit recently moved most AI spend from Anthropic to OpenAI, which gave 30%+ off in a deal worth $100M+/year, after Anthropic discontinued its discount
Techmeme för 5 tim sedan