Beyond Static Intelligence: Evaluating Continual Learning — Parth Asawa, UC Berkeley
Parth Asawa från UC Berkeley kritiserar hur AI-modeller utvärderas idag.
Alla rankinglistan bygger på att testa en modell på en uppgift, nollställa dess minne, och testa på nästa — vilket döljer hur väl systemet faktiskt lär sig över tid. Han presenterar ett nytt mätverktyg som jämför samma system när det kan lära sig (behålla minne mellan uppgifter) mot när det nollställs efter varje uppgift. Resultaten är överraskande: enkel in-context-inlärning (där modellen använder tidigare svar för att förbättra sig inom samma konversation) slår mer komplicerade minneshanteringssystem. Hans benchmark täcker sex områden, från databassökning till prognosmodeller, och avslöjar problem som att modeller kan glömma sina egna korrigeringar.
Sammanfattningen har tagits fram med AI av Vibekollen utifrån källans publicering. Innehållet tillhör AI Engineer.
Mer att läsa
Building advertising for the way people use AI
OpenAI för 2 tim sedan
Server-Side Code Execution Tools for AI Agents, Compared
OpenRouter för 12 tim sedan
v0.40.0
Ollama för 12 tim sedan
Google froze its open source bug bounty program due to a ‘significant rise’ in AI submissions
TechCrunch AI för 16 tim sedan