86% of What Coding Agents Do Is Just Reading — Not Solving | Alexander Whedon of Subquadratic
Artikelbild eller återanvändbart omslag för Eye on AI
Enligt podcastavsnitt från Eye on AI förklarar Alexander Whedon från företaget Subquadratic ett stort problem med dagens AI-modeller: när man ökar mängden information (kontextfönstret) fyrdubbleras beräkningskraften som krävs.
Det betyder att företag lägger sina AI-budgetar på att hantera denna ineffektivitet snarare än på att lösa faktiska problem. Whedon presenterar en lösning kallad sparse attention som kan göra AI-beräkningar 40 gånger snabbare. Intressant nog visar forskning att kodningsagenter spenderar 86 procent av sin tid på att bara läsa och organisera information, inte på att faktiskt lösa problem. Han menar att många stora organisationer har enorma mängder data de aldrig kunnat använda i AI-produkter — data som nu potentiellt kan användas utan dyra omarbetningar.
Sammanfattningen har tagits fram med AI av Vibekollen utifrån källans publicering. Innehållet tillhör Eye on AI.
Mer att läsa
Server-Side Code Execution Tools for AI Agents, Compared
OpenRouter för 10 tim sedan
v0.40.0
Ollama för 11 tim sedan
Google froze its open source bug bounty program due to a ‘significant rise’ in AI submissions
TechCrunch AI för 14 tim sedan
Can ‘super intelligence’ and a non-binding safety pact solve AI’s image problem?
TechCrunch AI för 14 tim sedan