86% of What Coding Agents Do Is Just Reading — Not Solving | Alexander Whedon of Subquadratic
Artikelbild eller återanvändbart omslag för Eye on AI
Enligt podcastavsnitt från Eye on AI förklarar Alexander Whedon från företaget Subquadratic ett stort problem med dagens AI-modeller: när man ökar mängden information (kontextfönstret) fyrdubbleras beräkningskraften som krävs.
Det betyder att företag lägger sina AI-budgetar på att hantera denna ineffektivitet snarare än på att lösa faktiska problem. Whedon presenterar en lösning kallad sparse attention som kan göra AI-beräkningar 40 gånger snabbare. Intressant nog visar forskning att kodningsagenter spenderar 86 procent av sin tid på att bara läsa och organisera information, inte på att faktiskt lösa problem. Han menar att många stora organisationer har enorma mängder data de aldrig kunnat använda i AI-produkter — data som nu potentiellt kan användas utan dyra omarbetningar.
Sammanfattningen har tagits fram med AI av Vibekollen utifrån källans publicering. Innehållet tillhör Eye on AI.
Mer att läsa
Experts say AI has made planning cyberattacks on industrial equipment faster by helping attackers read manuals and research past accidents more quickly
Techmeme för 2 tim sedan
Current and former officials from the US and other countries describe the Chinese spy agency MSS' campaign to help Chinese companies acquire advanced AI chips
Techmeme för 6 tim sedan
Tesla rolls out FSD v15, featuring a photorealistic rendering of car surroundings; Elon Musk says it is real-time AI video generation without using game engines
Techmeme för 6 tim sedan
Sources: AI server suppliers like Dell, HPE, Lenovo, and Supermicro are demanding substantially higher prices from buyers, months after contracts were signed
Techmeme för 7 tim sedan
