FinOps for AI Agents: Who Spent All the Tokens? — Tisha Chawla & Susheem Koul, Microsoft
Microsoft-forskarna Tisha Chawla och Susheem Koul presenterar ett system för att kontrollera kostnaderna när AI-agenter kör kod.
Problemet är att dagens AI-verktyg saknar en kontrollmekanism mellan din kod och vad den faktiskt kostar — till skillnad från molntjänster som autoskalning eller SaaS-tjänster med användargränser. Deras lösning använder "steering" istället för att bara stänga av dyra körningar: systemet övervakar utgifterna i realtid och instruerar agenten att ge kortare svar när kostnaderna hotar att spränga budgeten. I tester minskade detta genomsnittskostnaden med 78 procent samtidigt som andelen körningar som faktiskt slutfördes ökade från 67 till 96 procent.
Sammanfattningen har tagits fram med AI av Vibekollen utifrån källans publicering. Innehållet tillhör AI Engineer.
Mer att läsa
Building advertising for the way people use AI
OpenAI för 2 tim sedan
Server-Side Code Execution Tools for AI Agents, Compared
OpenRouter för 12 tim sedan
v0.40.0
Ollama för 12 tim sedan
Google froze its open source bug bounty program due to a ‘significant rise’ in AI submissions
TechCrunch AI för 16 tim sedan