FinOps for AI Agents: Who Spent All the Tokens? — Tisha Chawla & Susheem Koul, Microsoft
Microsoft-forskarna Tisha Chawla och Susheem Koul presenterar ett system för att kontrollera kostnaderna när AI-agenter kör kod.
Problemet är att dagens AI-verktyg saknar en kontrollmekanism mellan din kod och vad den faktiskt kostar — till skillnad från molntjänster som autoskalning eller SaaS-tjänster med användargränser. Deras lösning använder "steering" istället för att bara stänga av dyra körningar: systemet övervakar utgifterna i realtid och instruerar agenten att ge kortare svar när kostnaderna hotar att spränga budgeten. I tester minskade detta genomsnittskostnaden med 78 procent samtidigt som andelen körningar som faktiskt slutfördes ökade från 67 till 96 procent.
Sammanfattningen är skriven av Vibekollen utifrån källans egen publicering. Innehållet tillhör AI Engineer.
Mer från AI Engineer
The exact tools used to port a massive codebase in days #programming #typescript #dev
AI Engineer för 2 tim sedan
The Universal Remote Control for AI — Alex Hancock, Block
AI Engineer för 6 tim sedan
MCP Apps: Give the Model Data, Give the User a UI — Dustin Mihalik, Indeed
AI Engineer för 6 tim sedan
Your agents lack context: Here's how to fix "You're absolutely right!" — Brandon Waselnuk, Unblocked
AI Engineer för 7 tim sedan