The Rise of CaaS: Context-as-a-Service for Agentic AI — Omer Primor, Bright Data
Omer Primor från Bright Data presenterar en jämförelse mellan att hyra färdig kontextdata (Context-as-a-Service) och att bygga sin egen pipeline för att hålla AI-agenter uppdaterade med webbdata.
I ett test som anrikade 25 informationsfält för 100 företag visade det sig att kostnaderna blev lika stora vid ungefär 15 000 frågor. Det viktigaste problemet är inte mängden data utan hur ofta den måste uppdateras: sociala medier blir föråldrad inom en dag, nyheter och finansdata inom 30 dagar. Om man hyr tjänsten kostar varje upprepning av samma fråga lika mycket även när svaret inte har förändrats, medan egenbyggda lösningar betalar stora kostnader upfront men sedan är effektivt gratis per sökning.
Sammanfattningen har tagits fram med AI av Vibekollen utifrån källans publicering. Innehållet tillhör AI Engineer.
Mer från AI Engineer
Inside Arca's Long-Horizon Agents That Run the Business - Aman Singh, Arca
AI Engineer 23 okt.
Real AI Agent Attacks and What Would Have Stopped Them — Andrey Rybka, Bloomberg
AI Engineer 23 okt.
Outside of tech there has been no financial payoff to US companies for using AI, now viewed as a margin-hurting cost center, as VC-backed firms burn more tokens
Techmeme för 3 tim sedan
Source: Replit recently moved most AI spend from Anthropic to OpenAI, which gave 30%+ off in a deal worth $100M+/year, after Anthropic discontinued its discount
Techmeme för 5 tim sedan