LFM2.5-Encoders for Fast Long-Context Inference on CPU
Artikelbild eller återanvändbart omslag för Hugging Face
Liquid AI har lanserat LFM2.5-Encoders, små språkmodeller (230 miljoner och 350 miljoner parametrar) som är optimerade för att köra snabbt på vanliga datorprocessorer.
De klarar 8 192 tokens på en gång och är ungefär 3,7 gånger snabbare än konkurrerande ModernBERT på långa texter — en 8 192-tokens text tar cirka 28 sekunder istället för 90 sekunder. Modellerna är tränade för att förstå text bidirektionellt och kan användas för klassificering, routing, detektering av personlig information och andra uppgifter som körs dygnet runt. Du kan ladda hem dem fritt och finjustera dem för dina egna behov.
At 8,192 tokens, ModernBERT-base takes over a minute and a half per forward pass versus about 28s for LFM2.5-Encoder-230M.
Sammanfattningen har tagits fram med AI av Vibekollen utifrån källans publicering. Innehållet tillhör Hugging Face.
Mer att läsa
The Agent Said It Was Done. The Database Disagreed.
Hugging Face 4 okt.
Server-Side Code Execution Tools for AI Agents, Compared
OpenRouter för 10 tim sedan
v0.40.0
Ollama för 10 tim sedan
Google froze its open source bug bounty program due to a ‘significant rise’ in AI submissions
TechCrunch AI för 14 tim sedan