LFM2.5-Encoders for Fast Long-Context Inference on CPU
Bild från huggingface.co
Liquid AI har lanserat LFM2.5-Encoders, små språkmodeller (230 miljoner och 350 miljoner parametrar) som är optimerade för att köra snabbt på vanliga datorprocessorer.
De klarar 8 192 tokens på en gång och är ungefär 3,7 gånger snabbare än konkurrerande ModernBERT på långa texter — en 8 192-tokens text tar cirka 28 sekunder istället för 90 sekunder. Modellerna är tränade för att förstå text bidirektionellt och kan användas för klassificering, routing, detektering av personlig information och andra uppgifter som körs dygnet runt. Du kan ladda hem dem fritt och finjustera dem för dina egna behov.
At 8,192 tokens, ModernBERT-base takes over a minute and a half per forward pass versus about 28s for LFM2.5-Encoder-230M.
Sammanfattningen är skriven av Vibekollen utifrån källans egen publicering. Innehållet tillhör Hugging Face.
Mer från Hugging Face
IBM releases SOTA Granite Time Series PatchTST-FM-r2 model with commercial-friendly license
Hugging Face för 6 tim sedan
Safety for Whom? Refusing the Right Subset of a Topic, Not the Whole Topic
Hugging Face 8 sep.
The exact tools used to port a massive codebase in days #programming #typescript #dev
AI Engineer för 2 tim sedan
v2.1.267
Claude Code för 2 tim sedan