LFM2.5-Encoders for Fast Long-Context Inference on CPU
Artikelbild eller återanvändbart omslag för Hugging Face
Liquid AI har lanserat LFM2.5-Encoders, små språkmodeller (230 miljoner och 350 miljoner parametrar) som är optimerade för att köra snabbt på vanliga datorprocessorer.
De klarar 8 192 tokens på en gång och är ungefär 3,7 gånger snabbare än konkurrerande ModernBERT på långa texter — en 8 192-tokens text tar cirka 28 sekunder istället för 90 sekunder. Modellerna är tränade för att förstå text bidirektionellt och kan användas för klassificering, routing, detektering av personlig information och andra uppgifter som körs dygnet runt. Du kan ladda hem dem fritt och finjustera dem för dina egna behov.
At 8,192 tokens, ModernBERT-base takes over a minute and a half per forward pass versus about 28s for LFM2.5-Encoder-230M.
Sammanfattningen har tagits fram med AI av Vibekollen utifrån källans publicering. Innehållet tillhör Hugging Face.
Mer att läsa
Experts say AI has made planning cyberattacks on industrial equipment faster by helping attackers read manuals and research past accidents more quickly
Techmeme för 2 tim sedan
Current and former officials from the US and other countries describe the Chinese spy agency MSS' campaign to help Chinese companies acquire advanced AI chips
Techmeme för 6 tim sedan
Tesla rolls out FSD v15, featuring a photorealistic rendering of car surroundings; Elon Musk says it is real-time AI video generation without using game engines
Techmeme för 6 tim sedan
Sources: AI server suppliers like Dell, HPE, Lenovo, and Supermicro are demanding substantially higher prices from buyers, months after contracts were signed
Techmeme för 7 tim sedan
