Up to 3.2x Faster Inference with LFM2.5-DSpark
Artikelbild eller återanvändbart omslag för Hugging Face
Liquid AI har lanserat DSpark-versioner av sina LFM2.5-språkmodeller som gör inferensen upp till 3,2 gånger snabbare på GPU och 2,87 gånger snabbare på enheter som MacBook Pro.
DSpark använder en mindre "draft"-modell (omkring 300 miljoner parametrar) som föreslog tokens som en större modell sedan verifierar — på så sätt delas kostnaderna för att läsa vikter från minne över flera tokens samtidigt. Tekniken reducerar latensen för funktionsanrop med 57 procent i genomsnitt för den minsta modellen. Modellerna finns redan integrerade med llama.cpp och SGLang, två populära ramverk för att köra språkmodeller.
Faster inference: up to 3.18 throughput improvement on a GPU and up to 2.87x on-device.
Sammanfattningen har tagits fram med AI av Vibekollen utifrån källans publicering. Innehållet tillhör Hugging Face.
Mer att läsa
Outside of tech there has been no financial payoff to US companies for using AI, now viewed as a margin-hurting cost center, as VC-backed firms burn more tokens
Techmeme för 3 tim sedan
Source: Replit recently moved most AI spend from Anthropic to OpenAI, which gave 30%+ off in a deal worth $100M+/year, after Anthropic discontinued its discount
Techmeme för 5 tim sedan
A look at Alpha School, a network of private schools that claims to teach kids 2x as fast using AI; data shows ~50% of K-8 students missed this goal in math
Techmeme för 7 tim sedan
Block’s new voice model sounds eerily human
TechCrunch AI för 9 tim sedan