Deploy local agents everywhere with LFM2.5-2.6B
Artikelbild eller återanvändbart omslag för Hugging Face
Liquid AI presenterar LFM2.5-2.6B, en liten AI-modell (2,6 miljarder parametrar) som är specialiserad för att köra agenter — alltså AI-system som kan använda verktyg och ta flera steg för att lösa uppgifter.
Modellen är tränad att fungera bra på mobiler och datorer utan större hårdvara, och uppnår hastigheter på 220 tokens per sekund på en Apple M5 Max och 113 på en AMD Ryzen-processor, allt på under 2,5 GB minne. Enligt testerna slår den modeller som är fyra gånger större när det gäller att följa instruktioner och använda verktyg, även om större modeller är bättre på kodning. Modellen är tillgänglig direkt och fungerar med populära ramverk som llama.cpp och vLLM.
Reach for LFM2.5-2.6B when you need on-device agents for high-volume workloads.
Sammanfattningen har tagits fram med AI av Vibekollen utifrån källans publicering. Innehållet tillhör Hugging Face.
Mer att läsa
Experts say AI has made planning cyberattacks on industrial equipment faster by helping attackers read manuals and research past accidents more quickly
Techmeme för 2 tim sedan
Current and former officials from the US and other countries describe the Chinese spy agency MSS' campaign to help Chinese companies acquire advanced AI chips
Techmeme för 6 tim sedan
Tesla rolls out FSD v15, featuring a photorealistic rendering of car surroundings; Elon Musk says it is real-time AI video generation without using game engines
Techmeme för 6 tim sedan
Sources: AI server suppliers like Dell, HPE, Lenovo, and Supermicro are demanding substantially higher prices from buyers, months after contracts were signed
Techmeme för 7 tim sedan
