PrismML hopes its tiny LLM will change how we all use AI
Artikelbild eller återanvändbart omslag för TechCrunch AI
PrismML är ett AI-labb grundat av forskare från Caltech som utvecklar komprimerade språkmodeller — intelligenta AI-system som kan köras på vanliga datorer och smartphones istället för kraftfulla servrar.
Deras senaste modell, Bonsai 2 27B, är en förminskad version av en populär modell från Alibaba som nu tar upp bara 5,9 GB istället för 59 GB, en minskning på 90 procent. Modellen behåller 98 procent av originalmodellens prestanda enligt benchmarktester. Företaget använder en teknik som förenklar modellens interna värden från 16 bitar ner till bara tre möjliga värden, vilket minskar lagringsutrymmet dramatiskt. PrismML planerar att komprimerera ännu större modeller framöver.
If AI lab PrismML isn't on your radar yet, it should be — not because it's raised gobs of money (it hasn't yet, just a $22.25 million seed round), but because of the technical minds involved and the potentially industry-changing tech it's developing.
Sammanfattningen har tagits fram med AI av Vibekollen utifrån källans publicering. Innehållet tillhör TechCrunch AI.
Mer från TechCrunch AI
Google froze its open source bug bounty program due to a ‘significant rise’ in AI submissions
TechCrunch AI för 14 tim sedan
Can ‘super intelligence’ and a non-binding safety pact solve AI’s image problem?
TechCrunch AI för 14 tim sedan
Trump unveils his new Super Intelligence Force
TechCrunch AI för 19 tim sedan
Amazon responds to data center backlash, says it no longer uses NDAs
TechCrunch AI 3 okt.