v0.32.4-rc0: model: add Laguna MLX support (#17237)
Artikelbild eller återanvändbart omslag för Ollama
Ollama har uppdaterat sitt MLX-stöd (en teknik för att köra AI-modeller effektivt) för att fungera med Laguna-modellerna XS 2, XS 2.1 och S 2.1.
Uppdateringen innehåller optimeringar för hur modellerna laddar och kör, samt förbättringar för hur stora och komplexa delar av modellen hanteras snabbare.
Sammanfattningen har tagits fram med AI av Vibekollen utifrån källans publicering. Innehållet tillhör Ollama.
Mer från Ollama
v0.40.11
Ollama 24 okt.
v0.40.11: voice: add voice catalog for Phonon (#19242)
Ollama 24 okt.
Outside of tech there has been no financial payoff to US companies for using AI, now viewed as a margin-hurting cost center, as VC-backed firms burn more tokens
Techmeme för 3 tim sedan
Source: Replit recently moved most AI spend from Anthropic to OpenAI, which gave 30%+ off in a deal worth $100M+/year, after Anthropic discontinued its discount
Techmeme för 5 tim sedan