Training and Finetuning Multi-Vector Embedding Models with Sentence Transformers
Artikelbild eller återanvändbart omslag för Hugging Face
Hugging Face presenterar hur man tränar multi-vector-modeller — en typ av sökmodell som behåller en liten vektor per ord istället för att pressa hela texten till en enda vektor.
Det ger finare matchning mellan sökfrågor och dokument men kräver större lagringsplats. Blogginlägget visar vilka komponenter som behövs för att finjustera befintliga modeller eller bygga nya från grunden, och presenterar exempel där en specialiserad medicinsk modell tränades på 14,5 timmar på ett enda grafikkort och överträffade generella sökmodeller.
Finetuning multi-vector models significantly improves their retrieval performance on your specific domain: the vocabulary, the query style, and the notion of relevance all differ between web search, legal discovery, code search, and scientific literature review.
Sammanfattningen har tagits fram med AI av Vibekollen utifrån källans publicering. Innehållet tillhör Hugging Face.
Mer att läsa
Outside of tech there has been no financial payoff to US companies for using AI, now viewed as a margin-hurting cost center, as VC-backed firms burn more tokens
Techmeme för 3 tim sedan
Source: Replit recently moved most AI spend from Anthropic to OpenAI, which gave 30%+ off in a deal worth $100M+/year, after Anthropic discontinued its discount
Techmeme för 5 tim sedan
A look at Alpha School, a network of private schools that claims to teach kids 2x as fast using AI; data shows ~50% of K-8 students missed this goal in math
Techmeme för 7 tim sedan
Block’s new voice model sounds eerily human
TechCrunch AI för 9 tim sedan