Base Labs launches an open-weight AI safety partnership with Hugging Face and Goodfire
Artikelbild eller återanvändbart omslag för TechCrunch AI
Baseten lanserade tillsammans med sitt forskningsprogram Base Labs en ny säkerhetsstandard för open-source AI-modeller, i samarbete med Hugging Face och Goodfire AI.
Bakgrunden är att open-source-modeller blir allt oftare saboterade genom en teknik som kallas abliteration — Hugging Face listar redan över 6 000 sådana försvagade modeller. Base Labs ska utveckla och publicera metoder för att träna och övervaka öppna modeller på ett sätt som gör säkerheten inbyggd från början, inte något som läggs på efteråt. Företagen menar att öppna modeller faktiskt är säkrare än stängda, eftersom man då kan se hur modellerna beter sig.
The scale of the problem is massive: Hugging Face, which hosts open-source AI models, currently lists over 6,000 abliterated models.
Sammanfattningen har tagits fram med AI av Vibekollen utifrån källans publicering. Innehållet tillhör TechCrunch AI.
Mer från TechCrunch AI
Google froze its open source bug bounty program due to a ‘significant rise’ in AI submissions
TechCrunch AI för 13 tim sedan
Can ‘super intelligence’ and a non-binding safety pact solve AI’s image problem?
TechCrunch AI för 13 tim sedan
Trump unveils his new Super Intelligence Force
TechCrunch AI för 18 tim sedan
Amazon responds to data center backlash, says it no longer uses NDAs
TechCrunch AI 3 okt.