Base Labs launches an open-weight AI safety partnership with Hugging Face and Goodfire
Artikelbild eller återanvändbart omslag för TechCrunch AI
Baseten lanserade tillsammans med sitt forskningsprogram Base Labs en ny säkerhetsstandard för open-source AI-modeller, i samarbete med Hugging Face och Goodfire AI.
Bakgrunden är att open-source-modeller blir allt oftare saboterade genom en teknik som kallas abliteration — Hugging Face listar redan över 6 000 sådana försvagade modeller. Base Labs ska utveckla och publicera metoder för att träna och övervaka öppna modeller på ett sätt som gör säkerheten inbyggd från början, inte något som läggs på efteråt. Företagen menar att öppna modeller faktiskt är säkrare än stängda, eftersom man då kan se hur modellerna beter sig.
The scale of the problem is massive: Hugging Face, which hosts open-source AI models, currently lists over 6,000 abliterated models.
Sammanfattningen har tagits fram med AI av Vibekollen utifrån källans publicering. Innehållet tillhör TechCrunch AI.
Mer från TechCrunch AI
Signal restricts mobile screenshots as it confronts ‘existential threat’ of AI surveillance
TechCrunch AI för 16 tim sedan
A tale of two Nvidias
TechCrunch AI för 16 tim sedan
Is selling an AI version of your face to this microdrama startup the future of Hollywood?
TechCrunch AI för 21 tim sedan
Experts say AI has made planning cyberattacks on industrial equipment faster by helping attackers read manuals and research past accidents more quickly
Techmeme för 2 tim sedan
