What We Learned by Reproducing 2,200 papers from ICML
Artikelbild eller återanvändbart omslag för Hugging Face
Hugging Face körde en stor hackathon under sommaren 2026 där communityn försökte återskapa resultaten från 2 226 av ICML-konferensens 6 352 accepterade papers — totalt 34 procent av konferensen.
Med hjälp av AI-agenter (som Claude Code och andra) checkade deltagarna 35 908 påståenden från dessa papers. Resultatet var blandat: 51 procent av papers hade minst ett påstående som verifierades, men 23 procent hade minst ett påstående som motbevisades eller ifrågasattes. Det visar att vetenskaplig reproducerbarhet är mer komplicerat än bara sant eller falskt — flera oberoende team kom ofta fram till motsatta slutsatser om samma påståenden.
Checking a paper carefully used to cost a reviewer a weekend; an agent can attempt it in an afternoon, in parallel, thousands of times over.
Sammanfattningen har tagits fram med AI av Vibekollen utifrån källans publicering. Innehållet tillhör Hugging Face.
Mer att läsa
Experts say AI has made planning cyberattacks on industrial equipment faster by helping attackers read manuals and research past accidents more quickly
Techmeme för 2 tim sedan
Current and former officials from the US and other countries describe the Chinese spy agency MSS' campaign to help Chinese companies acquire advanced AI chips
Techmeme för 6 tim sedan
Tesla rolls out FSD v15, featuring a photorealistic rendering of car surroundings; Elon Musk says it is real-time AI video generation without using game engines
Techmeme för 6 tim sedan
Sources: AI server suppliers like Dell, HPE, Lenovo, and Supermicro are demanding substantially higher prices from buyers, months after contracts were signed
Techmeme för 7 tim sedan
