NVIDIA NVLink Fusion Expands With NVHBM Custom High-Bandwidth Memory
Artikelbild eller återanvändbart omslag för NVIDIA
NVIDIA har utökat sin NVLink Fusion-plattform med NVHBM, en ny typ av höghastighetsminnesteknik.
Istället för att placera minneskontrollern på själva AI-chippet (XPU) placerar NVHBM den i minnesstacken, vilket ger 30 procent högre minneshastighet, 15 procent lägre energiförbrukning och frigör 25 procent mer utrymme för beräkningar på chippet. Amazon kommer att vara först att använda tekniken med sina framtida Trainium4-chip.
By integrating the memory controller into the 3D HBM stack instead of the XPU, NVHBM delivers up to 30% greater memory bandwidth and 15% lower HBM power consumption, and frees up to 25% more area on XPU compute die compared with standard HBM4E.
Sammanfattningen har tagits fram med AI av Vibekollen utifrån källans publicering. Innehållet tillhör NVIDIA.
Mer att läsa
Server-Side Code Execution Tools for AI Agents, Compared
OpenRouter för 10 tim sedan
v0.40.0
Ollama för 11 tim sedan
Google froze its open source bug bounty program due to a ‘significant rise’ in AI submissions
TechCrunch AI för 14 tim sedan
Can ‘super intelligence’ and a non-binding safety pact solve AI’s image problem?
TechCrunch AI för 14 tim sedan