NVIDIA Blog· Amr Elmeleegy·· 56 分钟前AI 评分41
NVIDIA 全栈协同设计如何解决 AI 的内存挑战
More Performance From Every Byte: How Full-Stack Codesign Solves AI’s Memory Challenge
AI 导读
NVIDIA 通过 GPU、CPU、网络、存储与软件的全栈协同设计,在不单纯堆叠 HBM 的前提下提升内存效率。从 Blackwell Ultra 到 Vera Rubin 平台,HBM 容量仅增长约 3%,但在 SemiAnalysis AgentX 上每美元智能体吞吐量提升最高 30x。
来源:NVIDIA Blog · blogs.nvidia.com
