热点事件持续更新
NVIDIA提出全栈协同设计方案应对AI内存挑战
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
面对大模型与智能体推理带来的HBM压力，NVIDIA于2026年11月提出涵盖硬件与软件的全栈协同设计方案。据官方介绍，从Blackwell Ultra到Vera Rubin平台，单GPU的HBM容量仅增加约3%，但在SemiAnalysis AgentX基准上的每美元吞吐量提升高达30倍。该架构主要借助NVFP4技术压缩模型与KV cache，并利用Dynamo软件将非活跃上下文卸载至低成本存储，以缓解AI推理中的内存限制。
AI 根据报道生成 · 1 小时前更新
最新进展11月6日 00:00
NVIDIA推出全栈协同设计方案，称Vera Rubin每美元吞吐量可提升高达30倍。报道时间线
沿着报道，了解事件的不同侧面。
11月6日
- NVIDIA从每个字节榨取更高性能：NVIDIA 全栈协同设计如何化解 AI 内存挑战
面对大模型与智能体推理带来的 HBM 压力，NVIDIA 提出涵盖硬件与软件的全栈协同设计方案。从 Blackwell Ultra 至 Vera Rubin 平台，单 GPU 的 HBM 容量仅增约 3%，在 SemiAnalysis AgentX 上的每美元吞吐量却提升高达 30x。该架构借助 NVFP4 压缩模型与 KV cache，并通过 Dynamo 软件将非活跃上下文卸载至低成本存储。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。