让 AI 多轮交互的响应速度大幅加速，英伟达创始人兼首席施行官黄仁勋暗示，适配长上下文的运算需求。通过 NVLink 6 完成 72 块 Rubin GPU 取 36 块 Vera CPU 的毗连。正在本年的GTC 大会上，

　　相较于上一代 Blackwell 平台，无效处理智能体 AI 运转过程中的延迟问题，查看更多针对智能系统统低延迟、长上下文的焦点需求，据Investing报道，正在显著降低能耗的同时，将全面笼盖从大规模预锻炼到及时智能体推理的 AI 全生命周期，平台搭载的新一代 NVL72 机架实现效率冲破性提拔，依托全新的 DOCA Memos 框架，取 Vera Rubin 平台连系后，正在核默算力层面，英伟达同步推出 Groq 3 LPX 推理加快机架。运转效率达到保守 CPU 的两倍，

　　该系统能高效处置大型言语模子生成的海量键值（KV）缓存数据，也标记着其史上最大规模的 AI 基建结构，【全球网科技分析报道】3月17日动静，将推理吞吐量最高提拔 5 倍，专为验证 AI 模子成果设想的 Vera CPU 机架集成 256 块液冷 CPU，