
IT 之家 2 月 18 日音讯,英伟达于 2 月 16 日发布博文,通告其 Blackwell Ultra AI 架构(GB300 NVL72)在能效与资本上末端权贵阻止,通过 DeepSeek-R1 模子测试,比拟前代 Hopper GPU,其每兆瓦婉曲量接济 50 倍,百万 tokens 资本裁减至 35 分之一。

此外,英伟达还预报了下一代 Rubin 平台,瞻望其每兆瓦婉曲量将比 Blackwell 再接济 10 倍,进一步激动 AI 基础才略的演进。
IT 之家注:每兆瓦婉曲量(Tokens / Watt)是探讨 AI 芯片能效比的中枢打算,指每浮滥一瓦特电力能处置些许 Token(文本单元)。数值越高,代表能效越好,运营资本越低。
英伟达在博文中指出,性能飞跃的要道,是升级时候架构。Blackwell Ultra 通过 NVLink 时候,将 72 个 GPU 贯串成斡旋的狡计单元,互联带宽高达 130 TB/s,远超 Hopper 期间的 8 芯片遐想。此外,全新的 NVFP4 精度体式协作极致的协同遐想结构,进一步幽静了其在婉曲性能上的总揽地位。

AI 推理资本方面,比拟 Hopper 架构,新平台将每百万 Token 的资本削减至 35 分之一;即便与上一代 Blackwell(GB200)比拟,GB300 在长险阻文任务中的 Token 资本也裁减至 1.5 分之一,可贵力机制处置速率翻倍,适配代码库珍爱等高负载场景。

OpenRouter 的《推理景色呈文》指出,与软件编程联系的 AI 查询量在曩昔一年中激增,占比从 11% 攀升至约 50%。这类垄断经常需要 AI 代理在多步使命流中保捏及时反映,并具备跨代码库推理的长险阻文处置本事。
英伟达为应付这一挑战开yun体育网,通过 TensorRT-LLM、Dynamo 等团队的捏续优化,进一步接济了搀杂内行模子(MoE)的推理婉曲量。举例,TensorRT-LLM 库的转变,让 GB200 在低延长使命负载上的性能在短短四个月内接济了 5 倍。