自驾AI、超级晶片…黄仁勋CES演说3亮点

Nvidia执行长黄仁勋5日在消费性电子展，手持Rubin GPU和Vera CPU发表演说。(美联社)

Nvidia(辉达，又译英伟达)执行长黄仁勋5日在“消费性电子展”(CES)发表主题演讲，公布自驾车AI技术Alpamayo、AI超级电脑Vera Rubin、次世代基础设施与网路三大亮点，并提到“实体AI的ChatGPT时刻已经到来”、“机器人将在电脑中诞生”等多个引人注目的金句。

黄仁勋强调，这是一次十年一遇的“平台转移”，人工智慧(AI)是由能源、晶片、基础设施、模型与应用程式组成的五层架构，Nvidia致力于全堆叠 (Full Stack) 技术的开发。

黄仁勋说，未来人类不再是“编写”软体，而是透过资料“训练”软体；运算中心也不再由中央处理器(CPU)主导，而是转向绘图处理器(GPU)。

黄仁勋演讲三大亮点：

1.发表Alpamayo：全球首款会思考的自驾AI

黄仁勋在演讲中发表自动驾驶推理模型Alpamayo，为全球首款具备思考与推理能力的自驾AI，在摄影机输入大量资料，包括自动驾驶的里程，以及由人类驾驶示范的数据，并加入大量由Cosmos世界模型生成的场景，对数十万个范例进行精细的标注，借此教导汽车如何驾驶。

“实体AI的ChatGPT时刻已经到来”，黄仁勋说，Alpamayo的特别之处在于，它不仅能接收感测器输入并操作方向盘、煞车与加速，还会针对即将采取的行动进行推理，说明它打算做什么、为什么采取这个行动，以及预计行驶轨迹。

Nvidia也推出专为人形机器人设计的开放模型GR00T N1.6、具备推理能力的视觉语言模型Cosmos Reason 2，以及搭载Blackwell架构的Jetson T4000模组，并与开源社群平台Hugging Face合作，将Nvidia的Isaac机器人平台和GR00T基础模型纳入LeRobot开源框架，连结全球超过1300万名开发者。

黄仁勋指出，“机器人将在电脑中诞生，在应对现实世界的重力之前，它们已经在虚拟世界中完成了设计、制造与测试。”

2.AI超级电脑Vera Rubin已全面量产

黄仁勋说，AI所需的运算量正以天文数字成长，Nvidia的GPU的需求正直线攀升，因为AI模型的规模每年都以10倍速度增加。

他表示，AI的竞赛非常激烈，每个人都在努力迈向下一代领先技术，每当技术达到新境界，上一代词元(Token)生成的成本就会下降约10倍。“你运算的速度愈快，就能愈早达到下一个技术巅峰”，因此Nvidia决定每年都要推进运算技术的最前沿，不浪费任何一年，目前Vera Rubin已全面量产(full production)。

Vera Rubin平台由六款全新晶片组成，包括Vera CPU、Rubin GPU、NVLink 6交换器、ConnectX-9 SuperNIC智慧网卡、BlueField-4资料处理器、Spectrum-6以太网路交换器。与前一代 Blackwell平台相比，Vera Rubin推论成本仅需七分之一，训练混合专家模型(MoE)所需的GPU数量仅四分之一。

“大家知道Nvidia制造晶片，但现在，Nvidia制造的是完整的系统”，黄仁勋表示，除非进行“极致协同设计”，同时对所有晶片与整个堆叠进行创新，否则产业将无法持续进步。

3.次世代基础设施与网路

黄仁勋提到，Nvidia彻底改造用于模组化伺服器设计的MGX机箱，过去这种机箱充满复杂的缆线，组装需要两小时且容易出错。现在透过液冷核心设计，组装时间从两小时缩短到五分钟。

Rubin平台的效能大幅提升，却能直接使用45度的温水进行冷却，这意味著资料中心不需要冷水主机，能节省全球资料中心约6%的电力。

黄仁勋说，Nvidia推出的Spectrum-X乙太网路交换器平台，能提供比标准乙太网路高出25%的吞吐量。对于一座耗资500亿美元的资料中心而言，10%的性能提升就价值50亿美元，省下的钱等于让网路设备变成免费。

随著AI对话变长，上下文记忆体急剧增加，Nvidia推出Bluefield-4，让每个GPU额外获得16TB的记忆体储存空间，解决了词元(Token)生成的传输瓶颈。

黄仁勋在演讲尾声表示，Nvidia正从晶片、基础设施、模型与应用面向，全方位重新发明AI，让所有人能为世界创造出令人惊叹的应用。

免责声明：本网转载的文章仅为传播更多信息之目的，本网未独立核实其内容真实性，文章也不代表本网立场。如文章侵犯了你的权利，请联系我们修改或删除。本网提供的内容，包括并不限于财经、房产类信息，仅供参考，不构成投资建议；本网内容，包括并不限于健康、保健信息，亦非专业意见、医疗建议，请另行咨询专业意见。本网联系邮箱：contact@cacnews.ca