它的出现反映了英伟达对未来市场需求和行业趋势的前瞻性判断例如摩尔定律带动性能提升越来越困难芯片迭代需要多种技术创新组合；数据中心将被视为 工厂需要考虑系统级性能、能效以及多 组合的“巨型 方案； 模型的规模和数据量持续增长需降低计算相关成本和能耗；高性能推理或生成至关重要必须找到能在许多 上并行处理模型工作的方法等。
英伟达还构建了由 张 构成的 超级计算 多米尼加共和国 whatspp 数据 机其在内部节点间使用铜缆连接以降低功耗。在 训练性能提升 倍推理能力提升 倍的基础上 集群将多个由 驱动的系统整合到一个液冷机架中为数据中心提供了前所未有的计算能力可将大型语言模型的训练速度提升 倍为万亿参数的大型语言模型推理提供 倍的实时速度提升。
此外英伟达推出的世界首个高速 互连技术 、释放百亿亿次计算能力和万亿参数人工智能模型的全部潜力提供关键基础。 协同 可释放数据传输能力通过连接多个 实现机架内和机架间全速度的 通信。
和 整合英伟达 软件套件等为用户提供全面的 计算解决方案。 英伟达的新一代产品并不强制要求使用液冷 架构将同时推出风冷 和液冷 两种服务器方案。但在 数据中心领域想要发挥 的最大潜力液态冷却几乎是必选。