Intel MLPerf Inference v6.0 结果展示 Xeon 6 与 Arc Pro GPU 在 AI 负载上的可扩展性

MLPerf Inference v6.0 包含四个基准测试，衡量不同模型类型和部署场景下的 AI 推理性能。Intel 的提交聚焦于将 Xeon 6 CPU 与 Arc Pro B 系列 GPU 配对使用的系统，既强调原始吞吐量，也强调从单节点到多 GPU 配置的可扩展性。

最值得注意的硬件配置是四 GPU Arc Pro B70 系统，它提供总计 128GB VRAM。这样的内存容量使系统能够高并发处理 120B 参数模型，这对需要同时处理多个请求的生产推理服务来说很重要。

基础设施买家通常只关注 GPU 指标，但 MLPerf 结果提醒我们，系统级性能取决于 CPU‑GPU 平衡、内存带宽、软件优化和散热设计。Intel 在同一硬件上从 MLPerf v5.1 到 v6.0 实现的 1.18 倍性能提升，展示了软件成熟度如何在不改变硬件的情况下释放额外性能。

我们的判断是，采购评估应同时包含基于硬件的基准测试和软件栈准备度。一个软件优化势头强劲的平台，即使初始硬件规格与竞品相似，也能在其生命周期内提供更好的总体拥有成本。

计划在 2026 年末或 2027 年初部署推理基础设施的团队，在比较 CPU‑GPU 平台时应将 MLPerf v6.0 结果纳入考量。该基准测试提供了不同厂商提交之间的同类型性能数据，有助于将营销宣传转化为可比较的吞吐量和延迟数字。

实际的下一步是要求厂商提供具体的 MLPerf 配置细节和包含功耗、散热、软件许可和支持在内的总体拥有成本模型。对于预计并发量和模型规模会增长的推理负载，四 GPU Arc Pro B70 系统的 128GB VRAM 容量可能成为一个差异化因素。