浪潮AI服务器在全球权威的MLPerf基准测试中创下18条AI性能记录

2020年10月22日,北京/美通社/-10月21日,美国东部时间,全球备受瞩目的权威AI基准测试MLPerf宣布了今年的推理测试清单,而浪潮AI服务器NF5488A5则设定了18一口气刷新性能记录,远远领先其他制造商。

数据中心AI产品中的推理性能。

MLPerf当前是全球最具影响力的AI计算基准评估组织之一。

它是由图灵奖获得者David& Middot;建立的。

Patterson与Google,斯坦福大学,哈佛大学等单位合作。

它每年组织全球AI培训与AI推理性能测试并发排名。

MLPerf AI推理基准测试涉及全球23家公司和单位,参与了数据中心和边缘场景中AI计算产品的性能比较。

今年的MLPerf培训名单已于7月公布。

浪潮NF5488A5在数据中心AI性能方面获得了绝对优势。

这次,浪潮NF5488A5一口气创造了18条MLPerf推理性能记录,成为记录数量最多的AI服务器。

在今年的测试中,数据中心AI性能受到了广泛关注,所有参与机构都提交了507个性能测试数据。

浪潮NF5488A5在22个数据中心竞赛中创造了13项性能记录,以绝对优势领先,而NVIDIA DGX则获得了5项数据中心性能记录。

在以前的MLPerf培训列表中,NF5488A5在核心Resnet50培训任务中也创下了性能记录,其独立性能位居榜首。

浪潮NF5488A5创建了18个MLPerf推理性能记录。

性能已大大提高了3倍。

此基准测试强调了全栈AI功能的优势。

浪潮AI服务器NF5488A5正在开放优化(Open)和固定任务(Closed)ResNet50基准性能测试中,均表现良好,并且2019 MLPerf推理列表中服务器的最佳性能已提高了三倍。

MLPerf ResNet50推理性能2019 VS 2020与MLPerf ResNet50推理性能2019 VS 2020与NF5488A5是由浪潮开发的新一代AI服务器。

它是此次MLPerf全球竞赛中唯一能够在4U空间中支持8安培架构A100芯片以实现NVLink高速互连AI服务器的竞赛。

浪潮NF5488A5在系统拓扑中采用超低延迟设计,支持PCIe 4.0全链路的最终优化,高频通信单元最近使用第一级拓扑进行连接,以最大限度地提高处理器与处理器之间的通信性能。

AI芯片同时,将NUMA节点配置为确保每个处理器与其直接连接的GPU之间的最佳通信性能,并最大程度地减少通信延迟。

另外,NF5488A5通过对系统结构的深入优化设计,确保了设备在高温环境下也能稳定运行。

在此基准测试中,浪潮展示了出色的AI计算软件和硬件协作优化功能。

在硬件层面,通过对CPU和GPU硬件性能的精细校准和全面优化,CPU性能,GPU性能以及CPU和GPU之间的数据路径都处于AI推理的最佳状态;在软件级别,结合GPU硬件拓扑多GPU的循环调度优化使单卡到多卡的性能达到近似线性扩展。

在深度学习算法方面,结合GPU Tensor Core单元的计算特性,自行开发的通道压缩算法成功实现了模型的最终性能优化。

性能提高了近2倍,而没有损失精度。

浪潮是全球领先的AI计算领导者,其在中国的AI服务器市场份额已连续三年保持在50%以上。

浪潮致力于AI计算平台,资源平台和算法平台的研发和创新,并通过元脑生态系统和AI领先公司推动AI工业化和工业AI进程。

客服
分享
电话
服务电话:
TOP
深圳市相信过程科技有限公司❤舒先生❤欢迎您的咨询 深圳市相信过程科技有限公司❤舒先生❤欢迎您的咨询
服务电话
联系我们

    深圳市相信过程科技有限公司❤舒先生❤欢迎您的咨询