Supermicro在MLPerf推理测试中展现卓越性能
网络 阅读：990 2025-04-06 12:17:42
Super Micro Computer, Inc. (SMCI)近期宣布，其采用NVIDIA HGX B200 8-GPU的系统在MLPerf Inference v5.0基准测试中取得了行业领先的性能表现。特别是在Llama2-70B和Llama3.1-405B基准测试中，Supermicro的4U液冷与10U风冷系统展现出显著优势，每秒生成令牌数（Token/s）较H200 8-GPU系统提升超三倍。这一突破性成果，不仅彰显了其在高性能计算领域的技术实力，也为AI模型的大规模应用提供了更高效的解决方案。
本文 原创，转载保留链接！网址：https://licai.bangqike.com/cjnews/1109150.html
声明
1.本站遵循行业规范，任何转载的稿件都会明确标注作者和来源；2.本站的原创文章，请转载时务必注明文章作者和来源，不尊重原创的行为我们将追究责任；3.作者投稿可能会经我们编辑修改或补充。
