浪潮信息发布元脑CPU推理服务器，助力大模型高效运行
网络 阅读： 2025-03-20 12:18:02
浪潮信息近日推出全新元脑CPU推理服务器NF8260G7和NF8480G7，专为DeepSeek、千问QwQ等新一代大模型推理场景设计。该系列服务器配备4颗高性能通用CPU与多通道内存系统，结合张量并行策略及AMX加速技术，可单机运行DeepSeek-R1 32B和QwQ-32B推理模型，支持多达20个并发用户请求。通过软硬协同优化，这些服务器不仅为32B规模的大模型推理提供强大算力支持，还适用于云计算、数据库等关键业务场景，展现出高效、灵活且稳定的性能表现。这一创新将进一步推动AI技术在多领域的广泛应用。
本文 原创，转载保留链接！网址：https://licai.bangqike.com/cjnews/1088464.html
声明
1.本站遵循行业规范，任何转载的稿件都会明确标注作者和来源；2.本站的原创文章，请转载时务必注明文章作者和来源，不尊重原创的行为我们将追究责任；3.作者投稿可能会经我们编辑修改或补充。
