飞腾CPU成功支持DeepSeek大模型,性能媲美国外产品

网络 阅读: 2025-02-10 00:17:18
欧意最新版本

欧意最新版本

欧意最新版本app是一款安全、稳定、可靠的数字货币交易平台。

APP下载  官网地址

飞腾信息技术有限公司宣布,旗下腾云 S5000C 和腾锐 D3000 成功实现对 DeepSeek 全系列大模型的端到端支持,涵盖数据中心和终端场景。本地部署的推理效率与国外同类产品相当,标志着国产AI技术的重大突破。

DeepSeek-V2.5 236B 大模型在腾云 S5000C 平台稳定运行,基于该设备搭配 8 块国产 AI 卡,整体性能达到国外平台的 80% 左右。DeepSeek-V3 和 R1 版本发布后,飞腾技术团队在腾云 S5000C 和腾锐 D3000 上进行了本地部署验证,形成完整的解决方案。

在数据中心侧,腾云 S5000C 服务器可与多款 AI 加速卡配合,实现 DeepSeek 蒸馏版和全量版部署。单机 8 卡服务器平台测试显示,蒸馏版 DeepSeek-R1-Distill-Llama-70B 的推理速度可达 22tokens/s。完整版 DeepSeek R1 671B 模型则通过分布式推理框架,在四机 32 卡 AI 服务器集群上成功部署。

用户终端侧,基于腾锐 D3000 的台式机能够本地部署 DeepSeek-R1 7B 蒸馏版模型,搭配 1 张国产推理卡,实现强大的 AI PC 功能。

免责声明:本文内容由开放的智能模型自动生成,仅供参考。

本文 原创,转载保留链接!网址:https://licai.bangqike.com/cjnews/1037716.html

标签:
声明

1.本站遵循行业规范,任何转载的稿件都会明确标注作者和来源;2.本站的原创文章,请转载时务必注明文章作者和来源,不尊重原创的行为我们将追究责任;3.作者投稿可能会经我们编辑修改或补充。

关注我们

扫一扫关注我们,了解最新精彩内容

搜索