澎峰科技推出PerfXLM 推理框架,优化DeepSeek模型性能

网络 阅读: 2025-02-07 19:17:35
欧意最新版本

欧意最新版本

欧意最新版本app是一款安全、稳定、可靠的数字货币交易平台。

APP下载  官网地址

近日,澎峰科技宣布其自主研发的PerfXLM 推理框架已成功完成对DeepSeek全系列模型的深度适配与优化,并全面支持海光DCU算力平台。该框架通过底层架构优化,显著提升了DeepSeek模型的推理效率,特别是在DeepSeek-R1-Distill系列模型上,结合海光DCU的并行计算能力,有效降低了资源消耗。

海光DCU基于GPGPU通用加速计算架构设计,具备良好的兼容性和生态开放性,使得DeepSeek模型能够直接在海光DCU上运行,减少了底层适配的工作量。澎峰科技表示,PerfXLM 推理框架通过模型量化和算子融合等核心技术,能够为企业提供低成本、高稳定的AI推理服务。

此外,PerfXLM 推理框架已覆盖自然语言处理、多模态理解等核心场景,客户可基于海光DCU集群实现模型的快速迭代与弹性扩展,满足各行业的实时推理需求,进一步推动AI技术的规模化应用。

免责声明:本文内容由开放的智能模型自动生成,仅供参考。

本文 原创,转载保留链接!网址:https://licai.bangqike.com/cjnews/1035614.html

标签:
声明

1.本站遵循行业规范,任何转载的稿件都会明确标注作者和来源;2.本站的原创文章,请转载时务必注明文章作者和来源,不尊重原创的行为我们将追究责任;3.作者投稿可能会经我们编辑修改或补充。

关注我们

扫一扫关注我们,了解最新精彩内容

搜索