DeepSeek推出NSA，用于超快速的长上下文训练和推理

网络阅读： 2025-02-18 18:01:57

欧意最新版本app是一款安全、稳定、可靠的数字货币交易平台。

本站消息，2 月 18 日，DeepSeek 宣布推出 NSA，这是一种与硬件一致且本机可训练的稀疏注意力机制，用于超快速的长上下文训练和推理。

通过针对现代硬件的优化设计，NSA 加快了推理速度，同时降低了预训练成本，而不会影响性能。在一般基准测试、长上下文任务和基于指令的推理上，它的表现与完全注意力模型相当甚至更好。(金十)

标签:

声明

1.本站遵循行业规范，任何转载的稿件都会明确标注作者和来源；2.本站的原创文章，请转载时务必注明文章作者和来源，不尊重原创的行为我们将追究责任；3.作者投稿可能会经我们编辑修改或补充。