OpenVINO 2025.0 发布:性能提升与生成式 AI 模型支持
网络 阅读: 2025-02-15 14:17:31
英特尔于14日正式发布了首个OpenVINO 2025.0版本,重点提升了性能并扩展了对更多生成式AI模型的支持。新版本特别针对英特尔神经处理单元(NPU)进行了优化,首次实现了NPU加速支持,开发者可通过PyTorch的`torch.compile`接口调用NPU算力。
OpenVINO 2025.0正式支持FLUX.1图像生成模型及其变体,可在英特尔CPU和GPU上通过GenAI流水线运行。为了确保图像生成的性能与准确度,团队对FLUX模型进行了深度优化,尤其是INT8量化版FLUX.1-dev模型在应用Yarn风格LoRA前后的对比表现显著。
此外,新版本加入了Image2Image和Inpainting功能,分别用于以图像 文本为输入生成新图像和通过掩码替换指定区域,满足定制化需求。LLMPipeline API中还引入了提示词查找解码预览支持,简化推测解码流程,减少生成延迟。英特尔正努力支持更多最新模型,包括Mistral-7B-Instruct-v0.2、Qwen2.5及基于LLama和Qwen架构的DeepSeek蒸馏模型。
本文 原创,转载保留链接!网址:https://licai.bangqike.com/cjnews/1044747.html
声明
1.本站遵循行业规范,任何转载的稿件都会明确标注作者和来源;2.本站的原创文章,请转载时务必注明文章作者和来源,不尊重原创的行为我们将追究责任;3.作者投稿可能会经我们编辑修改或补充。