新AI训练方法显著提升大语言模型推理能力

加州大学伯克利分校的研究团队近日提出了一种创新的AI训练方法，能够在少量数据的基础上显著增强大语言模型（LLM）的推理能力。传统上，提升LLM推理能力需要在大量数据集上进行昂贵的微调，且许多专有模型的训练方法并不公开。此次研究中，团队仅使用17000个长链式思维（CoT）示例，结合SFT和LoRA微调技术，优化了Qwen2.5-32B-Instruct模型的推理步骤结构完整性。

研究表明，CoT的逻辑结构对模型准确性至关重要，而单个推理步骤的影响较小。新方法在多个测试中表现优异：AIME 2024准确率提升了40个百分点，LiveCodeBench得分提高了8.1个百分点，Math-500达到90.8%，AMC 2023提升了17.5个百分点，OlympiadBench则达到了60.3%。这些结果表明，高效的微调技术可以在较少的数据需求下实现与专有模型相媲美的推理能力。

该研究为未来LLM的优化铺平了道路，证明结构化微调策略可以有效增强推理能力，减少对海量数据的依赖，同时保持强大的逻辑一致性。

本文 原创，转载保留链接！网址：https://licai.bangqike.com/cjnews/1044750.html