Databricks发布TAO微调技术 开源大模型性能逼近GPT-4o

数据智能公司Databricks近日推出新型大语言模型微调方法TAO（Test-time Adaptive Optimization），通过无标注数据和强化学习技术，显著降低企业成本的同时提升模型性能。测试显示，在金融文档问答和SQL生成任务中，经TAO微调的Llama 3.3 70B模型表现优异，甚至超越传统标注微调方法，接近OpenAI顶级闭源模型水平。

TAO利用测试时计算自动探索任务可能性，结合强化学习优化模型，省去人工标注成本。在三大企业基准测试中，TAO微调的Llama模型表现亮眼：在FinanceBench（SEC文档问答）得分85.1，优于标注微调和OpenAI o3-mini；在BIRD-SQL测试中接近GPT-4o水平；在DB Enterprise Arena测试中表现亦不俗。

目前，TAO技术已在Llama模型上启动私测，企业可通过申请表单参与。这一技术为开源模型提供了持续优化的新路径。

本文 原创，转载保留链接！网址：https://licai.bangqike.com/cjnews/1094679.html