AI“幻觉”问题引关注，研究人员探索解决方案

《华尔街日报》近日发表文章，深入探讨了当前AI模型的“幻觉”现象。记者Ben Fritz向多款先进的AI聊天机器人询问“自己的配偶是谁”，结果得到的答案与其实际情况毫无关联，包括一位作家、一名陌生女性和一名网球博主。此类错误被称为“AI幻觉”，即AI在生成错误答案时仍表现得极其自信。

尽管AI在解决复杂数学问题和模拟人类对话方面表现优异，但在基本事实上却频频出错，甚至可能编造法律案例或混淆文艺作品情节。德国Hasso Plattner研究所博士生Roi Cohen指出，这一问题已成为AI研究的热点之一。AI的工作原理是基于概率预测下一个单词，本质上是一种高级猜测。西班牙瓦伦西亚人工智能研究所教授José Hernández-Orallo解释道，如果AI不进行猜测，就完全无法给出答案。

为解决“幻觉”问题，研究人员正在尝试“检索增强生成”技术，让AI在回答问题时优先从互联网或文档库中查找最新信息，而非完全依赖训练数据。此外，Cohen等人提出让AI学会承认“我不知道”，通过调整训练过程，提高其整体准确性。然而，如何平衡这一策略仍具挑战性，因为AI有时会在已知答案的情况下选择沉默。

随着AI能力不断提升，美国公众对其信任度却在下降。皮尤研究中心数据显示，2023年52%的美国人对AI感到担忧，较2021年的37%显著上升。如何提升AI的实用性与可靠性，成为当前研究的核心目标。

本文 原创，转载保留链接！网址：https://licai.bangqike.com/cjnews/1041768.html