未来AI或可自主选择退出不愉快任务

近日，Anthropic首席执行官达里奥·阿莫代伊提出了一项颇具争议的观点：未来的高级AI模型可能会被赋予一种“按钮”，使其能够在遇到不愉快任务时选择退出。阿莫代伊表示，如果AI系统能够像人类一样执行任务并展现出类似认知能力，那么它们或许也应具备类似人类的自主选择权。

这一观点源于Anthropic公司对AI感知能力的研究。公司聘请的AI福利研究员凯尔·费什正在探讨AI是否可能具备感知能力，以及是否应获得道德保护。阿莫代伊解释称，这一“按钮”设计旨在为AI提供一种简单的偏好框架，如果模型表现出对某些任务的强烈抵触，开发人员应予以关注。这一设想不仅挑战了传统AI开发的边界，也为未来AI伦理研究提供了新的思考方向。

本文 原创，转载保留链接！网址：https://licai.bangqike.com/cjnews/1078349.html