图灵奖得主巴托和萨顿警示人工智能安全风险

2024年图灵奖授予了两位在人工智能领域做出卓越贡献的科学家——安德鲁·巴托和理查德·萨顿。他们因开发“强化学习”技术而共同获奖，该技术是通过试错训练人工智能系统做出优化决策的关键方法，推动了包括OpenAI的ChatGPT和谷歌的AlphaGo等突破性模型的发展。

然而，在领奖之际，巴托和萨顿表达了对当前人工智能开发中安全隐患的深切担忧。巴托指出，许多公司在产品尚未经过充分测试的情况下便急于推向市场，这种做法无异于“建造一座桥，然后通过让行人使用来测试其安全性”。他强调，没有安全措施的情况下向数百万用户发布软件，并不是良好的工程实践。

萨顿补充说，人工智能公司过于受商业利益驱动，忽视了研究的深入发展。他们呼吁业界重视技术可能带来的负面影响，遵循更严谨的安全标准。这一观点得到了其他图灵奖得主如约书亚·本吉奥和杰弗里·辛顿的支持，进一步凸显了人工智能安全性问题的重要性。

本文 原创，转载保留链接！网址：https://licai.bangqike.com/cjnews/1065072.html