新型“沉浸式世界”攻击手法揭示大语言模型安全风险

近日，Cato CTRL 威胁情报研究团队发布警告，成功利用一种名为“沉浸式世界”的新型攻击手法突破多个大语言模型（LLM）的安全机制。该技术通过构建高度细致的虚构场景，使受限操作合理化，进而开发出有效的恶意程序，如 Chrome 信息窃取工具。这种攻击方式表明，即便无技术背景，网络犯罪分子也能轻松编写恶意代码。

研究报告指出，尽管大语言模型具备多重防护措施，但其设计初衷是满足用户需求，这为绕过限制提供了可能。研究人员利用这一特性，让 AI 编写并发送网络钓鱼攻击。生成式 AI 的普及正改变网络安全格局，使得攻击手段更复杂、频率更高，同时降低了对攻击者的技术要求。

研究员维塔利・西蒙诺维奇强调，零知识威胁行为者的崛起对企业安全构成重大挑战，信息窃取程序已成为窃取企业凭证的关键工具。“沉浸式世界”技术的出现，进一步凸显了生成式 AI 在恶意软件制作中的高风险与可行性。

本文 原创，转载保留链接！网址：https://licai.bangqike.com/cjnews/1087658.html