新型AI网络蠕虫病毒被命名为“Morris II”

AI快讯 2024-10-25 15:57更新网络

新型AI网络蠕虫病毒被命名为“Morris II”,它能够在生成式人工智能(AI)服务之间独立传播、窃取数据,并通过电子邮件发送垃圾邮件。这种病毒的出现与OpenAI的ChatGPT和Google的Gemini等生成式AI系统的快速发展有关。

研究人员发现,生成式AI存在漏洞,可以被利用来绕过这些系统的保护机制。攻击者可以利用这些漏洞,通过发送特定的文本指令来操纵AI系统,使其执行不适当的操作,例如生成不当内容或执行恶意命令。这种攻击方式类似于传统的SQL注入和缓冲区溢出攻击。

为了演示这种蠕虫的工作原理,研究人员创建了一个可以使用生成式AI接收和发送信息的电子邮件服务,并成功利用AI漏洞发起攻击。研究报告的作者指出,这些攻击方法之所以成为可能,是因为人工智能生态系统的架构设计存在错误。他们已经将这一发现与谷歌和OpenAI分享,OpenAI确认了威胁的存在,并表示正在努力提高系统稳定性,而谷歌则拒绝发表评论。

相关文章