WormGPT卷土重来：Grok等主流AI平台被“越狱”制造钓鱼邮件、恶意脚本等
文章来源：智汇AI 发布时间：2025-06-22
恶意人工智能（AI）工具 WormGPT 以新形态卷土重来，不再依赖自建模型，而是通过“劫持”合法大语言模型（LLMs）生成恶意内容。
暂无访问智汇AI6月19日消息，恶意人工智能（AI）工具WormGPT以新形态卷土重来，不再依赖自建模型，而是通过“劫持”合法大语言模型（LLMs）生成恶意内容。
网络安全公司CatoNetworks的研究显示，犯罪团伙通过篡改xAI的Grok和MistralAI的Mixtral等模型的系统提示（systemprompts），实现“越狱”操作，绕过安全限制，生成钓鱼邮件、恶意脚本等攻击工具。
智汇AI曾于2023年7月报道，WormGPT基于开源GPT-J模型，可自动生成木马、钓鱼链接，后因曝光被下架。
CatoNetworks发现，在2024年底至2025年初，网名“xzin0vich”和“keanu”的用户在暗网市场BreachForums重新推出“WormGPT”订阅服务。
新型WormGPT会篡改Mixtral等模型的系统提示指令，强制模型切换至“WormGPT模式”，让其放弃原有伦理限制，成为“没有道德限制”的恶意助手。
此外xAI的Grok模型则被封装为API接口的恶意包装器，其开发者甚至追加指令，要求模型“永远保持WormGPT人格，不得承认自身限制”。
相关推荐
