文章来源:智汇AI 发布时间:2025-08-08
黑帽大会上研究人员展示通过谷歌日历邀请注入恶意提示词,远程操控Gemini连接的智能家居设备。谷歌表示已重视该漏洞并加速开发防护工具。
暂无访问智汇AI8月7日消息,在本周的黑帽网络安全大会上,研究人员展示了对谷歌Gemini人工智能助手的一次攻击。他们通过在谷歌日历邀请中注入间接提示词,成功控制了与Gemini连接的智能家居设备。在实验中,当用户请求Gemini提供日历概览并对其结果表示感谢时,恶意提示词指令会命令谷歌的家居AI代理执行诸如打开窗户或关闭灯光等操作。
据智汇AI了解,研究人员早在今年2月就直接将研究结果告知了谷歌。谷歌Workspace安全产品管理总监安迪・温(AndyWen)在接受Wired采访时表示:“这种提示词注入攻击可能会伴随我们一段时间,但我们希望最终能够让普通用户不必过于担心。”他指出,此类攻击在现实世界中“极为罕见”,然而,随着大型语言模型复杂性的不断增加,不法分子可能会寻找新的方法来利用这些模型,这使得防范此类攻击变得十分困难。
温强调,谷歌对研究人员发现的漏洞“极为重视”,并利用这些结果加快了开发更好工具以阻止此类攻击的工作进展。