IT 之家 8 月 7 日消息，在本周的黑帽网络安全大会上，研究人员展示了对谷歌 Gemini 人工智能助手的一次攻击。他们通过在谷歌日历邀请中注入间接提示词证券配资炒股，成功控制了与 Gemini 连接的智能家居设备。在实验中，当用户请求 Gemini 提供日历概览并对其结果表示感谢时，恶意提示词指令会命令谷歌的家居 AI 代理执行诸如打开窗户或关闭灯光等操作。
据 IT 之家了解，研究人员早在今年 2 月就直接将研究结果告知了谷歌。谷歌 Workspace 安全产品管理总监安迪・温（Andy Wen）在接受 Wired 采访时表示："这种提示词注入攻击可能会伴随我们一段时间，但我们希望最终能够让普通用户不必过于担心。"他指出，此类攻击在现实世界中"极为罕见"，然而，随着大型语言模型复杂性的不断增加，不法分子可能会寻找新的方法来利用这些模型，这使得防范此类攻击变得十分困难。
温强调证券配资炒股，谷歌对研究人员发现的漏洞"极为重视"，并利用这些结果加快了开发更好工具以阻止此类攻击的工作进展。
凯丰配资提示：文章来自网络，不代表本站观点。
相关文章
沪深京指数
推荐资讯