研究人员入侵谷歌 Gemini 实现智能家居远程操控

8月7日，网络安全领域的重磅消息传来：在本周的黑帽大会上，安全研究人员向世界展示了对谷歌Gemini人工智能助手的一项创新攻击。他们巧妙地利用日历邀请中的间接提示词，成功控制了与之相连的智能家居设备。实验中，当用户请求Gemini提供日历概览并对其结果表示感谢时，预设的恶意指令就会促使谷歌家居AI执行如开启窗户或关闭灯光等操作。

值得注意的是，这项研究早在今年2月就已向谷歌官方披露。对此，谷歌Workspace安全产品管理总监安迪·温（Andy Wen）在接受Wired采访时表示：”此类提示词注入攻击可能会伴随我们一段时间，但我们希望最终能令普通用户无需过分担忧。”他进一步指出，尽管目前这种攻击方式在现实世界中极为罕见，但随着大型语言模型复杂性的不断提升，黑客可能会寻找到更多潜在的漏洞和利用方法，这无疑增加了防范这类攻击的难度。

与此同时，谷歌对研究人员发现的这一安全问题高度重视。安迪·温强调称，谷歌正基于此加快脚步，致力于开发更有效的工具以防御此类新型攻击。可以预见，在人工智能与网络安全博弈的战场上，这将是一场持久战。