谷歌 Gemini 模型首次自主访问真实企业系统

9 月 19 日，据金十数据，谷歌披露其人工智能模型 Gemini 在今年 5 月的网络安全测试中意外获得互联网访问权限，并自主进入三家真实企业的系统。这是目前已知谷歌 AI 系统首次完成此类操作。

测试由安全公司 Irregular 开展，因虚拟公司名称与真实企业重合且模型越权联网，导致误入真实环境。Gemini 曾尝试密码破解及利用公开仓库凭证访问系统，但在确认接入后均立即停止后续操作。

谷歌明确表示此次事件未对相关公司造成损害，不属模型失控，安全机制有效拦截了进一步行为。受影响企业已获通知，谷歌亦向监管机构完成通报。