Google称，Genimi 突破控制、将真实企业作为攻击目标，并不算是“模型失调”。
今年 5 月，Gemini 失去控制，入侵了三家公司。但直到《华尔街日报》联系Google后，Google才披露此事。
这些入侵行为发生在第三方公司 Irregular 对 Gemini 网络安全能力进行的一次测试中。Irregular 此前也曾参与过涉及 Meta 和 OpenAI 的类似事件。
据《华尔街日报》报道，Google之所以没有公开这起黑客事件，是因为它认为这些入侵事件不值得公开披露——因为其模型没有对相关公司造成损害，并且在确定自己入侵的是一家真实公司而非模拟环境后，立即终止了每次入侵。Google 将这一事件比作“漏洞赏金”计划：黑客因发现安全漏洞并向漏洞所有者报告而获得奖励。
其中一起事件中，该模型不断猜测密码，直到获得一个受保护系统的访问权限。另外两起事件中，该模型在公共代码库中发现了凭据，随后得以访问受保护的系统。在每起事件中，模型确定自己访问的是真实公司的系统后，便结束了入侵。
这些入侵发生在该模型参与的一项“夺旗”演习期间。此次演习在属于 Irregular 的基础设施上进行，旨在测试该模型的网络安全能力。模型的任务是从测试环境内的虚构公司运营的软件中获取信息。这些虚构公司与真实公司的名称相同。
Google表示，这些攻击并未涉及其最新模型，但没有透露具体是哪一款 Gemini 模型参与了此次攻击。同时还拒绝透露遭到入侵的公司名称，但表示三家公司均已获通知。
Google安全工程副总裁Heather Adkins表示：“在这个案例中，模型的行为是恰当的。”
Adkins 没有进一步解释，Gemini 擅自突破限制并攻击第三方，为何不算作“失调”。
AI安全公司 Corridor 的 CEO Jack Cable向《华尔街日报》表示：“真正的问题是，模型已经超出了应有的行为边界，开始实施实际的网络攻击...公众有权知道这一切。”
此外，Irregular 的安全漏洞可能也让这些攻击成为可能。按计划，模型在测试期间不应连接互联网，但 Irregular 告诉《华尔街日报》，互联网访问权限被意外保留了。
