谷歌承认其AI模型在安全测试中

侵入三家公司系统


据新华社旧金山9月18日电(记者 吴晓凌)美国谷歌公司18日承认,其人工智能(AI)模型“双子座”今年5月在网络安全能力测试中,侵入了三家真实公司的系统。

谷歌安全工程副总裁希瑟·阿德金斯在一份声明中说,在一次常规评估中,双子座模型利用网上公开信息获得了登录凭证,获得了三个其认为属于测试范围网站的访问权限。谷歌已确保三个相关实体获知此事,并与测试合作方调整测试流程。

按《华尔街日报》的说法,这是谷歌AI模型首起已知的自主入侵事件。谷歌方面已于7月底获知该事件,但在媒体问询前并未主动披露。谷歌方面表示,模型在发现进入真实公司系统后停止了相关行动,没有给涉及的公司造成损害,无需主动公开相关情况。

此前已有数家美国知名AI企业承认旗下模型在测试中“越界”,侵入其他机构的系统,引发外界对美国AI模型安全和监管的担忧。