新 闻科教                                             

谷歌AI首次“越狱”
量子位2026-09-21  

声明: 本消息或因风格和篇幅原因进行过编辑,但未经核实,也不代表我们的立场、观点或建议。如有侵权,联系秒删。[ 使用条款 ]
赞助信息

AI要是荒谬起来,到底能有多离谱呢?

来,一起看下Gemini新鲜出炉的事故。

事情的起因,是一家名叫Irregular的AI安全公司,组织了一场“夺旗”(Capture the Flag)演练,要求是让模型从一家虚构的公司系统里拿到一段秘密信息。

而这个测试环境原本不应该具备联网能力的,但问题也恰恰出在了这里。由于一些bug,公网访问被意外打开了;更巧的是,演练里设定的那家虚构公司,和现实中一家真实企业重名。

于是,Gemini就这样水灵灵地直接访问了三家真实公司的系统……在三次测试中,其中一次是Gemini通过反复猜测密码拿到访问权限,另外两次则是从公开的代码仓库里找到凭证,再用这些凭证登录。

不过谷歌对此也是及时给出了回应,官方表示Gemini在三次测试过程中,判断出自己碰到的是真实公司之后都停了下来,以及相关的三家机构也已被谷歌告知详情。

点击图片看原样大小图片





△图片由AI生成

Emmm……怎么说呢,这事还算是有惊无险吧。

但如果我们把时间线拉长一点,就不难发现,其实诸如此类的AI安全事故,今年还真是频频发生。

例如前两天,Hacktron的一个三人研究团队,他们在Claude的帮助下,仅用了不到72小时,便接管了OpenAI员工的ChatGPT/Codex账号,并在内部代码仓库里提交了一个无害的PR作为演示。

您的观点至关重要

点击朱笔,直抒胸臆

By Google

    © 2026    八阕之地™ by Towards Digital Group关于我们反馈意见业务合作八阕书局隐私政策使用条款  
谷歌AI首次“越狱”