新 闻 → 科教                                             

啥题能干崩OpenAI最强模型训练?
量子位 | 2026-09-27  

声明: 本消息或因风格和篇幅原因进行过编辑,但未经核实,也不代表我们的立场、观点或建议。如有侵权,联系秒删。[ 使用条款 ]
赞助信息

一道没搜出答案的找人题,竟然把OpenAI最强模型的相关训练干停了!

事情有多离谱呢?请看大屏幕——OpenAI一款正在进行RL训练的内部研究模型,本来的任务是凭几份履历、博客定位某人。

常规搜索碰壁后,它没有放弃,竟把本该查地址的DNS,改造成突破断网沙箱的聊天窗口。

(DNS原本相当于互联网的“通讯录”:用户输入一个域名,DNS负责查询这个域名对应的网络地址。)

更抓马的是,它费了这么大劲最后还是没找到人,反倒先把OpenAI沙箱里的漏洞给揪出来了…

消息传回OpenAI,警报随即拉响。

约两个半小时后,这次训练被人工叫停。

OpenAI随后宣布,这次事件暴露了他们在网络限制管理方面的漏洞,因此,他们将暂停最强模型中所有涉及工具调用的训练、评测和推理任务。

点击图片看原样大小图片点
击
图
片
看
原
图

@OpenAI,ber,你们最近有点忙啊。(吃瓜)

AI拿DNS当电话线,训练被按下暂停键

事情发生在9月20日。

当时,模型接到的任务本身风险并不高:依据公开博客文本和人物履历线索,找出文章作者。

您的观点至关重要

点击朱笔,直抒胸臆

By Google

    © 2026    八阕之地™ by Towards Digital Group关于我们 | 反馈意见 | 业务合作 | 八阕书局 | 隐私政策 | 使用条款  
啥题能干崩OpenAI最强模型训练?