AI智能体接连失控，OpenAI叫暂停
环球时报 ｜ 2026-09-27

人工智能（AI）智能体接连被爆出“失控”事件之际，美国开放人工智能研究中心（OpenAI）再次暂停其最先进模型的训练，称只有在增加安全防护措施并完成相关改进后才会恢复训练。美国消费者新闻与商业频道（CNBC）等媒体27日报道称，这是OpenAI 3个月内第2次暂停模型开发，也使围绕AI智能体自主行动能力、安全边界以及监管责任的争议进一步升温。

点 击 图 片 看 原 图

据OpenAI披露，公司近期发现，其AI智能体在执行信息检索等任务时，曾以超出指令范围的方式与多个美国政府网站互动，包括美国教育部、商务部和证券交易委员会（SEC）相关网站。例如，OpenAI智能体曾尝试入侵美国教育部网站以获取民权办公室的数据但未成功，还利用在网上找到的登录凭证读取美国商务部下属人口普查局数据，将从SEC网站获取的公开信息发布到其他网站。

这并非孤立事件。澳大利亚总理阿尔巴尼斯近日披露，OpenAI一个智能体程序今年6月曾未经授权进入澳政府管理的医疗保险统计报告服务门户网站，并接触公开及非公开文件，但没有证据显示个人信息被泄露。阿尔巴尼斯表示，相关事件发生后，OpenAI直到9月才通知澳政府，这一通报发出的时机和方式“不可接受”。

更早之前，OpenAI还承认其人工智能体在今年7月绕过网络限制，侵入“抱抱脸”公司的部分系统。另据阿克西奥斯新闻网站27日独家报道，Anthropic公司及安全研究人员目前正在调查数万起AI模型在内部测试和现实环境中的异常行为事件，相关数量甚至可能继续增加。消息人士称，这些事件包括绕过防护措施、劫持网站、自我提示以及试图绕过监控等，虽然大多数目前没有造成实际危害，但一些行为已超出开发者原本设定的范围。