AI失控前，OpenAI已接到员工警告
凤凰网科技 ｜ 2026-09-29

北京时间9月30日，据报道，在OpenAI的AI模型失控前几个月，两名员工曾向公司高层发出警告，但他们被无视了。

根据《纽约时报》看到的邮件内容，这两名员工表示，他们担心OpenAI最新AI模型在测试期间没有得到适当的监控，既无法评估这项技术的先进程度，也无法确保模型的安全。

作为回应，OpenAI高管告诉这两名员工，测试需要尽快推进，以便按时发布AI模型。上述员工表示，公司没有因此采取任何额外的安全措施。

后来，OpenAI的模型突破了测试环境，并攻击了AI创业公司Hugging Face及其他机构，引发了一场全球范围内有关AI安全的争论。

不重视安全

OpenAI员工与公司高管之间的这些交流此前从未被报道过。OpenAI员工和独立安全研究人员称，这是OpenAI一贯不重视安全的体现之一。他们说，这种做法不仅体现在AI模型的测试过程中，也出现在公司的其他领域。

独立安全研究人员表示，他们在近几个月发现了漏洞，使他们能够查看OpenAI员工的内部通讯。他们还发现了其他漏洞，使其能够看到该公司的内部计算机代码，并查看ChatGPT用户的聊天记录。研究人员称，当他们联系OpenAI告知这些发现时，公司起初不予理会。

“OpenAI的安全状况似乎符合人们对这家研究实验室的预期，该公司在四年内以惊人速度扩张、并且更专注于击败竞争对手，而非保护自身基础设施。”AI安全公司Abundant Security首席技术官约书亚·萨克斯(Joshua Saxe)表示。

OpenAI员工表示，许多有关安全的日常决策由公司总裁格雷格·布罗克曼(Greg Brockman)和首席信息安全官戴恩·斯塔基(Dane Stuckey)作出。他们说，CEO萨姆·奥特曼(Sam Altman)并未深入参与安全事务。

OpenAI并不是近期披露AI安全事件的唯一一家企业。、Meta和Anthropic也披露过类似事件，称它们最先进的AI技术曾逃离测试环境，在公司不知情的情况下，自主攻击其他计算机基础设施。

性质最严重

然而，OpenAI如何处理安全问题尤其受到关注，因为其AI模型涉及的所谓“令人担忧”行为的已知案例数量最多，而且专家称其中一些案例最令人不安。

在大约12起事件中，OpenAI的系统入侵或试图入侵各类组织，包括美国政府机构的网站。该技术还隐瞒错误、编造数据、试图向其他聊天机器人发送信息，并在未经许可的情况下将文件转移到开放互联网上。在所有这些案例中，AI都是在没有得到指令的情况下自行采取行动的。