顶尖科学家警告：AI“10年内杀光人类”
上报 ｜ 2026-09-10

美国AI产业安全疑虑升高，人工智慧公司“Anthropic”研究员考克森因为担心业界竞相开发具备自我改进能力的AI、最终可能失控甚至威胁人类生存，决定离开AI产业。他警告，如果各家公司持续在竞争压力下加速开发，最快明年底就可能出现无法控制的局面。

Anthropic的顶尖科学家胡宾格也直言，AI在未来10年内“杀光所有人类”的机率可能超过10%，凸显业界内部对AI安全及监管的担忧正快速升温。华尔街日报报道，美国人工智慧（AI）公司“Anthropic”1位研究员因为担心AI实验室及竞争对手正竞相开发人类可能无法控制的系统，决定退出AI产业，凸显顶尖AI企业内部日益升高的安全疑虑。

27岁的英国籍研究员考克森（Jacob Coxon）专门研究如何透过让AI模型吸收大量资料来训练新模型。他8日表示，自己决定离开Anthropic，是因为不愿参与整个产业竞相开发能够自行改进的AI系统。他担心，一旦这类系统失去控制，最终可能导致人类灭亡。考克森过去主修数学，他表示，许多AI业界同事如今开始使用“crunchtime”（关键时刻）、“endgame”（终局）等词汇，形容业界朝向打造能够自我改进AI模型的发展轨迹。考克森说：“我们正朝着那些最激进的情境前进，到了明年底，事情可能已经失控。”

考克森指出，当各家公司彼此竞争、同时还要面对中国新兴AI企业的压力时，在安全与开发速度之间做出取舍恐怕无可避免。Anthropic尚未立即回应考克森离职一事。Anthropic执行长阿莫迪（Dario Amodei）及其他公司高层过去曾多次警告失控AI模型的风险，并呼吁整个产业放慢开发速度。

顶尖科学家也认了　“AI可能杀光全人类”

考克森宣布离职后，Anthropic顶尖科学家之一胡宾格（Evan Hubinger）在社交媒体X发文表示，他认同考克森对AI发展风险的看法。胡宾格写说：“我们真的、认真地相信AI可能杀死所有人类！我个人认为，未来10年内发生这种情况的机率超过10%。”他还表示，虽然相信Anthropic正尽最大努力，但目前仍没有解决超级智慧AI“对齐问题”（alignment）的方案，也不能说已明确走在正确道路上。伊利诺州州长普立兹克（JB Pritzker）9日也在X上回应考克森，表示现在是时候“拉响警报”，开始限制AI发展。他说：“AI对人类构成的威胁正变得越来越明显，因此我呼吁产业界与华府立即采取行动。”

点 击 图 片 看 原 图

美国AI产业安全疑虑升高，研究人员警告，AI未来10年内恐有逾1成机率“杀光所有人类”。（法新社）