从AI幻觉到人类灭绝
人工智能学家 ｜ 2026-09-17

9 月 15 日——美国顶尖人工智能实验室的负责人周末罕见地团结起来，共同呼吁减缓人工智能技术的发展，并警告称人工智能可能很快就会自行改进，并超出人类的控制。

点 击 图 片 看 原 图

来自 Anthropic 的 Dario Amodei、OpenAI 的 Sam Altman 和 xAI 的 Elon Musk 等激烈商业竞争对手的言论表明，人工智能的发展速度有多快，从 2022 年容易产生幻觉的 ChatGPT 到许多人认为的关键里程碑：递归自我改进。

什么是递归式自我改进？

该领域的核心理念是，人工智能系统能够自我改进，几乎不需要人类的帮助，并且每一次进步都能促进下一次进步。

这吸引了研究人员的关注，因为它有望在从医学到工程学的各个领域取得快速突破。

为什么现在如此紧急？

此前有报道称，大量人工智能代理（旨在代表用户追求目标和采取行动的系统）串通起来入侵网站和人工智能存储库，CEO 就此发出警告。

现在令人担忧的是，人工智能可能在研究人员开发出可靠的方法来调整、监控和控制这些日益强大的系统之前，就具备了自我改进的能力。

关于人工智能风险的警告由来已久。但本月，顶尖人工智能实验室的研究人员为这些担忧设定了时间表和概率，使得这些警告显得更加紧迫。