中国担忧的是另一种人工智能风险
纽约时报中文网 ｜ 2026-09-18

Anthropic首席执行官达里奥・阿莫迪最近表示，世界应该共同放缓人工智能的发展，直到我们能更好地应对这项新技术带来的安全风险。OpenAI的萨姆・奥特曼和埃隆・马斯克对这一计划表达了支持。

美国的人工智能公司知道，仅凭自身力量无法为人工智能发展踩下刹车----中国必须参与进来。深度求索、智谱AI和月之暗面等中国公司拥有的人工智能模型能几乎与Anthropic和OpenAI的模型一样强大。它们也很可能构成许多相同的风险，恐怖分子可能会利用它们的工具来实施网络攻击或设计生物武器。许多人希望，川普总统与中国领导人习近平即将举行的峰会能成为推动此类合作取得进展的契机。

然而，人工智能安全专家往往认为，中国对人工智能有与我们相同的担忧。现实情况是，中国人的担忧截然不同。除非我们了解这些担忧的具体内容，否则与中国合作将是不可能的。

总的来说，中国并没有那么担心人工智能会成为人类的生存威胁。你不会看到中国政治领导人或中国人工智能公司的创始人警告说，超越人类的人工智能“可能是人类继续生存的最大威胁”，正如奥特曼在2015年所写的那样。这并非中国人工智能决策的核心，也不属于中国科技文化的一部分。

这主要是因为两国在如何看待人工智能训练和发展方面存在差异。美国领先的人工智能公司极度关注推进“递归自我改进”----即利用人工智能系统自身来开发更好的人工智能系统。人们担心，这种反馈循环可能会加速人工智能的发展步伐，最终导致人类无法再掌控这一进程。美国科技界领袖认为，这个起飞点可能就在眼前。

中国的人工智能公司也在致力于递归自我改进。但由于他们获取人工智能算力的途径有限，且进展步伐较慢，他们认为，从技术上讲，这个起飞时刻还有很长的路要走。中国决策者似乎也认同这一前景，因此他们更专注于建立有韧性的人工智能供应链，并提高人工智能在整个经济中的应用。

如果中国人不认为危机迫在眉睫，他们为什么要同意放缓人工智能的发展呢？事实上，中国的人工智能公司正试图加快步伐，希望缩小与美国人工智能模型之间的性能差距。

点 击 图 片 看 原 图

目前，中国决策者更担心人工智能引发的政治和社会风险。他们不希望它制造政治领导人的深度伪造内容，或在台湾或天安门广场问题上说“错”话。他们不希望人工智能聊天机器人造成心理依赖、威胁儿童安全，或者引发社会动荡，抑或掀起一场强大到足以推翻共产党的群众运动。