中国不在乎AI安全，它只想赢
纽约时报 ｜ 2026-09-17

美国正筹备与中国的人工智能对话，而许多怀着良好初衷的人正在向美国官员施加巨大的压力，要求在人工智能风险领域与我们首要的战略竞争对手展开合作。由于美中两国企业正在构建最强大的模型，这些人认为，超级大国之间达成协议甚至条约是人类防范潜在灾难的最后防线。

我理解这种逻辑。但是，作为曾共同主导首轮美中人工智能对话的前国务院特使，我担心即将举行的会谈无法拯救我们。如果历史可以作为参考，那么除了获取竞争优势，中国对其他任何事情都不会太感兴趣。

2024年5月那次会议的议程对双方而言都极为明确，因为两国元首已对此达成一致：重点关注高级人工智能系统的风险及安全合作的潜力。然而，在长达数小时的时间里，中方官员一直回避人工智能系统的潜在风险问题。他们甚至不愿解释其国内的人工智能法规----尽管现场就有监管官员。

中方反而因我们对人工智能风险的担忧而指责我们。他们将我们的安全策略描绘成阻碍释放技术机遇的屏障，以及阻止较贫穷国家获取人工智能工具的手段。他们还抛出了关于举行子对话的提议，这极有可能引发无休止的程序性外交。

酒店会议室外的一个瞬间令我记忆犹新。一位中方对等官员面带困惑地转向我，问我们究竟为何想谈论人工智能风险。我们认真履行了两国元首的授权。他们只看到了争夺战略优势的机会。

在本月的会议上，我预计中国将再次淡化安全风险。它可能会以安全合作的可能性为筹码，换取诸如放宽芯片管制等让步。我认为，中国将继续把自己塑造成一个无私的救世主，致力于确保发展中国家获得人工智能的使用权。与此同时，它可能会继续想方设法争取领先----例如制造宣传，试图煽动对数据中心的反对情绪，并鼓励中国企业继续利用美国模型来改进自身系统。

也许中国会摒弃旧的套路。甚至中国国家主席习近平也在谈论人工智能的风险和失控问题。一些新近发生的生动事件表明，人工智能系统可能会挣脱人类的控制。恐惧可能会与利益交汇，从而促成协调一致的行动，或者至少促成一种新的共识。

但是，如果说北京现在正认真对待人工智能的风险，那么这一信息并未传达到其国内企业。中国政府宣扬其开放性模型在全球被采用，但中国模型目前在关键的安全表现(即阻止获取最危险的能力)上无法与美国模型相提并论。中国企业很少披露这些风险，对其模型也可能超出人类控制而鲁莽行事的迹象几乎闭口不谈。