Anthropic：阻止多起用AI开发生物武器企图
纽约时报 ｜ 2026-09-11

Anthropic表示，今年已多次阻止科学家利用其领先的人工智能模型开展研究的企图，这些研究可能有助于开发生物武器。

在一份描述其AI模型被滥用的报告中，Anthropic表示无法确定这些研究是出于合法还是邪恶目的，因为有效的生物学研究——能带来疫苗等突破的那种——也可能有助于设计危险病原体。面对这种不确定性，Anthropic表示选择谨慎行事，因为漏掉恶意活动的后果可能很严重。

点 击 图 片 看 原 图

“你不会看到有人像漫画书里那样说，‘嘿，我想制造生物武器杀死所有人，’”Anthropic威胁情报主管雅各布·克莱因在接受采访时说。“情况极其微妙。”

尖端AI模型可能促进已知或全新生物病原体的开发，这是专家们对这项技术最严重的担忧之一——该技术发展如此迅速，连其领先的设计者都怀疑人类能否完全控制它。

与灾难性网络攻击或与人类意图不一致的AI智能体相比，生物滥用作为AI的生存风险受到的关注较少，部分原因是过去的案例通常只出现在研究环境中，而非现实世界。

战略风险委员会高级研究员安德鲁·韦伯在报告发布前审阅了Anthropic的报告。他说，这些发现是“国家支持的生物武器开发者利用领先AI模型快速进步能力的案例，令人不寒而栗”。

Anthropic周四发布的长篇报告列举了过去八个月其Claude聊天机器人各模型被滥用的一系列事例。一些例子与Anthropic和其他AI实验室过去的披露类似，包括疑似与中国和伊朗政府有关联的行为者针对异见者和侨民社区进行监视。