美国人工智能公司Anthropic公司星期四(9月10日)说,公司阻止了利用其Claude人工智能模型进行可能支持生物武器研发的研究企图。 该公司在一份威胁情报报告中描述了五个案例,涵盖从2025年12月到2026年8月大约八个月时间里,其技术遭到恶意利用的情况。
资料照片:纽约一台电脑屏幕上显示着Anthropic网站的页面和公司的标志。(2026年2月26日) 公司说,在一个案例中,一名位于Anthropic不支持地区的研究人员使用虚拟私人服务器基础设施访问了Claude,并花几个星期的时间计划禽流感哺乳动物适应性实验。Anthropic不支持的地区包括俄罗斯、中国和朝鲜等。 在另一起案例中,一位科学家在申请国家资助的拨款以研究基孔肯雅热(chikungunya)病毒时使用了Claude。Anthropic对《纽约时报》说,此案尤其令人担忧,因为这项工作是在一个军事研究机构进行的。基孔肯雅热是一种蚊媒疾病,可引起几个月剧烈疼痛和发烧。公司说,此类研究可能有助于疫苗或生物武器的研发。 Anthropic封禁了涉事账户,并表示已将调查结果纳入其安全保障、执法和威胁情报流程中。它没有指明涉及的机构、国家或具体的生物制剂和技术。公司说,他们不确定研究人员的意图。 Anthropic在报告中写道,“生物滥用是前沿人工智能模型最严重的风险之一,”“如果没有适当的保护,这种能力可能会造成灾难性后果。” |
| |||||||||||||||||||||||

点击朱笔,直抒胸臆