据Anthropic报告,Claude Code被用作替代软件工程师开发用于制导、导航和控制的软件,并分析制导火箭试射失败原因,该司的安全防护拦截了对方的“很多请求”,但并非全部,且对方已建不依赖Claude的离线模拟工具。Anthropic发现操作者来自也门北部,未直接认定对方就是胡塞武装,也无证据证明相关AI辅助研发最终形成了可投入实战的导弹系统。 Anthropic于美东时间9月10日周四发布威胁情报报告称,公司发现一个位于也门北部的“威胁行为者小组”利用Claude开展导弹和制导火箭研发。 Anthropic没有直接点名胡塞武装,但也门北部大部分地区由胡塞控制,因此一些媒体均将相关人员与胡塞武装联系起来。 更值得关注的是,Anthropic称,这些人员使用Claude Code承担原本由人类软件工程师完成的部分工作,并曾进行一次制导火箭试射。 Claude Code被用作替代软件工程师 并分析制导火箭试射失败原因 Anthropic称,相关人员推进了包括多级弹道导弹、多型号导弹和制导火箭在内的三个武器研发项目,并利用Claude开发飞行器的制导、导航和控制软件。 Anthropic在报告中写道:“这些操作者使用Claude Code取代人类软件工程师,开发用于制导、导航和控制(GNC)的软件,以操纵和稳定飞行器。” Anthropic称,他们还利用Claude将开源自动驾驶系统集成到“手机级”飞行计算机上,编写控制和位置估算软件、调整控制参数、运行固件构建流程,并进行飞行模拟。 不过,AI并未帮助其成功实现武器部署。Anthropic表示:“我们没有证据表明这些操作者成功部署了可投入使用的武器;但他们确实试射了一枚制导火箭。” 公司称,这次试射“似乎失败了”,数小时后,相关人员又返回Claude,试图分析失败原因。 安全防护拦截“很多请求”,但并非全部 Anthropic表示,相关人员采取了多种方式绕过Claude的安全机制,包括隐藏真实目标和软件最终用途,并将工作拆分至多个会话中,使单次对话无法呈现完整意图。 Anthropic称:“我们的安全防护机制拦截了他们的许多请求,但并非全部。” 公司随后封禁了与这些行为者相关的账户,并向公共和私营部门合作伙伴共享威胁情报。但Anthropic同时发现,这些人员此前已经建立了一套不依赖Claude或其他工程计算环境的离线模拟工具。 “即便如此,我们有证据表明,这些操作者也已经建立一套不依赖Claude或其他工程计算环境的离线模拟工具。” 必须强调的是,Anthropic没有直接认定这些操作者就是胡塞武装,也没有证据证明相关AI辅助研发最终形成了可投入实战的导弹系统。 目前能够确认的是,Anthropic发现了一个位于也门北部、与其描述高度吻合的武器研发小组,并确认该小组曾利用Claude开展制导武器软件开发、进行制导火箭试射以及在试射失败后进行AI辅助分析。 |
| |||||||||||||||||||||
点击朱笔,直抒胸臆