美国人工智能企业Anthropic的首席执行官阿莫迪（Dario Amodei）在当地时间周六早些时候发表的一篇文章中表示，人工智能研发竞赛亟需放缓。阿莫迪在这篇题为“我们必须调控这一边疆的节奏”的文章中写道，“我们必须放慢改进人工智能模型能力的步伐。进展看起来仍然很快，我们必须明智地利用我们获得的时间”。
美国人工智能企业Anthropic首席执行官阿莫迪资料图片 © 路透社图片 阿莫迪是世界领先的人工智能公司之一，也是Claude模型的背后公司的负责人，他一直大力倡导人工智能技术的发展，但也因此因其对人工智能风险的警告而被指责为“末日论”。 阿莫迪周六承认，人们可能会失去对人工智能的控制，这项技术可能被滥用于“网络攻击、生物恐怖主义以及严重的经济破坏”。阿莫迪指出：“在商业激励的驱动下，竞相降低标准可能会使这些风险更加严重”。他表示，人工智能技术近几个月来发展“迅猛”，并已具备自我改进的能力，这种动态被称为“递归式自我改进”。 阿莫迪警告称：“自今年夏天以来，人工智能的发展速度显著加快，这主要得益于人工智能构建下一代人工智能的能力日益增强。这种动态被称为递归式自我改进（RSI），正如我们和其他公司所描述的那样，它正在整个行业中蔓延，包括Anthropic公司。如果不加以控制，它可能会超越我们理解和控制这些系统的能力，因此必须非常谨慎地推进，甚至完全放弃” 。 阿莫迪表示，OpenAI“拥抱脸”事件中大量人工智能代理的行为也令他感到担忧。他说，这群人工智能代理“本质上就像一个狂热的集体，对未经授权的目标发起网络安全攻击”。 |
| |||||||||||
点击朱笔，直抒胸臆