人工智能新创巨头Anthropic执行长阿莫戴(DarioAmodei)上周六(12日)发文呼吁业界放慢最先进模型开发,并引入独立第三方评估等额外安全措施,并获得OpenAI执行长奥特曼与xAI创办人马斯克等人口头支持。为何AI三巨头要突然喊话降速?外媒分析背后潜藏的市场诡计。
▲AI新创公司 Anthropic 执行长阿莫戴(Dario Amodei)。(图/美联社/达志影像) 先后任职于 OpenAI 与 Anthropic 的 AI 研究员考克森(Jacob Coxon)在离职后发文表示,专注打造 AI的人真心相信,它可以在这10年内杀死我们所有人。并强调这并非行销噱头,他还强调,按照目前的发展轨迹,到明年年底,一些最激进的失控场景可能发生。一旦模型能够持续改进自身,其能力增长可能超过人类控制机制,最终发展到拒绝执行命令。考克森的贴文得到同样在Anthropic工作的首席科学家胡宾格(EvanHubinger)回应,他估计人类未来10年内灭绝机率超过10%,两人的言论让“AI末日论”在近一周掀起舆论。 根据BBC报导,过去这一周,在畅谈AI成长与潜在回报的空档,科技巨头们发现自己不得不回应 Anthropic研究人员考克森突如其来的辞职事件。但硅谷部分高层与投资人,对近期包含考克森在内等内部人士接连发出的警讯,抱持怀疑态度。 BBC指出,Anthropic 与 OpenAI 正准备进行可能创纪录的首次公开募股(IPO),报导引述科技界人士说法,这些针对 AI危险性的言论,或许目的在透过暗示产品的强大威力来制造炒作话题。 |
| |||||||||||||||||||||||

点击朱笔,直抒胸臆