多年来,人工智慧(AI)研究人员不断发出警告,指出AI技术可能以多种方式毁灭人类:AI可能设计出一种无法遏制的致命疾病、引发核子战争,或者如一项著名的思想实验所述:将整个地球转化为巨大回纹针工厂。
如今,多名科技巨头高层发声表示基于安全考量,应暂缓AI开发,AI产业内外关于这些“末日情境”真实性的辩论便日益升温。 尽管有警告称人类可能失去对AI的控制,但也有人怀疑,由AI公司自身所描绘的最坏情境,与其说是现实,不如说是为了“证实其工作重要性”所做的铺陈与渲染。 网路安全公司SentinelOne研究员兼OpenAI边境风险委员会(Frontier Risk Council)成员格雷罗-萨德(Juan Andrés Guerrero-Saade)批评这些末日场景,他说:“这些论点根本站不住脚。我认为这只是科幻小说,非常吸引某种不成熟的思维模式。这对前沿实验室来说极具诱惑力,因为这能帮他们吸引特定类型的人才加入。” 然而,面对AI凭借惊人能力震撼世界的同时,愈来愈多人开始对这项技术带来的风险感到不安。 因担心公司及其竞争对手在AI开发上缺乏责任感、选择辞职的Anthropic 研究员考克森(Jacob Coxon)最近在社交媒体X表示,他需要“努力研究”如何更有效地向公众传达“AI究竟会如何毁灭人类”。他在本月稍早写说:“不幸的是,要具体传达出特定的末日情境极其困难。” |
| |||||||||||||||||||||||

点击朱笔,直抒胸臆