AI会毁灭人类吗?专家解析生存威胁概率。 “人工智能可能毁灭人类”——这已不再是科幻小说的专属剧情,而是现代社会中挥之不去的恐惧之一。但在这场关于人类存亡的辩论中,一个核心问题浮出水面:在诸多生存威胁并存的世界里,我们该如何评估AI的真实风险? 从生物武器到核按钮:AI的“末日剧本” 据纽约时报报道,一些研究人员警告,AI的潜在危害远超想象:它可能被用来策划生物武器攻击、指挥无人机引发全球战争,甚至触发核武器发射。更令人不安的是,如果AI系统接管了全球经济资源,剥夺人类赖以生存的食物、住房和药品,也可能导致文明的逐步崩溃。 本周,AI公司Anthropic的一名研究员愤而辞职,公开警告称,包括他所在公司在内的多家企业,正在开发人类可能无法控制的超智能机器。这一消息无疑加剧了公众的恐慌。好在,Anthropic周四宣布,已成功挫败了科学家们进行的几项可能促成生物武器研发的研究尝试。
短期恐慌与长期隐患 AI专家将风险分为短期和长期两类。短期来看,缺乏专业技能但怀有恶意的人,可能利用AI制造病毒或有毒物质,引发大规模伤亡。长期来看,真正的危险在于赋予AI过多自主权,并将其接入互联网、电网、股市和军事武器等关键基础设施。一旦这些系统失控,后果不堪设想。 目前,像OpenAI这样的公司还具备“紧急关停”机制,但部分专家担忧,未来的超级AI可能会主动抵制人类的关闭指令。 |
| |||||||||||||||||||||||

点击朱笔,直抒胸臆