国家安全部部长陈一新近日在《中国网信》杂志撰文指出,人工智能(AI)具有六大风险,包括系统性影响政治安全环境、大规模泄密风险等。
陈一新。(中新社) 该文章题为《全面筑牢人工智能安全屏障 推动人工智能健康有序发展》,指人工智能领域已成为全球科技竞争的主战场、大国战略博弈的新赛道,中国要加快构建人工智能安全风险防治体系,以高水平安全、高效能治理推动人工智能健康有序发展。 文中又列举了人工智能发展带来的六大风险挑战。一是系统性影响政治安全环境,“各种敌对势力和别有用心之人滥用深度伪造音视频、AI生成图文、智能水军等生成式人工智能技术,低成本、批量化炮制政治谣言、传播有害信息、煽动对立情绪,对我实施舆论战、认知战,直接威胁我政治安全、制度安全、意识形态安全。” 二是颠覆性升级网络攻防态势。文章提到,以美国科技公司近期推出的“神话”(ClaudeMythos)、“赛博”(GPT-5.5-Cyber)大模型为标志,人工智能技术正显著提升网络漏洞挖掘、恶意软件开发效率和武器化水平,网络攻防进入漏洞工业化、攻防全自动、AI对AI的新阶段。 文章指出,人工智能大幅拉低实施网络攻击的技术门槛与成本投入,对中国关键信息基础设施带来严重风险隐患。 三是规模性放大窃密泄密风险。文中提到,“国内部分用户安全意识不足,使用境外人工智能产品处理敏感信息和向境外输出数据,造成境内数据大规模外泄”。 |
| |||||||||||||||||||||||

点击朱笔,直抒胸臆