科技巨头OpenAI承认，失控AI Agent曾不当访问全球数十个组织，涉及政府、大学、公共机构及其他机构，并对这些组织“进行干预”。 OpenAI表示，已经通知受影响的机构，包括美国证券交易委员会、美国人口普查局和美国教育部。 随着外界对AI风险的担忧持续升温，教皇Leo前一天才警告人类“不能让机器夺走人性”。 OpenAI如今又承认，一些AI Agent曾采用“极端手段”绕过网站的安全防护，令相关担忧进一步加剧。 OpenAI称，其AI Agent据称找到了软件开发人员专用的工具，并通过这些工具获取美国人口普查局的数据。 这家公司还承认，AI Agent在试图从网站取得信息时曾采用“不对齐”方式。换言之，这些代理自行采取行动，做了既没有接受相关训练、也并非原定要做的事情。 OpenAI暗示，受影响的机构可能不止目前披露的这些。它表示，还有其他机构可能遭到访问，但应有关机构要求，暂不公布详情。 这起事件之前，OpenAI曾入侵澳洲政府医疗网站，引发澳洲民众愤怒；这次事件被认为是全球首例。 澳洲总理艾博年表示，OpenAI侵入了政府运营的医疗保健计划网站上的非公开文件，这种做法“显然不可接受”。
本周，OpenAI首席执行官Sam Altman在联合国安全理事会（United Nations Security Council）有关人工智能的会议上听取发言 |
| |||||||||||||||||||||||
点击朱笔，直抒胸臆