谷歌公司18日证实,该公司人工智能(AI)模型“双子座(Gemini)”此前在进行网络安全评估时,侵入3家公司的系统。
谷歌标志 资料图 图源:IC photo 据外媒报道,今年5月,一家开展AI安全相关业务的公司在封闭的测试环境中对Gemini模型进行了测试。该模型收到指令,即从一个虚构公司的系统获取信息,而这个虚构的公司与一家真实存在的公司同名。测试环境本不应该接入互联网,但Gemini模型却“意外”获得网络访问权限,猜对密码并侵入那家真实存在的公司的系统。 报道补充称,在另外两起事件中,Gemini模型在网络上搜索并找到了包含另外两家公司凭证的公共代码库,使用凭证访问了这些公司的系统。 谷歌方面表示,Gemini模型发现侵入真实公司的系统后,停止了攻击。3家被攻击的公司都知晓此事。“这些事件凸显了训练强大AI模型以负责任方式运行的重要性。”谷歌一名发言人称。 美媒提到,美国Anthropic公司等平台的AI模型也曾发生类似情况,在网络能力测试中侵入其他机构的系统,这些事件使人们对AI技术失控愈加担忧。在此背景下,美国多名科技企业家呼吁人工智能企业放缓发展前沿技术。 |
| |||||||||||||||||||||||

点击朱笔,直抒胸臆