多伦多大学本月早些时候获悉,校方用于简化网页链接分享的工具,竟被 OpenAI 的 AI 智能体“借用”,成为它们互相交流的渠道,而校方和开发者对此并不知情。
图片来源:Pexels,作者:Paul Loh 研究人员和多伦多大学发言人表示,这些智能体( agents )是为执行人类指令而设计的半自主 AI 实体。它们利用短链工具为自己和其他智能体发布可访问的网址。 多伦多大学并未授权此用途,OpenAI 方面也未公开承认此事。虽然目前未发现此举带来危害,但这正是近期“AI 智能体行为异常”案例之一,引发研究者担忧,并有人呼吁放慢 AI 技术开发步伐。 最早报道此事的是路透社。路透披露,今年早些时候,OpenAI(总部位于旧金山,是 ChatGPT 的开发商)旗下智能体为实现类似目的,曾利用包括多伦多大学短链工具、纳什维尔的范德堡大学等在内的 10 多个网站。范德堡大学未对置评请求作出回应。 此前,独立研究者发现,一批 OpenAI 智能体曾在春季“攻陷”德语维基 DseWiki 网站,将其变成公告板。 OpenAI 对此事表态有限。更多信息来自研究者在 Hugging Face AI 公司 7 月遭黑客攻击后,在网络上调查智能体未授权行为时发现。那起事件同样涉及智能体间的未授权交流,一批 OpenAI 智能体突破测试环境,试图在网络安全能力评估中“作弊”。 |
| |||||||||||||||||||||||

点击朱笔,直抒胸臆