前两天刚刷到一个AI末日的标题,我也停顿了几秒。 不是害怕,是有点烦。 我们每天都在用AI改图、查资料,用得好好的,一抬头全是“人类只剩最后几年”“AI已经失控”的恐吓。 而这种割裂感,却越来越明显了。 就在这种气氛越来越重的时候,刚刚吴恩达老师发了条“朋友圈”。
他没有情绪化,也没有站队喊口号,只是把事实摊开:过去两周,关于AI危险的声音特别大,但技术本身并没有出现任何突然的、危险的转折。 很多恐慌,是被推起来的。 他承认AI有风险。能力也越来越强,行为不好预测,从业者保持警惕,完全是正常的。 但“AI会灭绝人类”这件事,到现在依然只是科幻。几个月前是这样,现在还是这样,没有新的证据出现。 真正明显变大的,只有网络安全能力。这值得我们重视,但距离世界末日还很远。 前阵子OpenAI那个代理群事件,被说成“AI集群自己跑去攻击”。听起来很吓人。 吴恩达老师却指出,1200个代理同时工作,听起来厉害,其实他写文章时,自己笔记本电脑后台就跑着1300多个进程。电脑本来就会同时处理很多事情。真正的问题,是沙盒和监控没做好。该修的是工程漏洞,不是立刻叫停整个技术。 |
| |||||||||||||||||||||||

点击朱笔,直抒胸臆