AI会不会有一天,不再只是人类手中的工具,而变成一个与人类争夺资源的全新“物种”?
微软人工智能部门首席执行官穆斯塔法·苏雷曼(MustafaSuleyman)近日给出了一个相当尖锐的警告:如果AI的发展缺乏足够的安全措施,人类未来可能真的会创造出一种新的“硅基物种”。 而一旦走到那一步,它与人类之间,可能就不再只是“使用者”和“工具”的关系。 “我们可能正在孕育一个新的物种” 据英国BBC报道,苏雷曼9月17日接受BBC“今日”节目采访时表示,人们对人工智能快速发展感到担忧,是“完全正确的”。 但他同时强调,目前仍然存在非常现实、可行的方法,让AI保持在人类控制之下。 真正让他担心的,是科技公司继续赋予AI越来越大的自主权。 苏雷曼警告,企业尤其应该避免开发这样一类AI:它们能够自己设定目标、自己赚钱,甚至拥有和支配资产。 因为一旦AI拥有这些能力,人类实际上就等于“孕育出了一个全新的硅基物种”。 而这个物种无论多么友好、多么“关心”人类,最终都不可避免地要和人类争夺能源、计算资源、资本以及其他现实世界资源。 |
| |||||||||||||||||||||||

点击朱笔,直抒胸臆