都比最聪明的人类大脑都聪明很多,包括科学创新、通识和社交技能”。
这个定义有些模糊,毕竟人类现在连触及强人工智能的门槛都遥遥无期,更别说超人工智能了。
如果修改网络数据的是弱人工智能,那么就如马特所说的,这种新型人工智能至少也是人工智能领域一个巨大的阶段性成就,研发者岂会冒天下之大不韪悍然修改公民私人信息一旦暴雷,这在以民主和人权著称的美国社会是不可想象的
可这些行为如果不是研发者授权的,则问题就更严重了
那代表着这些行为是人工智能的自我选择
马特和特纳都十分清楚自我选择就意味着自我意识,而有自我意识的人工智能那就是强人工智能
而更为惊人的事实是这个强人工智能似乎是野生的,他在试图掩饰自己的存在
两人震惊的对视一眼,同时从对方眼里看到了恐惧和不安。
“马特我知道了哲学图灵测试中文屋试验亿年机器人试验特修斯之船一切都说得通了这是它在学习它想知道自己是什么,它想知道我们人类对它的看法,它想躲起来”
“恐怕你是对的,特纳这太可怕了,它已经意识到人类不会允许不受控的人工智能存在,所以它在用它自己的办法抹去存在过的痕迹。至于修改所有的系统漏洞,是不是它一开始是想帮助我们现在它意识到了危险,所以开始转为自保了”
“我觉得不一定,更大的可能是它将整个网络当成自己的家了,看到角角落落有许多碍眼的破损缺失,所以自发地干起了修修补补的工作。等他明白了人类的态度,突然意识到这会给它带来无尽的危险,所以又试图把一切都还原成原来的样子。”
马特想了想,对这个推论深以为然。
损种实验体的崛起