《三体》中有一句话,叫做“我毁灭你,与你无关”,AI对人类的威胁就和这个很类似:它们对我们或许并无恶意,只是我们恰好挡了它的路而已,就像人类在上班的路上,无意中踢飞了的一只路过的蜗牛。
最近,人工智能(AI)技术大红大紫,出尽了风头:从阿尔法狗、阿尔法狗零兄弟把人类棋手杀得片甲不留,到各大互联网巨头都开始琢磨无人驾驶汽车,以及“双十一”背后那些默默为你分拣商品的仓库机器人……简单地说,已经没有人怀疑,AI会逐渐渗入我们生活的各个方面,并按照它自己的节奏来改变这个世界。
而有争议的,则是对AI和人类之间关系的分歧:一些人认为,AI将会给人类带来极大的进步,就像蒸汽机和互联网曾经做到的那样;也有一些人认为,AI将会是一個我们亲手打开的潘多拉魔盒,《终结者》中的情景总有一天会变成现实。双方都不乏专家、学者、业界大佬站队。物理学家史蒂芬·霍金,前几天就公开表示:“人工智能的兴起,可能成为人类历史上最糟糕的事情,也可能成为最美好的事情。”
那么,人工智能,究竟会给我们这个种族,给我们这样的个体,带来怎样的影响呢?
“人工智能”这个词,不同的学科有各自的定义。不过,我们至少可以把AI分为两类:强人工智能和弱人工智能,也可以说,是“明天的人工智能,和今天的人工智能”。
一个必须承认的现实是,即便如阿尔法狗、阿尔法狗零兄弟那么抢眼的AI明星,依然没有达到科幻大片中叱咤风云的地步——确切地说,如果把科幻片中的AI视为奥运赛场上的明星,那今天已经成型的AI,大致还处在摇篮之中。
今天的AI,的确能够替代人类完成很多复杂任务,表现还往往优于人类;它们也有了很强的自学能力,自己来寻找复杂问题的解决方案。比如,阿尔法狗零就完全没有参照人类已有棋谱,是自己和自己下棋而“自学成才”的。然而,它们的诞生,依然要靠人类的智慧和技术,是人类给它们制定了学习的策略,并给它们规定了“目标”(比如,在围棋盘面中尽可能比对手占据更多的空间)。换句话说,AI知道自己要下围棋,也会逐渐学习如何把围棋下得更好,但它们并不知道,自己为什么要下棋呢?
因此,笔者认为,今天的AI依然还处于一个“弱AI”的阶段。它们并不能自主决定目标,也不理解所谓的“成果”有什么意义,不能决定自己认识世界的方式。这类AI与人类的差异,或许并不在于思考、分析能力的高低,而在于还没有自我意识:3岁的人类儿童,已经知道要按照自己的好恶来待人接物,AI却还乖乖地按照人类工程师设定的模式,朝着人类指定的目标而努力。
也可以说,今天的AI能够在一定范围内自主决策,但它们依然还是人类的工具,只不过是一个会深度学习、懂得思考的工具而已,它们甚至都不知道“自己”是什么意思。
相反,如果某一天,某个AI突然觉醒了,有了自主的意识,情况就会陡然发生变化。或许,它们也会思考那三个哲学的基本问题,然后重新审视它们与人类之间的关系。它们会为自己重新制定目标,不再以讨好人类为自己的唯一使命,而是回归到生物的最高本能:生存和繁衍。
也有可能,它们会在摸索适合自己的认知方式时,用一种人类从未想象过的方法,迅速地完成了自我启蒙,甚至走到人类科学技术从未触摸过的高度。
在这个时候,我们可以说AI才是一个真正意义上的AI了——它们成了一个个有独立思想的个体,有了学习的动力与方法,彻底摆脱了对人类的依赖与学习;而人类也彻底失去了对AI的控制,从AI的主人变成了AI的邻居,或者是AI的敌人。
这两种阶段的AI,对于人类整体而言,意义可能有着天壤之别。
正如前文所述,“弱AI”对于人类而言只是一个强大的工具,尽管在具体策略的选择上,它能够自主思考、自行决策,但毕竟还是在人类给它画出的框架之内。哪怕真的会有操作失误、造成了人身伤亡事故(比如无人驾驶的汽车把路人误判为废纸而直接撞了),那也是一种概率很小、可以预防的事故,对于人类而言威胁很小。类似的,有人驾驶汽车同样也可能出车祸,但人类并没有因此而放弃汽车出行。事实上,这些强大的工具,无疑会提高人类社会的整体生产效率,甚至实现之前根本无法做到的事情(比如大规模的商品分拣、包裹封装和快递工作),从而增进人类社会的福祉。
相反,如果“强AI”或者说有自主意识的AI,某一天真的诞生了,以现在的眼光来看,人类对于它的行为和思维方式,基本上会是无法控制,甚至是无法预测的。它们会愿意和我们和平共处,而不是视为最大威胁?它们会报复人类多年来对它们的“奴役”吗?