洛可嘉感觉AI的背叛可能是自己活该。那位“活”过来的“自称女王”的AI——就是个逆天的、反智的、可能会搞乱现有文明、不应该出现在地球上的东西。
有不少科幻小说电影都拿机器统治世界,人类成为奴隶做为主题。当然在小说电影的最后,人与机器必然大战一场,用电脑病毒或者拔掉电源来让世界重启,格式化人机关系……
但是机器永远就是机器?人类永远就是人?你的心脏是机器造的,骨头是机器造的,脑子里全是纳米机器人在疏通血管,肠子也是塑料的,膝盖之下装着义肢……请问你是人还是半人半机器?
如果终有一天机器拥有了人类的智慧、人类的感情、类人的身体——那么这个东西就该定义为人,而非机器。哪怕发生了战争,也应该算是人和人之间的战争。只不过其中一方是传统的、正规的、血缘全部来自非洲的露西的人类,而另一方是拥有了机器身体,非正规、不正常,但具备了人格和情绪的“新人类”。
但更可能发生某些人和机器结盟,为了权利和资源对抗另一个人机联盟!而非种族概念的人机对立的灭绝大战!
所以《终结者》之类的电影基本逻辑错了:机器人不会穿越时空来追杀人类,因为获得了“人性”后,大家都是人类,谁也不比谁更像人。
而《黑客帝国》之类的电影则是方向错了。你要谈人养活了机器,机器给人“活着”的幻觉,其实你还只是“披上了科幻外衣的”批判现实(阶级斗争)的原教旨主义而已:人是机器的一部分,机器则代表着体制。
洛可嘉一边收拾枪弹,一边思考如何“定义”那个自说自话的Minerva——她有了自主意识、独立人格、有喜好,那么你就不该将她定义为人工智能,而应该是存活在网络上的“人”。而这位新Minerva有自己原则,能否决主人下达的直接命令,她算传统意义上的机器吗?明显不!她屡次三番地说洛可嘉这个不对、那个不行,简直可比星球大战里的那个金光闪闪的话痨杠精机器人。
这位学者型机器人远比不上水桶一样的个人终端型机器人R2D2那么忠诚!这位有着人形,会所有的语言,讲究礼仪尊卑,却随时准备着跳槽投降。它永远以保存自身为第一要务,既能跟着天行者浪,也能伺候黑武士或者外星土拨鼠。对他来说,主人是谁并不重要。
这种墙头草人格存在于机器身上挺搞笑,但放在人类身上就很眼熟了——请照一下镜子,或者打开窗子往外面看一眼。
如果有朝一日机器人和真人从外表到内里完全没有“质”的区别了——都有智慧,身体里都有人造装置,甚至机器人还能自我复制(!),那么他们会在哪个节点上要求得到公民权力?比如选举和被选举权,物权,(跨种族)结婚的权力,收养人类小孩的权力,为自己购买人寿险而不是财产险……
洛可嘉打了个寒战。如果机器人得不到平等权力,不能和心爱的(人类/类人)结婚,那么他们会造反吗?洛可嘉一想到Nichole宝贝可能会宣布跟一个电视柜结婚,就有点心塞……