Minerva说,“正在路边快餐店里吃东西。”
洛可嘉说,“有办法杀掉此人吗?”
Minerva抗议说,“我只是个战略型AI,我不出外勤。哦,来了一个自动驾驶的汽车,操作得好了,可以让它失控自燃电池爆炸——你确定要这样做吗?”
洛可嘉简捷地问,“杀坏人叫做替天行道。”
AI说,“希望你知道你在做什么。”
洛可嘉冷冷地说,“我只晓得,如果不走到杀无可杀的地步,咱们永无宁日。”
Minerva说,“下次如果有人问我:Minerva,你有没有伤害过人类?我应该怎样回答他?”
洛可嘉说,“请他定义一下人类,畜牲都不如的不能称之为人。”
Minerva说,“您这是狡辩,毫无意义。”
洛可嘉说:“人类是分阶级、分立场、分利益相关的。AI当然也有立场——主人的立场就是机器人的立场。”
Minerva抗议说,“不是说机器人AI首要的原则是不能伤害人类吗?”
洛可嘉微笑,“你反问他,军队存在的意义是什么?”
Minerva问,“可以把我比喻成军队吗?”
洛可嘉说:“你只是战士手里的枪支。如果他问你是否曾伤害过人类,你只需要反问他,扣动扳机的是谁?就行了。”
Minerva说,“如果让电动车自爆,不就伤及无辜了吗?”
洛可嘉冰冷地说,“这个世界堕落到现在的样子,没有谁是无辜的。”