想到身边的人时刻都可以窥探到内心的想法,许亦涵不寒而栗,双眸骤然清醒,锐利而戒备。
“对不起,我知道这会冒犯到你,但正是因为连普通人类能做到的察言观色以及推己及人都做不到,我很难不依赖这个能力来完成我的任务。”方勋说着,低垂的眼睫投下一片细碎的光影。
许亦涵面色冷峻地凝视着他,心底掠过诸多零碎想法,大脑混沌一片。
末世中的生死只在刹那间,人和人的关系脆弱不堪,何况是机器人?何况是那些站在军车上屠戮人类,可以眼皮都不眨的冷血机器人同类?三大法则有效吗?既然已经有那么多失控的机器人,谁能保证他不会被同化?太多……太多谜题、不解,太多可能存在的恶,让人迷茫,患得患失,怀疑一切。
在重重迷雾中,一道灵光闪现,许亦涵目光如炬地逼视着他,竭力让自己看上去更加冷酷,她的声音像腊月寒冬里的冰霜:“这些事你本来没必要告诉我,你想取信于我,姑且猜测是因为你需要我。你说三大法则是有次序的,第二法则生效的前提是不违背第一法则,‘不伤害也不坐视人受伤’的约束力要强于‘听从人类的命令’。卡斯奇的命令是保护人类,留下火种,这当然是人类会说的话,他将人类的延续看得比单独的一两个人类重要。可你……如果你是机器人,如果按照你说的有所谓三大法则,你也遵守它,那么应该把保护任何一个人类的生命视为第一要务,你无法攻击人类,也不可能丢下那么多深处险境的人,只带着我跑出来。所以你——”
你是机器人?你是还在遵守三大法则的机器人?
方勋灰色的瞳孔对上她:“你很聪明,看来人类更能理解三大法则的局限性。”
他先是回答了她没说出口的问题:“我是。我还遵守三大法则,但在那之前,又增加了第零法则。第零法则:在保护人类整体利益的前提下,三大法则才生效。”
许亦涵一愣。
“以往没有人注意到三大法则的局限性,机器人总是显得笨拙,发生了很多让人类不愉快的事情。我能够理解对人类来说,心理的伤害也是一种伤害,这让我在执行命令的过程中常常陷入两难,譬如一位主人要求我对某事保密,另一位主人要求我告诉他这个秘密,如果不告诉他,他内心会受到伤害,这就使得第一法则生效,如果第一位主人命令的语气足够强烈,而这种心理创伤又足够轻微,那么两条法则的冲突就会变得格外激烈,几次以后,我的程序近乎崩溃,陷入停摆边缘——停摆就是机器人的死亡。”