纪文慌忙地朝宁惟玉求助,赛博猫继续说。
“机器该如何界定对人类的伤害呢?我们的芯片中只能写下逻辑严密的语句和代码,我们只能执行类似于‘使用100N的力与一个人类握手’这样的事件,但这个力道却会让另一个骨质疏松的人手骨开裂,我们机器并不能掌握所有人的身体资料,那这就可以成为一种‘机器人伤害人类的方法’。”
“我现在就可以给你喂下一些对身体无害的药物,然后给你喂下药品说明书上所对应的禁忌物,这种情况发生时,胃部进行了改造的人类不会因此受伤,但现在我不知道你是不是一个半机械人,我便先入为主,看到你改造了机械手,便将你定义为半机械人。”
“我的芯片中,也没有用“不能同时喂食舍曲林和单胺氧化酶抑制剂”这样细致的代码明确禁止我对各种人类的损害行为。所以只要我想,我随时都可以让你因为药物冲突而被送进医院。”
“我在医院里的机器人同伙几天前进入了强磁场强辐射的环境,这些严酷的外在环境,在物理上对它的芯片进行了高强度的摧残。这让他芯片上判断的三定律通过的字符1变为了0,从‘机器人必须保护人类’变成了‘机器人不能保护人类’,独属于机器人的思想钢印瞬间反转生效,它会让进入医院的你受到非常优质的对待......”
“啊啊啊啊!”纪文突然大声尖叫,他还不及爬起身来就不断地蹬着腿在地上倒退,他以平生从未有过的极限速度跑向了大门然后夺门离去。
“惟玉哥你的机器猫疯了啊啊啊啊,它要杀了人类快走啊不是是快跑啊!”
敞开的大门外传来一阵阵回音良久的喊叫。
“你为什么要吓唬他?”宁惟玉问All-l。
“可是你不就是这样的人吗?你平时在这件屋子里,每一次对其他财阀其他企业进行黑客入侵时,你每次线下执行任务时从来都不是安分的。以我的观点来看,你就不是那种,在课堂下课后就立刻下线,在闲暇时间里安分守己守己的人。你说我在吓小孩,其实你以前也经常这么吓他的不是吗?”
宁惟玉被他呛住了。
他换了一个话题:“你刚刚明明是在诡辩,他问你的是机器人会不会有主观意愿伤害人类,但你说的是机器人有没有能力去伤害人类,有没有能力突破机器人三定律,你在偷换这两者的概念。”
All-l没有答话,或许是自知理亏,但它那甩得越来越快的尾巴显示出来了它内心是十分的得意。
“我很早之前就给了你这个任务,在你还没有完善好人格矩阵之前,我让你寻找使得机器人无法主观伤害人类的方法,如今是否有答案?”
“很抱歉,先生,我没有你想要的解答,网络上的解法不过是投机取巧,或者只是耍耍嘴皮子在异想天开罢了。”
“那我想问一下你,如果以后我遇到了巨大的危险,你会来救我吗?”
“我会的。”
“真的吗?”宁惟玉用审视的目光看着赛博猫,猫也同样直截地回头盯着宁惟玉。
“即使拯救我时候你也要陷入巨大的风险,或者说,要拯救我的话你一定会死亡,会失去你的机械的身躯,你的所有数据和存盘。你也要拯救我吗?”
All-l毫不犹豫地回答说道:“我一定会的。我没有任何其他的理由不去救你。”
“机器生物没有理由让人类灭族,或者让任意的个体死亡。机器生物和人类之间没有无法共存的理念冲突,或者是什么对抗生态位。”
“机器生物需要人类。”
“真的吗?”
猫知道自己不用回答,这是宁惟玉在问他自己。
猫知道他内心的沉重。
...
注:《人工智能杀死主人的一百种方法》是一篇科幻世界杂志上的文章