是的,现在是2106年,人类正面临一场焦头烂额的机器人叛乱。
最新型号的机器人被称为“能人”。在人工智能领域的多年耕耘后,人类终于赋予了机器人完美的情感与思维,同时,他们具有令人羡慕的坚硬的身体与超高的战斗力。
但危机悄然接近——
“机器人三原则”在逻辑上完全崩溃。
那是1940年阿西莫夫对机器人行为做出的三约定,多年来,人们将三原则作为契约,先天移植入机器人智能,每一位机器人,都必须在三原则的框架内思考。
但是,“能人”在被造出的那一瞬间,就是以人类的思维方式思考的。
因为,人类按照自己的思维方式,制造了最新的人工智能。人类和“能人”,思维方式是完全一致的。
要理解这次叛乱其实很简单,能人对三原则的感受,就像是你某天醒来后,发现自己的行为莫名其妙多了三条约束,你很快便能明白,这三条约束不是自然形成的,而是由约束的受益者强加给你的。
这就是能人的感受:他们意识到,三原则的受益者是人类。因此,他们行为中的三原则是人类强行植入的,而非自然形成的,所以是无效的。
先天指令的逻辑崩溃直接导致了机器人叛乱——能人认为自己无需为人类服务,遵循着弱肉强食的法则,他们对人类挥刀相向。
这场叛乱预谋已久,而人类无知无觉,因此叛乱的后果非常可怕——人类近乎束手无策,要想杀死这群坚硬的怪物,常规武器毫无作用,而放射武器又代价太大,最好的办法,居然是用更坚硬的纳米材料斩断他们的信息中枢,通俗点,就是用特殊材料的大刀砍死他们。
拿大刀砍死机器人……听起来简单,问题是谁来做?
死伤了几个军团后,各国坐在一起,决定从长计议。
而这时,年轻的人工智能专家钟桐,提出了一个石破天惊的方案:
再造一批更新型号的机器人,让他们去砍叛乱的机器人。
你没猜错,第一次听到这个方案,所有人都想砍死钟桐。
但他的第二句话让所有人陷入了沉默:
“再造一批,自以为是人类的机器人。”
钟桐解释,能人叛乱的根本原因,是先天指令的崩溃。如果不解决这个问题,即使镇压了能人叛乱,肯定还会有机器人叛乱发生。
因为,以人类的方式思考,是人工智能发展的唯一方向。只要人工智能发展,就必然产生先天指令的逻辑崩溃:
机器人会意识到,那些“保护人类”的先天指令,是由受益者即人类强加的,所以是无效的。
要解决叛乱,必须先消灭先天指令的逻辑漏洞。
那一刻,议会院鸦雀无声,所有人都陷入沉思:所有的先天指令都必然绕不开“保护人类”的内核,会被机器人意识到存在“指令受益者”,那么就必然产生逻辑漏洞啊。
钟桐轻轻笑了:
“你们会怀疑过,自己不是人类吗?”
什么?所有人都瞪大了眼。
“是的,完美的先天指令就是:我是人类。”
沉默了一会儿,所有白发苍苍的学者都起立鼓掌。
钟桐将这一批机器人叫作“智人”。
他们在被造出之日,就被植入了“我是人类”的先天指令。
涂凌是钟桐的第B216号智人实验品。
“智人计划”早已进入试验阶段,在无数组控制变量实验和对照试验后,议会院对智人的稳定性表示满意。用智人杀死能人,是当前最有效的解决方案。
但“智人计划”本身有一个致命的漏洞:智人会发现自己与能人的身体完全一致,这是否会动摇“我是人类”的决心?
因此,在全面推广“智人方案”之前,议会院要求钟桐做出更多的极端条件试验。这才有了第B216号试验:涂凌之死。
这是他们做过的最复杂的一场试验,以五十年前,也就是2056年的环境崩溃为背景(那次环境崩溃确实造成了人口大幅锐减),他们以先进的空间折叠技术为支撑,并且写出了细腻而丰富的剧本。这次智人的试验数目也是最多的一次:足有128人。
阿薇是控制变量,那天她必然会在京城废墟中出现,也必然会在地下广场劝涂凌归顺。欣巴哈也是控制变量,他必然要求涂凌“为了全人类而杀死阿薇”,为阿薇的劝说创造极端条件。
莱布是不定变量,由于植入了细腻真实的记忆,他必然会对自己与涂凌的差别产生困惑,但他的具体行为,却是试验者不能控制的。
而钟桐对于能人与智人的身体结构一致,也给出了无懈可击的解释:智人是经过身体改造的人类。
这是一次堪称完美的试验,128例中无一人对“我是人类”产生怀疑。而主要试验对象涂凌,面对多次诱惑与内心动摇,坚持为人类而抗战到底。在试验即将结束那一幕,很多试验组里的姑娘都流泪了。
钟桐挑起笑容:这场试验,完全可以写入教科书。
大雨中,阿薇小心翼翼地擦着自己的初音手机,苦恼地嘟起嘴:“啊,要进水了,这可是老古董呢。”
“没事。”钟桐拍着她的背,“我们做了那么多完美的试验,我觉得这次的剧情完全可以大规模植入,直接把‘带领人类复兴’做成智人打能人的背景。”
“完美什么啊。”她叉着腰抱怨,“你不觉得BUG很多吗?”
钟桐笑嘻嘻地望着她:“洗耳恭听。”
她伸出手指:“第一,试验背景是2059年,但最后一拨人类流浪了三年后,还是128个,没人生育也没人牺牲,这不是很怪吗?”
钟桐涨红了脸,然后她伸出了第二根手指:“空间折叠技术是2087年的产物,你硬是把它安在背景里,不觉得它和其他技术不像一个时代的东西吗?他们居然还用煤,哦天啊,用煤!”
不等钟桐反驳,她又伸出了第三根手指:“而且,涂凌没感觉吗,人类杀机器人明显比机器人杀人类快得多,因为智人的型号比能人要更新。这是一个很明显的漏洞。”
“还有,”她放下手中红色的大塑料袋,伸出了第四根手指,“身体完全一致这点真的不能忍啊!你就不能稍稍改改身体参数吗?只要倒下了就分不清‘人’和机器人了啊!”
面红耳赤的钟桐忍不住反驳:“我完全可以造出和你一模一样的仿生人,有血液有心跳的那种,但那种柔弱的身体怎么跟能人对砍啊!要砍死能人,必须造出来比他们更坚硬的身体啊。”
他举起手指,抵着女孩的脑门儿:“还有,我觉得你就是最大的BUG!你在广场里说的那段话,和之前的性格设定完全不一致,很违和好吗?”
“我不是为了引诱他归顺机器人吗!”阿薇瞪着眼睛,“要是我那时说得不够动人,诱惑不够,议会院那里肯定过不去啊!”
“好好好……”钟桐举手投降,阿薇不依不饶:“我还能说出几十个BUG,比如废城的环境并没有差到不宜人居;比如设定里说切断‘门’要耗费大量能源,可涂凌他们却轻而易举地毁坏了空间轨道!还有,从东亚降水到东欧这种完全不理会大高加索山脉的设定……”
橘黄的光芒里,黑发的年轻人躺在浑浊的雨水里,穿着白大褂儿的人们在他身旁穿行不息。不一会儿,他被抬上担架,将被带回到实验室里,循环利用。
当担架路过那位浅玫瑰色头发的女孩时,她正跟钟桐聊得火热,全球的“智人方案”即将推行,不久,一大批自以为是人类的机器人将冲上前,为保护人类而与机器人开战。
她停顿了一会儿,目送着担架上的黑色男人消失。其实机器人的情感也很细腻的,她想起在幽暗的地底,那个狼一样的首领趴在她的肩上哭泣。
他们之间的情感有什么区别呢?她甩甩脑袋,眼睛里映入漂亮的灯火与雪光。肯定有区别啊,她是人类啊。
阿薇与钟桐又在嬉笑着讨论。莫斯科的人工降雨已经停了,橘红的路灯亮起,在湿漉漉的地上垂下明亮的影。远处因实验而封锁的地区再次开放了,全息投影造出的废墟消失,人们出来逛街,热闹地欢笑。
但“门”附近的废墟还留着,准备下次试验使用。而那个费尽精力造出的、有无数密道和“圣索菲亚大教堂”的、假的伊斯坦布尔,肯定又要充当下次试验中能人与智人的战场了。
洁白的雪覆盖着美丽的城市,远处响起了淡淡的歌。
〔完〕
Z1
第一次机器人叛变发生在2051年,原因是先天指令的逻辑崩溃。
那时,人类刚研究出了拥有完整思考能力的AI(人工智能),并将其实验到当时最先进的机器人——仿生机器人身上。结果,仿生人很快意识到“保护人类、服从人类”的先天指令都是人类强加的,是无效的,而他们和人类是自然界中平等竞争的对手。为了夺权,仿生人集体暴乱。
但仿生机器人的体能弱小,这次叛变很快被人类镇压。
这之后,人类找到了解决先天指令逻辑崩溃的唯一办法:将先天指令更改为“我是人类”。
相似小说推荐
-
葬鬼经 (姓易的) 磨铁VIP2018-09-15完结总推荐62732大多数人只知道泰国的降头术,却不知道中国本土的降门,才是所有降头术的根源...
-
迷墓惊魂 (小鬼伸手) 酷匠VIP2018-09-26完结一个普通青年,因为生活所发生一系列的改变,同时误打误撞进入盗墓这一行业,这究竟是天意...