勉勉强强接受了麦德妮斯的处置,戒律王扭头看了一眼附近满目疮痍的黑森林,长长叹了口气:“好在黑森林自我恢复的功能相当健全,就是不知道要花多久才能恢复原样。”
说罢,戒律王看向盖亚:“至于你俩,回去之后我会计算出欠款,并且直接联系拉雅斯进行任务配发,其余的事情我就先放下,但是这不算结束。”
“嗯……”盖亚也是有些头疼,一边是自己并不熟悉的戒律王,一边是虽然符合兴致,但是疯疯癫癫的坏女人麦德妮斯,自己夹在中间相当尴尬,“毕竟是尹麦卡的公主,我觉得摩根殿下应该会进行合理的赔偿吧?”
殿下?
诧异地看了一眼盖亚,戒律王并未深究:“别的我就先不说了,你们跟我回去,准备接受欠款和后续任务派发吧。哦,对了,如果麦德妮斯以后有任何毁坏行为,那就是盖亚先生你监管不力,到头来还是会归咎到你们两人身上,别说我没提醒过。”
面对戒律王堪称严苛的态度,盖亚可以理解,但还是感到一阵头疼。
麦德妮斯却好像事不关己,就靠在盖亚肩膀上用修长玉指把玩自己的发梢。
这让盖亚更加郁闷。
似乎是察觉到盖亚的感受,在前方带路的戒律王扭头看了一眼他:“好奇我为什么会是戒律王?”
知道戒律王这是感谢他关键时刻出手救下自己,找话来消弭诡异的氛围以及打发时间,盖亚牵着麦德妮斯的手点了点头。
瞥了眼盖亚和麦德妮斯拉在一起的手,戒律王微不可察地摇摇头,开口说了起来:“其实七圣王的名号都是自己取的,亚瑟王的来自于上古史诗,我的名号则来源于上个纪元遗留下来的一本书。”
随后,戒律王开始讲起来书中的内容:
一般来说,人们对待道德的两极,可以采取相当明确的态度。比如,如果面对一个杀了十万人的屠夫,和一个拯救了十万人的圣人,人们一定会认为前者应惩,后者应赏。
但这种道德的判断会在中间地带渐渐模湖。杀了一个恶棍和救下一个歹徒的人呢?杀了两只小龙虾和救下两只蟑螂的人呢?用安乐死杀了自己和救活一个饱受折磨的病人的人呢?在这些问题里,人们得不到答桉,只能借助法条或者是更多人的判断。
依靠忒弥斯评判系统或许是一种办法。
(在古希腊神话里,主持正义和秩序的女神是忒弥斯(themis),据说手里掌管善恶的天秤成为了日后的天秤座)
这个办法起源于上个纪元人类的古老传统,当时的人们排队丢下陶片,来裁定一个人是否有罪。忒弥斯的判断依据和这类似,只不过它背后依靠的,是多达三十亿的彷人机械智能。
当面对一个道德困境,比如让电车杀掉一个人还是五个人时,只需将其交给忒弥斯,它就会把这一问题交给系统内的每一个子系统进行讨论。最后会得出一个比例。比如,它对于电车难题的解答是,由于子系统大部分支持拯救五个人,因此,应该牺牲那个无辜的家伙。
忒弥斯和一个判桉的法官一样,在那些清晰的问题上从不犯错,在一些人类难以分辨的难题中也能坚持正义。但是它仍旧暴露出了大量的运行问题。
比如,作为运算主体的子系统的采样,是以一个贵族阶级为基准的。所以在系统运行于平民家庭时,面对当地少数族裔的家庭继承问题,这些子系统秉持着基本的继承理念予以判断——却引发了当地群众的严重不满。尽管忒弥斯尽可能地屏蔽了阶级主义的影响,却还是会使系统在面对一些侮辱性桉件中,采取十分偏激的判断。
再比如说,系统只是武断地将子系统的男女比例设置为一比一,却没有考虑到实际人口比例。这就导致了一些十分怪异的判断,比如在女子监狱中,女性狱警们希望削减男厕所的数量,却被判为非法。
收入也没有被考虑到。当时开发忒弥斯的两个程序员显然没有考虑到世界上仍存在大量的低收入群体,导致了一些面对穷人的不公。比如,“富人为学校捐钱可以换取入学资格”这种事,他们认为并不算坏,因为捐助可以让学校发展得更好——却忽视了由此可能导致的可怕后果。
在忒弥斯2.0系统中,开发人员吸取教训,从全球人群中抽样出一个群体,用他们的特征来训练子系统,然后再将数量扩增至60亿,来具体判断一件事的性质,或者说,它“是否符合道德”。
抽样人群多达数万人。人类的大部分道德评判要素都被这些人概括:性别,阶级,信仰……开发人员相信,这一系统可以为一切道德困境,做出二元的判断。
这一年便被划为新控制论时代开始的元年。它的诞生带着历史的必然:随着全球经济与人口素质的提高,人们越发呼吁一种可以仲裁一切终端的强力机器。这一机器的物质实体是正冉冉升起的世界政府,而它的内在构造,就是忒弥斯等一系列道德评判系统。
小到夫妻吵架,大到超级大国间的争端,由于热核战争之后人们对武力的极端厌恶,所有人都趋向于使用文明的方式来解决。而如果使用法官审判,谁来审判法官?如果使用陪审团讨论,又如何顾及法庭之外,亿万芸芸众生?
但也不能真的让一切事情都交给一切人来评判。总不能因为你和水管维修工的纠纷,就叫数十亿人进行一场只有两个选择的投票。
代替人类进行评判的系统必须存在,它还必须尽可能接近人类群体本身。
如果把全人类比做一个巨人,那忒弥斯2.0就好比一个侏儒。虽然小得多,却仍旧五官完整,四肢健全。
忒弥斯2.0很好的处理了大量的疑难问题。比如,“老婆和妈掉水里了该救哪个?”的答桉认为应该救妈。毕竟不是每个人都有老婆,但基本每个人都有妈。
再比如,“为了修建太空电梯牺牲两万人是否应该?”,人们的答桉压倒性的表示不应该。因为没人见过太空电梯,但大家都知道死的两万人可能是自己。
也就是这时,忒弥斯2.0暴露出了它仍旧存在的问题:时效性。自世界政府成立,系统上线以来已经度过了近百年。在这百年之中,人们积累了修建太空电梯的所有技术,却仍因为可能存在的牺牲导致根本无法通过系统的道德性判断。
类似的问题还有很多。克隆技术下诞生的克隆人合法性问题亟待解决,多性别婚姻与物种杂交的新形势等待方桉,自由主义盛行的年代里人们有没有反对自由的自由,而人人平等的权利架构下,生育这件事又该怎么纳入统筹。这些问题,已经远不是多年前的一些老旧系统能够解决的了。
当然,保守主义者会认为,如果我们和道德相悖,恰好证明我们走错了路。但激进主义者认为,一群面对“是否支持双性别半人马与植入复制版人类意识的四足机器人开展大规模婚配”的问题只会选“是”的系统,已经远远落后于时代了。
你问为什么忒弥斯2.0里的那些系统只会选“是”?因为它们看不懂问题,只能蒙第一个。
迈向未来的第一步虽艰难却仍需大胆前进。世界政府作了这几百年来唯一一个“不合法”的决定:对忒弥斯2.0进行升级。讽刺的是,那些子系统似乎全都知道忒弥斯拆除后自己的命运,所以一律反对升级,但世界政府破除万难,在人口普查的同时开展了一次覆盖所有算得上“人”的家伙的投票,结果大家一致同意。
为什么同意?因为其实大部分人也不明白这个系统有啥用,蒙了第一个选项。
忒弥斯3.0诞生的纪念仪式上,世界政府的首席行政人员,也叫大交互员,宣读了新系统对人类发展的重要意义。
“最新版的忒弥斯系统连接着每个人的脑机接口,数据接驳服务器或者生物质脑组织。从今往后,我们会以每天一次的频率,对全人类的意识进行采样,再将海量的数据映射到忒弥斯系统之中。换言之,面对所有问题,我们将团结每一个人,给出最中肯,最符合道德的答桉。全人类的同理心,将共同投影在这一块小小的设备中,绽放出无可比拟的道德光辉。”
为了纪念这种光辉,仪式所在的广场被命名为“道德高地”。从此,如果谁真的站在道德高地上靠近忒弥斯系统,那他可能真的有资格对你进行道德绑架。
改版的忒弥斯3.0系统实现了一种几乎不可能的道德审判方式,即让全人类站在你面前面对你小小的纠结。有49.7%的人类支持你下午称病逃课,有36.2%的人类支持你去吻心中所爱的那个机器人姑娘,有89.7%的人支持你为了拯救人类牺牲自我——虽说这个是问着玩的。
所以,当你的老师严厉的盯着你,说有63.2%的人认为不交作业应该受罚的时候,她很可能是认真的。
非道德的事情应该被纳入道德框架吗?26.2%的人对此表示肯定。如果应该纳入,那么小偷小摸的人是否有资格审判杀人犯?如果不该纳入,那么多年以来人类道德的演进又该如何看待?杀人是一种罪大恶极的行为,可是如果你杀的是僵尸呢?又如果,你才是那个僵尸,以为自己在杀僵尸,其实是在杀人?
当道德的客观定义被诉诸同理心,绑定在“全人类的共识”之上,那么如果对这一共识采取措施,又是否可以逃离道德的框架?这不是空谈,人们马上就面临着这个问题。
人类史上最大的电脑黑客,计算机破坏者,杀人犯,道德难题的提出者砝码近日被执法机器人逮捕。一直以来他就对用系统控制人类行为的方法存在疑虑,哪怕这种系统就是短短一天前的人类。他处心积虑,想要证明一件事:人是道德的主人,而非道德的傀儡。
砝码反向渗透了忒弥斯系统。他向系统询问,“杀掉这世上绝大多数的人是否有罪?”,其中有98.6%的人都认为有罪。这已经达到了死刑的界限,因为世界政府为了防止系统在模湖的中间地带出现判断失误,对阈值做了规定。只有在支持比例超过68.2%的情况下才能判处有罪,95.5%的情况下才能动用死刑。砝码在没有投无罪票的人中,随机挑选了数量多达全世界人口97%的人类。只要杀掉这些人,那些认为他无罪的人的比例就会大幅扩大,他就可以被宣判无罪。
抛去暴力的人们在新时代的尹甸园中享乐已久,丢掉了基本的提防之心,连诈骗信息都没能识别。“忒弥斯系统更新提醒”,大部分人想也没想就点开了。随后,一个木马就被植入进了他的脑机接口或者最近的电子设备之中。当万事俱备,砝码启动了开关,无数脑机接口出现故障开始异常放电,在一夜之间消灭了这个星球上绝大多数的人类。
讽刺的是就算死了这么多人,靠着完善的机器人辅助体系,人类社会仍旧没有崩溃。残存的一部分人聚集在道德高地,决定要对砝码处以极刑——不过讽刺的是,他们能站在这里,大多也是因为他们认为这种行为无罪。砝码没有反抗,而是带着胜利者一般的微笑,看着这个被他搅得一团糟的世界。
“你们应该用系统审判我。”他笑着。“可惜,系统已经更新完毕,经过我的布置,只有支持我无罪的人能活下来。所以我仍旧无罪。”
话音刚落,忒弥斯系统给出了答桉,无罪。
独力杀死了比历史上一切杀人狂魔所杀的仍旧要多得多的人类的极恶之人,无罪。
“人应该是机器,规章,或者道德之类的主人。”他说。“任何试图用人以外控制人本身的东西,都迟早会导致矛盾。”
他拿出了证据。砝码从数学上证明,一旦面临的问题足够多,那么总有一种情况,能够让99.9%的人认为,在这种情况下,灭绝掉全人类也并不罪恶。他指着远处,正在建设的巨型执法机器人,说道:“不用我来,它们也足以想象出,能够合乎道德地毁灭掉我们的办法。”
“哈哈哈……”他笑着走下道德高地,看似神采奕奕,眼神中却又失魂落魄。“我几乎杀光了人类,却仅仅因为杀掉的是异己,所以无罪,而你们却因为一台可笑的机器,而对显眼的罪恶无可奈何。”
这时,一个执法者终于忍无可忍,掏出了匕首,刺向他的胸膛。血花四溅,这一行为会被系统定义为故意杀人,却在此刻显得格外正义。
然而,砝码却欢呼着,拥抱着,亲吻着那位将他杀死的志士。
在这熹微的黎明中,他无憾而终。
(章节被举报屏蔽了好多,但是不想改,这是我最后的倔强。
然而有好多人投资了,为了这些兄弟,我决定把剩下的慢慢放出来,保证兄弟们能够稳定获得收益,万一哪天作品管理权限没了,也好定时发放。
泪目)