登陆注册
12485000000029

第29章 可避免的冲突(3)

它可约略分成两大地区。地图左方是格兰河以北的整个北美洲,右方则包括当年苏联的全部疆域。这两个地区加在一起,代表了原子时代初期地球上的核心势力。位于两者之间的是大不列颠,它像是该界域舔向欧罗巴的舌头。而在地图的顶端,扭曲放大成怪模怪样的,则是澳大利亚与纽西兰,两者同样是这个界域的成员。

过去数十年的一切变化,皆未能改变“北方”是全球经济主宰这项事实。

因此,在拜尔莱所见过的官方界域地图中,唯有麦肯日的版本画出了整个地球,仿佛表示“北方”无惧于竞争,无需特别强调自己的显着地位。这个事实,几乎便是一个夸耀的象征。

“不可能。”麦肯日一面喝着威士忌,一面以倔强的口吻说,“拜尔莱先生,我相信,你没有受过机器人技师的训练。”

“没错,我没有。”

“嗯。这个嘛,秦修林、勾马和齐葛思苏斯卡也都没有,在我看来这实在是大不幸。地球居民有个太普遍的看法,认为总协只需要具有组织的长才、兼容并蓄的胸怀,以及和蔼可亲就行了。但如今这个年头,他也应该了解机器人学——请别介意我这样说。”

“我不介意,我同意你的说法。”

“比方说,根据你刚刚讲的那些话,我猜你是在忧心最近世界经济的小小脱序。我不知道你怀疑些什么,但过去曾有人想到——他们应该知道得比你多——万一有错误资料输入机体会怎么样。”

“会怎么样,麦肯日先生?”

“这个嘛,”这位苏格兰人挪了挪屁股,叹了一口气,“搜集来的所有资料,都会通过一个复杂的筛选系统,由人工和机器做双重检查,所以这种问题不太可能发生。但我们暂且忘掉这点——人容易犯错,也容易堕落,普通的机械装置则容易出现机械故障。

“问题真正的重点,在于我们所谓的‘错误资料’,是指和所有已知资料不一致的那些。这是我们判断正误的唯一依据,对机体而言也是一样。比方说,假如你命令它,根据七月平均气温为57华氏度的资料,指导爱荷华州的农业活动,它是不会接受的,它不会给出任何答案。并非由于它对那个特殊气温有任何成见,或不可能得出一个答案;而是因为,根据历年来输给它的所有资料,它知道七月平均气温为57度的机会趋近于零。因此,它拒绝接受这个资料。

“唯一能将‘错误资料’强行输入机体的办法,是把它藏在一组自圆其说的完整资料里面,其中的资料一律含有巧妙的错误——不是微妙到机体侦检不出来,就是在机体的经验范围之外。可是前者超出人类的能力,后者也几乎如此,而且随着机体的经验一秒秒增加,后者的机会也就越来越小。”

史蒂芬·拜尔莱将两根指头放到鼻梁上。“这么说,机体不可能被人动手脚——那么,你又如何解释最近这些错误?”

“亲爱的拜尔莱,我看得出来,你直觉地犯了那个最大的错误——以为机体无所不知、无所不晓。让我对你举个亲身经历的例子:在棉纺业这一行,负责采购棉花的人员个个经验丰富。他们检验棉花的手续,是从许多捆里面随便挑一捆,再从那捆中抽出一簇。然后,他们用眼睛观察那簇棉花,用手抚摸它,用舌头舔它,还把它梳得起毛,说不定这时还会倾听那阵噼啪声。经由这些手续,他们便能决定这捆棉花的等级——总共有十来种等级。而交易的价格,以及棉絮的混合比例,都是根据他们的检验结果而定。好,目前为止,机体还不能取代这些采购员。”

“为什么?相关资料当然不会太复杂吧?”

“或许不会,但你指的是什么资料?没有任何织品化学家知道,当那些采购员抚摸一簇棉花时,他究竟在检验些什么。想必是纤维的平均长度、它们的质感、光滑的程度和特质、缠在一起的方式等等。总共好几十个项目,他们凭借多年的经验,下意识地一一衡量。但这些检验的定量特性却都是未知数;甚至某些检验的本质或许也是未知数,因此我们没有东西可以输入机体。而那些采购员也无法解释他们自己的判断,他们只能说:‘这个嘛,看看它,你看不出来它是某某等级吗?’”

“我懂了。”

“像这样的例子无穷无尽。毕竟机体只是工具,它替人类分担一些计算和诠释的重担,以加速人类进步的步伐。人脑的工作仍旧保持不变——发现需要分析的新资料,发明有待测试的新概念。可惜‘人本协会’不会了解这一点。”

“他们反对机体?”

“假使他们生活在古代,他们还会反对数学、反对文字。这些保守分子声称机体夺走了人类的灵魂。我注意到在我们的社会中,能干的人仍是珍贵资源;我们仍然需要那些拥有足够智慧的人,想出和提出一些适当的问题。说不定,我们若能找到足够的这种人,总协,你忧心的那些脱序现象就不会发生了。”

地球(包括无人居住的南极大陆)

面积:54,000,000平方英里(陆地面积)

人口:3,300,000,000

首都:纽约

石英板后面的炉火孱弱无力,已不情不愿地燃烧到尽头。

总协一脸忧郁的表情,他的心境恰如逐渐熄灭的火焰。

“他们都尽量将事态淡化。”他以低沉的声音说,“不难想象他们都在嘲笑我吧?可是——文生·西佛说机体不可能出毛病,而我必须相信他。希兰姆·麦肯日说它们不会接受错误资料,我也必须相信他。但机体不知怎地出了问题,我同样必须相信这个事实。所以,仅仅剩下最后一个可能。”

他瞟了苏珊·凯文一眼,后者闭着眼睛,乍看似乎睡着了。

“那是什么?”她却立即作出回应。

“啊,机体的确接受了正确的资料,也的确送出了正确的答案,但答案随即被弃置一旁。机体没办法强迫人类服从它的指令。”

“在我看来,齐葛思苏斯卡夫人做了这种暗示,她泛指的是北界人。”

“是的。”

“违背机体又能达到什么目的呢?我们来考虑一下动机。”

“我看动机很明显,你也应该有同感。那等于是故意摇晃这条船。当机体统治世界时,地球上不可能有严重的冲突。反之冲突倘若存在,某些人便能为了自身利益而攫取更多的权力,全然无视人类整体所受到的伤害。如果能摧毁大众对机体的信心,令它们遭到废弃,那么丛林法则将再度出现。而四个界域,个个脱不了有此打算的嫌疑。

“东方界域境内拥有全世界一半的人口,热带界域则有超过一半的地球资源。两者都可能觉得自己自然是全球的主宰,而且两者都有一段受北方欺侮的历史,想要作非理性的报复乃是人之常情。另一方面,欧罗巴拥有唯我独尊的传承,它一度真正统治了地球,而权力是最令人难忘的一样东西。

“然而,换个角度来看,这却是难以置信。东方和热带目前都在自己境内大肆发展,两者皆以不可思议的速度蹿升,它们不可能有余力进行军事冒险。而欧罗巴能拥抱的只是梦想,它的军事实力等于零。”

“所以,史蒂芬,”苏珊说,“你只剩北方了。”

“是的,”拜尔莱中气十足地说,“没错。北方是如今最强盛的界域,若将其成员的历史包括在内,这个局面已经持续近一世纪。可是现在,相较之下它正在走下坡。热带界域可能即将攻占文明最前线,那会是法老时代之后的首例,有些北界人害怕这个事实。

“你也知道,‘人本协会’主要是一个北界组织,他们不讳言不想要机体——苏珊,他们人数很少,却都是有权有势之辈。这个组织的成员包括:不愿成为他们口中‘机体工友’的工厂厂长、工业界和农业界领袖,此外还有野心分子,以及觉得自己足以决定什么对自己最好、不愿听从机体的那些人。

“总而言之,那些人只要一起拒绝接受机体的决定,便能在短时间内把世界搞得天翻地覆——该协会的成员就是他们那些人。

“苏珊,一切都吻合了。世界钢铁公司有五名董事是它的成员,而该公司正面临生产过剩的问题。在阿马丹开采水银的统一辰砂公司,是一个属于北界的企业。我们仍在调查它的名册,但至少有一位负责人是会员。独力延迟墨西哥运河达两个月的法兰西斯哥·威拉法兰卡,我们已经知道他是会员——而拉玛·巫拉萨耶拿也是,发现这点时我毫不惊讶。”

苏珊心平气和地说:“这些人,我应该指出,表现得都很差……”

“但自然如此,”拜尔莱插嘴道,“不听从机体的分析,就是不遵循一条最佳化的路径,得到的自然是较差的结果,那是他们付出的代价。他们现在日子难过,但在终将来临的混乱中……”

“你究竟打算做什么,史蒂芬?”

“显然不能浪费任何时间。我要把‘人本协会’列为非法组织,将一个个会员从重要岗位上换下来。从今以后,所有行政和技术人员的职位,申请者必须具结一份非该会员的誓词,否则绝不录用。这将代表放弃某些基本人权,但我确信世界议会……”

“行不通的!”

“什么!为何行不通?”

“我来作个预测。你若尝试任何这样的举动,将会发现寸步难行——你将发现这个命令不可能贯彻,你将发现相关措施通通都会陷入困境。”

拜尔莱吃了一惊。“你为什么这样说?我满心希望你会赞成这件事。”

“只要你的行动建立在错误前提上,我就绝不会赞成。你承认机体不可能出错,不可能接受错误资料。但你认为‘人本协会’可以违背机体,现在我要对你说明,那也是不可能的事。”

“这点,我完全看不出来。”

“那就听好。任何主管的任何行动,倘若并非切实遵循机体的指示,那个行动就会成为下批资料的一部分。因此,机体会知道那个主管有些不服从的倾向。它能将这个倾向融入那些资料——甚至作定量分析,也就是说,判断出不服从的确实程度和方向。它的下一组答案,便会刚好有足够的偏颇,让那位主管在故意违背后,会自动将那组答案修正到最佳化的方向。机体一清二楚,史蒂芬!”

“你不可能确定这一切,你只是在猜测。”

“这是根据我和机器人相处一生的经验所作的猜测。你最好信赖这样的猜测,史蒂芬。”

“但若是这样,那还剩下什么呢?机体本身是正确的,它们根据的前提是正确的,这些我们已经同意。现在你又说,没有人能违背它们的意思。那究竟是哪里有问题?”

“你自己已经回答了。根、本、没、有、问、题!稍微想想那些机体,史蒂芬。它们是机器人,它们服从第一法则。可是机体并非为任何一个人工作,而是为全体人类服务,所以第一法则变成:‘机体不得伤害人类整体,或因不作为而使人类受到伤害。’”

“好啦,那么,史蒂芬,什么会伤害人类整体呢?经济脱序最有可能,不论它的导因为何。你不同意吗?”

“我同意。”

“未来最有可能导致经济脱序的又是什么?回答这个问题,史蒂芬。”

“我会说,”拜尔莱不情愿地答道,“是机体被作废。”

“我也会这么说,而机体也会这么说。因此之故,为了我们,它们的首要考量是保全自己。所以,它们悄悄处理了威胁它们的最后一项因素。其实并不是‘人本协会’摇晃这条船,试图令机体遭到毁灭,你一直把这一幕看反了。我们应该说,是机体摇晃这条船——摇得非常非常轻——刚好能把攀附在边缘的少数人摇掉,因为机体认为他们的行动会危害到人类整体。

“所以巫拉萨耶拿失去了他的工厂,在他无法为害的地方找到另一份工作——他没有受到严重伤害,没有失去谋生能力,因为机体对人类所造成的伤害必须尽可能轻微,而且必须是在拯救更多人的前提下。统一辰砂公司在阿马丹失去了控制权;威拉法兰卡不再是一项重要计划的总工程师;而世界钢铁公司的那些董事,则正在失去钢铁业的支配权——或说即将如此。”

“但你不算真正看透这一切,”拜尔莱激动地坚持道,“我们怎能冒险假设你是对的?”

“你必须这样做。你还记得当你对机体提出这个问题后,它自己的回答是什么吗?它说:‘这件事不可解释。’机体并未说根本没有解释,或说它能断定没有解释,它只是不容许出现任何解释。换句话说,假使公布这个解释,就会对人类造成伤害,所以我们只能猜测——一直猜下去。”

“假设你是对的,苏珊,但那个解释怎能对我们造成伤害呢?”

“啊,史蒂芬,假如我是对的,那就代表机体为我们筹划未来的方式,并非只是针对我们直接的问题提出直接的答案,而是对世界整体的局势、对人类整体的心理提出一般性答案。知道这点可能会令我们难过,可能会伤害我们的自尊。而机体不能——绝对不能让我们难过。

“史蒂芬,我们又怎么知道人类终极的幸福会伴随着什么?机体掌握着无限多的因素,我们却无从掌握!让我举个不算不熟悉的例子:整个的科技文明所带来的不幸和悲惨,说不定还超过它所送走的。一个拥有较少文化、较少人口的农业或牧业文明,说不定反而会更好。若是这样,机体就必须朝那个方向前进,而且最好别让我们知道,因为根据我们无知的偏见,我们只晓得自己习惯的才是好的——我们会坚决反对改变。也说不定,一个完全都会化的社会,或者一个完全阶级化的社会,或者一个完全无政府的社会,才是真正的答案。我们不知道;只有机体知道,而它们正带着我们走向那里。”

“但你是在对我说,苏珊,‘人本协会’是对的;人类对未来已经失去自己的决定权。”

“其实,人类从来没有任何决定权。人类总是受到自己所不了解的经济和社会力量的摆布,此外反复无常的气候、胜败难料的战争也一直在宰制人类。机体则了解这些因素,不会被任何一项所阻止,因为机体会像对付‘人本协会’那样对付这些因素——它掌握了最强大的武器,那就是对全球经济的绝对控制权。”

“多么可怕!”

“或许是多么美好!想想看,如今,所有的冲突终于能避免了。从今以后,只有机体是不可避免、不可或缺的!”

石英板后面的火焰熄了,只留下一缕轻烟作为它的遗迹。

“故事讲完了。”凯文博士缓缓起身,“我从头到尾看了个仔细。一开始机器人还不会说话,最后他们挺立于人类与毁灭之间。我看不到什么了,我的生命已到尽头。你将会看到下一波的发展。”

此后我再也不曾见到苏珊·凯文。她于上个月逝世,享年八十二岁。

同类推荐
  • 四九城的七号

    四九城的七号

    《四九城的七号:方喆短篇小说集》内容简介:不想当文坛李小龙,也不想拿诺贝尔文学奖,这辈子只想成为京城文坛第五个七号。
  • 血腥残忍的凶杀现场:诡案

    血腥残忍的凶杀现场:诡案

    血腥残忍的凶杀现场,真假难辨的诡异案件,匪夷所思的作案经过,谁能将其中玄机侦破?古老的村庄,诡异的传说,真相,究竟如何……
  • 古龙文集-剑客行(下)

    古龙文集-剑客行(下)

    古龙在他的早期名篇《剑客行》中,赋予了他对“武侠世界”的期待与想象:要成长为武林传奇,必先经历常人难以忍受的痛苦与磨难。成长,就是要如此沉痛,才会精彩。少年展白初出江湖,却背负一代江湖传说——“霹雳剑”展云天的弑父之仇。展白资质平平,却不得不面对接二连三的江湖强敌。在一次次几殒性命的拼杀中,少年死里逃生,忍受难以忍受的痛苦和折磨,终于学成惊世奇招,为父报仇。然而,中原面临着史无前例的巨大威胁,而少年一人,将要肩负起整个江湖的生死大任……
  • 听说爱情很美

    听说爱情很美

    童画,飞天集团董事长千金,几乎拥有了世间美好的一切,唯独爱情。为了逃避相亲,她意外来到一片白桦林,邂逅了一个“山林管理员”,也邂逅了她的初恋。他们在白桦林里度过了让她一生难忘的七天,直至第七天的早上,他不辞而别,把她留在了树屋中……童画带着情伤学成回国,没想到却在飞天集团碰到摇身变成企划部总监的欧阳皓天——“山林管理员”。他们的心最终在磕磕碰碰中走向了彼此,可爱情的憧憬竟在皓天的枪口指向童父时轰然倒塌……从童话故事中走出来的他们,爱情也变得千疮百孔,面对欧阳浩天,她对他的爱又该何去何从?
  • 槐树花开

    槐树花开

    本书讲述了一群少男少女成长的故事。在人人艳羡的重点高中里面,成绩一般,个性内向且有些自卑的女主角在这里成长,有死党好友,也有背叛,在槐树花开又谢,属于那个青春年代的悸动、心跳,关于青涩爱情的迷茫、洗礼。
热门推荐
  • 覆灵

    覆灵

    小说简介:神灵,邪灵,万物之灵。控魂,修灵,万古覆灵。正邪之魂握于我手,天地万物困于我心,自古以来灵神便是灵舜大陆传说中的存在,消失在大陆已有数千年,可是当一个平庸的修灵者拥有了远古最强灵神的本源,那会有什么样的结果......(这是一个颠覆灵魂之人踏上征程的故事。)
  • 魔力星堂

    魔力星堂

    在这个故事中没有人类,只有一群以强者为尊的动物,他们像人一样生活着。有一部分的动物拥有一种可以修炼的力量,那些力量的强度可以通过围绕在身体周围的星星的光影数量来判断,星星越多,实力越强。那力量被称为星力,而拥有这种特殊力量的动物叫做星兽,他们会比普通的动物强很多,地位也会高很多。主角是这个世界上的一个孤儿,他,一直在街头流浪,但他的命运却在那次偷食物失败后全然改变.
  • 灵明小六荡仙魔

    灵明小六荡仙魔

    “金斗引得祥云至,自有仙道从中来”一个金斗,一句谶语,让原本平静的神州大地,变得血雨腥风!听灵明小子孙小六给您讲诉一个故事,一个发生在斗圣孙悟空陨落千年后的故事,自有让你想象不到的因果,让你喟然长叹的宿命,让你沉溺其中的姻缘,和让你血脉喷张的战斗。不要急,慢慢来,听小六给你慢慢讲述....
  • 夜幕残阳

    夜幕残阳

    战神域,平佛国,荡蜀山,开幽冥,普通的少年已不再普通,修行路上的悲喜离合雕刻出了他的玲珑心思,不再受人摆布,跳出幕后阴谋。一把黄纸伞,一把青锋剑,遮住了异世空间,斩开了人间正道。
  • 名校超新星

    名校超新星

    经历过种种失败的他,不屈服于命运。一次机遇,放学回家的他遇到一场浩劫,使他改变了一生的命运,醒来时让他来到了一个魔法与高科技兼容的都市。他懵逼的进了世界绝无仅有的贵族子弟名校,在世界第一名校里他能绽放出什么样的光芒来亮瞎瞧不起他的贵族子弟的眼睛。万万没想到的一系列的青春的物语。在这都市里还有许多不认为知的事情~
  • 太隐传

    太隐传

    一个魔道弟子的成长,在正道与魔道之间的抉择,不论身处何地,只需心中无魔,便是自身。
  • 天珠缘:黎明前的暴雨

    天珠缘:黎明前的暴雨

    天珠?魔法手机?DQ8899车牌号……充满神秘的力量,把两位现代少女带到了2亿年前的地球史前高科技文明社会——垌域,冒险、阴谋、刺激、谛笑皆非的人生重新拉开了序幕……只因,她们与这里的某些人,有着注定的因缘。他们是谁?他们怎样玩转世界?想知道,请入坑。谢谢支持!
  • 古代高手都市行

    古代高手都市行

    一代名将廖长生,在生死危机之时,莫名穿越到了现代世界。开始了一段为了寻到回家之路而开始的传奇之旅!在这段旅途上,有热血,有柔情,也有无奈和遗憾,让我们一起随着主角的步伐,走进一段属于他的传奇之路!新书首发,请您多多支持,浪费您宝贵的半分钟点击一下网页右侧的加入书架可好?您的每一份支持都是我写作的动力!新人不易,谢谢各位了!本书书友群199329008有兴趣的朋友,可以加群讨论,作者随时欢迎您的光临指正!
  • 罗浮宫决

    罗浮宫决

    一本绝世秘籍"罗浮宫决",引得三个师兄弟互相陷害,暗杀师尊,企图雄霸武林!却被乡下小子洛俞琤无意获得,从此开始了一段被万人追杀的旅程。隐士将军,名门之后,武林泰斗,都对他虎视眈眈!他能否排除万难,绝境逆袭,成为新的绝世枭雄……
  • 欠自己的幸福,记得要迟点还上

    欠自己的幸福,记得要迟点还上

    那年一见钟情,走入彼此生活。尝尽喜怒哀乐和人间悲喜,却背道相驰,走了很远很远,才发现这是一个原点,最后紧紧抱住永不分离。换一种打开方式,可你还欠我一个表白呢,故事慢慢掀开帷幕。