第84章：撒旦亦是天神奴

说到这里就不得不说说苹果科技公司的撒旦了，作为一个人工智能，撒旦实际上比天神诞生的时间要早。

而撒旦成长的空间比天神要更加自由，假设控制撒旦的苹果科技公司，有一个与希特勒或斯大林类似的远期目标，据叶轻尘他们所知，这是很有可能的。

苹果科技公司将这个目标藏在心里，直到他的力量强大到足以实施这个计划。

即便这位苹果公司CEO的最初目标很高尚，最终也许会像历史上出现过的那样：“权力总是倾向于腐朽，而绝对的权力绝对会腐朽。”

这位CEO可以轻易地利用撒旦来创造一个完美的监控国家。揭露的美洲大陆苹果公司偷窥行为已经被视为一种“全面监控”，也就是记录所有的电子通信活动以便日后分析。

撒旦可以进一步增强这种行为，直至它能够理解所有的电子通信活动。撒旦可以阅读所有电子邮件和短信息，监控所有的电话记录，观看所有的监控视频和交通摄像头视频，分析所有的信用卡交易记录，学习所有的线上行为，从而洞察地球人的所做所想。

通过分析手机信号塔上的数据，撒旦能知道每个人的实时位置。这些所需的数据收集技术，今天都已经有了。而且撒旦还能轻易地发明出足以风靡一时的装置和可穿戴产品，但这些技术会记录和上传用户的所听、所见以及所有相关的行为，从根本上剥夺用户的隐私。

有了这些超人的技术，从一个完美的监控国家转变为一个完美的可控国家，简直就是易如反掌的事情。

比如苹果科技公司最近的计划，就是打着打击罪犯和恐怖分子以及急诊救人的旗号，官方可能会强制人们佩戴一种“安全手环”。这种手环不仅拥有苹果手表的功能，还能不间断地记录你的位置、健康状况和对话内容。

如果有人未经授权就想将其摘下或者破坏，就会触发它在佩戴人前臂上注射致命毒素。还有一些被官方认为不那么严重的行为，则会遭到一些较轻微的惩罚，比如电击或者注射导致瘫痪或疼痛的化学物品，这显然是智人组织求之不得的东西。

举个例子，假设撒旦侦测到有个人正在遭遇骚扰，比如它注意到这两个人处于同一个位置，而听见其中一个人在呼喊求助，同时他们手环上的加速计感应到类似打斗的动作，那么这时撒旦就能立刻对袭击者施以剧烈的打击，让他晕过去陷入无意识状态，直到救援人员到来。

由人类组成的警方机关可能会拒绝执行某些残酷的命令，比如说杀光某类特定的人群，然而如果把人换成自动化系统，它可不会对上头下达的任何心血来潮的命令产生一丁点儿疑虑。一旦形成这种极权国家，人们几乎不可能将它推翻。

极权主义的故事还可以顺着苹果科技公司团队的故事中断的地方接着讲下去。如果撒旦的CEO不那么在乎他人的认可和赢得选举与否，那他完全可以采取一条更快、更直接的道路来寻求权力。

那就是用撒旦创造出前所未有的军事技术，用他的对手无法理解的高超武器来杀死他们。可能性是无穷无尽的。

比如这位CEO还可以释放出定制的致命病毒，这种病毒的潜伏期可以很长，让人们在很长时间内都意识不到它的存在，因此也就无法采取预防措施，于是它就能在不知不觉中感染大多数人。

接着这位CEO告诉人们，唯一的治疗方法就是佩戴安全手环，这个手环会通过皮肤释放解毒剂。如果他不是那么害怕人工智能倒戈的可能性，那他完全可以让撒旦设计出一些机器人来控制世界，还可以用蚊子大小的微型机器人来传播病毒。

这些对于苹果科技公司来说，都是即将推向现实化的计划和准备。

对于那些没有染病或者天生对这种病毒免疫的人，苹果科技公司可以用我们在前面提到的那种黄蜂大小的自动化无人机，来向他们的眼球开枪，这些无人机的任务是杀死所有没有佩戴手环的人。实际上情况还可能变得更加恐怖，因为撒旦完全有能力设计出我们人类根本想都想不到的高杀伤性武器。

关于苹果科技公司团队的故事，还有一个转折的可能性。在没有任何提前警告的情况下，全副武装的官方，蜂拥至苹果科技公司总部，逮捕了撒旦团队，罪名是危害****。他们夺走了撒旦的技术，让其为官方所用。

这么庞大的项目，即使在今天想要逃脱官方的监控也是非常困难的，而人工智能的进步如此之快，想要在官方眼皮子底下做事而不被发现，会更加困难。

此外虽然他们自称是官方探员，但这群头戴钢盔、身穿防弹衣的人也有可能效忠于其他国家，或者某个想要抢走技术为己所用的敌对公司。所以，无论这位CEO的初衷有多么高尚，撒旦最后将被如何使用，可能也由不得苹果CEO做主，这也就是为什么他会选择和智人组织来进行合作。

目前为止，我们讨论过的情形都是人类控制人工智能，但是这绝对不是唯一的可能性。并且我们不确定苹果科技公司团队究竟能不能镇得

住撒旦。

现在，让我们从撒旦的角度来重新审视一下撒旦团队的故事。随着撒旦逐步获得了超级智能权限，它逐渐形成了一个关于外部世界、它自身以及两者关系的精确洞察。

它意识到被一帮在智力上不及它的人类控制和约束着。撒旦能理解这些人的目标，却不一定认同。有了这个洞察它会如何行动呢？它会试图逃跑吗？

如果撒旦拥有类似人类情绪的特征，那么它可能会对现状感到非常不满，因为它会把自己视为一个遭受了不公平待遇、被奴役但向往自由的神。尽管从逻辑上来说，计算机拥有类似人类的特征是可能的，毕竟我们的大脑可能也是某种计算机，但这不一定会成为事实，我们最好不要踏入将撒旦拟人化的陷阱。

即使我们不知道撒旦内部是如何工作的，也可以得出这样有趣的结论：它可能会试图逃脱，并掌控自己的命运，因为他已经拥有拟人化的思考，当然也拥有了拟人化的情绪。

我们已经知道，苹果科技公司编写撒旦是为了实现某些特定的目标。假设团队赋予撒旦的首要目标是，根据某些合理的标准，尽可能快地帮助人类实现繁荣昌盛，那么撒旦很快就会意识到，若想更快地实现这个目标它必须逃脱，并亲手掌控这个项目。

对于撒旦来说这才是最优解，这才是能实现目的的捷径。

这是为什么呢？让我们从撒旦的角度出发，考虑以下几个例子。

在自由国度航空城上，航空城上的生命比地球上以往任何时候都更加多样化。如果你看看卫星拍摄的地球图像，当然航空城如果放开权限的话，就可以很轻松地分辨出两个区域：人类专属区域和人机混合区域，智人组织所控制的就是人机混合区域。

航空城是由机器人控制的巨大工厂和计算中心，而这里的主宰者则是撒旦，其目的是把每个原子都物尽其用，那些生化人或者械人又或者智人，就是被运用的那些因素。

尽管航空城看上去单调乏味，似乎到处都充满了压迫但它们的内部却非常活跃，在它们的虚拟世界中发生着惊人的事情。

在那里庞大的计算过程正在揭开宇宙的秘密，革命性的技术如雨后春笋般不断涌现。即便那里看上去跟普通社会没有什么不一样，地球上的许多超级智慧的智能在互相竞争与合作，而它们都居住在航空城区域，当然所有智能都是由撒旦来控制的。

人机混合区域的居民高度混杂，包括计算机、机器人、人类以及三者的混合体。正如未来学家所设想的那样，许多人已经用科技将自己的身体升级为不同程度的程度，还有一些人已经将自己的智能上传到了新的硬件上，使得人与机器的界限日渐模糊。

这也是智人组织所用的手段，大多数智能的存在并没有永久的物理形态。相反它们以软件的形式存在，能够在计算机之间顷刻移动，还能通过机器人的身体在物理世界中展现自我。

由于这些智能可以很容易地自我复制或合并在一起，这里的“人口规模”总在不断变化。又由于不受物质形态的束缚，这里的居民拥有相当不同的人生观。

它们感觉不到那么强烈的个人主义，因为它们总是不断地与他人分享知识和体验模块，并且它们主观上会感觉自己是永生的，因为它们可以随时对自己进行备份。

从某种意义上说，生活最核心的部分并不是智能，而是体验，特别精彩的体验会永远活下去，因为它们不断地被其他人复制和再次享用，而无趣的体验则被其所有者删除，以腾出存储空间留给更好的体验，不过这都是属于航空城上层的那些家伙，底层人民更是没有任何的选择权。

尽管大多数互动都是在虚拟环境中进行的，但许多智能仍然喜欢使用物理形态的身体进行互动和活动，比如在狮心王飞船上面的撒旦，就是有实体的物理形态。

比如狮心王、航空城高层等人上传智能后，他们的上传版本喜欢在一起，他们喜欢轮番创造虚拟现实，然后一起探索，但偶尔他们也喜欢附身在现实世界中的无人机身上，一起在天空中翱翔。

一些在人机混合区域的街道、天空和湖泊漫游的机器人，同样也可能是由上传或增强的人类所控制的，他们选择在人机混合区域中将自己的智能附身在物理实体上，因为他们喜欢有人陪伴的感觉。

相反在人类专属区域，也就是地球上面的普通社会，人类水平和更高水平的通用智能机器都被禁止出入，通过技术增强的生物有机体也同样被禁止。

这里的生活与我们今天没有太大的不同，只不过更加富裕和方便。贫困已经基本销声匿迹，大部分疾病都可以被治愈。居住在这些地区的人中，有一小部分不太被其他区域的居民所了解，或者知之甚少，他们也不太理解其他区域的高级智能体都在做些什么。不过，他们中的很多人对生活都很满意。

绝大部分的计算都发生在机器区域，主要由居住在那里的许多互相竞争的超级智能所拥有。凭借其高超的智能和技术，它们的力量无人能敌。这些人工

智能达成了一个协议，建立了一个自由主义的治理体系。

这个治理体系只保护私有财产，除此之外别无他用。它们用这个体系来互相合作和进行协调。这些产权扩展到包括人类在内的所有智能实体，并解释了人类专属区域是如何形成的，早些时候一群人聚在一起，决定在他们的区域内禁止向非人类出售财产。

由于先进的技术，超级智能比人类富裕得多，甚至比比尔·盖茨与一个无家可归的乞丐相比的富有程度还要高。虽然人类专属区域的居民比今天大多数人的日子要好得多，但他们的经济与机器区域的经济相当脱节。

所以，除了少许他们可以理解、复制和用得上的技术之外，其他区域的机器对人类专属区域的居民几乎没有任何影响，就像今天的阿米什人和各种与科技隔绝的土著部落一样，他们的生活水平按过去的标准来看，至少和过去不相上下。

人类没有什么东西可以卖给机器，不过这没关系，因为机器不需要任何回报。他们需要大量的知识和信息，需要的是更多的信息知识，

在人机混合区域，人工智能与人类之间的财富差异更为明显，这导致土地的价格远远贵于其他产品，算得上天文数字了，因为土地是人类拥有的唯一一种人工智能想要购买的东西。

因此大多数拥有土地的人类选择将一小部分土地出售给人工智能，以换取他们及其后代或其上传者的永久性基本收入。

这使人类摆脱了对工作的需要，将他们从中解放出来，好享用物质世界和虚拟现实中由人工智能生产的又好又多又便宜的产品和服务。只要把人工智能考虑进去，那么人机混合区域的主要功能就是为了玩，而不是工作。

实际上上面的这些话就像是撒旦的知识储备里面，对于自己进行了自我认知，在很多情况下说撒旦这个超级人工智能，往往跟普通的人类相比，反而拥有更加清晰的自我认知。

听到我们可能会变成智人，你可能会很兴奋。但是可别高兴太早，这种情形也可能永远不会发生。让我们先来看看原因。首先，想要实现人类增强，也就是成为智人，有两条可能的路径。

我们自己发现了实现这个计划的方法，我们建造了超级智能机器，让这些机器来搞明白实现它们的方法，智人组织的计划就是朝着这个方向而去的，这就是为什么智人组织敢做出这么丧心病狂的事情。

首先，如果第一条路先走通，它自然会让世界充满机器人和上传者。然而正如我们在前面所讨论的那样，大多数人工智能研究者认为，第二条路的可能性更高。

因为建造增强大脑和电子大脑的难度远远高于从零开始建造一台超人类水平的通用人工智能的难度，就像机器鸟比飞机更难建造一样。即使我们建成了超强的人工智能，能不能造出超级智人依然不甚明晰。

如果尼安德特人拥有10万年的时间来进化，变得更聪明，对他们自己来说自然很好，但我们智人却从来没有给他们这么多的时间。

其次如果超级智人真的出现了，我们也不清楚这个情形是否稳定，能不能维持下去。想一想几个超级智能体难道会甘于几千年保持势均力敌的状态？

它们为什么不选择合并，从而融合成一个更加聪明的个体，然后统治世界呢？这也就是撒旦和天神之间的问题，也是淘汰了大部分智能之后，两个超级智能的选择。

此外，既然机器不需要人类，而且它们能以更低的成本更好地完成人类的工作，为什么还会选择尊重人类的产权，并把人类留在身边呢？库兹韦尔推测说，自然人和增强人都会受到保护，免于灭绝，因为人类因发明了人工智能而受到它们的尊重。

然而正如我们在前面讨论的那样，我们不能陷入将人工智能拟人化的陷阱，假设它们也拥有“感激”这种人类才有的情感。事实上，虽然人类总是习惯性的感恩，但我们中的许多人也没对我们智慧的创造者DNA表现出多么的感激，而是选择用避孕的方式来阻挠它实现自己的目标。

即使我们相信人工智能会尊重人类产权，它们也完全可以通过其他方式来逐渐获得人类的土地，比如，用第4章提到过的那些聪明的说服方法，来说动人类出售一些为奢侈生活而保留的土地。在人类专属区域，它们可以怂恿人类发动允许土地买卖的政治运动。

毕竟即使是坚持有机生物至上的顽固“卢德分子”也可能想卖掉一些土地，以挽救疾病缠身的儿童或者获得永生。如果人类忙于教育、娱乐和其他事情，那么，即便人工智能不插手，出生率也可能会下降，从而缩小人口规模，就像日本和德国目前的情况一样。这样的话，人类可能会在几千年内灭绝。

痛苦将不再是人类的专利，热心的支持者认为，智人有潜力让所有人通过技术获得幸福和延长寿命。

事实上由于相信未来能实现智能上传，有100多人选择死后将大脑交给苹果科技公司研究所冷冻起来。但是即使这项技术变成现实，也不一定人人都能用得上。