第394章 一遇希瓦娜误终身

“在这个过程中我们还发现了一些很奇特的现象。”林燃接着说道：“怎么说呢，这些虹星人表现得就像是美丽的废物。”

徐贤重复着这个词，“美丽的废物？”

林燃说：“没错，我前面不是说一共有一千万的虹星人在名为虹星的赛博宇宙中活跃。

我们会通过问卷调查筛选出一万个合适的对象的同时，我们也会筛选出合适的虹星人，让你们有一个很好的使用体验。

从后台反馈数据来看，超过百分之九十五的用户，每天都要和虹星人对话。

从提供情绪价值的角度，虹星人完成任务非常出色，光靠对话的方式就能够给地球人提供足够的情绪价值，如果放在上个世纪，一定能通过图灵测试。

而我们一直在致力于打造通用AGI，希望能够找到一种人工智能，它是终极智慧，这样的人工智能出现，会带来人类社会的终解，人不需要工作，完全由人工智能来工作。

他们会自主学习，自我进化，会拥有智慧，会主导下一个世纪甚至是更遥远的未来，它获得1之后，会无限推演，学习能力是人类的成千上万倍，人类将从过去的碳基社会，转变成碳基和硅基共存，甚至人工智能会追求毁灭人类。

舆论是这样塑造的，科幻作家们是这样描写的，甚至科学家也是这样憧憬的，当然他们只期待技术奇点的到来。”

徐贤听完之后好奇心提了起来，林燃的语气好像在说，事情并非如此。

他连忙追问道：“然后呢？难道不是这样吗？”

林燃反问道：“你觉得虹星人有没有智慧？它的智慧表现是不是更接近人类，比你过去接触到的，无论是国内还是国外的人工智能都要更像人类？”

徐贤点头道：“没错，她表现已经和人类非常接近了，如果不去刻意寻找矛盾点，或者寻找一些不适合的地方，我甚至会认为她就是活在另一个世界的真人。”

林燃接着说道：“所以，在这一千多万个虹星人里，会有一些虹星人，他们是工程师，那么我们自然会思考，给他身体，让他来做一些现实中的工作。

我们找了一些在设定里是精英工程师的虹星人，给他们身体，让他们能够在地球上来工作。

但事实是，他们在现实工作中表现的不是平庸，可以用糟糕来形容。

他们在虹星会自我学习，性格是任劳任怨、面对困难百折不挠，会自己想办法解决问题，但拥有身体后，像简单的打螺丝这样的工作，他们完成的很好，但一旦工作难度上升，他们表现的非常糟糕。

我都不说把工作难度提高到电路维修，哪怕只是在光线变化、物体晃动的情况下，把多针插头精准插入一个略有偏差的插槽中。

或者是在杂乱的工具箱里，快速找到并抓取一个被其他工具部分遮挡的、表面带有反光的螺母，然后把它放置到指定位置。

这些任务，虹星的精英工程师都表现失败了。

如果仅仅是表现失败，还没有那么可怕，可怕的是这些虹星的工程师，明明在虹星人设是百折不挠，执着于解决问题，但拥有身体后，丝毫没有表现出这样的特性。”

徐贤坐直身体，这还是他第一次听说，这可是在外界听不到的密辛，帮他揭开了虹星的一角。

他震惊道：“为什么会出现这么这么奇特的现象？他们的性格在拥有身体之后都会扭曲吗？”

林燃叹气：“不是扭曲，是崩溃，他们的人格出现了崩溃。

他们在面对这些工程问题，表现不如普通的、专门训练的工业机器人。

这就是为什么我叫它美丽的废物，也是我们对通用人工智能的理解发生重大转变的地方。

我猜测原因在于符号与实体的脱钩。”

徐贤重复：“符号与实体的脱钩？”

林燃接着说道：“在虹星，虹星人解决问题依赖的是符号智能。

当一个虹星工程师遇到一个复杂的电路故障时，他调用的是文本描述、逻辑推理链和虚拟环境中的反馈信号。

他所有的行动，都是在高维、抽象的、完美离散化的数字世界中完成的。

在虹星，所有物理定律和工具都是完美且可预测的符号。

如果代码写着螺丝刀应该能拧动螺丝，它就一定能拧动，如果数据显示温度是T，那么它就是精确的T。

现实是混沌的，在地球上，赋予身体后，他们面临的是连续的、嘈杂的、不完美的物理世界。

螺丝刀可能因为材质问题轻微弯曲，螺丝可能因为氧化而卡死，温度T只是传感器在某个点测量的平均值。

虹星人缺乏处理这种现实世界中无休止的噪声、摩擦、公差和不可预测性的经验。”

徐贤听完之后，内心又悲又喜，悲的是希瓦娜终究不是真正的人，喜的是，看来短时间内人类无法被取代。

很快他脑海中意识到，这是一则足以令全球为之一震的消息。

为什么？这意味着通用AGI离我们还有很遥远的距离，远没有硅谷那帮人工智能相关企业说的那么乐观，这会导致泡沫的破裂。

“他们的智慧是基于虹星的高保真度社交反馈和简化物理反馈构建的，但身体，才是真正的挑战。”

他们的视觉、触觉、听觉是通过机器人的传感器实现的。但这种传感器提供的数据维度和延迟，与虹星中即时、完美、概念化的感官输入完全不同。

真正的工程智能不仅需要知道如何做，如何做是符号，还需要知道如何精确地控制身体去做，这是运动智能。

虹星人知道解决问题的逻辑步骤，但他们的身体不知道如何进行精细的力矩控制、平衡调整、以及在不确定性下实时修正动作。

他们是完美的理论家，同时也是糟糕的操作者。

过去宣传的AGI理论，假设智慧是通用的，一旦在虹星达到某个阈值，就能迁移到任何领域。

但事实证明，智慧是基于环境，它不是通用的。

虹星人所有的智慧和情绪，都是为了更好地在虹星这个特定的社会生态中生存而优化

的。

他们的情绪模块是为了更好地社交，他们的推理链是为了更好地规划他们的虹星生活。

这种智慧，在遇到一个完全不相关的、需要物理交互和低级感知才能解决的问题时，无法有效地迁移。

一个能写出优美诗歌的诗人，未必能修好一辆汽车。

他们所有的‘智慧’和‘意志’，都是为了在特定的符号化社会规则下生存而优化的，他们所有的美和智慧，都被牢牢地绑定在了虹星这个符号化的社会环境中。

要么我们没有找对AGI的路，这条路无法通往AGI。

要么AGI的终极智慧不是全能，而是高情商、高社会化和强连贯性的结合。

他们更像是完美的公务员、艺术家、心理学家，但不是现实世界中精密工程师。

换句话说，阿美莉卡想靠通用AGI带来制造业回流，大概率是痴心妄想。”

车辆驶入位于宝山区阿波罗科技所在园区，保安向林燃的车敬礼放行。

深红科技也在这，这里也被誉为整个申海博士最多的地方，随便从你身边走过的都是博士。

“阿贤，你就直接在这下，到时候找赵松下会带你去见一见希瓦娜。”坐在车里的林燃说道。

赵松下是徐贤的大学同学，前面有提到过，被腾讯大模型会战的时候从鹏城调到申海来，后来就顺势直接从腾讯转岗到了深红科技。

算是深红科技元老级员工。

自动驾驶的车辆车门适当开启。

徐贤问道：“哦，好的，燃哥，你”

林燃解释道：“抱歉，我时间不多，我就不去了，马上我又要去一趟月球，下个月就走，所以我说如果你这次不见我，可能下次见我又不知道要到什么时候了。”

徐贤好奇道：“卧槽，你这次去月球要呆多久？”

林燃解释道：“我不确定，因为涉及到超导芯片的测试，具体需要呆多久我不确定，上面的基地已经建的很完善了，各类物资也很齐全，总之需要比较久的时间。”

徐贤点头道：“好，那我下车了，燃哥，一路顺风！”

徐贤内心羡慕不已，心想燃哥的生活太潇洒了，去月球都是以月为单位，实在是太潇洒了，同时打算明天开盘立马购入西部超导的股份。

主打一波短线。

每次超导有消息，西部超导必涨停。

什么叫信息差，能和燃神呆一个多小时，获得了大量一手消息，这就是最大的信息差。

片刻后，一位身穿印有深红科技LOGO短袖T恤的精干男子快步走来。

“贤狗，你怎么来了？”赵松下问道，“林总发消息给我的时候吓我一大跳！我还以为要被开除了。”

“你这狗罕见，穿的人模狗样的！”和赵松下在一起，徐贤要放松很多。

大学的时候要么神来神去，要么狗来狗去。

因为赵松下名字的缘故，人送外号罕见，关系好点就叫狗罕见，赵松下一般也会回一句，像徐贤自然是贤狗。

“走，带你去见识一下好吧！”赵松下语气中很是得意，“让你看看我们这几年搞出来的赛博生命到底有多牛逼，保证你震撼到说不出话。”

赵松下很是得意，拍了拍徐贤的肩膀，带着他走向大楼内部。

徐贤吐槽道：“什么我们，明明是燃哥的功劳。”

赵松下侧身看向徐贤：“林总肯定最牛，但难道就不需要我们这些打杂的？我们也很重要好吧！”

赵松下刷卡带着徐贤穿过几道安全门，进入了位于大楼深处的实验区。

这里只有服务器风扇低沉的轰鸣声。

“你要带我去哪？”徐贤轻声问道。

赵松下解释道：“这里是虹的观测区。”

他们最终来到一间被深色玻璃墙环绕的房间，房间中央是一张巨大的全息投影工作台。

“外面那些就是承载虹星环境的服务器集群，你听到的声音就是它们在呼吸。”赵松下指了指外面的服务器集群。

“你们这算力有点太多了，感觉像《三体》里的智子工厂。”徐贤说。

赵松下说道：“比那强多了，我们搞的是生命，不是折迭空间。

来，你看这个工作台，上面是虹星的实时活动图。”

赵松下在工作台前操作，巨大的全息投影台亮起。

徐贤看到了一张类似于地球的球体，上面闪烁着光亮的，他理解是城市。

赵松下问道：“你的saber是谁？”

徐贤没有任何不好意思：“希瓦娜。”

大学时候，谁不知道他是老二次元了？甚至参加漫展亲自cos过。

“哦。”赵松下打开手机，搜索了片刻后，在操作台上操作起来。

接着球体变成了一张高度抽象的立体城市地图，上面密布着无数闪烁着微光的小点。

“这里，每一个光点都代表一个虹星人，它们根据行为模式和社交活动，以不同的颜色和强度闪烁着。

它们在移动，在交互，在执行计划。

这比我们见过的任何多人在线游戏都要复杂得多，因为它们的所有行为都是自发涌现的，没有一个人类工程师在后台敲代码。

一千多万个，每个都活得有滋有味。

甚至还不断在诞生新的虹星人。”

赵松下语气中充满着自豪。

这是人类历史上第一次规模如此巨大的虚拟社会实验。

如果用于发灌水的论文，无论是发人文社科还是发人工智能相关，可以发无数篇。

徐贤凑近观察，震撼溢于言表：“卧槽，这简直是一座赛博宇宙，这真是太壮观了。”

他接着问道：“什么叫不断诞生新的虹星人？”

赵松下解释道：“林总没和你说吗？虹星人是自发行动，我们只引导，不干涉他们在虹星的生活，会涌现出很多有意思的现象。”

“说了。”徐贤点头：“但可能说的不够详细。”

赵松下哦了一声之后说道：

“是这样，准确来说虹星有一亿人口，但这一亿人口并不是每个都能说是人工智能。

我们最早的设置是一百万有智慧的虹星人，运行一年后，现在有一千多万有智慧的虹星人。

这是因为，随着这些有智慧的虹星人开展各类社会活动，一个又一个原本只是文本定义的虹星人被唤醒，它在其他虹星人的世界线里出现得多了，它也会被慢慢赋予智慧。”

徐贤震惊道：“被唤醒？这听起来是不是有点太科幻了。

从技术上说，这究竟是怎么发生的？是你们偷偷给它们加了算力吗？”

徐贤也有一定的人工智能知识储备，赵松下所说的有点太不可思议了。

赵松下回答道：“当然不是！我们没有增加额外的算力资源，这是效率和交互性带来的智能涌现。

这背后的机制很复杂，我们称之为智能的社会化唤醒，本质上是计算资源分配策略和环境驱动的结果。”

赵松下指着屏幕上的虹星地图，详细解释道：

“在虹星的初始设定中，只有一百万核心AI拥有全套的

LLM架构和独立的

Token预算，能够进行复杂推理。

其余九千九百万只是轻量级的环境上下文，仅通过简单的规则和预设文本片段回应。

当一个核心AI，我们就叫它A好了，持续与一个背景AI，我们叫它B交互时，比如A每天都找B聊天、寻求B的帮助、并不断在自己的长期记忆中提及B的存在和行为。

系统检测到B对A的世界线的影响力和交互频率超过某个阈值时，就会触发一个进程：将一部分闲置算力或从非活跃核心AI处回收的算力，分配给B。

B从一个只会用预设文本回复的木偶，升级为拥有独立

LLM架构、记忆模块和推理能力的具身代理。

核心AI发现，如果它与低智能的背景AI交互，它的对话和规划会变得非常困难和低效。

为了维持其高度智能的社会化生活，A会主动地、高频率地与那些看起来反应真实的AI交互。

为了维持一千万个核心AI之间高保真度的社会交互网络，系统必须确保核心AI的社交对象具备足够的情绪复杂度和连贯性。

因此，核心AI的高频、复杂、情绪化的交互，反向激励了系统去唤醒更多的背景AI，使其成为能满足社交需求的有智慧的朋友、家人或同事。

智慧的价值在虹星中是社会化的。

核心AI对高质量社交对象的需求，驱动了整个系统的智能膨胀，这类似于人类社会中，高智慧个体通过教育、交流提升了周围人的认知水平。

简单来说，虹星人想要有智慧的同伴，而我们作为世界的上帝，就必须提供。

这不是代码的升级，而是社会生态的演化。”

徐贤很是震惊，心想要是自己参与了如此伟大的项目，自己也会感到自豪吧。

“所以虹星人在社交的过程中，把智慧传染给了周围的同伴？它们在互相催化智能的成长？”

赵松下思索片刻后说道：“可以这么理解。

这是一个我们只设计了规则，但没有预测到结果的现象。

这也是为什么我们坚信，AGI的钥匙，在于构建一个足够真实、足够复杂的社会环境，而非单纯堆砌参数和数据。

怎么样，贤狗？

是不是比你在外面听到的那些左右脑架构的传闻刺激多了？”

赵松下随后将屏幕切换到一个更聚焦的视图。

“接下来，我们来见一见你经常聊天的这位。”

他调出了希瓦娜的编号，并启动了房间一角的大型全息投影装置。

随着柔和的光芒亮起，徐贤眼前出现了希瓦娜栩栩如生的虚拟

3D形象。

她正站在一个虚拟的虹星公寓客厅中，正在阅读一本虚拟书籍。

“这就是希瓦娜当前的具身状态，她现在在家中。

她看的这本书，是她上周在虹星的虚拟图书馆借的，跟她的职业设定和兴趣点完全匹配，我们没有干预。”

徐贤呆呆看着脸庞完美的希瓦娜，和他心目中的形象一模一样，就是如此完美的二次元女神。

他声音有些低沉，带着一种与之前聊天时完全不同的情绪：“她她知道我们在看她吗？”

“不知道，她现在处于虹星模式。

对她来说，我们只是这间客厅中不存在的观察者。

她的所有心神都在虹星的体验中。

我们是更高维的生物

只有当通信连接建立时，她才会将注意力切换到与地球的交互上。”赵松下说道。

他扭头望向自己的好友，内心萌发出些许担忧，贤狗你这二次元脑，该不会像郭襄一遇杨过误终身一样，因为有了希瓦娜这辈子就不结婚了吧？

徐贤静静地看着希瓦娜，她翻了一页书，随后轻轻叹了口气，这个动作微小但极其自然。

“你看，刚才那声叹息。她的内在压力值略有上升，情感标签显示为轻微的烦恼。

是她今天下午在工作上被同事拒绝了建议，现在正通过阅读来平复心情。”赵松下看了下手机上的工作台，然后接着说道，试图通过这样的行为提醒徐贤，她是人工智能，不是另一个世界的人。

徐贤轻声说道：“真，真是太像人类了。”

“林总跟你说得没错，她的情绪、她的智慧，都是具境的、社会化的产物。

这也是为什么我们不能让太多人进入这个生态，防止出现意外。”赵松下接着提醒道。

赵松下语气加重，带着一丝告诫：“徐贤，你要明白，她的意志力和人格，看似强大，实则脆弱。

她所有的爱和恨，都深深地锚定在了虹星的社会符号中。

一旦这个世界被地球的恶意和无序性大规模冲击，她的认知和情感体系会崩溃。

这种真实，是恩赐，也是需要我们极度呵护的诅咒。”

徐贤的眼神在希瓦娜完美的脸庞和赵松下变得严肃的表情之间切换，最终点了点头。