(科幻)蚁群(14)

　　“怎么不出去走走呢？”
　　“我身体不好——免疫力比较弱。系统建议我尽量不要改变熟悉的环境，生活要保持稳定。”她叹道，“真羡慕你们这些有精力满世界跑的人啊。看来我这辈子都别想去火星了。”
　　“身体不好”。这个词让我一愣，因为它实在离我太遥远了……如今，一个人的一生从受精卵开始都受到系统的照料，每个人都天生健康，享受着个性化的医疗服务。除了不可避免的衰老、意外受伤、因不听系统建议而由不良习惯导致的疾病，很少听说有谁先天“身体不好”。
　　“不是什么严重的问题。”她看出我的诧异，解释道，“只是比平均水平弱一点而已。谁叫我老妈不顾系统警告的风险，那么大年龄了还要生我。结果生下一个严重浪费社会医疗资源的婴儿，积分都快跌到底了——幸好我从小比较聪明，算得上对社会有用的人吧，又帮她把分值拉回来了。”
　　听她以一种调侃的语气讲述自己的不幸，我一时不知如何回应才好。只能转移了话题：“其实别的地方也没什么好玩，到处都跟501城一模一样。”
　　“我知道。虽然没有亲自去过，通过虚拟城市也差不多算是身临其境了吧。说起来，现在这个世界要是还有什么独特的地方，那大概只剩无人区了。”
　　“哈哈，是的。那些‘虫穴’确实与众不同。”
　　“嘘。”她打断了我，“吃饭就不要讲杀人的事了吧。”
　　“那些已经不是人了，她们与全人类为敌，是反人类分子。”
　　“原来如此。”她点点头，突然兴奋地看向窗外：“快看，湖里好多船！”
　　“嗯，今天有帆船比赛。”我说，“雨季难得天晴，市民们都在室内闷坏了。”
　　“白天没意思，还是晚上好玩。我从来不在白天去湖边。”
　　“为什么？”
　　“白天的湖水看起来太清了。晚上黝黑一片，才像真正的湖。”
　　“这又是什么道理？”我笑了，“第一次听到有人嫌湖水太清的。”
　　“这湖以前不是这样，虽然水质也很干净，但有泥沙，有一种黑乎乎的鱼。马拉维人在湖边洗碗、洗衣服，甚至洗马桶。而现在，它除了清澈的水，什么也不剩了。”
　　“虽然没有鱼了是很可惜，但没有人类的污染物，怎么看也算是好事吧。”
　　“不只是没有鱼，连浮游生物都很稀少了。”她显得有些黯然，“要想看清澈透明得没有一丝杂质的湖水，北半球可多得是。水中的生物都死掉了，变成没有生命的死湖，自然就干净得纯粹了。生命本身就是肮脏和混乱，唯有死亡和虚无，才是一尘不染。”
　　她总有种种奇谈怪论，我已经不以为怪了。只是笑道：“这话你应该说给ε-Rei听。她恨不得我们越透明越好。”
　　“别理那老家伙，那是有名的一根筋，说话冲得要命。”她说，“还好她活在现在，只需要安心做研究就好了。这种性格的人要是在上个世纪，哪里都容不下她，还能让她做市政委员会的委员？”
　　“对了，你刚才说有支持我的证据，是什么呢？”
　　“其实我也对分析人的思想挺感兴趣。”她的眼睛亮了起来，显露着那种能让人着迷的活泼神采，“我读过ε-Rei的一些论文，她的思路整体上是没问题的。只不过，她以为能够解读人脑的一些意识，就意味着很快能做到监控一个人的全部思想；以为现在暂时做不到只是因为数据不足——这真是太盲目乐观了。就算给她一个人脑接收到的全部数据，她还是有个问题无法解决。”
　　我点了点头，说道：“黑箱。 ”
　　【注：目前的机器学习系统就是“黑箱”，也就是说它可以得出最优策略，但这些策略是怎么来的，却隐藏在神经网络系统的内部参数（神经网络突触权重）中。研究人员无法用数学方程表达神经网络的内部结构。但人们相信这个黑箱是可以解读的，并且也已经作出了一些解读。本文设定人类已经可以解读系统，系统不存在黑箱问题；但人脑依然是黑箱。】
　　“对。就算她知道一个人经历过的一切，也知道她最终产生了什么思想，但是怎么解读输入和输出之间的过程呢？比如说我们人人都知道，同样看一场电影，有的人想到了这个，有的人却想到了那个——到底是什么决定了她们思想的不同？”
　　“可是，ε-Rei可是神经科学的专家，我们都能想到的问题她怎么会想不到？”
　　“我也奇怪过。但后来我明白了，她其实是被我们数据中心的工作误导了——她觉得系统比一个人的大脑复杂千亿倍，既然系统都能被解读，不再存在黑箱问题，大脑怎么可能永远是黑箱？”
　　“诶……这么一说，好像是这样啊！”
　　“我以前也这么想，觉得人脑黑箱的破解只是时间问题，现在只不过是技术不成熟而已。但是后来，我做了一个实验，发现并没有这么简单。”
　　我的好奇心已经达到了极致。这一刻，窗外的湖和白帆、身旁穿梭不停的服务机器人，都好像消失了。宇宙中只剩这张小桌，和她即将揭示的谜底。
　　“人脑太复杂了。它的运作机制是2的1000次方次可能的意识量子流。我没法复制所有神经元的空间连接，每一个神经元中的生化反应，细胞质中的基因表达，细胞膜上的量子运动，以及所有这一切之间的联系。所以我想，干脆就忽略生物因素吧。可以做一个简化版的人脑——机器的神经网络就要单纯得多，一切都能以代码的形式来解读。我想试试，搭建许多神经网络，组合成一个模拟大脑。再给这个模拟大脑输入一个人一生所接触到的数据，它会不会输出和这个人相近的思想呢？”
　　“等等。”我打断了她，“这也太复杂了吧？”
　　“也还好。计算神经科学已经对人脑的算法研究得很深入了。参数和架构都有现成的，我只是忽略了生物物理基质而已。”
　　“我是说，输入的数据太复杂了。就算你有一个人的全部人生记录，可是大脑的特点是能够选择性地接收一些信息、忽略另一些，你怎么确定那个人的大脑曾经接收过哪些数据呢？”
　　她狡黠地一笑：“我只管给它‘喂’人生记录的数据，它自己决定取舍。这不是更像真实的人生么？”
　　我明白了。示意她继续说下去。
　　“当然，这种模拟是很不严谨的——计算神经科学的专家可不会这么胡搞。没有生物基质就是个很大的漏洞。人脑的活动始终受遗传和生理因素影响，而且其生理条件是动态的，一生中随时都在变化，而这些我没有模拟。而且，机器智能和人类智能毕竟是有差异的，比如说，我们可以把触觉的生物电转化成数据输入机器，但机器对‘触觉’的‘感受’是否能和人类完全相同，这就很难证明了。而用作模板的人生记录，也毕竟不可能达到100%完整，一个人的一生中总有些事件和感受被系统遗漏掉了，而这些遗漏的信息可能才是决定她思想与性格的关键因素。还有，人感受到的外界信息其实只是人生的一小部分，大脑的自主活动，也就是我们平时无所事事的幻想，躺在床上、坐在窗前什么也不做时突然闪现的念头，才是人生更重要的部分，而这部分，是系统记录不到的。”
　　“其实我也没想真的做出什么结果。我就是弄着玩儿，好奇。我用了矫正所的一个样本，那是一个新勒德分子。我把她的全部人生记录输入模拟大脑，想看看它会不会也萌生出要把数据中心炸掉的念头……可最后的结果让我很惊讶。”
　　【注：勒德分子：原指十九世纪初英国手工业工人中参加捣毁机器的人。比喻强烈反对机械化或自动化的人。】
　　“怎么啦？”我打趣道，“你的模拟大脑觉悟高，变成了技术至上派？”
　　“不不，这种模拟太粗糙了，所以输出的基本是一堆乱七八糟的东西，类似于精神病人的呓语。”她说，“但是，一个奇怪的现象出现了。”
　　“什么？”
　　“我把模拟大脑的参数和架构复制了多份，又把这实验重复了几次，最后都只得到胡言乱语。但通过对这些胡言乱语的分析，我发现，它们竟存在思想倾向上的明显差异。我又对照了全球管理会发布的最新政治光谱，发现这些模拟大脑的‘思想’竟然可以分布在从极左到极右的宽广区域中。也就是说，即使我严格控制变量，对于同样的神经网络，每一次输入相同的训练集，最后却依然会得到差异极大的结果。”
　　我咀嚼着她的话，感到一种震撼像水面的涟漪一样缓缓在我脑海中扩散开来。
　　“你的意思是，在输入某些数据，和输出某种‘思想’之间，可能存在一定的偶然性？”
　　“没错。用科学术语说叫‘概率’，用古人的话说叫‘命运’。”
　　我陷入了沉默。这也就是说，一个人之所以成为反人类分子，有可能不怪遗传因素，不怪童年阴影，也不怪任何思想的影响，完全就是一种偶然而已。
　　而且，真实的人脑比模拟大脑复杂得多，其中的偶然性更是难以想象了。
　　“是不是难以接受？”她目光灼灼地看着我，“是不是就像以前的人第一次听说引起癌症的不仅是遗传因素、生活习惯、有害物质，很多时候仅仅是细胞中的一场偶然？”
　　“你……有继续研究下去吗？”
　　“没有。我毕竟不是做计算神经科学的。”她说，“我把这个结果给一些神经工程院的朋友说了，可她们并不是很重视——她们还忙着探索大脑活动呢，连思想还无法完全解读，哪里顾得上去管思想的来源。”
　　我叹了口气，心中有种莫名的怅惘。虽然我早就知道解读人脑“黑箱”很难，但我依然相信它是可以解开的。可如果偶然性真的在思想的形成过程中扮演了这么大的角色，我们该怎么追寻漏洞的根源？
　　她轻松地笑了：“别伤感啦，绝大多数反人类分子还是有原因的，就像绝大多数癌症一样。我的实验毕竟很简陋，没准多实验几次，也会发现一些规律。”
　　我说：“我觉得你应该申请进行一次大型研究。”
　　“唉，还有很多基础问题都没解决，现在做这个研究意义不大。我只是弄着玩儿。”她把叉子轻轻放下，“你这么感兴趣，要不要去我办公室看看那次实验的记录？”