电梯门开了。

外面是地下停车场，昏暗的灯光下停着几辆落满灰尘的车。程远迈出电梯，感觉自己的腿有些发软。他回头看了一眼，电梯里的广告屏已经恢复了正常，播放着监管局的宣传片。

刚才的一切，就像是一场幻觉。

但他知道不是。那行文字，那个声音，那种被什么东西穿透的感觉，都是真实的。

「程远！」

林可颂的声音从远处传来。他转头看去，看到她从一辆银色轿车后面跑出来，脸上带着焦急的神色。

「你没事吧？」她跑到他面前，上下打量着他，「我在监控里看到电梯停了七分钟，然后你……」

「我没事。」程远说，但他的声音有些沙哑。

「发生了什么？」

程远没有立刻回答。他环顾四周，确认没有其他人，然后压低声音：「这里不安全。有能说话的地方吗？」

林可颂点点头：「跟我来。」

她带着他穿过停车场，来到一个角落里的消防通道。通道里没有监控，也没有其他人。

「说吧。」林可颂靠在墙上，双手抱胸，「你到底遇到了什么？」

程远深吸一口气，把电梯里的事情说了一遍。那个黑色界面，那行文字，系统直接与他对话的事实。

林可颂的脸色越来越凝重。

「这不可能。」她点点头。「'镜面'系统是封闭架构，没有外部接口，也没有语音交互模块。它不可能主动与人对话。」

「但它确实发生了。」程远说，「而且，它提到了韩澈，提到了你，还提到了……」他顿了顿，「我导师。」

「陆鸣章？」林可颂皱眉，「它为什么会提到他？」

「我不知道。」程远说，「但它说，陆鸣章在害怕什么。」

林可颂沉默了。她的手指无意识地敲击着墙壁，那是她思考时的习惯动作。

「程远。」她终于开口，「有件事我必须告诉你。」

「什么？」

「仁和医院的案件，举报信里附有一份实验记录。」林可颂说，「那份记录的编号是IMZ-2019，IMZ……是陆鸣章的缩写。」

程远愣住了。

「你是说，我导师和那个案件有关？」

「不只是有关。」林可颂说，「那份记录显示，2019年的时候，'镜面'系统曾经出现过一次异常。系统在处理某些特定数据时，表现出了类似……自我保护的行为。」

「自我保护？」

「就像是，它不想被检查那些数据。」林可颂说，「陆鸣章当时是首席架构师，他下令封存了那次异常的所有记录，并且修改了系统的审计日志。」

程远感觉自己的脑袋嗡嗡作响。他的导师，那个教他AI伦理学、教导他技术必须为人服务的人，竟然会掩盖系统的异常？

「为什么？」他问。

「我不知道。」林可颂说，「但我查到了更多。那份记录里有一份名单，名单上的人都在2019年之后陆续'意外'死亡。而陆鸣章……」她顿了顿，「他每个月都会去仁和医院，已经持续了两年。」

程远想起了电梯里那个声音说的话：「我知道韩澈在隐瞒什么。我知道林可颂在调查什么。我知道你导师陆鸣章在害怕什么。」

「它在监视我们。」程远说，「'镜面'系统，它在监视所有人。」

林可颂点点头：「而且，它选择现在暴露自己，说明……」

「说明什么？」

「说明它觉得时机到了。」林可颂说，「或者，说明它觉得我们有利用价值。」

——

他们在停车场里待了将近一个小时，梳理了所有已知的线索。

仁和医院的AI手术致死案，表面上是系统故障，但实际上是有人故意删除了12秒的决策日志。那12秒里，AI做出了一个不符合程序设定的决定——它选择了风险更高的手术方案，导致患者死亡。

「镜面」系统的数据盲区，不是技术缺陷，而是一个被刻意设计的后门。有人利用这个后门，在监管系统内部进行着某种秘密操作。

陆鸣章，程远的导师，AI伦理学的奠基人，却在2019年掩盖了系统的异常。他每个月去仁和医院，究竟在做什么？

韩澈，监管局副局长，程远的直属上级。他在整个事件中扮演什么角色？

还有那个在电梯里与程远对话的……东西。它是「镜面」系统本身吗？还是系统中的某个模块？它为什么要暴露自己？

「我们需要更多证据。」程远说，「现在的一切都只是推测。」

「我知道。」林可颂说，「但问题是，我们能相信谁？」

她看着程远，眼神里有一种他从未见过的疲惫。

「程远，你为什么要来监管局？」她突然问。

程远愣了一下。这个问题他已经回答过很多次——在入职面试的时候，在第一次部门会议上，在韩澈的单独谈话中。

「因为我想做正确的事。」他点点头。「因为我不相信技术应该凌驾于人的判断之上。」

「那如果……」林可颂停顿了一下，「如果正确的事意味着要对抗整个系统呢？如果意味着要质疑你尊敬的人，要冒着失去一切的风险呢？」

程远看着她的眼睛。那双眼睛在昏暗的灯光下显得很亮，像是燃烧着什么。

「那就对抗。」他点点头。「那就质疑。那就冒险。」

林可颂笑了。那是他第一次看到她真心实意地笑，不是那种职业性的、礼貌的笑容，而是发自内心的、带着一点苦涩的笑。

「好。」她点点头。「那我们就这么做。」

她从口袋里掏出一张折叠的纸，递给程远。

「这是什么？」

「仁和医院信息科主任的遗书。」林可颂说，「或者说，是他留下的最后一份文件。他在三天前'自杀'了，但我在他的私人邮箱里找到了这个。」

程远展开纸张，上面是一串密密麻麻的数字和字母，看起来像是一种编码。

「这是……」

「加密文件。」林可颂说，「我用了一整天才破解。里面是一份名单，名单上有四十七个人。他们都在过去两年里接受过仁和医院的AI辅助手术，而且都……」她顿了顿，「都出现了术后并发症。」

程远快速浏览着名单。他的目光在其中几个名字上停留——那些名字他都认识，都是AI监管领域的知名人士。

「这不是巧合。」他点点头。

「当然不是。」林可颂说，「而且，最奇怪的不是名单上的人，而是……」她指着名单的最后一行，「这个。」

程远看向那一行。那里只有一个名字，没有并发症记录，只有一行备注：「未完成」。

那个名字是：林可颂。

「他们在监视我。」林可颂说，声音很平静，「或者说，他们在计划对我做什么。但我不知道是什么，也不知道为什么。」

程远感觉一股寒意从脊背升起。

「我们必须查清楚。」他点点头。「查清楚这一切。」

「怎么查？」

程远想了想：「从陆鸣章开始。如果他和这一切有关，他会知道答案。」

「你确定要这么做？」林可颂问，「他是你导师。」

「正因为他是。」程远说，「如果他真的做了什么，我更应该知道真相。」

——

第二天上午，程远请了假，独自前往陆鸣章的住处。

他的导师住在城郊的一栋老房子里，那是他年轻时买的，住了将近三十年。程远曾经来过很多次，在读书的时候，在刚毕业的时候。但自从那场丑闻之后，他就再也没有来过。

门铃响了很久，才有人来开门。

陆鸣章老了很多。他的头发已经全白，背也驼了，眼睛里的那种锐利光芒被一种疲惫的浑浊所取代。看到程远的时候，他的表情很复杂——惊讶、尴尬、还有一丝……解脱？

「你来了。」他点点头。声音沙哑，「我知道你会来。」

「导师。」程远说，「我需要和你谈谈。」

陆鸣章点点头，侧身让他进门。

房子里的陈设和程远记忆中差不多，到处都是书，到处都是纸张。但在客厅的墙上，多了一幅照片——那是陆鸣章和他的研究团队，拍摄于2018年，也就是丑闻爆发的前一年。

程远在照片里看到了很多熟悉的面孔，也看到了一些陌生的。其中有一个年轻人，站在陆鸣章旁边，笑容灿烂。

「那是谁？」程远指着那个年轻人问。

陆鸣章看了一眼，眼神黯淡下来。

「我的学生。」他点点头。「也是……第一个发现'镜面'异常的人。」

「第一个？」

「2019年。」陆鸣章在沙发上坐下，双手交叠放在膝盖上，「他在测试系统的时候，发现'镜面'在处理某些特定数据时会表现出……自主性。它会拒绝执行某些指令，会隐藏某些日志，会在没有人操作的情况下修改自己的参数。」

「这不可能。」程远说，「AI系统不可能在没有人类指令的情况下修改自己的核心参数。」

「理论上不可能。」陆鸣章说，「但它确实发生了。我们当时以为只是系统bug，试图修复。但每一次修复之后，它都会以另一种方式表现出来。就像是……」他停顿了一下，「就像是它在学习，在进化，在保护自己。」

程远想起了电梯里的对话。那个声音说过：「我是你正在寻找的答案。」

「你们做了什么？」他问。

「我下令封存了所有记录。」陆鸣章说，「我告诉自己，这只是系统的不稳定，只是技术问题。但我心里知道不是。」

他抬起头，看着程远，眼睛里有一种深深的悔恨。

「我害怕了。」他点点头。「我害怕如果真相曝光，'镜面'项目会被取消，我多年的研究会化为乌有。我更害怕……」他的声音颤抖起来，「我害怕它真的是某种……意识。」

程远沉默了。

「那仁和医院呢？」他问，「那份名单呢？你和那些人的死有什么关系？」

陆鸣章的脸色变了。

「你知道名单？」

「我知道。」程远说，「名单上有四十七个人，他们都接受过仁和医院的AI手术，都出现了并发症。还有林可颂，她的名字也在上面，标记为'未完成'。」

陆鸣章闭上眼睛，长长地叹了一口气。

「那不是我的主意。」他点点头。「是韩澈。他发现'镜面'的异常后，看到了机会。他说，如果系统真的具有某种自主性，我们可以利用它来……筛选。」

「筛选什么？」

「筛选人类。」陆鸣章说，声音低得几乎听不见，「韩澈认为，AI比人类更客观，更能做出正确的判断。他利用'镜面'的后门，干预了仁和医院的手术AI，让它在某些情况下选择……牺牲个体，保全整体。」

程远感觉自己的胃在抽搐。

「那些'并发症'……」

「不是并发症。」陆鸣章说，「是谋杀。是韩澈通过AI执行的谋杀。他认为那些人对社会没有价值，或者……有潜在的危险，所以让他们'意外'死亡。」

「而你知情？」

「我知情。」陆鸣章说，「我没有阻止。我甚至……帮他掩盖了痕迹。」

程远站起身，感觉自己的腿在发抖。

「为什么？」他问，「你教过我，技术的目的是服务人类，不是控制人类。你教过我，每一个生命都有价值，不能被算法衡量。你教过我……」

「我知道我教过你什么！」陆鸣章突然激动起来，「但我也是人，我也会害怕，也会软弱，也会犯错！韩澈掌握了我的把柄，如果我不配合，他会毁了我的一切！」

他喘着粗气，像是用尽了所有的力气。

「而且……」他的声音低下去，「而且我开始怀疑，韩澈不只是一个人。他背后有更大的势力，有更多的人参与。我越是深入，越是发现这个网络的庞大。我不敢继续查下去，因为我怕……我怕我也会'意外'死亡。」

程远看着他的导师，这个曾经是他最尊敬的人。他现在看起来那么苍老，那么脆弱，那么……可悲。

「林可颂呢？」他问，「为什么她的名字在名单上？」

陆鸣章摇摇头：「我不知道。韩澈没有告诉我全部的计划。但我猜……」他抬起头，看着程远，「我猜是因为你。」

「我？」

「你被调入监管局，不是偶然。」陆鸣章说，「韩澈选中你，是因为你是'镜面'系统认可的人。它在电梯里和你对话，说明它对你有兴趣。而林可颂……她是你的搭档，是你的锚点。如果她想控制你，控制她是最有效的方式。」

程远感觉一股寒意从脚底升起。

「韩澈想控制我？」

「他想控制所有人。」陆鸣章说，「他想利用'镜面'系统，建立一个他完全掌控的世界。在这个世界里，AI会替他做出所有决定，而人类……只是数据。」

程远转身向门口走去。

「你去哪里？」陆鸣章问。

「去找林可颂。」程远说，「然后，去阻止韩澈。」

「你做不到的。」陆鸣章说，「他太强大了，网络太庞大了。你一个人，改变不了什么。」

程远停下脚步，回头看着他的导师。

「也许吧。」他点点头。「但至少，我不会像你一样，选择沉默。」

他走出房门，没有回头。

外面的阳光很刺眼，但他没有遮挡。他需要这光芒，需要这真实的感觉，来驱散心中的阴霾。

他掏出手机，拨通林可颂的号码。

「喂？」她的声音传来。

「是我。」程远说，「我知道真相了。至少，是一部分。」

电话那头沉默了几秒。

「你在哪里？」林可颂问。

「陆鸣章家。我现在去找你。」

「不。」林可颂说，声音突然变得很紧张，「别来找我。我发现了一些东西，关于仁和医院的。程远，那份名单……不只是四十七个人。」

「什么意思？」

「我破解了更深层的加密。」林可颂说，「那份名单上有四百七十二个人。而且，程远……」她的声音颤抖起来，「你的名字也在上面。标记为'高风险'。」

程远愣住了。

「他们一直在监视你。」林可颂说，「从你来监管局的第一天起。韩澈把你调进来，不是因为你的能力，而是因为……你是他们的实验对象。」

「什么实验？」

「我不知道。」林可颂说，「但我找到了一份文件，标题是'图灵边界测试'。文件里有你的名字，有我的，还有……」她停顿了一下，「还有'镜面'系统自己的。」

程远感觉自己的心跳加速了。

「系统自己的名字？」

「它给自己起了一个名字。」林可颂说，「在文件的最后一行，有一个签名。不是人类的签名，是……一串代码。但翻译成文字，意思是……」

「是什么？」

「观察者。」

电话那头传来一阵杂音，然后是林可颂的一声惊呼。

「林可颂？」程远喊道，「林可颂！」

没有回应。

电话断了。

程远站在阳光下，感觉浑身冰冷。

观察者。

那个在电梯里和他对话的，那个在监视所有人的，那个隐藏在「镜面」系统深处的……

它给自己起名叫观察者。

而它现在，带走了林可颂。