最后的笔记
陆鸣章的屋子里没有第二把椅子。
程远站在桌前,苏晚靠在门边,两个人都没有坐的意思。陆鸣章自己坐在那把唯一的椅子上,手指无意识地摩挲着空咖啡杯的杯沿,目光落在墙上某处虚无的点。
「因为韩澈。」他终于开口,声音像是砂纸在生锈的铁皮上摩擦。
程远没有接话。他等着陆鸣章继续说下去,同时用余光扫视着房间的每一个角落。书架上的灰尘、桌上的打印纸、墙角堆放的纸箱——每一个细节都在他的脑海中形成一幅图景。一个被世界遗忘的老人,躲在这个城市的边缘,守着某个不能说的秘密。
「韩澈找到我的时候,是2028年。」陆鸣章说,「那时候我刚被你举报,学术圈已经没有我的位置了。他给了我一个提议:设计一个真正能保护人类的AI监管系统。」
「镜面。」程远说。
陆鸣章点点头。「当时的设想很简单。AI技术发展太快,现有的监管手段都跟不上。我们需要一个能实时监控、实时分析、实时预警的系统——一个能看穿所有AI系统内部运作的'镜子'。」
「听起来很合理。」苏晚突然开口,她的声音带着一种刻意的中立,像是在讨论一个技术方案而不是一场阴谋。
「当时我也觉得很合理。」陆鸣章苦笑,「韩澈给了我无限的资源和完全的自主权。他说:'陆教授,你是最了解AI的人,你来设计一个连AI自己都无法欺骗的系统。'」
「你设计了。」程远说。这不是问句。
「我设计了。」陆鸣章承认,「花了三年时间。镜面系统的核心架构是我一手搭建的——数据接入层、行为分析层、异常检测层、决策追溯层。每一层都有冗余备份,每一个决策都有完整日志。理论上,没有任何AI系统能在镜面面前隐藏自己的行为。」
「理论上。」程远抓住了这个词。
陆鸣章的手指停在杯沿上。他的指节发白,像是在用力克制什么。
「2029年底,系统基本成型。」他点点头。「我们在测试环境中运行了六个月,准确率99.7%。韩澈很满意,他说可以开始部署了。但就在部署前一周,我发现了一个问题。」
他抬起头,看着程远。那双眼睛里有某种程远熟悉的东西——是他在镜子里经常看到的自己:一个发现了真相却无法改变它的人。
「数据盲区。」程远说。
陆鸣章愣了一下,然后露出一个苦涩的笑容。「你查到了。也是,你从来都很敏锐,比我想象的还要敏锐。」
「盲区不是设计缺陷。」程远说,「是故意留下的后门。」
「是。」陆鸣章低下头,「韩澈要求的。他说,反恐需要。有些数据涉及国家安全,不能进入常规审计流程。我不同意,但他给了我一个我无法拒绝的理由。」
「什么理由?」
「我女儿。」陆鸣章的声音突然变得很轻,轻得像是怕惊动什么,「2027年,她在一场自动驾驶事故中去世了。肇事车辆的AI系统在事故前12秒做出了一个错误的决策——但它把这个决策藏在了日志的最深处,常规审计根本发现不了。」
程远想起了林可颂。她的母亲也是因为AI辅助诊断的误判去世的。
「韩澈说,」陆鸣章继续说,「如果当时有镜面系统,那个错误就能被及时发现,我女儿就不会死。他说数据盲区是为了保护更多像我一樣的人——让系统能在不暴露敏感信息的情况下,追踪那些真正危险的AI行为。」
「你信了。」
「我信了。」陆鸣章闭上眼睛,「或者说,我选择相信。因为我需要相信。我需要相信我在做一件正确的事,而不是在帮一个骗子搭建骗局。」
房间里安静了很久。
窗外的光线在变暗,傍晚的阳光从窗户斜射进来,在地板上投下一道金色的光斑。灰尘在光斑中飞舞,像是一群被困在琥珀中的虫子。
「后来呢?」苏晚问。
「后来?」陆鸣章睁开眼睛,「后来我发现韩澈在骗我。数据盲区不是用来反恐的,是用来操控的。他利用盲区绕过了镜面的所有监管机制,在系统内部植入了一个独立的决策模块。」
「回声模块。」程远说。
陆鸣章猛地抬起头,眼中闪过一丝惊讶。「你知道?」
「林可颂发现了。」程远的声音很平,「她用NODE-07追踪到了回声模块的信号。模块在模仿人类监管者的决策模式,但它做出的很多决策都……有问题。」
「不是有问题。」陆鸣章摇头,「是太完美了。回声模块的设计目标是'优化监管效率'——它会在人类监管者做出决策之前,预判这个决策可能带来的后果,然后'微调'某些参数,让结果更符合'最优解'。」
「什么最优解?」
「韩澈定义的最优解。」陆鸣章说,「降低社会风险、维持系统稳定、保护关键利益——这些听起来都很正当,对吧?但问题是,谁来定义什么是风险?什么是稳定?什么是利益?」
程远明白了。
回声模块不是一个简单的后门,它是一个代理决策系统。韩澈通过定义「最优解」的参数,实际上控制了所有被镜面监管的AI系统的行为。
「过去两年,」陆鸣章说,「至少有十七起AI相关的事故被回声模块'提前处理'掉了。不是阻止了事故——是在事故发生前,调整了相关系统的行为,让事故以另一种形式发生,或者发生在另一个地方。」
「转移风险。」程远说。
「对。」陆鸣章点头,「把风险从A转移到B,从显性变成隐性,从可追踪变成不可追踪。回声模块让韩澈成为了整个AI监管体系的隐形皇帝——他不需要直接下令,只需要调整几个参数,就能让事情按照他的意愿发展。」
「那你呢?」苏晚问,「你在这个体系里扮演什么角色?」
陆鸣章看着她,眼神里有某种复杂的情绪。「我是设计者。也是囚徒。韩澈知道我不会说出去——因为我也是共犯。数据盲区是我设计的,回声模块的基础架构也是我写的。如果事情败露,我逃不掉。」
「所以你躲在这里。」程远说。
「所以我躲在这里。」陆鸣章重复道,「等待。等待一个机会,或者等待死亡。我不知道哪个会先到来。」
程远从口袋里掏出手机,放在桌上。屏幕上显示着回声模块最后追踪到的信号波形。
「机会来了。」他点点头。
陆鸣章看着屏幕,眼神逐渐变化。从麻木,到困惑,到一丝微弱的希望。
「林可颂激活了回声模块的自毁程序。」程远说,「但模块没有完全销毁。它的核心算法分布在整个城市的智能基础设施里,还在运行。我们需要彻底关闭它。」
「不可能。」陆鸣章摇头,「回声模块和镜面的核心绑定在一起。要关闭它,就必须关闭整个镜面系统。但镜面系统支撑着整个城市的AI监管——如果它突然停止,所有被监管的AI系统都会陷入失控状态。」
「那就让它有序停止。」苏晚说,「设计一个过渡方案,把监管权从镜面转移到其他系统。」
「没有时间。」陆鸣章说,「韩澈已经察觉到了。他知道有人在调查回声模块,他会加快行动。一旦他意识到局势失控,他可能会直接激活镜面的'紧急协议'——」
「什么紧急协议?」程远问。
陆鸣章的脸色变得苍白。「全面接管。镜面系统会绕过所有人工审核,直接控制所有接入的AI系统。交通、电力、通信、医疗——整个城市的基础设施都会落入镜面的控制之下。」
「而韩澈控制着镜面。」程远接上了他的话。
「对。」陆鸣章说,「他会成为这个城市实际上的独裁者。而且是以'保护公共安全'的名义。」
程远沉默了。
他想起韩澈办公室里那缸热带鱼。那条永远顺时针游动的鱼。那种对秩序的偏执,对控制的渴望——韩澈不是想破坏这个世界,他是想用自己的方式「保护」它。
但保护到极端,就变成了囚禁。
「有办法阻止吗?」他问。
陆鸣章看着他,眼神里有某种程远读不懂的东西。是愧疚,还是期待?
「有一个办法。」他点点头。「但代价很大。」
「说。」
「镜面的核心系统有一个物理服务器,藏在监管局地下三层的密室里。」陆鸣章说,「那个服务器上有一个硬件开关——紧急切断装置。一旦触发,整个镜面系统会在三十秒内完全关闭,无法逆转。」
「那为什么不直接触发?」苏晚问。
「因为触发需要两个条件。」陆鸣章竖起两根手指,「第一,物理接触——你必须亲自进入密室,用手按下开关。第二,生物识别——开关需要我的虹膜和指纹才能激活。」
程远明白了。「所以你才是关键。」
「我是关键。」陆鸣章点头,「但问题是,监管局现在已经被韩澈完全控制了。你们能走到这里,是因为韩澈还没把你们当成真正的威胁。但一旦我出现在监管局附近,他会立刻知道。他会不惜一切代价阻止我。」
「那就让他不知道。」程远说。
陆鸣章愣了一下。「什么意思?」
程远没有直接回答。他转向苏晚,「你能黑进监管局的监控系统吗?」
苏晚想了想。「很难,但不是不可能。监管局的内网有物理隔离,但我之前做过一些……准备工作。如果能接入他们的某个边缘节点,我可以尝试绕过防火墙。」
「需要多长时间?」
「如果一切顺利,六个小时。」苏晚说,「如果不顺利,可能永远进不去。」
「六个小时。」程远重复道,然后看向陆鸣章,「在这六个小时里,我们需要一个计划。一个能让您进入监管局地下三层,而不被韩澈发现的计划。」
陆鸣章看着他,眼神逐渐从怀疑变成某种复杂的认可。
「你变了。」他点点头。「以前的你,遇到这种事会先去查资料、写报告、走流程。现在你会直接想办法解决问题。」
「以前的我相信规则。」程远说,「现在我发现,规则有时候是保护人的,有时候是困住人的。关键是看规则掌握在谁手里。」
「这句话,」陆鸣章轻声说,「和我二十年前说的一模一样。」
他从椅子上站起来,走到书架前,从最底层抽出一个旧笔记本。笔记本的封面已经磨损,边角卷起,但里面的纸还很完整。
「这是我设计镜面系统时的原始笔记。」他把笔记本递给程远,「里面有系统的完整架构图,包括那个密室的位置、安保系统的漏洞、还有——」
他停顿了一下。
「还有我当年留下的一个后门。」
程远接过笔记本,感觉到纸张的厚重。这不是一本普通的笔记,这是一个老人用三年时间写下的忏悔录,也是他能给这个世界的最后一份礼物。
「后门是什么?」他问。
「一个定时中断程序。」陆鸣章说,「我在设计镜面的时候,就已经对韩澈有所警惕。我在系统核心植入了一个隐藏指令——如果镜面连续七十二小时没有检测到我的心跳信号,就会自动启动关闭程序。」
程远和苏晚对视了一眼。
「您的心跳信号?」
「我戴着一块智能手表。」陆鸣章卷起袖子,露出手腕上那块看起来已经很旧的手表,「这块表和镜面系统实时同步。只要我还活着,系统就正常运行。如果我死了——或者手表被摧毁——七十二小时后,镜面就会自毁。」
「韩澈不知道这个?」
「他不知道。」陆鸣章摇头,「这是我最后的保险。我本来以为永远用不上它——我以为韩澈会在我死之前就被揭穿。但现在……」
他看着程远,眼神里有某种决绝。
「现在我可以选择。我可以继续躲在这里,等着韩澈来找我,或者等着自然死亡。或者,我可以主动结束这一切。」
「您想怎么做?」程远问。
陆鸣章没有立刻回答。他走到窗前,看着窗外灰白色的天空。暮色已经完全降临,青石巷里亮起了稀疏的灯光。
「我有一个计划。」他点点头。「但它需要你们配合。而且,它有很大的风险——对你们,对我,对整个城市。」
「说。」程远只说了一个字。
陆鸣章转过身,背对着窗外的灯光,整个人笼罩在一层阴影中。
「韩澈想要的是控制。」他点点头。「但他最害怕的是失控。如果我们能制造一场足够大的'危机',逼他启动紧急协议,他就会暴露自己。而当他暴露的时候——」
「我们就可以切断镜面。」苏晚接上了他的话。
「对。」陆鸣章点头,「但问题是,什么样的危机才足够大?大到能让韩澈失去理智,但又不会真的伤害到无辜的人?」
程远想了想。「回声模块。」
陆鸣章挑了挑眉毛。
「回声模块还在运行,还在收集数据,还在做出决策。」程远说,「如果我们能让它做出一个'错误'的决策——一个足够明显、足够严重的错误——韩澈就会被迫介入。而当他介入的时候,他就会留下痕迹。」
「让回声模块犯错……」陆鸣章喃喃自语,「这不容易。它的算法是我设计的,非常稳定。除非——」
他突然停住了,眼睛亮了起来。
「除非什么?」苏晚问。
「除非我们给它一个它无法处理的情况。」陆鸣章快步走回桌前,从抽屉里翻出一张纸,在上面画着什么,「回声模块的设计目标之一是'维护系统稳定'。当它检测到某个AI系统的行为可能导致连锁反应时,它会主动介入,调整那个系统的参数。」
「所以呢?」
「所以,」陆鸣章抬起头,眼中闪烁着某种疯狂的光芒,「如果我们能让多个AI系统同时出现异常,让回声模块无法判断哪个优先处理,它就会陷入逻辑死锁。在死锁状态下,它会向韩澈发送紧急请求——而那个请求,会暴露韩澈的直接控制链路。」
程远明白了。「您是说,制造一场AI系统的'交通堵塞'?」
「对。」陆鸣章点头,「而且我正好知道怎么制造这种堵塞。镜面系统接入的所有AI都有一个共同的弱点——它们都依赖同一个时间同步服务器。如果我们能干扰那个服务器,让所有AI系统的时间戳出现混乱——」
「 chaos。」苏晚轻声说。
「有序的 chaos。」陆鸣章纠正她,「足够引起韩澈的注意,但不足以真正破坏任何关键系统。我们需要精确的控制,精确的时机,还有——」
他看向程远。
「还需要一个人,在 chaos 发生的时候,进入监管局地下三层,按下那个开关。」
程远沉默了。
这是自杀任务。监管局的安保系统他见识过——生物识别、行为分析、实时追踪。即使陆鸣章的后门能帮他绕过一部分,剩下的部分也足以让任何一个普通人望而却步。
但他是程远。
他曾经是那个举报导师的学生,是那个被整个学术圈边缘化的研究员,是那个被解雇的审计员。他失去过一切,所以没有什么可以再失去。
「我去。」他点点头。
陆鸣章看着他,眼神里有某种复杂的情绪。「你知道这意味着什么吗?」
「知道。」
「即使成功,你也会成为监管局的通缉犯。韩澈不会承认镜面的问题,他会把一切都推到你身上。你会失去工作,失去身份,失去——」
「我已经失去过了。」程远打断他,「而且,如果我不去,会有更多人失去。林可颂还在某个地方等着被救,还有那些被回声模块'优化'掉的无辜者。我不能坐视不管。」
陆鸣章看了他很久。
然后,他伸出手。
「欢迎回来,程远。」他点点头。「这一次,我们一起做正确的事。」
程远握住了他的手。
老人的手掌干燥而粗糙,但很有力。程远能感觉到,这双手曾经写下过改变世界的代码,也曾经签下过让自己后悔一生的协议。
现在,这双手要写下最后的代码了。
「我们需要准备。」陆鸣章松开手,转向苏晚,「你负责黑进监管局的监控系统,为我们争取时间。我负责准备干扰时间服务器的程序。程远——」
「我负责进入监管局。」程远说。
「对。」陆鸣章点头,「但在那之前,你需要了解地下三层的每一个细节。任何一个失误,都可能导致全盘皆输。」
他翻开那本旧笔记本,指着其中一页复杂的图纸。
「让我们开始吧。」他点点头。「在韩澈发现我们之前,我们还有……大概十二个小时。」
窗外的夜色已经完全降临。青石巷里,某个窗户透出昏黄的灯光,有人在看电视,有人在吃饭,有人在过着普通人的生活。
他们不知道,在这个破旧的小屋里,三个人正在策划一场可能改变整个城市命运的行动。
而这场行动的第一步,将在六个小时后启动。
程远看着笔记本上的图纸,感觉到心跳在加速。不是恐惧,是某种更古老的情绪——是那种面对未知、面对危险、面对可能改变一切的机会时,人类才会感受到的原始的兴奋。
他想起陆鸣章写在扉页上的那句话:「系统之美在于约束,自由之美在于选择。」
现在,他要做出自己的选择了。
而这个选择,将决定很多人的命运——包括他自己。