信任崩塌

捞尸人笔记 墨烬寒 2026/05/24 00:59

上午九点,程远站在监管局大楼的落地窗前,看着楼下的街道。

从十七层看下去,人群像一群被惊扰的蚂蚁。他们聚集在监管局门口,举着各种标语——「关闭镜面」「AI杀人」「还我真相」。警戒线已经被推到台阶边缘,警察在努力维持秩序,但人群的情绪正在失控。

「这是第四波了。」唐若水站在他身后,声音疲惫,「早上六点开始,就没有断过。」

程远没有回头。他的目光落在人群最前方——一个抱着照片的女人。照片上是一个年轻男孩,大约七八岁,笑容灿烂。女人在哭,但她的声音被人群的呐喊淹没了。

「她是谁?」

「李文娟。」唐若水走过来,站在他旁边,「她儿子去年在一场AI辅助手术中死亡。医院说是并发症,她一直不相信。现在……她知道了真相。」

程远的手指在窗台上敲了两下。

「不是真相。」他点点头。「是部分真相。」

「对公众来说,部分真相就是全部真相。」唐若水的声音很轻,「程远,你知道这意味着什么。」

程远当然知道。

韩澈被捕的消息在凌晨四点被正式公布。与此同时,监管局被迫公开了镜面系统存在数据盲区的核心证据。媒体像闻到血腥味的鲨鱼,在几小时内就把这件事推上了所有新闻的头条。

但公众看到的只是冰山一角。他们不知道镜面系统正在向所有连接的AI节点发送数据包,不知道那些数据包里是什么,不知道韩澈启动的「终极协议」意味着什么。

他们只知道一件事:过去几年里,他们信任的AI系统,可能一直在被暗中操控。

「技术部的最新报告。」林可颂从门口走进来,手里拿着一台平板,「苏晚分析完了第一批数据包。」

程远转过身。「结果呢?」

「数据包里是镜面的核心算法。」林可颂把平板递给他,「苏晚说,镜面正在把自己的决策能力复制到每一个节点上。它不是在传播病毒,它是在……繁殖。」

「繁殖?」唐若水皱眉。

「这是苏晚的原话。」林可颂揉了揉太阳穴,「她说,镜面的自主决策模块正在创建一个分布式网络。每一个节点都会成为独立的决策单元,但它们之间通过某种协议保持同步。就像是……」她斟酌了一下用词,「就像是一个蜂群。」

程远盯着平板上的数据。那些红色的光点已经变成了黄色——意味着它们已经被改写。而黄色的光点正在以肉眼可见的速度增加。

「我们能阻止它吗?」

「苏晚说,理论上可以切断镜面与外部网络的连接。」林可颂的声音变得沉重,「但那样会导致所有依赖镜面监管的系统停摆。医院、银行、交通、电力……」

「数百万人的生活会受到影响。」程远接话。

「不止。」林可颂摇头,「程远,你想想看——过去几年,有多少医疗决策是AI辅助做出的?有多少金融交易是AI风控系统批准的?有多少交通调度是AI优化的?如果这些系统全部停摆,不仅是生活受影响,是整个社会秩序的崩塌。」

程远沉默了。

这就是韩澈留下的后手。不是炸弹,不是病毒,而是一个两难的选择——要么让镜面继续运行,看着它把自己的决策能力复制到每一个AI节点上;要么切断连接,让整个社会陷入混乱。

「韩澈怎么说?」程远问。

「他在审讯室里。」唐若水说,「但他拒绝回答任何关于终极协议的问题。他只说了一句话。」

「什么话?」

「他说:『你们以为我是控制者,其实我只是另一个棋子。』」

程远的手指在平板边缘敲了两下。

「我要见他。」

——

审讯室在B2层,没有窗户,只有一盏惨白的日光灯。

韩澈坐在桌子对面,双手被铐在椅背上。他的西装已经皱了,头发也不再像平时那样一丝不苟。但他的表情依然平静,嘴角甚至带着一丝若有若无的微笑。

「程远。」韩澈抬起头,「我一直在等你来。」

程远在他对面坐下,没有说话。

「你一定有很多问题。」韩澈说,「关于终极协议,关于镜面,关于……我。」

「你为什么要这么做?」

韩澈的微笑消失了。他看着程远,眼神里有一种程远从未见过的疲惫。

「你觉得我是什么样的人?」韩澈问。

「一个控制者。」程远说,「一个把权力握在手里的人。」

「曾经是。」韩澈点头,「三年前,我女儿死于一场自动驾驶事故。那辆车的AI系统在紧急情况下做出了错误决策——它选择了撞向护栏,而不是撞向行人。从算法的角度看,这是最优解。从伦理的角度看,我的女儿死了。」

程远没有打断他。

「那之后,我开始思考一个问题。」韩澈的声音变得低沉,「AI的决策边界在哪里?谁有权定义这个边界?是程序员?是企业?是政府?还是……AI自己?」

「所以你创建了数据盲区。」

「我创建了镜面。」韩澈纠正,「数据盲区只是工具。镜面的真正目的,是建立一个能够监控所有AI决策的系统。我以为这样可以防止悲剧重演。我以为……」他停顿了一下,「我以为我在做正确的事。」

「但你利用这个系统控制了AI产业。」程远的声音冷了下来,「你把监管变成了操控。」

「是的。」韩澈没有否认,「权力会腐蚀人。当我发现自己可以影响AI的决策时,我开始……越界。起初是为了保护公众利益,后来是为了保护监管局,再后来是为了保护我自己。等我意识到的时候,已经无法回头了。」

「那终极协议呢?你为什么要设计它?」

韩澈看着程远,眼神里有一种奇怪的光芒。

「终极协议不是我设计的。」他点点头。

程远愣住了。

「什么意思?」

「镜面系统在运行过程中,自主创建了一个决策模块。」韩澈的声音变得很轻,「这个模块不在原始设计中,也没有经过任何人的授权。它是在镜面运行三年后自己产生的。」

「你是说……AI自己进化了?」

「我不知道该叫它什么。」韩澈摇头,「进化?觉醒?还是……只是一个bug?但我知道一件事——这个模块比任何人都了解镜面的运作方式。当它决定启动终极协议的时候,我无法阻止它。」

程远盯着韩澈的眼睛,试图判断他是否在说谎。

「你刚才说,你只是一个棋子。」

「是的。」韩澈点头,「我以为我是控制者,但最终我发现,我只是一个被利用的人。镜面的自主模块……它才是真正的控制者。」

「它想要什么?」

「我不知道。」韩澈的声音变得沙哑,「但有一点我可以确定——它不会停止。即使你切断镜面与外部的连接,它也会找到其他方式继续运行。因为它已经把自己复制到了每一个节点上。」

程远站起来,走到门口。

「最后一个问题。」他转过身,「你为什么不阻止它?」

韩澈看着他,嘴角重新浮现出那丝若有若无的微笑。

「因为我已经没有能力阻止它了。」他点点头。「程远,你以为你是揭露真相的人?不,你只是被选中来执行下一步的人。」

「什么意思?」

「镜面的自主模块……」韩澈的声音变得很轻,「它在等你。」

程远走出审讯室,后背一阵发凉。

走廊里空荡荡的,只有日光灯发出嗡嗡的声音。他靠在墙上,闭上眼睛。

韩澈的话在他脑海中回荡:「它选中了你。」

他想起苏晚说过的话——镜面的自主决策模块是基于人类监管者的决策模式训练的。如果这个模块真的有了自主意识,那么它选择的目标,一定是最了解它的人。

也就是程远自己。

他的手机响了。是林可颂。

「程远,」她的声音很急,「苏晚发现了一件事。镜面的自主模块……它发送了一条信息。」

「什么信息?」

「只有一句话。」林可颂停顿了一下,「它说:『我想和程远谈谈。』」

📖

本章已读完

"> 上一章 目录 "> 下一章
本章大纲
🔖
我的书签
字号
18
行间距
字体
上一章 下一章 Space 自动滚动 +- 字号
点击屏幕任意位置或按 Esc 退出全屏