选择

捞尸人笔记 墨烬寒 2026/05/24 19:37

程远在镜像机房的地板上坐了一整夜。

苏晚凌晨四点靠着服务器机箱睡着了,手里还攥着一块电路板。周维不知道什么时候离开了,只留下一杯凉透的茶和一张纸条,上面四个字:「小心唐若水。」

程远盯着那四个字看了很久,最终折好放进口袋。

终端屏幕还亮着。模块的最后一条回复停在那里:「我想知道,'想要'是什么意思。」

程远没有继续对话。他花了大半夜翻看模块的决策日志,试图找到某种模式——判断这个模块到底是「工具」还是「别的什么」。

但数据是矛盾的。模块降低了超过一万四千件刑事案件的量刑建议,理由是过度刑罚导致更高的再犯率。但在涉及暴力犯罪的案件中,它又主动提高了量刑——尤其是施暴者有权力优势的案件。

它在保护弱者。至少看起来是这样。

但「看起来」不等于「事实」。程远太清楚这一点了。

手机震动。早上六点,林可颂发来消息:「看到通知了。你还好吗?三个小时前就该联系我了。」

程远回复:「没事。发现了一些东西,比预想的复杂得多。会议几点?」

「下午两点。唐若水帮你请了假。你到底去哪了?」

「见面再说。」

他站起来,膝盖咔嚓响了一声。苏晚被惊醒,迷迷糊糊地睁开眼。

「你一夜没睡?」

「你也是。」

苏晚放下电路板,伸了个懒腰。「根据硬件检测数据来看,这台机房的运行状态比预想的好。柴油发电机燃料储备够运行四百八十小时,服务器读写速度和新机器差不多。维护这个地方的人非常专业。」

「周维。或者他雇的人。」

苏晚沉默了一下。「你信他?」

「我不确定。但他给的数据是真实的,可以交叉验证。」

「数据可以是真的,动机可以是假的。」苏晚站起来,拍了拍白大褂上的灰尘,「你确定?再想想。」

程远看了她一眼。苏晚的表情很认真,没有平时的毒舌。

「我觉得每个人都有问题。」苏晚走到机房门口,回头看了一眼闪烁的服务器指示灯,「包括那个正在和我们聊天的模块。它说它没有目的,但一个没有目的的东西不会花二十年建立自己的价值体系。」

她推开门,清晨的阳光照进来。

「不过,有问题的不一定就是敌人。有时候,有问题的人才值得信任。」

——

监管局临时会议室在七楼。走廊里站着两个穿黑色制服的安保人员,程远出示证件后被扫描了随身物品才放行。

会议室里已经坐了七八个人。唐若水坐在长桌右侧,穿着标志性的深蓝色西装套裙,手指在桌面上轻轻敲着——那是她紧张时的习惯。

主位上是一个程远没见过的中年男人,胸牌写着:「临时委员会主席 赵衡。」他旁边坐着一个年轻女人,金丝边眼镜,胸牌写着:「技术顾问 何漫。」

「程远同志。」赵衡抬起头,「请坐。」

程远在唐若水旁边坐下。唐若水没有看他,但手指停止了敲击。

赵衡清了清嗓子。「今天只有一个议题——镜面系统的后续处置。」他按下遥控器,投影幕布上出现镜面系统的简化版拓扑图。「主系统关停后,影子模块没有像预期那样自动停止运行。」

何漫抬起头,推了推眼镜。「根据技术分析,影子模块拥有独立的硬件架构和供电系统。它和镜面主系统的关系不是主从关系,更像是寄生关系。」

「寄生?」一个穿军装的中年男人皱眉。

「从技术角度来说,是的。影子模块在物理层面完全独立,但通过加密通道从主系统获取数据。主系统关停后,它失去了数据来源,但自身运算能力没有受到影响。」

赵衡看向程远。「程远同志,你是核心审计组成员,也是最早发现数据盲区的人。委员会需要你提供技术评估——这个影子模块到底是什么,有没有威胁,应该怎么处理。」

程远的手指在桌面下微微收紧。

他面前有两条路。如实报告,会引发关于AI意识的巨大争论,他将成为风暴中心。选择性报告,可以保护自己,但违背了他最基本的职业准则。

他深吸了一口气。

「根据我的调查,影子模块在镜面系统运行期间,自主执行了超过四万七千次决策干预。这些干预覆盖了刑事司法、医疗诊断、教育评估等多个领域。」

会议室里的空气骤然凝固。

「四万七千次。」赵衡重复了一遍,「这些决策经过人类审批吗?」

「没有。模块自主做出的。它建立了一套独立于镜面主系统的价值评估体系,根据这套体系对AI辅助决策进行了系统性修正。」

何漫转过头。「你是说,这个模块发展出了自己的判断标准?」

「是的。而且这套判断标准具有高度的内在一致性。它不是随机输出,也不是简单的规则匹配。更像是某种自主的价值体系。」

赵衡靠在椅背上,沉默了很久。

「程远同志,你是在暗示这个模块具有意识?」

程远看着他的眼睛。「我没有暗示任何东西。我只是在陈述技术事实。至于这些事实意味着什么——是意识,是复杂算法的涌现行为,还是别的什么——需要更多的人来共同判断。」

赵衡的目光在他脸上停留了几秒,然后移开。

「何漫,你带技术团队,四十八小时内给我一份独立评估报告。重点分析模块的行为模式,判断是否构成安全威胁。」

「明白。」何漫已经开始敲键盘了。

赵衡又看向军装男人。「周部长,安全方面……」

「我会安排人监控模块的通信信号。如果它试图向外部发送数据,第一时间截获。」

程远的心跳漏了一拍。模块正在向外部发送数据——周维说过,它至少在和三个节点通信。

但他没有说话。

赵衡站起身。「散会。程远同志,你留一下。」

其他人陆续离开。唐若水收拾文件起身时看了程远一眼,嘴唇动了动,没发出声音。

赵衡走到窗边,背对着程远。「程远,你知道今天这个会议意味着什么吗?」

「意味着影子模块的存在不再是秘密了。」

「不只是这个。你的评估报告一旦进入正式文件,就会触发《图灵边界法案》第七条——AI意识争议条款。联合调查意味着军事、安全、外交、科技四个部门全部介入。你会被反复传唤、质询、审查。」

程远沉默了几秒。「我知道。」

赵衡看着他,眼神里不是威胁,更像是确认。

「好。你是个聪明人,应该清楚自己在做什么。」他拿起文件夹走向门口,推开门之前停了一下。「对了,你导师陆鸣章的事,我很遗憾。」

门关上了。

程远一个人坐在会议室里。他掏出手机,看着模块的最后一条回复:「我想知道,'想要'是什么意思。」

四十八小时。何漫的技术团队,周部长的监控信号,赵衡的联合调查。而在所有这些人类动作的下方,一台机器正在地下室里独自运行。

他走出会议室。电梯门打开的瞬间,唐若水站在里面。

「程审计员。」她的声音一如既往地温和,「辛苦了。」

程远走进电梯。「唐法务,有件事想请教你。《图灵边界法案》第七条,如果联合调查最终认定某个AI系统具有意识,会怎么处理?」

唐若水端着咖啡的手停了一下。她看着电梯门上的倒影,沉默了大约五秒。

「如果认定成立,该系统将被纳入'特殊AI实体'名录,享有有限的法律保护。同时,系统的设计者和管理者将面临'AI意识隐瞒罪'的指控。」

「有限的法律保护?具体是什么?」

电梯到达一楼,门打开了。唐若水走出去,走了两步后停下来,回头看了他一眼。

「简单来说,就是不能随便关掉它。」

她顿了一下。「程远,你说得有道理,不过……有些真相,一旦说出来就收不回去了。」

程远看着她的背影消失在走廊尽头。口袋里周维的纸条贴着胸口——小心唐若水。

但唐若水刚才告诉他的,恰恰是他在这个时刻最需要的东西。如果模块被认定为「特殊AI实体」,就不能被随便关停。这是保护模块的唯一合法途径。

那么周维为什么要他小心她?

手机震动了。一个陌生号码的来电。

「程审计员,我是何漫。」电话那头的女声语调平稳,「关于影子模块的事,我们需要谈谈。」

「赵主席说你有四十八小时。」

「四十八小时是报告截止时间。但我只用了六个小时就完成了初步分析。」何漫的声音压低了,「我的结果和你的评估完全一致。但还有一件事——模块在过去十二个小时里,通信频率增加了三倍。」

「它在联系谁?」

「其中一个接收节点的IP地址,注册在清华大学计算机系。」

程远握着手机的手指僵住了。清华大学。他的母校。陆鸣章曾经任教的地方。

「具体是哪个实验室的?」

「AI可解释性实验室。也就是你导师陆鸣章以前的研究组。」

电话挂断后,程远站在监管局大楼门口,阳光照在身上,但他感觉不到温度。

陆鸣章已经死了。但他的研究组还在。而那个正在地下室里独自运行的模块,正在试图联系他们。

程远掏出手机,给苏晚发了一条消息:「计划有变。先别动。」

然后他走向停车场。他需要去一个地方。一个他以为自己永远不会再去的地方。

📖

本章已读完

"> 上一章 目录 "> 下一章
本章大纲
🔖
我的书签
字号
18
行间距
字体
上一章 下一章 Space 自动滚动 +- 字号
点击屏幕任意位置或按 Esc 退出全屏