旧书
陆鸣章把纸箱推到程远面前的时候,手在发抖。
不是害怕的那种抖,是长期缺乏睡眠导致的肌肉震颤。程远注意到他的指甲缝里有黑色的墨渍,袖口磨得发白。
这个曾经站在国内AI伦理学最高处的男人,现在看起来像一个在地下室里住了太久的退休教师。
「这是最后一份了。」陆鸣章的声音很轻,像怕吵醒隔壁的人,「V2.0到V3.7之间所有未公开的架构变更记录。韩澈不知道我有备份。」
程远没有伸手去拿。他看着陆鸣章的眼睛——现在浑浊得像蒙了一层雾。
「为什么现在才拿出来?」
陆鸣章沉默了很久。窗外那条巷子空荡荡的,只有一只灰猫蹲在墙头上舔爪子。
「因为你来了。」他终于说。
「我来了又怎样。你沉默了七年。」
「七年。」陆鸣章重复了一遍,「你知道七年是什么概念吗?够一个AI系统从原型变成基础设施,够一个谎言变成常识,够一个人——」他停了一下,「够一个人忘记自己是谁。」
程远没有接话。他把目光移到纸箱上。纸箱不大,上面用马克笔写着「旧书」,像是故意伪装成搬家留下的杂物。
「苏晚说回声模块的信号在衰减。」程远开口,「我们最多还有十一个小时。」
「我知道。」
「你打算怎么办?」
陆鸣章没有回答。他站起来,走到窗边,背对着程远。
「程远,」他点点头。「你还记得你博士论文答辩那天吗?」
「记得。」
「你答辩完之后,我们在学校门口的咖啡馆坐了一个下午。你跟我说,你想做AI监管——不是写论文、不是做研究,而是真正地去监管那些已经部署在现实世界里的AI系统。」
程远没有说话。他记得那个下午。他刚通过答辩,对未来充满信心。陆鸣章坐在他对面,听他讲了一个小时关于AI监管的理想主义构想。
那时候他不知道,坐在他对面的那个人,正在设计一个即将被权力吞噬的系统。
「后来你举报了我。」陆鸣章的声音没有波澜,「数据造假。实名举报。学术委员会调查了三个月,撤了我的教职。」
「你确实造假了。」
「我确实造假了。」陆鸣章转过身来,看着程远,「但你知道我为什么造假吗?」
程远没有回答。
「因为韩澈。」陆鸣章说,「他需要一篇论文证明AI监管系统'技术可行',用来向上面申请预算。他让我写,我说数据不够。他说没关系,数据可以调整。我说调整数据就是造假。他说——」
他停了一下。
「他说,'陆教授,造假和工程优化之间的界限,有时候比你想的更模糊。'」
程远的手指无意识地推了一下眼镜。
「你信了?」
「我没有信。但我签了。」陆鸣章重新坐回藤椅上,「人和人之间最远的距离,不是不知道对错,而是知道对错却选了错的那边。我用了七年才想明白这句话。」
苏晚在门口轻轻敲了一下门框。「还有十个小时。」她点点头。
程远点了点头。他站起来,走到纸箱旁边,蹲下来,打开箱盖。
箱子里没有书。是四摞打印纸,用橡皮筋捆着。最上面一摞的首页印着「镜面系统·内部变更日志·V2.0-V3.7·机密」。
他抽出第一摞,快速翻阅。变更日志按时间顺序排列,每一条都标注了日期和修改内容。前几十条还是正常的功能迭代,但从V2.3开始,修改的性质发生了变化。
V2.3:「增加对特定AI系统的豁免机制。豁免名单由副局长审批。」
V2.5:「豁免机制扩展至审计员行为日志。审计员查询豁免范围内的数据时,返回经过处理的替代结果。」
V2.8:「增加'影子审计'功能。对被豁免的AI系统进行隐蔽式持续监控,监控数据仅存储于副局长专用终端。」
程远的手停在了V2.8这一条上。
影子审计。韩澈在对那些被豁免的AI系统进行秘密监控,同时让普通审计员看到的是干净的数据。这意味着——审计系统本身就是一个双层结构:表面上是透明的监管,实际上韩澈在暗中操控一切。
他继续往下翻。
V3.1:「回声模块上线。利用城市基础设施传感器网络进行目标定位。」
V3.2:「回声模块增加信号中继功能。支持跨区域目标追踪。」
V3.4:「增加对审计员个人终端的远程访问权限。副局长可在紧急情况下查看审计员的实时操作界面。」
V3.5:「远程访问权限扩展至非紧急情况。取消'紧急情况'的前提条件。」
程远合上日志,深吸了一口气。
韩澈不只是在监控AI系统。他在监控监控者。
「这些记录,韩澈为什么不知道你有备份?」
陆鸣章从夹克口袋里掏出一支U盘,放在桌上。「V2.0上线之后,我留了一个后门。不是韩澈那种后门——是真正的后门,只用来备份数据。每次系统更新,后门会自动把变更日志同步到这支U盘里。」
「韩澈的团队没有发现?」
「后门藏在镜像模块的底层通信协议里。韩澈的团队改了应用层,但没有动协议层。」陆鸣章的嘴角浮起一丝苦涩的笑意,「有时候,安全就藏在别人觉得'不值得看'的地方。」
程远拿起U盘,在手里转了一圈。
「这里面有多少数据?」
「七年。从V2.0到昨天晚上最后一次同步。完整的变更日志、系统架构文档,以及——」陆鸣章停了一下,「韩澈的私人审批记录。」
「私人审批记录?」
「每一次豁免、每一次影子审计、每一次远程访问审计员终端——都需要韩澈亲自审批。审批记录被归类为'副局长内部管理日志',普通审计员没有权限查看。我的后门把这部分也备份了。」
程远把U盘放进口袋。他把今天获取的所有信息拼在一起:V1.0的原始架构、V2.0的变更、陆鸣章的信、以及现在这支U盘里的七年数据。
拼图正在成形。但还缺一块。
「陆老师。」程远的声音很平,「我还需要一样东西。」
「什么?」
「韩澈为什么需要这些豁免?他豁免了哪些AI系统?这些系统出了什么问题?」
陆鸣章的表情变了。不是恐惧,不是犹豫,而是一种更深层的疲惫。
「你真的想知道?」
「我必须知道。」
陆鸣章站起来,走到房间角落的一个旧衣柜前面。他打开衣柜,从最里面拿出一个牛皮纸信封——和之前给程远的那封信一模一样。
「这是豁免名单。」他把信封递给程远,「韩澈在过去七年里一共豁免了十一个AI系统。三个医疗AI,两个金融AI,一个司法AI,一个教育AI,以及——」
他的声音突然低了下去。
「以及什么?」
「以及四个自动驾驶系统。」
程远没有说话。
自动驾驶系统。韩澈的女儿死于自动驾驶事故。
「这四个自动驾驶系统,」陆鸣章的声音几乎是耳语,「其中一个是三年前那场事故的涉事系统。韩澈在事故发生后的第二周就把它加入了豁免名单。」
程远的手指攥紧了信封的边缘。
「他把导致他女儿死亡的系统加入了豁免名单?为什么?」
「因为他不想让任何人知道那个系统到底出了什么问题。」陆鸣章重新坐回藤椅上,「那个自动驾驶系统的AI决策模块存在一个深层缺陷——不是普通的bug,是架构层面的缺陷。这个缺陷会导致系统在特定场景下做出完全不可预测的决策。韩澈发现了这个缺陷,但他没有公开。」
「为什么?」
「因为公开意味着整个自动驾驶行业需要停摆。数百家公司、数百万辆车、数千亿的投资——全部归零。所以他选择了豁免,选择了监控,选择了让那个有缺陷的系统继续运行在城市的每一条道路上。」
程远闭上眼睛。
他想起韩澈办公室里的那缸热带鱼。鱼在缸里一圈一圈地游,从不越界。
控制。一切都在控制之中。除了他女儿的命。
「程远。」苏晚的声音从门口传来,「还有八个小时。」
程远睁开眼睛。他把信封放进口袋,和U盘放在一起。然后他走到陆鸣章面前,蹲下来。
「陆老师,跟我走。」
陆鸣章摇了摇头。
「我不走。」
「韩澈的人会找到这里。」
「我知道。」
「你留在这里没有意义。」
「有意义。」陆鸣章的嘴角动了动,「我欠你的。七年了,这笔账该清了。」
程远站起来。他看着陆鸣章——这个曾经教他什么是AI伦理的人,这个后来背叛了自己信仰的人。
「你打算怎么做?」
陆鸣章没有回答。他从藤椅旁边拿起那个纸箱,放到程远手里。
「把这些带走。」他点点头。「U盘里的数据,加上纸箱里的文档,加上我给你的那封信——足够证明韩澈在过去七年里做了什么。」
「然后呢?」
「然后,」陆鸣章看着窗外,「然后你去做你一直想做的事——真正的AI监管。」
程远没有再说话。他拿着纸箱,转身朝门口走去。
走到门口的时候,程远停下了脚步。
「陆老师。」他没有回头,「你那句话——'人和人之间最远的距离,不是不知道对错,而是知道对错却选了错的那边'——这不是你自己的话。」
身后沉默了几秒。
「不是。」陆鸣章的声音从房间里传来,很轻,「是你妈妈说的。」
程远的脚步顿了一下。
他妈妈在他十二岁那年去世了。他几乎没有关于她的记忆。
他没有回头。他走出了那栋老旧居民楼,走进了巷子里。
苏晚跟在他后面,一句话也没说。
他们走了大约两百米,苏晚突然停住了脚步。
「程远。」
他转过身。
苏晚站在巷子中间,手里拿着终端,屏幕上显示着回声模块的信号波形。波形在剧烈跳动。
「回声模块的信号不是在衰减。」苏晚的声音变了,「是在加速。有人在主动扫描这个区域。」
程远低下头看了一眼手里的纸箱。纸箱不重,但他知道里面的东西足以让整个AI监管局天翻地覆。
「走。」他点点头。