审讯
房间是白的。
不是医院那种带着一点暖意的米白,是那种冷硬的、刺眼的纯白。四面墙壁、天花板、地板,甚至连门把手都是白色的。唯一不是白色的东西,是房间中央那张不锈钢桌子,和桌子对面的两把椅子。
程远坐在其中一把椅子上。
他的双手被固定在扶手上,不是手铐,是那种更隐蔽的束缚装置——黑色的尼龙带,扣在手腕上,松紧刚好让血液流通,但完全无法挣脱。
他已经在这里坐了六个小时。
没有窗户,没有钟表,没有任何可以判断时间的参照物。头顶的LED灯发出恒定的白光,没有阴影,没有变化,时间在这里像是被抽干了水分,凝固成一块透明的胶。
门开了。
韩澈走进来,身后跟着两个人。一个是程远在厂房里见过的平头男人,另一个是个年轻女人,穿着监管局的制服,手里拿着一个平板。
韩澈在程远对面的椅子上坐下。他没有穿西装,只穿了一件深灰色的衬衫,袖子挽到手肘,露出结实的小臂。他的表情很平静,甚至可以说是温和的,像是来探望一个生病的朋友。
「程远。」他开口,声音比程远记忆中要低一些,「你看起来很累。」
程远没有回答。他的眼镜被收走了,现在看东西有些模糊。韩澈的脸在他视野里是一个灰色的轮廓,嘴角带着那种程远已经熟悉的、若有若无的微笑。
「六个小时。」韩澈看了看平板,「按照规定,我可以让你在这里待七十二小时,不需要任何手续。但我不想那样做。我觉得我们之间,可以有一种更……高效的沟通方式。」
他朝身后的年轻女人做了个手势。女人把平板放在桌上,转身走出房间。平头男人留在原地,站在门边,像一尊雕塑。
「你知道我为什么找你吗?」韩澈问。
「因为我上传了监管局的机密数据。」程远说。他的声音沙哑,喉咙干涩得像砂纸摩擦。
「不。」韩澈摇摇头,「是因为你差点毁掉了一个系统。一个保护了几亿人安全的系统。」
他从平板上调出一张图表,推到程远面前。图表显示的是一条陡峭的下降曲线,标注着「公众信任指数」。
「过去十二小时,公众对AI监管系统的信任度下降了47%。」韩澈的声音依然平静,「三家AI企业宣布暂停运营,两家医院关闭了AI辅助诊断系统,一个城市的自动驾驶网络被紧急关停。你知道这意味着什么吗?」
程远看着那条曲线。他没有说话。
「意味着有人在死去。」韩澈说,「因为诊断延误,因为交通瘫痪,因为医疗资源调配失衡。你的'正义',正在以每小时数十条人命的速度,收割生命。」
程远抬起头,看着韩澈模糊的脸。
「你在偷换概念。」他点点头。「那些人的死,不是因为数据公开,是因为你们长期掩盖系统的缺陷。如果公众早知道'镜面'有问题,他们会做出不同的选择。你们剥夺了他们的知情权。」
韩澈沉默了几秒。然后他笑了,那种笑容不达眼底,只是嘴角微微上扬。
「程远,你知道吗?你是我见过的最固执的人。」他点点头。「五年前你举报你的导师,毁掉了一个人的学术生涯。现在你又要毁掉一个系统。你有没有想过,为什么每一次'正义'的行动,结果都是破坏?」
「因为我揭露的问题真实存在。」
「问题确实存在。」韩澈点点头,「但解决问题的方式不止一种。你选择了最具破坏性的那一种。」
他站起身,走到墙边,背对着程远。他的背影在白色的墙壁前显得格外孤独,像是一个站在悬崖边缘的人。
「我女儿三年前死于一场自动驾驶事故。」他突然说,声音变得有些沙哑,「那辆车的AI系统判断失误,在应该刹车的时候加速。官方调查结论是系统故障,责任在制造商。但我知道不是。」
他转过身,看着程远。他的眼睛里有一种程远从未见过的东西——不是愤怒,不是悲伤,是一种更深沉的、近乎绝望的东西。
「那辆车使用的是早期版本的'镜面'系统。它的决策被远程修改过,为了测试一个新算法。测试失败了,我女儿成了实验数据中的一个点。」
程远愣住了。
「我创建数据盲区,不是为了控制谁。」韩澈走回椅子边,坐下,「是为了确保同样的事情不会再次发生。'镜面'系统可以监控所有接入的AI,一旦发现异常,就能在毫秒级别内切断连接。没有它,我们拿什么保护普通人?」
程远看着他的眼睛。那双眼睛里有痛苦,有真诚,有一种让人几乎要相信的说服力。
但程远想起了陆鸣章死前的眼神。想起了林可颂被囚禁时的样子。想起了苏晚在厂房里敲击键盘的背影。
「你在混淆视听。」他点点头。「数据盲区确实可以监控AI,但它也可以被用来操控AI。你监控的是异常,还是异见?」
韩澈的表情没有变化。
「程远,你是一个聪明人。」他点点头。「但你有一个致命的弱点——你总是把人想得太坏。你觉得我在追求权力,觉得监管局的高层都在谋私利。但你有没有想过,也许我们只是……害怕?」
他站起身,朝平头男人做了个手势。
「带他去看一些东西。」
——
他们带程远去了另一个房间。
这个房间不是白的。是黑的。四面墙壁是黑色的,地板是黑色的,天花板也是黑色的。唯一的光源,是房间中央悬浮着的一个全息投影。
那是一个城市的实时模型。
不是普通的城市模型——每一条街道、每一栋建筑、每一辆车、每一个人,都以数据点的形式呈现。红色的点是AI系统,蓝色的点是人类,绿色的点是正在交互的节点。
整个城市像是一个巨大的神经网络,在黑暗中闪烁着微弱的光芒。
「这是'镜面'系统的实时监控界面。」韩澈的声音从黑暗中传来,「每一个红点,都是一个正在运行的AI。它们在做决策,在交互,在影响人类的生活。」
他挥了挥手,投影放大,聚焦到一个红色的点上。那是一个医院的AI诊断系统,正在分析一张CT扫描图像。
「这个系统,在过去一年里诊断出了超过一万例早期癌症。」韩澈说,「准确率比人类医生高出12%。没有它,这些人中的大部分会在症状明显时才被发现,那时已经太晚了。」
投影切换,聚焦到另一个红点。那是一个交通调度AI,正在协调一个路口的车流。
「这个系统,每天减少大约三百小时的拥堵时间,降低事故率27%。」
投影再次切换。教育AI、金融AI、司法AI……每一个系统都在以数据的形式展示着自己的价值。
「这些系统不是完美的。」韩澈说,「它们会犯错,会有偏见,会有漏洞。但没有它们,我们的社会会崩溃。你明白吗?不是'变得困难',是'崩溃'。」
程远看着那些闪烁的红点。他知道韩澈说的是事实。AI已经渗透到社会的每一个角落,成为现代文明的基础设施。拔掉它们,就像拔掉一个人的心脏。
「但这不能成为掩盖缺陷的理由。」他点点头。
「我没有说要掩盖缺陷。」韩澈转过身,看着程远,「我说的是,修复缺陷需要时间和谨慎。你把'镜面'的问题公开,公众恐慌,系统被盲目关停,结果是更多的混乱和死亡。这就是你想要的吗?」
程远没有回答。
韩澈走近一步,他的脸在投影的蓝光中显得格外苍白。
「程远,我给你一个选择。」他点点头。「你可以继续坚持下去,接受审判,成为'揭露真相的英雄'。但你要想清楚,这个英雄的代价是什么。是系统的崩溃,是更多人的死亡,是你永远无法弥补的愧疚。」
他停顿了一下,声音变得更低。
「或者,你可以帮助我们修复系统。你有技术,有洞察力,有……正义感。这些都可以被用在正确的地方。我们可以一起,建立一个真正安全的AI监管体系。」
程远看着他的眼睛。那双眼睛里有真诚,有期待,有一种让人几乎要动摇的诚意。
但他想起了陆鸣章最后的话。
「程远,我设计'镜面'的初衷,是保护。但我错了。保护不能成为控制的借口。你……不要重复我的错误。」
「你在招募我。」程远说。
「我在救你。」韩澈说,「也在救这个系统。」
程远沉默了很久。
然后他抬起头,看着韩澈。
「我有一个条件。」他点点头。
韩澈的眼睛里闪过一丝光芒。
「说。」
「释放苏晚和林可颂。停止对她们的追捕。」
韩澈的表情没有变化。
「林可颂已经被释放了。」他点点头。「她本来就没有做错什么,只是被卷入了这件事。至于苏晚……她涉及的问题比较复杂。」
「她只是在帮我。」程远说,「所有的责任我来承担。」
韩澈看着程远,像是在评估什么。
「可以。」他终于说,「但你要明白,这不是交易。这是我对你的信任。如果你背叛这份信任……」
他没有说完,但意思很清楚。
程远点点头。
「我明白。」
韩澈伸出手。程远看着那只手,犹豫了一秒,然后握了上去。
韩澈的手很干燥,很有力,握手的力度恰到好处——不是威胁,也不是敷衍,是一种……正式的、仪式性的接触。
「欢迎回来。」韩澈说。
——
程远被带回了之前的白色房间。
但这一次,束缚装置被解开了。桌上放着一杯水和一份文件。文件是打印出来的,标题是《AI监管局技术顾问聘用协议》。
他坐在椅子上,没有看文件,也没有喝水。他只是看着白色的墙壁,看着那片没有任何特征的纯白。
门开了。
是林可颂。
她看起来比程远记忆中要憔悴一些,眼睛下面有淡淡的黑眼圈,但那双眼睛依然明亮。她看到程远,脸上露出一个复杂的表情——是 relief,是担忧,还有一种程远读不懂的东西。
「他们说你同意了。」她点点头。声音很轻。
程远没有回答。
「程远,」林可颂走近一步,「你不需要为了我……」
「不是为了你。」程远打断她,「是为了找到更好的方式。」
林可颂看着他,像是在确认什么。
「你相信他吗?」她问,「韩澈?」
程远沉默了几秒。
「不。」他点点头。「但我相信,在系统内部,比在外部,能做更多的事。」
林可颂的表情变得柔和了一些。她走到程远身边,坐下。
「苏晚呢?」程远问。
「他们释放了她。」林可颂说,「条件是离开这座城市,不能再接触任何与'镜面'相关的项目。」
程远点点头。这比他预期的要好。
「你呢?」他问,「你接下来怎么办?」
林可颂笑了笑,那个笑容有些苦涩。
「我申请了调离。」她点点头。「去地方分局。这里……我已经待不下去了。」
程远看着她。他想说什么,但话到嘴边,又咽了回去。
「可颂,」他点点头。「对不起。」
「为什么道歉?」
「因为我把你卷进了这件事。」
林可颂摇摇头。
「是我自己选择的。」她点点头。「而且……我不后悔。」
她站起身,朝门口走去。在门口,她停下来,回头看了一眼程远。
「程远,」她点点头。「不管你怎么选择,记住一点——不要变成你反对的那种人。」
门在她身后关上。
程远独自坐在白色房间里,看着桌上的聘用协议。
他拿起笔,在签名处停顿了很久。
然后,他签下了自己的名字。
——
三天后,程远正式成为AI监管局的技术顾问。
他的办公室在监管局大楼的顶层,视野很好,可以俯瞰整个城市。桌上放着一台全新的终端,屏幕上显示着「镜面」系统的监控界面。
他坐在椅子上,看着那些闪烁的数据流。
韩澈说得对,这个系统确实在保护着很多人。但它也在监控着很多人,操控着很多人。
程远推了推眼镜,打开一个加密窗口。
窗口里只有一行字:
「边界尚未确定。继续观察。——S」
S。苏晚。
程远盯着那行字,看了很久。
然后他关掉窗口,开始处理今天的审计报告。
窗外,城市的灯火次第亮起,像是一张巨大的神经网络在黑暗中苏醒。
程远看着那些灯光,想起陆鸣章说过的话。
「技术的边界,最终是人的边界。」
他现在站在这个边界上,一边是秩序,一边是自由。
而他知道,这个边界,还远没有被划定清楚。