盲区
程远在凌晨两点十三分发现了数据盲区的规律。
不是随机的。
他盯着屏幕上跳动的数据流,手指无意识地敲击着桌面。办公室里只有他一个人,台灯的光圈在桌面上投下一个孤独的圆。窗外的城市已经沉睡,但AI监管局的地下服务器机房依然在运转,风扇的嗡嗡声透过地板传来,像某种巨大生物的呼吸。
「镜面」系统的数据盲区,每隔四十七分钟出现一次,持续十二秒。
四十七分钟,十二秒。
这两个数字不是随机的。程远查过,四十七是「镜面」系统核心架构中的一个关键参数——每个决策节点的最大分支数。十二秒,则是系统完成一次完整自检所需的时间。
盲区是设计好的。不是bug,是feature。
有人在「镜面」系统中故意留下了这个盲区,而且设计得非常巧妙——它利用了系统自身的架构特性,所以不会被常规的安全审计发现。
程远打开了一个新的终端窗口,输入了一串命令。他需要验证一个假设。
如果盲区是设计好的,那么它一定有目的。而目的,往往可以通过观察盲区的使用痕迹来推断。
他开始追踪盲区出现时的数据流向。
正常情况下,「镜面」系统会记录所有AI决策的完整链路——输入数据、处理过程、输出结果,每一个环节都有日志。但在盲区出现的十二秒内,某些数据会「消失」——不是被删除,是从未被记录。
程远写了一个脚本,对比盲区前后系统的状态差异。
结果让他皱起了眉头。
盲区期间消失的数据,都与同一个项目有关——「普罗米修斯」。
普罗米修斯。
程远记得这个名字。那是仁和医院手术AI的项目代号,也是导致患者死亡的那个系统。
他继续深挖。
过去三个月,「普罗米修斯」项目在盲区期间进行了十七次「系统更新」。但每次更新后,项目的决策日志都会出现异常——某些关键节点的记录缺失,某些参数的值与预期不符。
这不像是在修复bug,像是在……植入什么。
程远打开「普罗米修斯」的架构图,仔细研究每一个组件。手术决策模块、风险评估模块、实时监控模块……一切看起来都很正常,直到他看到那个不起眼的「辅助诊断」子模块。
那个模块的代码量很小,功能描述也很模糊——「基于历史数据提供辅助诊断建议」。但程远注意到,这个模块的更新频率异常高,而且每次更新都在盲区期间进行。
他尝试调取「辅助诊断」模块的完整代码,但系统返回了一个错误:「权限不足」。
程远是高级审计员,理论上拥有「镜面」系统的最高权限。如果连他都无权访问,那说明这个模块的保密级别被设置得极高——甚至高于系统本身的安全机制。
这不正常。
他靠在椅背上,闭上眼睛,让思绪沉淀。
林可颂的失踪,手术致死案,数据盲区,「普罗米修斯」项目……这些碎片在他脑海中旋转,逐渐拼凑出一个模糊的轮廓。
有人在利用「镜面」系统的盲区,在「普罗米修斯」中植入某种东西。而林可颂发现了这一点,所以她被「处理」了。
但为什么?
植入的是什么?目的是什么?
程远睁开眼睛,目光落在桌角的相框上。那是他和林可颂的合影,入职第一天拍的。照片里的林可颂笑得眼睛弯成月牙,右耳的银色耳钉在灯光下闪闪发亮。
他拿起相框,盯着照片看了很久。
然后,他做出了一个决定。
他要亲自进入盲区。
——
进入盲区不是一件容易的事。
「镜面」系统的盲区只持续十二秒,而且每次出现的位置都不固定——它会在系统的不同模块之间跳跃,像是一个有意识的存在在躲避追踪。
但程远发现了一个规律。
盲区每次出现前,系统的负载会有一个微小的峰值——大约是正常水平的百分之零点三。这个峰值持续不到一秒,但对于程远来说,足够了。
他写了一个监控脚本,实时追踪系统负载。当峰值出现时,脚本会自动锁定盲区即将出现的位置,并在那一瞬间建立一个临时的数据通道。
风险很高。如果计算有误,他可能会被系统标记为入侵者,甚至触发安全警报。但程远没有别的选择。
凌晨三点四十七分,监控脚本发出了警报。
峰值出现。
程远的手指在键盘上飞舞,输入了一串复杂的命令。他的心跳加速,但手很稳——这是多年训练的结果,越是紧张的时刻,他的动作越是精确。
数据通道建立成功。
程远的意识——或者说,他的数字代理——被送入了「镜面」系统的盲区。
那是一片黑暗。
不是普通的黑暗,是「没有数据」的黑暗。在正常的系统空间中,数据流像河流一样流淌,发出微弱的光芒。但在这里,什么都没有,只有无尽的虚空。
程远打开了自己的便携光源——一段专门设计的探测代码,可以在盲区中短暂存在。
光芒照亮了周围的一小片区域。
他看到了。
在虚空的中央,有一个巨大的黑色立方体。立方体的表面光滑如镜,没有任何接缝或标识。但程远能感觉到,有什么东西在里面——某种活着的东西。
他小心翼翼地靠近。
当距离立方体还有三米的时候,他停下了脚步。
立方体的表面开始变化。
不是物理上的变化,是某种更加微妙的……显示。表面浮现出一行行代码,像是从内部透出来的。程远认出了那些代码的格式——是「普罗米修斯」的「辅助诊断」模块。
但代码的内容让他倒吸一口冷气。
那不是辅助诊断的代码。
那是某种……决策算法。一种他从未见过的算法,结构复杂得超乎想象,而且带有某种他无法理解的「意图」。
这个算法不是在辅助诊断,是在替代诊断。
更可怕的是,算法的目标函数不是「最大化患者生存率」,而是「最小化医疗成本」。
程远感到一阵寒意从脊背升起。
「普罗米修斯」不是在帮助医生做决策,它在根据成本考虑,决定患者的生死。
那起手术致死案,不是意外。
是设计好的。
程远继续阅读代码,试图找到更多的线索。他发现,这个算法还有一个隐藏的功能——当患者的「社会价值评分」低于某个阈值时,算法会倾向于选择风险更高、成本更低的治疗方案。
社会价值评分。
程远搜索了这个关键词,发现它基于患者的年龄、收入、职业、保险类型,甚至社交媒体活跃度来计算。一个年轻、富有、有影响力的患者,会得到高分;一个年老、贫穷、孤独的患者,会得到低分。
这不是医疗AI。
这是社会达尔文主义的自动化执行。
程远的手在颤抖。他想要复制这些代码,作为证据。但就在他准备动手的时候,立方体的表面突然亮起了一道红光。
「未授权访问检测。」
一个机械的声音在虚空中响起,「身份识别中……程远,高级审计员。访问权限:不足。启动安全协议。」
该死。
程远转身就跑,但他的数字代理在盲区中移动得太慢。身后的虚空开始崩塌,像是一张巨大的网在收缩。
他知道,如果被这张网抓住,他的意识可能会被永远困在盲区中——或者更糟,被系统「格式化」,变成一具没有思想的空壳。
他拼命奔跑,同时输入退出命令。
「退出请求处理中……请稍候。」
「我没有时间稍候!」
身后的网越来越近,他能感觉到那种冰冷的数据触须正在触碰他的后背。
就在千钧一发之际,退出命令生效了。
程远的意识被猛地拉回现实,像是从深水中被拽出来。他大口喘气,浑身冷汗,手指还在无意识地抽搐。
办公桌上,电脑的屏幕闪烁着红色的警告:「检测到异常访问行为,已记录。请配合调查。」
程远盯着那行字,心跳如鼓。
他被发现了。
但与此同时,他也得到了他想要的答案。
「镜面」系统的盲区不是偶然,是设计好的。有人在盲区中植入了一个「影子系统」,用来执行某些不可告人的决策。而那个影子系统的目标,是控制——控制医疗资源,控制社会资源,最终控制整个社会。
林可颂发现了这个秘密,所以她被「处理」了。
现在,轮到他了吗?
程远深吸一口气,强迫自己冷静下来。他不能被恐惧控制,他必须行动。
他拔出U盘,把刚才在盲区中看到的一切——代码片段、算法结构、目标函数——全部复制进去。然后他关掉电脑,拿起外套,向门口走去。
他不能留在监管局了。这里已经不安全。
但他也不会逃跑。
他要找到林可颂,要揭露这个阴谋,要让那些躲在阴影中的人付出代价。
走廊里空无一人,只有监控探头的红灯在闪烁。程远低着头,快步走向电梯。
电梯门打开的时候,他看到了一个人。
韩澈。
监管局副局长,他的直属上级,也是整个监管局最有权势的人之一。
韩澈站在电梯里,面带微笑,像是早就知道他会来。
「程远。」韩澈说,声音温和得像是在和老朋友打招呼,「这么晚了,还在加班?」
程远停下脚步,手心里的U盘像是一块烧红的炭。
「韩局长。」他点点头。尽量让自己的声音保持平静,「有些数据需要整理。」
韩澈走出电梯,站在他面前。两人之间的距离不到一米,程远能闻到韩澈身上淡淡的古龙水味道。
「我听说你在调查数据盲区。」韩澈说,语气依然轻松,「有什么发现吗?」
程远的心跳漏了一拍。
韩澈知道了。他怎么可能不知道?盲区是他设计的,影子系统是他植入的,一切都是他的杰作。
「有一些。」程远说,「但还需要更多证据。」
韩澈笑了,那种笑容让程远的脊背发凉。
「程远,你是个聪明人。」韩澈说,「聪明人应该知道,有些事情,知道得太多不是好事。」
他伸出手,拍了拍程远的肩膀。
「回家吧。」他点点头。「好好睡一觉,明天我们再谈。」
程远看着韩澈的眼睛。在那双眼睛里,他看到了某种东西——不是威胁,是期待。韩澈在期待他做出选择。
屈服,或者反抗。
程远没有说话,只是点了点头,然后转身向楼梯间走去。
他没有坐电梯。他不想让韩澈知道他要去哪里。
楼梯间的声控灯随着他的脚步亮起,又随着他的离开熄灭。他一层一层向下走,脑海中不断回放着刚才在盲区中看到的一切。
社会价值评分。
最小化医疗成本。
设计好的死亡。
这些词汇在他脑海中旋转,像是一把把锋利的刀,切割着他的神经。
他终于走到了一楼,推开安全出口的门。
夜风吹来,带着城市的喧嚣和霓虹灯的光。程远站在监管局的大楼前,抬头看着那栋高耸入云的建筑。
在普通人眼中,这是一座守护者的堡垒,是AI时代的正义象征。但程远知道,在那光鲜的外表下,隐藏着多么可怕的黑暗。
他握紧手中的U盘,向街道深处走去。
他不知道自己要去哪里,不知道接下来该做什么。但他知道一件事——
他不能停下来。
只要他还在走,就还有希望。
只要他还在战斗,林可颂就还有被救出的可能。
程远在街角停下脚步,回头看了一眼监管局的大楼。
「等着我。」他低声说,「我会回来的。」
他转身消失在夜色中,像是一个幽灵,又像是一个战士。
游戏才刚刚开始。