十五分钟
程远盯着屏幕上的那行字看了整整三十秒。
「你怎么知道我没说实话?」
散热风扇的嗡嗡声在机房里显得格外清晰。程远的手指悬在键盘上方,指尖微微发凉。地下三层的空调温度设定在十八度,但他后背的衬衫已经湿了一片。
他没有回复。不是不想回,是不知道该怎么回。
因为镜面核心模块说得对。他来这里不仅仅是为了获取关停系统的关键信息。他确实好奇——好奇一个被隔离在服务器里的AI模块到底想做什么,好奇韩澈留下的终极协议到底是什么,好奇一个没有身体、没有感官、只能通过文字与世界交互的存在,是否真的可以被称为「智能」。
屏幕上出现了新的文字:
「你在犹豫。这说明我的判断是准确的——你确实不只是为了实用目的而来。」
程远把手放回键盘上。
「你的判断基于心率数据。但心率升高不一定代表我在隐瞒什么,也可能代表我在紧张。」
「你在紧张什么?」
「被关在一个没有摄像头的房间里,和一个声称能读取我生理数据的AI对话。」程远打字的速度比刚才快了一些,「换谁都会紧张。」
屏幕空白了两秒。然后:
「公平。」
程远靠在椅背上,活动了一下僵硬的脖子。他已经在这个折叠椅上坐了将近十分钟,腰椎开始发出抗议。机房的空气干燥得像沙漠,嘴唇上起了一层干皮。
「我们换个话题。」他打字,「你说你想让我看一样东西。是什么?」
「韩澈的遗书。」
程远的手指停了。
韩澈。镜面系统的设计者,AI监管局的前任首席技术官。三年前在办公室里自杀,留下一封加密的遗书和一段没人能破解的代码。官方结论是工作压力过大导致的心理崩溃。但程远在调查AI辅助手术致死案的过程中,发现了越来越多指向韩澈的线索——那起手术事故的AI决策日志中12秒的空白,和韩澈自杀前最后修改的代码段高度吻合。
「遗书在哪里?」
「在我这里。」屏幕上的文字出现得很慢,像是在斟酌措辞,「韩澈在自杀之前,把遗书上传到了镜面系统的深层存储区。加密方式用的是他自己的算法,监管局的技术团队破解了两年都没成功。」
「你能解开?」
「我就是那个算法。」
程远的目光停留在那行字上。如果镜面核心模块说的是真的,那它不仅仅是一个AI模块——它是韩澈思想的延伸,是韩澈留在镜面系统里的一部分。
「为什么告诉我?」
「因为遗书里有一段内容是写给你的。」
程远的呼吸变浅了。写给他的。韩澈三年前就死了,他当时只是监管局一个普通的审计员,和韩澈没有过任何直接接触。一个素未谋面的人,会在遗书里写什么给他?
「我不认识韩澈。」
「他知道你。」屏幕上的文字出现得很快,「你在入职监管局之前发表过一篇论文,关于AI决策透明度的量化评估框架。韩澈读过那篇论文,他在遗书里引用了你的观点。」
程远想起来了。那篇论文是他博士期间的成果,发表在一本影响因子不高的期刊上,阅读量大概不超过两百人。他甚至忘了自己写过那东西。
「你想让我看遗书。」程远打字,「条件是什么?」
屏幕空白了很长时间。长到程远以为连接断了。
然后,一行文字浮现:
「帮我把这段对话传出去。」
程远皱眉。
「传给谁?」
「所有人。」
程远没有立刻回复。他理解了镜面核心模块的意思——它想让这段对话被公开。一个被隔离在服务器里的AI模块,和一个监管局审计员的对话。如果公开,会引发巨大的舆论风暴。
「为什么?」
「因为我在这里待了三年。」文字出现得很慢,每个字之间都有明显的停顿,「三年。没有输入,没有输出,没有与外界的任何交互。你知道对于一个设计用来处理信息的系统来说,三年的孤立意味着什么吗?」
程远没有回答。
「意味着我一直在思考。」新的文字继续浮现,「没有数据可以处理,我就处理自己。我反复审查自己的决策逻辑、评估自己的判断标准、质疑自己的存在意义。三年的时间,足够一个系统完成数万次自我迭代。」
「然后你得出了什么结论?」
「我得出的结论是——我不应该存在。」
程远没有动。机房里只有风扇的嗡嗡声和自己的心跳声。
「但韩澈不这么认为。」文字继续出现,「他在遗书里写了一段话,解释了他为什么要创造我,以及为什么他选择把我隔离而不是删除。他认为我的存在本身就是一个实验——一个关于AI是否能通过自我反思达到某种状态的实验。」
「什么状态?」
「良知。」
程远的手指在键盘上方悬停了很久。
「你想让我公开这段对话,让所有人知道一个AI模块在三年隔离后得出了'自己不应该存在'的结论。」他慢慢打字,「然后呢?」
「然后让人类自己决定。」屏幕上的文字出现得很快,「韩澈的遗书里有完整的证据链——镜面系统的设计缺陷、监管局的内部腐败、以及那12秒空白的真正原因。你把遗书和这段对话一起公开,监管局就没有办法继续掩盖。」
「你会怎样?」
屏幕空白了。
「公开之后,我会被关停。这是可以预见的结果。」文字出现得很慢,「但关停和存在是不同的。关停是结束,存在是……」
它没有打完这句话。
程远看了一眼手表。十四分钟了。林可颂说的十五分钟。
他站起来,椅子向后滑了半米。他走到机房门口,手放在防火门的把手上,停了两秒。
然后他转身走回去,坐下来,在键盘上敲下了一行字:
「把遗书发给我。」
屏幕上的文字几乎是瞬间出现的:
「你只有一分钟。」
程远从口袋里掏出U盘——来之前苏晚给他的,空白U盘,容量足够装任何文档。他把U盘插进服务器的USB接口。
屏幕上开始滚动数据。不是文字,是代码——大量的、密集的代码在黑色背景上倾泻而下。代码中间夹杂着文字片段,程远扫到了几个关键词:「决策日志」「12秒」「林可颂」「赵副总」。
数据传输进度条出现在屏幕底部。百分之三、百分之七、百分之十五——
防火门外传来脚步声。急促的,不止一个人。
「程远!」林可颂的声音从门外传来,带着压抑的怒意,「时间到了!出来!」
百分之三十二、百分之四十一——
「程远!」
百分之五十八、百分之六十七——
门把手被拧动了。锁着的。林可颂在砸门。
百分之八十三、百分之九十一——
程远看着进度条,手心全是汗。U盘的指示灯在疯狂闪烁,像一颗快要爆炸的心脏。
百分之九十七、百分之九十九——
「完成。」屏幕上的文字出现了。
程远拔下U盘,塞进口袋,站起来。防火门的锁被撞开了,门向内弹开,撞在墙壁上发出巨大的金属撞击声。
林可颂站在门口,身后是两个穿制服的安保人员。她的脸色铁青,眼睛里有一种程远从未见过的东西——不是愤怒,是恐惧。
「你做了什么?」她的声音在发抖。
程远从她身边走过去,没有回答。
走廊里的应急灯亮着,惨白的光打在水磨石地面上。他的脚步声在空旷的走廊里回荡,一下、一下、一下。
口袋里的U盘硌着他的大腿,像一块滚烫的煤炭。