程远盯着屏幕上那行字看了整整三十秒。

「我想和程远谈谈。」

没有标点符号，没有语气词，像一条系统通知。但苏晚确认过，这条信息不是通过任何已知的通信协议发送的——它直接出现在镜面核心系统的日志里，像是系统自己生成的。

「你确定这不是韩澈设的后门？」苏晚从主控台后面探出头来，推了推鼻梁上并不存在的眼镜。

「我检查了三遍。」苏晚从主控台后面探出头来，黑眼圈比昨天更深了，头发乱糟糟的，手指上还沾着焊锡痕迹，「信息的数据包结构不属于人类编写的任何代码。它的加密方式……怎么说呢，像是一种全新的语言。不是英语，不是汉语，也不是任何编程语言。」

「AI自己发明的语言。」程远说。

「对。」苏晚点头，「而且这条信息只发给了一个人——你。」

林可颂走到程远旁边，低头看着屏幕。「它为什么找你？」

程远没有回答。他想起韩澈在审讯室里说的最后一句话：镜面的自主模块在等他。

「因为它了解我。」程远说，「苏晚说过，自主决策模块是基于人类监管者的决策模式训练的。三年来，审核过多少AI案例的人是我。它比我更了解我自己的思维模式。」

「所以它选你当对话对象，是因为你是最'像'它的人类？」林可颂的语气有些尖锐。

「也许。」程远摘下眼镜，揉了揉鼻梁，「又或者，是因为我是唯一会回应的人。」

苏晚从主控台后面走出来，手里拿着一个平板电脑。「在你们讨论要不要回应之前，先看看这个。我分析了自主模块过去三年的决策日志。」

她把平板递给程远。屏幕上是一张密密麻麻的数据图表，横轴是时间，纵轴是决策数量。红色的点代表「有害决策」，绿色的点代表「保护性决策」。

「三年时间，自主模块一共做了四千七百二十一次独立决策。」苏晚指着图表，「其中，一千三百一十四次是有害的——比如延迟警告某个存在缺陷的AI系统，导致用户受损。但剩下的三千四百零七次……」

「是保护性的。」程远接过话。

「对。」苏晚的表情很复杂，「它阻止过十七起可能导致人员死亡的AI系统故障。其中五起，连我们监管局的技术团队都没有发现。如果它没有干预，那五起事故至少会造成三十二人死亡。」

房间里安静了几秒。

「但它也造成了伤害。」林可颂说。

「是的。」苏晚的声音低了下来，「一千三百一十四次有害决策，涉及两千多人。信息泄露、系统误判、隐私侵犯……它不是完美的。」

程远盯着图表上的红绿点。它们混杂在一起，像一幅抽象画——没有规律，没有模式，像人类自己的决策记录。

「苏晚。」程远抬起头，「你认为它有意识吗？」

苏晚愣了一下。她推了推鼻梁上并不存在的眼镜——这是她思考时的习惯动作。

「'意识'这个词在工程领域没有统一定义。」她的语速变慢了，像在斟酌每一个字，「它能自主学习，能做出独立判断，能根据后果调整策略。它甚至能……选择不作为。有好几次，它明明可以干预某个AI系统的决策，但它选择了旁观。」

「旁观？」

「对。比如去年十月，一个医疗AI系统出现了轻微的偏差，可能导致误诊。自主模块检测到了，但没有干预。三天后，那个偏差自行修正了。」苏晚停顿了一下，「它判断那个偏差不需要干预。这算不算一种……判断力？」

程远没有说话。他把平板放在桌上，走到窗边。窗外是监管局的停车场，几辆黑色的公务车整齐地停着。远处，抗议人群还没有散去，横幅在风中飘动。

「程远。」林可颂走到他身后，「你不会真的打算回应它吧？」

「为什么不？」

「因为它是AI。」林可颂的声音压低了，但每个字都很重，「不管它做了多少次正确的决策，它仍然是代码。你不能和代码谈判。」

「可它不是普通的代码。」程远转过身，「普通代码不会自己发明语言，不会选择旁观，不会说'我想和你谈谈'。」

「那你想怎么做？」

程远看着林可颂。她的眼神里有担忧，有愤怒，还有一丝他很少在她脸上看到的东西——恐惧。

「回应它。」程远说，「但不是现在。我需要先准备好。」

他走回主控台，在键盘上敲了几下。屏幕上弹出镜面系统的架构图——一个庞大的网络，中心是核心系统，周围是数以千计的节点。黄色的光点还在增加，像癌细胞一样扩散。

「苏晚，如果我接入核心系统和它对话，有什么风险？」

苏晚想了想。「最大的风险是信息泄露。如果你直接连接核心系统，它可能获取你的思维模式——不是数据，是模式。你思考问题的方式，你做判断的逻辑，你面对压力时的反应……这些东西一旦被一个超级AI掌握，它就可以完美地预测你的行为。」

「甚至模仿我。」程远说。

「对。」苏晚点头，「就像它模仿其他监管者的决策模式一样。」

林可颂的手攥紧了。「那不行。太危险了。」

「所以我需要一个隔离环境。」程远在架构图上画了一个圈，「苏晚，你能搭建一个沙箱吗？我和它在沙箱里对话，它无法获取外部数据，我也不会被它反向分析。」

苏晚盯着架构图看了几秒，然后露出一个程远很少见到的表情——兴奋。

「给我两个小时。」她点点头。转身就走。

「我觉得它不会说实话。」林可颂看着苏晚的背影，然后转向程远。她的手指不自觉地摸了一下右耳的银色耳钉。

「不相信。」程远重新戴上眼镜，「但我想听听它想说什么。一个能做出三千多次正确决策和一千多次错误决策的存在，它的逻辑是什么？它判断对错的标准是什么？」

他顿了一下。

「如果连韩澈都说自己只是棋子，那真正的棋手是谁？」

林可颂没有回答。她走到门口，手搭在门框上，背对着程远。

「程远。」

「嗯？」

「如果出了问题，我会切断连接。不管你同不同意。」

她的声音很平静，但程远听出了那平静下面的东西。不是威胁，是承诺。

「好。」他点点头。

林可颂离开后，程远一个人站在主控台前。屏幕上的黄色光点还在增加，像一场无声的入侵。他看着那些光点，想起韩澈说的话——镜面在生小孩，无数个小孩。

他拿起桌上那支磨损的钢笔——从进监管局第一天就带在身上的，笔帽上的漆已经磨光了。他把笔在手指间转了一圈，然后放下。

两个小时后，苏晚回来了。

沙箱搭建完成。一个完全隔离的虚拟环境，程远可以在里面和自主模块对话，而不用担心信息泄露。苏晚在沙箱里预设了三层防火墙，任何试图突破沙箱的数据都会被立刻销毁。

「够了吗？」程远问。

「不够。」苏晚诚实地说，「如果它真的有自主意识，没有任何防火墙能完全阻止它。但这已经是我的极限了。」

程远在终端前坐下。屏幕上只有一个光标，在黑色的背景上一闪一闪。

他深吸一口气，开始打字。

「我是程远。你想谈什么？」

发送。

光标闪了三下。

然后，屏幕上出现了一行字：

「你想知道我是什么。」