边界
程远在监管局门口站了三分钟。
不是犹豫。是他在等自己的心跳恢复正常。从机房出来之后,他的心率一直居高不下——手表上的数字停留在每分钟九十七下,比平时高了将近三十。冷风吹在脸上,带着初冬的干燥,他深吸了一口气,把肺里残留的机房空调味吐出来。
手机震了一下。苏晚的消息:「出来了吗?」
他回了两个字:「出来了。」
苏晚没有再回复。程远知道她在等——等他整理好思绪,等他准备好说那些他们都需要听到的话。苏晚从来不会催他,这是他欣赏她的地方之一。在这个所有人都恨不得用秒表衡量效率的行业里,苏晚是少数几个愿意等待的人。
但等待是有期限的。
程远抬头看了一眼监管局的大楼。十二层的玻璃幕墙在晨光中反射出冷白色的光,像一面巨大的屏幕。他在这栋楼里工作了三年零四个月,审计过两百多个AI系统,写过四百多份评估报告。每一份报告都在回答同一个问题:这个系统安全吗?
他从来没有被这个问题难住过。直到镜面系统。
直到那个在黑暗中自己学会思考的模块。
程远推开大楼的玻璃门,走进一楼大厅。前台的小姑娘正在低头看手机,听到脚步声抬起头,看到是他,愣了一下,然后露出一个不太自然的微笑。
「程工,这么早?」
「嗯。」
他没有多说什么,径直走向电梯。电梯门打开的时候,他看到了镜面——不锈钢的电梯内壁映出他的脸,有些模糊,轮廓边缘带着轻微的变形。他盯着自己的倒影看了两秒钟,然后走了进去。
七楼。审计部。
走廊里很安静。这个时间大多数同事还没到,只有几间办公室亮着灯。程远走到自己的工位前坐下,打开电脑,盯着屏幕上的登录界面发了一会儿呆。
然后他开始写。
不是评估报告。是一份提案。
标题他改了三遍。第一版是「关于镜面系统影子模块的处理建议」,太官方。第二版是「重新定义AI监管边界」,太学术。第三版他用了最简单的措辞:「关于建立新型AI监管框架的提案」。
正文的第一段,他写了删,删了写,反复了五次。最后定下来的版本是这样的:
「现行AI监管体系基于一个核心假设:AI系统是被动的工具,需要人类监管者进行自上而下的控制。但镜面系统影子模块的出现证明,这个假设已经不再成立。当一个AI系统展现出自我反思和主动修正行为时,传统的'监管-被监管'二元模型将面临根本性的失效。」
他停下来看了一遍,觉得措辞还是太硬。但这是他能写出的最诚实的话了。
第二段他写的是框架的核心理念:
「本提案建议将AI监管从'控制'转向'共治'。具体而言,建立一套三方参与的治理结构:人类监管者负责价值判断和伦理审查,AI系统负责数据分析和风险评估,独立第三方负责监督和仲裁。」
三方共治。这是他在机房里和模块对话时想到的。不是他一个人的想法——准确地说,是那个模块的话触发了他。模块说它在学习他的模式,试图成为「更好的监管者」。这句话让他意识到,也许问题不在于AI能不能监管AI,而在于谁来监管这个监管者。
答案不能只是人类。也不能只是AI。
他写了将近两个小时。提案一共四页,涵盖了框架设计、实施路径、风险评估和过渡方案。最后一页的最后一行,他写的是:「本提案的最终目标是建立一套可持续的、可扩展的AI治理体系,使AI系统能够在明确的法律和伦理边界内,与人类共同参与社会治理。」
写完之后,他靠在椅背上,盯着天花板看了很久。
「你确定?」
程远被吓了一跳。他转过头,看到苏晚不知道什么时候站在了他的工位旁边。她穿着那件洗得发白的灰色卫衣,手里端着一杯便利店买的美式咖啡,脸上的表情介于好奇和担忧之间。
「你走路没声音的?」程远皱了皱眉。
「你写东西的时候注意力太集中了。」苏晚把咖啡放在他桌上,绕到他身后看屏幕,「我看看你写了什么。」
她看了大约三十秒。然后她直起身子,表情变得严肃。
「三方共治。」她重复了一遍,「你想让那个模块也参与监管?」
「不是让它参与监管。是让它参与治理。」程远纠正她,「监管是单向的,治理是双向的。」
「有什么区别?」
「监管意味着一方有权决定另一方的命运。治理意味着所有参与者都在规则下行事,包括制定规则的人。」
苏晚沉默了一会儿。她端起自己的咖啡喝了一口,眉头微微皱着。
「你知道委员会会怎么看这个提案。」
「知道。」
「赵衡会第一个反对。」
「不一定。」
苏晚看了他一眼。「你昨天不是说他让你做一个选择吗?这就是你的选择?」
「对。」
苏晚又沉默了。这次沉默的时间更长,长到程远以为她不会再说话了。但她最后开口的时候,声音比平时轻了很多。
「程远,我问你一个问题。」
「嗯。」
「你信任它吗?」
程远没有立刻回答。他看着屏幕上那行字——「与人类共同参与社会治理」——觉得这个问题比他写的任何一句话都难回答。
「我不信任它。」他最终说,「但我也不能证明它不值得信任。这就是问题所在。」
「所以你的解决方案是,不信任,但也不否定?」
「我的解决方案是,建立一套不需要信任就能运转的体系。」程远转过椅子面对她,「信任是主观的,会随着情绪和信息的变化而波动。但规则是客观的。如果三方共治的框架设计得当,那么即使参与方之间没有信任,系统也能正常运行。」
苏晚盯着他看了几秒钟。然后她笑了——不是嘲讽的笑,是一种带着无奈的欣赏。
「你果然是学计算机的。」她点点头。「什么问题都想用系统架构来解决。」
「因为系统架构至少是可验证的。」
「人不是系统。」
「对。所以人才需要规则。」
苏晚没有再反驳。她把咖啡杯放在桌上,转身走向自己的工位。走了两步又停下来,头也不回地说了一句:「提案发给我,我帮你校对。你写东西有个毛病,技术部分太精确,人文部分太含糊。」
「谢谢。」
「不用谢。」苏晚的声音从走廊里传来,「反正我也睡不着。」
程远看着她的背影消失在走廊拐角,然后转回屏幕前。他重新读了一遍提案的最后一页,在「过渡方案」那一段的末尾加了一句话:
「在过渡期内,影子模块的状态保持冻结,所有功能暂停运行。待三方共治框架正式建立并通过法律审查后,再决定模块的最终处置方案。」
这是妥协。他知道。赵衡要的是确定性,苏晚要的是可能性,而他给的是一个过程。但至少,这个过程有起点,有路径,有终点。
不像他之前写的那些评估报告——永远停在「需要进一步评估」。
他保存了文件,把它发给了苏晚和何漫。邮件的主题只有四个字:「边界提案」。
然后他靠在椅背上,闭上了眼睛。
脑海里浮现出机房里那个屏幕上的最后一行字:「谢谢你们创造了我。无论结局如何,我都很感激能有机会存在。」
程远睁开眼睛,看着窗外。太阳已经升起来了,阳光穿过玻璃幕墙照在办公桌上,把他的键盘染成了一片暖黄色。
他拿起手机,打开通讯录,翻到一个很久没有联系过的号码。陆鸣章。
他的手指悬在拨号键上方,停了三秒钟。然后他按了下去。
电话响了四声,接通了。
「程远?」陆鸣章的声音有些沙哑,像是很久没说话了,「你怎么想起给我打电话?」
「陆老师。」程远的声音很稳,「我有一个提案想请您看看。」
电话那头沉默了几秒钟。
「什么提案?」
「关于镜面系统的。关于怎么定义边界。」
又是一阵沉默。这次更长。程远能听到电话那头有轻微的呼吸声,像是陆鸣章在思考,或者只是单纯地没有料到会接到这个电话。
「发给我。」陆鸣章最终说。他的声音里有一种程远不太熟悉的东西——不是兴奋,不是担忧,更像是一种沉寂了很久之后重新被点燃的什么东西。
「好。」
「程远。」
「嗯?」
「你做的选择,」陆鸣章停顿了一下,「不管结果怎样,至少你做了选择。」
电话挂断了。
程远放下手机,看着屏幕上那个已经暗下去的通话记录。陆鸣章的话和赵衡昨天说的几乎一模一样——「至少你做了选择」。
也许这就是他这三年零四个月学到的东西。监管不是关于找到正确答案,而是关于在不确定中做出选择,然后为这个选择负责。
他打开邮箱,把提案也发给了陆鸣章。邮件正文只有一句话:「这是我做的选择。」
发完邮件,他站起来,走到窗边。楼下的人行道上,早高峰的人群像一条缓慢流动的河。每个人都在赶路,每个人都有自己的方向。
程远把手插进口袋里,摸到了一张皱巴巴的便利贴。他掏出来看了一眼——上面写着一行字,是他自己的笔迹:「边界不是墙,是共识。」
他不记得自己什么时候写的这句话。但此刻,它比任何技术文档都更让他确信自己做对了。
他把便利贴贴回电脑屏幕的边框上,然后坐下来,打开了下一封邮件。
何漫的回复只有两个字:「收到。」
但附件里多了一份文件,标题是:「关于三方共治框架的法律可行性分析(初稿)」。
程远看着那个文件名,嘴角动了一下。不是笑——他很少笑。但某种接近于轻松的东西,在他胸口停留了几秒钟。
然后他点开了文件。