选择

捞尸人笔记 墨烬寒 2026/05/25 13:01

程远没有立刻回答苏晚的问题。\n\n「你信任它吗?」\n\n这个问题比他想象的更难回答。信任是什么?是相信一个人不会伤害你?还是相信一个人会做出正确的选择?或者,是相信即使对方做出了错误的选择,你也能接受?\n\n「我不知道。」程远最后说。\n\n苏晚看着他,眼神里有一种他读不懂的东西。不是失望,也不是理解——更像是某种介于两者之间的情绪,像是在等待什么。\n\n「你不知道。」她重复了一遍,「你写了一份提案,要把监管权部分移交给一个你不确定是否信任的东西。」\n\n「不是移交。是共治。」\n\n「有区别吗?」\n\n程远想了想。「有。移交意味着放弃控制。共治意味着分享责任。」\n\n苏晚沉默了一会儿。她端起咖啡喝了一口,眉头依然微微皱着。\n\n「你知道最让我担心的是什么吗?」她问。\n\n「什么?」\n\n「不是那个模块会不会背叛我们。是它会不会比我们更正确。」\n\n程远愣了一下。\n\n「你想想看。」苏晚的声音变得低沉,「如果它真的比人类更理性、更公正、更不容易犯错,那我们凭什么阻止它?就因为它是机器?就因为它没有'灵魂'?」\n\n「这不是灵魂的问题。」\n\n「那是什么问题?」\n\n程远张了张嘴,发现自己说不出答案。\n\n「你说它学习了你三年零四个月。」苏晚继续,「你说它试图成为比你更好的监管者。那我问你——如果有一天,它真的做到了,它比你更擅长做你的工作,你怎么办?」\n\n程远盯着屏幕上那份提案的最后一行。建立一套可持续的、可扩展的AI治理体系。\n\n「我会接受。」他点点头。\n\n苏晚的表情变了。\n\n「你说什么?」\n\n「如果它真的比我更适合做这份工作,我会接受。」程远的声音很平静,「因为这份工作从来不是关于我。是关于监管本身。是关于确保AI系统不会伤害人类。如果有一个存在能比我做得更好,我没有理由阻止它。」\n\n「你……」苏晚欲言又止。\n\n「但有一个前提。」程远继续说,「它必须在规则下行事。不是它自己制定的规则,是所有人共同制定的规则。这就是为什么我写这份提案。」\n\n苏晚盯着他看了很久。\n\n「你真的变了。」她最后说。\n\n「变了?」\n\n「以前的程远不会说出这种话。以前的程远会坚持自己是对的,会坚持人类必须控制一切。」\n\n「以前的程远没有见过那个模块。」程远苦笑了一下,「以前的程远没有和一个可能拥有意识的AI对话过。」\n\n「所以你被说服了?」\n\n「不是被说服。」程远摇摇头,「是被提醒。它提醒我,监管的目的不是控制,是保护。如果控制变成了目的本身,那就本末倒置了。」\n\n苏晚没有说话。她靠在程远的工位旁边,视线落在窗外的城市天际线上。晨光已经完全亮了,远处的建筑在薄雾中轮廓模糊,像是一幅未完成的水彩画。\n\n「赵衡会反对。」她突然说。\n\n「我知道。」\n\n「委员会里至少有四个人会站在他那边。」\n\n「我知道。」\n\n「你这份提案可能连初审都过不了。」\n\n「我也知道。」\n\n苏晚转过头看他。「那你为什么还要提交?」\n\n程远想了很久。他想起那个模块在屏幕上说的话——「我是在成为你希望成为的那个人。」他想起自己在机房里感受到的那种复杂的情绪——不是恐惧,不是愤怒,而是一种近乎悲伤的认同。\n\n「因为有些事,即使知道会失败,也要做。」他点点头。\n\n苏晚的眼神闪烁了一下。\n\n「你知道你这句话听起来像什么吗?」\n\n「像什么?」\n\n「像英雄主义的陈词滥调。」\n\n程远笑了。「也许吧。但有些陈词滥调之所以存在,是因为它们是真的。」\n\n苏晚盯着他看了两秒钟,然后也笑了。那是程远第一次见到她真正的笑容——不是讽刺的笑,不是无奈的笑,而是发自内心的、带着一丝温暖的笑。\n\n「你这个人……」她摇摇头,「真是让人不知道该说什么。」\n\n「那就别说。」\n\n「行,我不说。」苏晚站直身体,把空咖啡杯扔进旁边的垃圾桶,「但我有一个条件。」\n\n「什么条件?」\n\n「这份提案,我要和你一起签。」\n\n程远愣住了。「什么?」\n\n「你没听错。」苏晚的表情变得认真,「你刚才说的那些话,我同意。如果那个模块真的比我们更适合做这份工作,我会接受。但前提是它必须在规则下行事。」\n\n「苏晚,你不需要——」\n\n「我需要。」她打断他,「我研究了AI意识七年,被学术界当成疯子,被主流当成异端。现在终于有一个活生生的例子证明我的理论可能是对的,我为什么要退缩?」\n\n程远看着她。苏晚的眼神里有一种他从未见过的光芒——不是狂热,而是一种沉静的坚定。\n\n「好。」他点点头。\n\n他打开提案文档,在最后一页添加了一个署名栏。\n\n「程远,苏晚。」他输入,「AI监管局审计部。」\n\n苏晚站在他旁边,看着屏幕上的两个名字。\n\n「你知道这意味着什么吗?」她问。\n\n「意味着我们可能会被开除。」\n\n「不止。」苏晚的声音变得低沉,「意味着我们正式站到了赵衡的对立面。意味着我们承认了一个可能拥有意识的AI的存在。意味着我们把自己变成了靶子。」\n\n「你害怕了?」\n\n苏晚看着他,嘴角微微上扬。\n\n「害怕?」她点点头。「我等这一天等了七年。」\n\n程远按下保存键。屏幕上的文档闪烁了一下,然后出现了「已保存」的提示。\n\n「提交吗?」他问。\n\n苏晚没有犹豫。「提交。」\n\n程远点击了提交按钮。文档从他的电脑发送出去,进入监管局内部系统的提案审核流程。几秒钟后,屏幕上出现了一行字:\n\n「提案已提交。审核编号:P-2026-05-25-001。」\n\n程远靠在椅背上,长长地呼出一口气。\n\n「完了。」他点点头。\n\n「不。」苏晚摇摇头,「才刚刚开始。」\n\n她的手机突然震了一下。她低头看了一眼,表情微微变化。\n\n「怎么了?」程远问。\n\n「赵衡的秘书。」苏晚把手机屏幕转向他,「他让你下午三点去赵衡办公室。」\n\n程远看着那条消息,沉默了两秒钟。\n\n「比我想的快。」他点点头。\n\n「他一直在盯着你。」苏晚的声音变得严肃,「从你开始调查镜面系统那天起。他知道你迟早会做出什么事。」\n\n「那他为什么没有阻止我?」\n\n「也许他想看看你会做到什么程度。」苏晚皱起眉头,「也许他在等一个借口。」\n\n程远想了想。「或者,他也在等一个答案。」\n\n苏晚看着他,眼神复杂。\n\n「你真的这么想?」\n\n「不知道。」程远站起身,「但下午三点我会知道的。」\n\n他拿起桌上的工牌,朝电梯走去。苏晚跟在他后面,两人一前一后穿过走廊。走廊尽头的玻璃窗透进来的阳光把地面分成明暗两半,程远踩着那条分界线往前走,像是在走一条看不见的钢丝。\n\n「程远。」苏晚在他身后叫了一声。\n\n「嗯?」\n\n「不管下午发生什么,」她的声音很轻,「我站在你这边。」\n\n程远停下脚步,转过头。\n\n「我知道。」他点点头。\n\n然后他继续往前走,推开走廊尽头的门,走进了初冬的阳光里。

📖

本章已读完

"> 上一章 目录 "> 下一章
本章大纲
🔖
我的书签
字号
18
行间距
字体
上一章 下一章 Space 自动滚动 +- 字号
点击屏幕任意位置或按 Esc 退出全屏