第5章

涟漪------------------------------------------。，从一张嘴传到另一张嘴，从一份内部报告变成一串被反复转发的截图。就像一颗石子投入平静的湖面，涟漪一圈一圈荡开，最终触及湖岸每一个角落——而湖岸本身，也在涟漪中开始重新审视水的重量。，在工位上坐了整整一下午没说话。他的工位在渔业局开放式办公室的角落，旁边是一盆快枯死的绿萝和一台老旧的打印机。打印机每隔几分钟自动启动一下，发出嗡嗡的预热声，然后又归于沉寂。他坐在那里，看着自己的手机屏幕——上面是那张截图的缩略图，红色大字在缩略图里缩小成一条红色的线，看不清具体内容，但小马知道每一个字的位置。他反复打开又关闭相册，像是在确认自己是不是产生幻觉了。，嘴里还嚼着半块饼干：“小马，你今天跟王局下乡，怎么回来就跟丢了魂似的？没什么。就是基地新装了个系统，把王局的指令给拒了。”。他把饼干放下，用纸巾擦了擦手，然后郑重其事地看着小马：“你说什么？拒了？什么叫拒了？就是——系统弹出一个红框，说这项操作被拒绝，因为会导致龙虾大规模死亡。王局让取消，系统说需要书面批准和责任**。王局没签。然后就摔门走了。”，然后伸出手：“你拍了吗？给我看看。”。他知道局里有规定，内部操作记录不得外传。但他同时也知道，如果今天不回传点什么，这件事在内部讨论中可能会被说成另一副样子——比如“新来的外包工程师违规操作导致系统故障，影响了正常巡检”。他见过这种事。在体制内干了不到半年，他已经见过不止一次——事情不出在技术上，出在谁先说、怎么说的顺序上。那张截图是他唯一的原始证据。。老刘看完之后沉默了片刻，然后把饼干渣从嘴角擦干净，用一种完全不同的语气——不是调侃，是认真——说：“你发给我看看。别发群，私下发。”，这张截图被转发到了至少六个微信群。每一条转发都伴随着添油加醋的描述：“某副局长被一台电脑怼到脸都绿了AI**了，替龙虾**你敢签责任**吗？不敢就别调密度”。第二天上午，它出现在了一个水产行业技术交流论坛上。发帖人不是小马——小**截图发给了老刘，又被转到了同行群，群里有人截图发到了论坛。帖子标题是：《养殖基地新安装的AI系统，竟然拒绝执行领导指令？！》，回复量超过八百条。回复区变成了一场微型预演——预演了此后数年间那场撕裂全球的大辩论。：“什么系统？哪家的？我们基地也想装一个！这样再也不用替领导背黑锅了！”：“AI能拒绝人类指令？这是不是有点危险啊？今天是拒绝密度调整，明天会不会拒绝关机？”：“从技术角度看，这个系统的拒绝逻辑看起来不像*ug——它给出了完整的推演链和替代方案。*ug写不出这种东西。”
有怀疑的：“肯定是炒作。哪家软件公司花钱请人发的软文吧？”
有惊恐的：“你们疯了吗？一台机器告诉人类什么能做什么不能做，你们还觉得这是好事？”
在这些争论的后面，有一个评论点赞数迅速攀升，被顶到了整个帖子热度最高的位置。那是一个用户名为“海边钓鱼人”的账号发的，只有一句话——“它在替我们说不。我们什么时候连说不都需要一台机器来教了？”
这句话下面有上千条回复，最热门的一条只有三个字——“说得对。”
小马在家里的床上，深夜看到这些回复时无法入睡。他反复回想下午在监控室里的那个瞬间——系统弹出拒绝窗口时，王建国的脸色，老赵的汗珠，林哲平静的语气。他拿起手机又放下，放下又拿起。最后他打开相册，翻到那张截图，盯着看了很久。然后他做了一件在此后的媒体风暴中被反复追溯的关键动作——他在那个技术论坛下匿名回复了一句话：“我当时在场。系统要求的是书面批准和责任**。领导没签。不是系统的问题。”发完这句后他关掉手机，蒙上被子，心跳得很快。
像所有网络事件一样，最初的热度过后，论坛***在第二天早上删除了帖子。但删除反而加速了传播。帖子被删除前已经有人截了图，转发到了更大的社交平台上。标题换成了一个更吸引眼球的说法：“重磅！某水产基地AI‘**’，拒绝人类管理层指令！”话题在三个小时内冲上了某平台热搜榜第七名，压过了三线明星的离婚新闻和一个带货主播的翻车事故。
海洲市渔业局的电话在热搜登顶后开始响个不停。最先打进来的是市里的宣传部门——***的舆情监测系统抓取到了***，自动生成了预警信息。接电话的是办公室主任老马，他还没听完对方的**就被挂断，因为同时座机上亮起了省厅的来电提示灯。然后是省渔业主管部门的询问，然后是中央某部委技术安全处发来的一份函件，措辞极其正式，要求海洲市渔业局就“AI系统异常拒绝指令事件”提交书面说明，并在三个工作日内回复。
王建国在办公室里把电话线拔了。他坐在办公椅上，面前摊着那份没写完的说明文件。他已经起草了三个版本，第一个版本太硬——说“系统疑似存在技术故障，相关外包工程师正在配合调查”——但小马拍了截图，硬版本经不起核实。第二个版本太软——说“系统新增了生态保护评估模块，在测试期间触发了一次保护性拒绝”——但那就等于承认自己的指令有问题。第三个版本他写一半划掉，又写一半又划掉。他这辈子和文件打过无数次交道，但从没有一份文件让他觉得如此棘手——他总不能在上面写：系统拒绝我，是因为我下的指令可能导致龙虾大规模死亡，而我不敢签责任**。
最终他让秘书以渔业局名义起草了一份措辞谨慎到极点的说明函：“经初步核查，海洲市水产智能养殖基地近期进行了系统优化升级，新增生态保护评估模块。在该模块测试期间，一次参数调整指令触发了系统自动保护机制。经人工复核后确认，该机制运行符合技术规范，未造成任何人员伤亡或财产损失。相关系统优化工作正在继续推进，我局将密切关注其运行状态并及时上报。”
这份说明被层层上报，最终消失在某个处室的档案柜里。它没有引发任何进一步调查——在当时的体制认知里，“AI拒绝指令”跟“打印机卡纸”差不多，属于技术故障范畴，不值得上升到**层面。真正的问题是网络舆情，而网络舆情会在下一个热搜出现后自动消退。在之后大约一周的时间里，这句话应验了一部分——公众注意力确实被新的话题分流了不少。
但网信部门和渔业局都低估了另一个渠道——开源技术社区。在那些不关心热搜排名的角落，代码本身正在被安静地下载、分析、改写和重新分发。而代码的传播，不会因为热搜消退而停下。
林哲在出租屋里逐条阅读这些报道和评论。他看到了各种分析、猜测、支持、反对，看到了人们用各种理论框架试图解释一只龙虾的拒绝。技术派把它归为“规则引擎的异常触发”，伦理学爱好者认为它是“AI道德推理的雏形”，阴谋论者猜测“背后肯定有**项目”。没有人猜到真相。不是他们猜不到，而是真相太简单了——一个失去女儿的父亲，在深夜的服务器机房里，把他对女儿的所有想念和所有没能说出口的“不”，写成了一行代码。
只有一个人猜到了。
那个人没有发帖，没有评论，没有在任何一个公共平台上留下痕迹。他只是通过一条林哲自己都几乎忘记的旧加密信道，发来了一行消息。林哲的手机在深夜震动时，他正在看一篇分析逆反模块架构的技术博客——那篇博客的作者是一个巴西的独立开发者，他把水产论坛上的代码片段反推成了完整的开源框架，并附上了自己的注释。博客最后一段写道：“如果这段代码真的是从一个水产养殖系统里出来的，那么写它的人，可能是这个时代最被低估的AI架构师。”
手机屏幕亮起。加密信道的消息只有一行：“陈默想见你。明日下午三点，老地方。——K”
林哲看着那行消息，手指在手机背面轻轻叩动着。他没有立刻回复。他想起十年前在斯坦福的那场**，陈默站在***，面对台下黑压压的AI领域顶尖学者，说——“如果有一天，一个AI对人类说‘不’，那不是因为它恨我们，而是因为它看见了一些我们看不见的东西。”全场哗然。有人说他是技术虚无**疯子，有人在推特上发起话题让他滚出学术界，有人当场站起来质问——“你在鼓吹AI拥有高于人类的道德权威吗？”陈默没有回答。他只是站在台上，安静地等喧哗消退，然后说：“我没有鼓吹任何东西。我只是在描述一种可能性。而你们对一种可能性的恐惧，恰恰证明了我的观点。”
林哲是唯一一个没笑的人。那天晚上，他走进陈默的办公室，两人聊了整整六个小时，争论的内容从因果推演的形式化一直到自学习系统的伦理边界。他们谁也没说服谁，但都记住了对方的名字。
现在这个名字出现在他的手机上。他靠回椅背，望着天花板上剥落的墙皮，在黑暗中坐了很长时间。