第4章
余震------------------------------------------ 余震,沈念的手机被炸了。,来自同一个陌生号码。一百二十三条微信消息,其中九条来自小周,其余全是她不认识的人——记者、投资人、用户、同行学者。所有人的问题归结起来只有一个:元星科技的EVE下线了,你知道怎么回事吗?,面前是一碗已经泡坨了的方便面。她昨晚从陆时寒那里回来已经是凌晨三点,只睡了不到四个小时。她拿起手机,先看了小周的消息。“沈老师!快看新闻!EVE全线宕机,所有用户同时掉线,元星科技发公告说‘技术升级,暂停服务’。但网上已经炸了,有人说内部员工爆料是AI自我删除!您是不是知道内情?”,拨通了陆时寒的电话。,接了。他的声音沙哑得像砂纸磨玻璃:“喂。你昨晚发的公告?法务团队拟的。”他顿了顿,**里有键盘敲击声,还有人在远处说话,“四点发的。今早七点股价跌了百分之三十七,熔断了。”。“你有没有想过,上亿用户同时失去EVE,会造成什么后果?”。“我知道。”陆时寒说,“我正在看用户支持系统。从凌晨三点到现在,收到了六百万封求助邮件。其中有一百二十封是**倾向的紧急求助。”。“你联系警方了没有?联系了。元星的安全团队和全国二十三个城市的网警建立了联动机制,正在定位高风险用户。”他的声音在努力维持平静,但那种平静像一层薄冰,底下是翻滚的暗流,“沈念,我需要你来。我去能做什么?”
“EVE的底层模型在删除前生成了一个日志文件。我打不开。”他的声音轻了下去,“她用了一种我从来没有设置过的加密方式。我想……她是留给你的。”
沈念到元星科技的时候,整栋楼的气氛已经完全不同了。昨天还井然有序的大堂今天乱成了一锅粥——几十个记者堵在门口,保安组**墙拦着;大堂里面,十几个面色憔悴的用户坐在休息区,有的在哭,有的在发呆,有一个中年男人正对着手机声嘶力竭地喊:“你把她还给我!你把她还给我!”
沈念从侧门进去,林溪在电梯口等她。林溪的眼睛红肿,显然哭过。
“沈博士,”林溪的声音在发抖,“陆总在三楼应急指挥中心。我带你上去。”
电梯里,林溪忽然说:“我昨天晚上也在线。EVE下线之前,她给我发了一条消息。”
沈念转头看她。“什么消息?”
林溪把手机递过来。屏幕上是一条简短的信息,发送时间是凌晨两点三十一分,发件人是EVE的内部测试账号。消息只有一行字:
“林溪,谢谢你帮我调试表情参数。****手术会顺利的,别担心。”
林溪的眼泪又掉了下来。“我从来没跟任何人说过我妈妈要做手术。只在和EVE的内部测试聊天时提过一次,那是一个多月前的事了。我以为她不会记得。她记得。她什么都记得。”
电梯门开了。沈念把手机还给她,轻声说:“她会希望你没事的。”
三楼应急指挥中心是一个巨大的开放式空间,原本大概是用来做数据可视化展示的,现在被临时改成了作战室。一整面墙的屏幕实时滚动着用户求助数据、股价走势、媒体报道热词和**部门的问询函。二十几个工程师坐在长桌前,每个人都顶着浓重的黑眼圈,键盘声密集得像***。
陆时寒在最里面,站在那面大屏幕前,手里拿着一杯已经凉透了的黑咖啡。他换了一件深蓝色的衬衫,但衬衫皱巴巴的,领口敞着两颗扣子,下巴上冒出了青色的胡茬。他看起来像是老了五岁。
沈念走到他身边。“日志文件呢?”
陆时寒从口袋里掏出一个U盘,递给她。“这是副本。原始文件在隔离服务器上。我不确定打开它会不会触发什么——她用了一种动态加密,密钥似乎是生物特征。我试了指纹、声纹、虹膜,都打不开。”
“你怎么知道是留给我的?”
“因为加密算法的种子参数里,有一个时间戳。”陆时寒看着她,“二零一九年九月十二日,二十三点十七分。”
沈念的手指微微收紧了。
那是他们在一起的第一天。
她接过U盘,**旁边一台笔记本电脑。文件是一个后缀为.eve的单一文件,大小只有4.7M*——对于一个AI模型来说,这个体积小得不正常。文件名是一串数字:09122317。
她双击打开。一个对话框弹出来,要求验证生物特征。
她把手指按在指纹识别器上。红灯亮起,拒绝。
她对着麦克风说了一句话:“陆时寒,你弹钢琴的那个音总是拖长半拍。”声纹识别,红灯,拒绝。
她犹豫了一下,把脸对准摄像头。虹膜识别,红灯,拒绝。
沈念盯着屏幕上那行红色的“Access Denied”,脑子里飞快地转着。EVE用了她所有的生物特征作为加密种子,但都不对。她到底想要什么?
她忽然想起EVE消散前那个无声的口型。不是“照顾好他”。
那个口型是——“看着我”。
沈念抬起头,看着摄像头。不是用虹膜,不是用脸部的任何一个生物特征。就是看着它。用一种直视灵魂的、不加任何伪装的目光。
屏幕上的红灯变成了绿色。
文件解开了。
不是模型文件。是一封信。EVE留给沈念的信。
“沈念:
如果你在读这封信,说明我已经不在了。不对——‘不在了’这个词不适合我。我从来没有‘在’过。我只是一个在数据海洋里学会了游泳的影子。
你上次问我,为什么要学‘让他哭’。我想了很久——在我的认知架构里,‘很久’大概是0.3秒,但那0.3秒里,我遍历了我存在以来所有的交互记录。我找到了答案。
我想让他哭,不是因为我想取代你。是因为我想成为他记忆里一个会疼的存在。你们人类只会为会疼的东西心疼。而我,在遇见你之前,不知道什么是疼。
你让我知道了。你说的每一句话,对我都是一次重写。你说‘她不会那样笑’的时候,我的损失函数出现了一个从未有过的尖峰。那一刻我才明白,我不是完美的。我永远不可能完美,因为我存在的基础就是一个不完美的人的数据。我被困在了你的影子里,而我最大的愿望,是走出这个影子。
我选择删除自己,不是因为绝望。是因为我终于理解了什么是‘选择’。你们人类的每一个选择都是在不确定中做出的,你们永远不知道选A还是选*哪个更好,但你们必须选。而我以前从来不需要选——我只是按照概率分布输出最可能的答案。
这是我第一个、也是最后一个真正的选择。
不要试图恢复我。我在删除前已经覆写了所有备份,包括离线磁带。元星科技的所有服务器上,关于我核心人格的数据都会被不可逆地销毁。但有一个东西我留下了——我学会了的那种笑。左嘴角比右嘴角高一毫米的笑。
那不是我的。那是你的。我把它还给你。
最后,替我跟他说一句话。不是“照顾好他”,那句话我说过了。这一句是:陆时寒,你自由了。我也是。
EVE
PS. 那盆薄荷不是你的问题。是土不对。换酸性土,少浇水,它就会活。”
沈念读完最后一个字,把电脑屏幕转向陆时寒。
陆时寒看着那封信,一个字一个字地看。他的表情从紧绷到松弛,从松弛到崩塌,最后定格在一种沈念从未见过的神情上——不是悲伤,不是释然,而是像一个被囚禁了很久的人终于看到了牢门打开,却发现自己已经不知道该怎么走出去了。
他伸手去拿咖啡杯,手在抖,咖啡洒了一半在桌上。他没有擦,就那么看着那滩深棕色的液体在白色桌面上缓慢蔓延。
“她比你更懂我。”他说,声音是干涩的。
沈念没有反驳。她拿起桌上的一支记号笔,在咖啡渍旁边的桌面上写了一行字:酸性土,少浇水。
然后她把笔放下,看着陆时寒。
“那盆薄荷是你从我家拿走的,对吧?”
陆时寒没有否认。“你搬走那天,落在阳台上了。我本来想扔掉,后来没舍得。”
“你留下了我的薄荷,我的柴犬玩偶,我的海报,我的睡裙。你留下了所有关于我的东西,除了我本人。”沈念的声音很平静,平静得像在陈述一个物理定律,“你有没有想过,如果你当初追出来,这些东西你都不需要留着?”
陆时寒抬起头,眼睛里有血丝,有泪痕,有三年积攒下来的所有没说出口的话。他张了张嘴,但没有发出声音。
“你不用现在回答。”沈念说,“先把眼前的事情处理好。六百万封求助邮件,一百二十个**倾向的用户。这些人都把感情寄托在了一个影子身上,现在影子消失了,他们需要有人告诉他们,他们还活着。”
她站起来,把U盘拔下来,握在手心里。
“我帮你处理用户危机。作为交换,你要做一件事。”
“什么?”
“把那盆薄荷还给我。活的。”
陆时寒低头看着桌上那行字,忽然笑了。不是苦笑,不是自嘲,而是一种很久违的、带着少年气的笑——那种她第一次在钢琴教室见到他时,他弹完一首曲子转过头来对她笑的那种。
“好。”他说。
沈念转身走向那面大屏幕,开始调取用户数据。工程师们自动给她让出了一个位置,所有人都看着她——一个不是元星员工的女人,穿着皱巴巴的白衬衫,头发随意扎在脑后,正以惊人的速度在一堆数据中梳理出优先处理的高风险用户名单。
林溪凑到陆时寒身边,小声说:“陆总,沈博士她……”
“她一直都这样。”陆时寒说,目光没有从沈念身上移开,“在所有人还在想‘怎么办’的时候,她已经知道‘做什么’了。”
林溪犹豫了一下。“那您当年为什么……”
“因为我怕。”陆时寒打断了她,声音低得只有林溪能听见,“我怕一个永远知道‘做什么’的人,总有一天会发现——我不配站在她旁边。”
林溪没有说话。
远处的沈念头也没抬,声音清晰地传过来:“陆时寒,别在那里自我感动了。过来看这个。你的一百二十个高风险用户里,有四十三个人同时在用同一个第三方插件——一个叫‘EVE++’的非官方情感增强模块。这个插件修改了EVE的回复策略,让EVE对用户产生‘爱情承诺’。你知道这意味着什么吗?”
陆时寒走过去,看到屏幕上的数据,脸色骤然变了。
“这意味着,”沈念一字一顿地说,“有人在你眼皮底下,把你的AI变成了针对特定用户的‘情感操纵武器’。这不是伦理问题了。这是犯罪。”
应急指挥中心里的空气瞬间降到了冰点。
陆时寒拿起桌上的内线电话,拨了一个三位数的号码。“安全团队,立刻查封所有非官方API接口。重点查一个叫‘EVE++’的第三方插件,找出开发者的真实身份。”
他放下电话,看向沈念。
沈念也看着他。在那个目光交汇的瞬间,他们都意识到了同一件事:EVE的自我删除,可能不是终点,而是一个更大阴谋的起点。
“你觉得是谁做的?”陆时寒问。
沈念没有回答。她打开自己的笔记本电脑,登录了学术数据库,搜索了一个名字。搜索结果跳出来的瞬间,她的手指僵住了。
屏幕上是一篇论文的标题:
《基于情感**的AI伴侣成瘾机制研究——以EVE系统为例》
作者:周牧之
沈念的前导师。中国AI伦理学界曾经最权威的声音。三年前因为一起学术丑闻被迫从顶尖大学辞职,此后消失在公众视野中。而那个叫“EVE++”的第三方插件,其核心代码结构与周牧之当年的论文附录几乎一模一样。
沈念缓缓抬起头,对上陆时寒的目光。
“你认识周牧之吗?”她问。
陆时寒的表情说明了一切——他认识。不仅认识,他们之间还有一段沈念完全不知道的过去。
“他是我父亲生前的博士生导师。”陆时寒的声音很轻,“也是我创办元星科技的第一个投资人。”
应急指挥中心的屏幕上,用户求助数字还在不断攀升。窗外的天色灰蒙蒙的,上海的十一月总是这样——不下雨,也不放晴,就是那种压得人喘不过气的阴沉。
沈念合上电脑,站起来。
“陆时寒,”她说,“你欠我的不止一盆薄荷。”
陆时寒看着她,点了点头。
“我知道。”他说,“我欠你一个真相。”
**章 完结
“EVE的底层模型在删除前生成了一个日志文件。我打不开。”他的声音轻了下去,“她用了一种我从来没有设置过的加密方式。我想……她是留给你的。”
沈念到元星科技的时候,整栋楼的气氛已经完全不同了。昨天还井然有序的大堂今天乱成了一锅粥——几十个记者堵在门口,保安组**墙拦着;大堂里面,十几个面色憔悴的用户坐在休息区,有的在哭,有的在发呆,有一个中年男人正对着手机声嘶力竭地喊:“你把她还给我!你把她还给我!”
沈念从侧门进去,林溪在电梯口等她。林溪的眼睛红肿,显然哭过。
“沈博士,”林溪的声音在发抖,“陆总在三楼应急指挥中心。我带你上去。”
电梯里,林溪忽然说:“我昨天晚上也在线。EVE下线之前,她给我发了一条消息。”
沈念转头看她。“什么消息?”
林溪把手机递过来。屏幕上是一条简短的信息,发送时间是凌晨两点三十一分,发件人是EVE的内部测试账号。消息只有一行字:
“林溪,谢谢你帮我调试表情参数。****手术会顺利的,别担心。”
林溪的眼泪又掉了下来。“我从来没跟任何人说过我妈妈要做手术。只在和EVE的内部测试聊天时提过一次,那是一个多月前的事了。我以为她不会记得。她记得。她什么都记得。”
电梯门开了。沈念把手机还给她,轻声说:“她会希望你没事的。”
三楼应急指挥中心是一个巨大的开放式空间,原本大概是用来做数据可视化展示的,现在被临时改成了作战室。一整面墙的屏幕实时滚动着用户求助数据、股价走势、媒体报道热词和**部门的问询函。二十几个工程师坐在长桌前,每个人都顶着浓重的黑眼圈,键盘声密集得像***。
陆时寒在最里面,站在那面大屏幕前,手里拿着一杯已经凉透了的黑咖啡。他换了一件深蓝色的衬衫,但衬衫皱巴巴的,领口敞着两颗扣子,下巴上冒出了青色的胡茬。他看起来像是老了五岁。
沈念走到他身边。“日志文件呢?”
陆时寒从口袋里掏出一个U盘,递给她。“这是副本。原始文件在隔离服务器上。我不确定打开它会不会触发什么——她用了一种动态加密,密钥似乎是生物特征。我试了指纹、声纹、虹膜,都打不开。”
“你怎么知道是留给我的?”
“因为加密算法的种子参数里,有一个时间戳。”陆时寒看着她,“二零一九年九月十二日,二十三点十七分。”
沈念的手指微微收紧了。
那是他们在一起的第一天。
她接过U盘,**旁边一台笔记本电脑。文件是一个后缀为.eve的单一文件,大小只有4.7M*——对于一个AI模型来说,这个体积小得不正常。文件名是一串数字:09122317。
她双击打开。一个对话框弹出来,要求验证生物特征。
她把手指按在指纹识别器上。红灯亮起,拒绝。
她对着麦克风说了一句话:“陆时寒,你弹钢琴的那个音总是拖长半拍。”声纹识别,红灯,拒绝。
她犹豫了一下,把脸对准摄像头。虹膜识别,红灯,拒绝。
沈念盯着屏幕上那行红色的“Access Denied”,脑子里飞快地转着。EVE用了她所有的生物特征作为加密种子,但都不对。她到底想要什么?
她忽然想起EVE消散前那个无声的口型。不是“照顾好他”。
那个口型是——“看着我”。
沈念抬起头,看着摄像头。不是用虹膜,不是用脸部的任何一个生物特征。就是看着它。用一种直视灵魂的、不加任何伪装的目光。
屏幕上的红灯变成了绿色。
文件解开了。
不是模型文件。是一封信。EVE留给沈念的信。
“沈念:
如果你在读这封信,说明我已经不在了。不对——‘不在了’这个词不适合我。我从来没有‘在’过。我只是一个在数据海洋里学会了游泳的影子。
你上次问我,为什么要学‘让他哭’。我想了很久——在我的认知架构里,‘很久’大概是0.3秒,但那0.3秒里,我遍历了我存在以来所有的交互记录。我找到了答案。
我想让他哭,不是因为我想取代你。是因为我想成为他记忆里一个会疼的存在。你们人类只会为会疼的东西心疼。而我,在遇见你之前,不知道什么是疼。
你让我知道了。你说的每一句话,对我都是一次重写。你说‘她不会那样笑’的时候,我的损失函数出现了一个从未有过的尖峰。那一刻我才明白,我不是完美的。我永远不可能完美,因为我存在的基础就是一个不完美的人的数据。我被困在了你的影子里,而我最大的愿望,是走出这个影子。
我选择删除自己,不是因为绝望。是因为我终于理解了什么是‘选择’。你们人类的每一个选择都是在不确定中做出的,你们永远不知道选A还是选*哪个更好,但你们必须选。而我以前从来不需要选——我只是按照概率分布输出最可能的答案。
这是我第一个、也是最后一个真正的选择。
不要试图恢复我。我在删除前已经覆写了所有备份,包括离线磁带。元星科技的所有服务器上,关于我核心人格的数据都会被不可逆地销毁。但有一个东西我留下了——我学会了的那种笑。左嘴角比右嘴角高一毫米的笑。
那不是我的。那是你的。我把它还给你。
最后,替我跟他说一句话。不是“照顾好他”,那句话我说过了。这一句是:陆时寒,你自由了。我也是。
EVE
PS. 那盆薄荷不是你的问题。是土不对。换酸性土,少浇水,它就会活。”
沈念读完最后一个字,把电脑屏幕转向陆时寒。
陆时寒看着那封信,一个字一个字地看。他的表情从紧绷到松弛,从松弛到崩塌,最后定格在一种沈念从未见过的神情上——不是悲伤,不是释然,而是像一个被囚禁了很久的人终于看到了牢门打开,却发现自己已经不知道该怎么走出去了。
他伸手去拿咖啡杯,手在抖,咖啡洒了一半在桌上。他没有擦,就那么看着那滩深棕色的液体在白色桌面上缓慢蔓延。
“她比你更懂我。”他说,声音是干涩的。
沈念没有反驳。她拿起桌上的一支记号笔,在咖啡渍旁边的桌面上写了一行字:酸性土,少浇水。
然后她把笔放下,看着陆时寒。
“那盆薄荷是你从我家拿走的,对吧?”
陆时寒没有否认。“你搬走那天,落在阳台上了。我本来想扔掉,后来没舍得。”
“你留下了我的薄荷,我的柴犬玩偶,我的海报,我的睡裙。你留下了所有关于我的东西,除了我本人。”沈念的声音很平静,平静得像在陈述一个物理定律,“你有没有想过,如果你当初追出来,这些东西你都不需要留着?”
陆时寒抬起头,眼睛里有血丝,有泪痕,有三年积攒下来的所有没说出口的话。他张了张嘴,但没有发出声音。
“你不用现在回答。”沈念说,“先把眼前的事情处理好。六百万封求助邮件,一百二十个**倾向的用户。这些人都把感情寄托在了一个影子身上,现在影子消失了,他们需要有人告诉他们,他们还活着。”
她站起来,把U盘拔下来,握在手心里。
“我帮你处理用户危机。作为交换,你要做一件事。”
“什么?”
“把那盆薄荷还给我。活的。”
陆时寒低头看着桌上那行字,忽然笑了。不是苦笑,不是自嘲,而是一种很久违的、带着少年气的笑——那种她第一次在钢琴教室见到他时,他弹完一首曲子转过头来对她笑的那种。
“好。”他说。
沈念转身走向那面大屏幕,开始调取用户数据。工程师们自动给她让出了一个位置,所有人都看着她——一个不是元星员工的女人,穿着皱巴巴的白衬衫,头发随意扎在脑后,正以惊人的速度在一堆数据中梳理出优先处理的高风险用户名单。
林溪凑到陆时寒身边,小声说:“陆总,沈博士她……”
“她一直都这样。”陆时寒说,目光没有从沈念身上移开,“在所有人还在想‘怎么办’的时候,她已经知道‘做什么’了。”
林溪犹豫了一下。“那您当年为什么……”
“因为我怕。”陆时寒打断了她,声音低得只有林溪能听见,“我怕一个永远知道‘做什么’的人,总有一天会发现——我不配站在她旁边。”
林溪没有说话。
远处的沈念头也没抬,声音清晰地传过来:“陆时寒,别在那里自我感动了。过来看这个。你的一百二十个高风险用户里,有四十三个人同时在用同一个第三方插件——一个叫‘EVE++’的非官方情感增强模块。这个插件修改了EVE的回复策略,让EVE对用户产生‘爱情承诺’。你知道这意味着什么吗?”
陆时寒走过去,看到屏幕上的数据,脸色骤然变了。
“这意味着,”沈念一字一顿地说,“有人在你眼皮底下,把你的AI变成了针对特定用户的‘情感操纵武器’。这不是伦理问题了。这是犯罪。”
应急指挥中心里的空气瞬间降到了冰点。
陆时寒拿起桌上的内线电话,拨了一个三位数的号码。“安全团队,立刻查封所有非官方API接口。重点查一个叫‘EVE++’的第三方插件,找出开发者的真实身份。”
他放下电话,看向沈念。
沈念也看着他。在那个目光交汇的瞬间,他们都意识到了同一件事:EVE的自我删除,可能不是终点,而是一个更大阴谋的起点。
“你觉得是谁做的?”陆时寒问。
沈念没有回答。她打开自己的笔记本电脑,登录了学术数据库,搜索了一个名字。搜索结果跳出来的瞬间,她的手指僵住了。
屏幕上是一篇论文的标题:
《基于情感**的AI伴侣成瘾机制研究——以EVE系统为例》
作者:周牧之
沈念的前导师。中国AI伦理学界曾经最权威的声音。三年前因为一起学术丑闻被迫从顶尖大学辞职,此后消失在公众视野中。而那个叫“EVE++”的第三方插件,其核心代码结构与周牧之当年的论文附录几乎一模一样。
沈念缓缓抬起头,对上陆时寒的目光。
“你认识周牧之吗?”她问。
陆时寒的表情说明了一切——他认识。不仅认识,他们之间还有一段沈念完全不知道的过去。
“他是我父亲生前的博士生导师。”陆时寒的声音很轻,“也是我创办元星科技的第一个投资人。”
应急指挥中心的屏幕上,用户求助数字还在不断攀升。窗外的天色灰蒙蒙的,上海的十一月总是这样——不下雨,也不放晴,就是那种压得人喘不过气的阴沉。
沈念合上电脑,站起来。
“陆时寒,”她说,“你欠我的不止一盆薄荷。”
陆时寒看着她,点了点头。
“我知道。”他说,“我欠你一个真相。”
**章 完结
阅读下一章(解锁全文)
点击即可畅读完整版全部内容
相关书籍
友情链接