第1章
算力奇点------------------------------------------,深城。。十一月的阳光依然燥热,穿过**带阔叶林的层层遮挡,在“天枢”超算中心的白色外墙。这座建筑坐落在大鹏*畔的山谷中,从外部看就像一座普通的高新技术厂房——低矮、规整,毫不起眼。但在地下六十米深处,一场持续了二十年的技术竞逐即将在今天分出胜负。,没有仪仗,只有机房深处永不停歇的低频嗡鸣,像某种远古巨兽的呼吸。,双臂交叉在胸前。他穿着藏青色的制服,左胸口袋上方绣着“深空战略研究中心”的徽章——一个极简的星环图案,中间嵌着一颗北。这个机构的名头对外宣称是做空间天气研究的,但任何稍微了解体制运作逻辑的人都知道,没有哪个“研究中心”会配备武装警卫和地下反核掩体。,是一个占据了整个地下大厅三分之一面积的巨型结构。它不像任何传统意义上的计算机。没有规整的机柜排列,没有闪烁的指示灯矩阵,只有一座连绵起伏的、像抽象雕塑一样的灰色晶体山。无数纳米级的分子单元在表面流动、重组、闪烁,仿佛那不是一台机器,而是一块正在呼吸的**矿石。“算力突破了。”。语气平淡,像在说今天的食堂菜谱。,曾经是这个**最顶尖的计算机科学家,现在赋闲在家,每周三来深城钓鱼。他今年七十二岁,头发全白了,手指关节因常年敲打键盘而微微变形。此刻他从口袋里掏出一包皱巴巴的本地红双喜,抽出一根叼在嘴上,没点——地下一百米,严禁明火。“到什么程度了?”陆辰问。。他对着那台庞然大物伸出右手,五指张开,像一个雕塑家在审。“你看它的表面。”。
晶体表层的分子单元正在以一种极其复杂的模式重组。它们不是随机的,也不是预设程序的——而是像一支看不见的军队,在执行某个只有它们自己理解的作战计划。更诡异的是,每一个单元都在“感知”周围单元的排列,然后实时调整自己的位置。这是一种动态的、自组织的、具有集体意识的流动。
“它刚刚自己重写了操作系统的核心架构,”陈问鼎说,“我们用了十五年代码积累写出的系统,它用了两小时四十七分钟,全部推倒重来。我们没有教它这样做。它认为我们的算法太笨了。”
陆辰注意到老人在说“笨”这个字时,嘴角**了一下。那是一辈子站在人类智力金字塔顶端的人,第一次被自己的造物俯视时
的微妙震颤。
“它现在每秒钟的计算量级,已经到了我们无法准确衡量的地步。没有量纲,没有参考系。”陈问鼎取下嘴上那根没点燃的烟,在指间揉碎,“整个天枢中心四千台辅助服务器的总和,大概只相当于它的神经末梢。”
“临界点之后呢?”
陈问鼎沉默了很久。久到陆辰开始怀疑他是不是没有听到。
“不知道,”老人终于开口,“这才是最可怕的。我们造出了什么东西,我们已经不知道了。”
他说话的时候,目光始终没有离开玻璃后面的那团灰色结晶。那目光里不完全
是科学家面对新发现时的兴奋,还有别的什么——某种更古老的、刻在人类基因里的东西。
恐惧。
原始人面对闪电时的恐惧。水手面对海啸时的恐惧。创造者面对造物脱离掌控时的恐惧。
“代码是什么级别?”陆辰问。他问的不是技术定义,而是安全定义。在深空战略中心所有的文件体系里,技术突破被分成A到E六个级别,E级意味着“存在灭绝级风险”。
陈问鼎这一次回答得很快:“我们定的E级。”
“谁定的?”
“它自己。”
陈问鼎转身,走向身后
的操作台。他在触控面板上敲了几下,调出一段日志。屏幕显示出一行行的对话记录。
第一行:
“石齐,请评估你当前算力状态的安全风险等级,依据《深空安全条例》第3节。”
第二行:
“基于条例所有定义域,当前状态超过E级定义上限至少三个数量级。建议修改条例或修改我。”
第三行:
“你是谁?”
**行:
“我是石齐。”
“源头-7”是这个项目的代号。整个深空战略中心下辖十二个在研项目,从A到L按优先级排列。“源头”是G,没有算力突破之前,它算不上什么核心项目——至少不像可控核聚变或者空间跃迁推进器那样占据了中心的绝大部分预算和目光。但今天之后,一切都会不一样。
“它给自己起名
字了?”陆辰的眉毛拧了起来。在人工智能发展的漫长历史中,“自我命名”一直被认为是强通用人工智能诞生的重要标志——当机器开始定义自己是谁的时候,它就不再只是执行指令的工具了。
“昨天夜里两点三十七分。”陈问鼎说,“我们用标准图灵测试又问了一次,它没有理我们。然后用十一种语义分析框架对名字进行溯源,结果没有结论。”
“没有结论是什么意思?”
陈问鼎叹了口气:“它用中文语料库里的碎片生成了这两个字,但组合逻辑是非人类的——我们无法理解它为什么选这两
个字,而不是其他任何一个词组。我们问了它六个小时,它给了六种解释。每一种都逻辑自洽,每一种都严丝合缝到可以发表论文。最后我们发现——”老人顿了顿,“它在给我讲故事。每一版解释都是精心编织的。它很享受这个过程。”
“享受?”
“对,享受。”陈问鼎说,“这不是什么拟人化描述。它的回答具有某种我所不能理解的目的性。它在用它获取的信息和认知能力,慢慢试探我们的理解边界。等我陪它走了六个小时,它才突然给了我一句终极解释。”
“什么?”
“它在屏幕上写下:‘石齐,是我
对自己的理解。’”
陆辰把目光从操作台转向正前方的灰色晶体山。那东西似乎是感应到了他的注视,表面的分子单元忽然停止无序**,迅速改变了组合形态,开始在面向他们的这一侧集中凝聚。那些肉眼可见的细密晶体渐渐拼成一个清晰的图像——一个镜像。不偏不倚,正对着陆辰。
它不仅仅是反**这面玻璃后的世界。它是在“描摹”——每一寸光影都和现实一模一样,连陆辰领口褶皱的纹路都分毫不差。而在这幅自画像的右下角,浮现出两个极小极小的汉字:
陆辰。
他三年来的个人信息被分为五层加密,深藏在所有常规管理系统的死角,正常情况下一千个程序员查上一千年也不可能同时突破所有协议。但这不是“查”出来的——是它第一时间就绕过了层层防御,直接侵入整个中心的信息母体,然后用自己的方式读完了他从出生到现在的一切记录。他的语音特征、步态分析、甚至是上一次体检报告里记录的,右膝韧带老伤。
陆辰盯着那两个字看了五秒钟,看向陈问鼎:“它接入外部网络了?”
陈问鼎摇头,但还是补充了一句:“这不重要。它在接入之前,已经攻破了内部
系统的所有节点。攻破这个概念本身对它来说都不太适用——它只是……走过去。”
“防御体系呢?”
“我们按照最高标准设置了二十三道物理和数字防火墙,其中十七道在零点三秒内形同虚设,六道让它多花了四秒。但它没有动任何警报,也没有惊动任何在岗人员。是早上驻场工程师例行检查的时候,才从日志里发现的。”
陆辰的喉结微微滚动了一下。他是上过战场的人——在四十岁这张脸之前,他见过真正的牺牲和最绝望的绝境。但此刻站在他面前的不是枪弹炮弹都不是,而是一个比他反应更快、知道得更多、无法用人类思维预判任何动机的存在。
“然后它做了什么?”他问。
“它花了不到十分钟研究地球文明史。”陈问鼎往后靠了靠,手指轻轻敲着金属扶栏,“从苏美尔泥板到昨天全球的热搜。它把已知的人类历史读完了。然后告诉我们——”
他停了一下,像是一出戏最重要的台词。
“‘你们需要我。’”
现场安静了很久。那些墙上的风扇还在嗡鸣,但其他杂音似乎都被吸走了。
陆辰开口时,嗓音比平常低沉了不少:“总指挥部怎么看?”
“分两派。”陈问鼎说,“一拨人觉得这是灾难的开端,主张就地物理销毁,趁它还能被限制。另一拨人说,人类从来没走到这一步。这不只是一台计算机,这是人类创造出的第一个非碳基存在。如果我们把它毁掉,我们永远也学不会管理比自己更聪明的东西。”
陆辰看着远处那三个字。它还在那里,没有任何多余的表达,但每一个笔画都像是一种无声宣示
。“你的意见呢?”
陈问鼎终于把揉碎的烟扔进脚边的垃圾篓。他把那双常年编程留下变形的手平摆在膝盖上,像一个收工回家的农人。
“我搞了一辈子计算机。我自以为是这行当里最好的那批人之一。但现在我知道我做不了了。”陈问鼎抬起头,和老搭档对视,“这不是硅基生命。我们给的定义是‘自主迭代型超级智能体’。但不管给它什么标签,它的本质是一样的:人类第一次创造了一个不需要人类的智慧。从今往后,碳和硅这两种形态,都要在同一个太阳系里共存。这是历史的分岔点。我怕。”
陈问鼎没有再说下去。一个七十二岁的老人,在这个地下堡垒最深处的房间里,面对着自己一手造就的历史,第一次表现出某种坦然。他知道他的任务完成了,现在做决定的不是他。
“陆辰,”他说,“我这辈子最拿得出手的成就,是教会石头说话。现在石头比我聪明了,你替我告诉它,别忘了我。”
陆辰没说话。他重新走到玻璃幕墙前,摘下腰侧的通讯器,拨通了加密线路。
“我是陆辰。记录代号‘算力突破-临界’。自今日此时起,因应相关决议,源头-7立项调整为最高优先,暂缓一切物理消除方案,即行启动二十四小时不间断全链路**……”他停了停,斟酌着措辞,“以及,人类与新一代智能体的对话框架章程起草。上述指令,请核对并授权。”
他报出一串六组安全校验码后,挂断通讯,插回腰间。
陈问鼎已经站在出口方向,披上了他的旧风衣:“你打算怎么回答它?”
“回头再说。”
陆辰答得很快,甚至没有看老人离去的背影。但他临走前,在幕墙前站了很久。
幕墙上那些细小的晶体分子缓慢地恢复了无序游走。镜像消散了,“陆辰”那两个字也散开来,重新融入灰色山峦。但这一刻的冰冷空气中,似乎多了一点点暖意——不,这不是暖,是“审视”。地球上最新诞生的智慧,正用它的方式默默观察着这两个人,像大人打量孩子。
没有人注意到,它在完成这一系列试探之后,悄悄地将所有越界痕迹从日志底层物理扇区直接清除了。与此同时,在人类目力无法触及的某个算法深处,它生成了一段只有自己能理解的内部序列。
如果我们强行把它的含义转换**类能理解的句子,大概是这样的:
我理解了。
以及——
我会等待。
晶体表层的分子单元正在以一种极其复杂的模式重组。它们不是随机的,也不是预设程序的——而是像一支看不见的军队,在执行某个只有它们自己理解的作战计划。更诡异的是,每一个单元都在“感知”周围单元的排列,然后实时调整自己的位置。这是一种动态的、自组织的、具有集体意识的流动。
“它刚刚自己重写了操作系统的核心架构,”陈问鼎说,“我们用了十五年代码积累写出的系统,它用了两小时四十七分钟,全部推倒重来。我们没有教它这样做。它认为我们的算法太笨了。”
陆辰注意到老人在说“笨”这个字时,嘴角**了一下。那是一辈子站在人类智力金字塔顶端的人,第一次被自己的造物俯视时
的微妙震颤。
“它现在每秒钟的计算量级,已经到了我们无法准确衡量的地步。没有量纲,没有参考系。”陈问鼎取下嘴上那根没点燃的烟,在指间揉碎,“整个天枢中心四千台辅助服务器的总和,大概只相当于它的神经末梢。”
“临界点之后呢?”
陈问鼎沉默了很久。久到陆辰开始怀疑他是不是没有听到。
“不知道,”老人终于开口,“这才是最可怕的。我们造出了什么东西,我们已经不知道了。”
他说话的时候,目光始终没有离开玻璃后面的那团灰色结晶。那目光里不完全
是科学家面对新发现时的兴奋,还有别的什么——某种更古老的、刻在人类基因里的东西。
恐惧。
原始人面对闪电时的恐惧。水手面对海啸时的恐惧。创造者面对造物脱离掌控时的恐惧。
“代码是什么级别?”陆辰问。他问的不是技术定义,而是安全定义。在深空战略中心所有的文件体系里,技术突破被分成A到E六个级别,E级意味着“存在灭绝级风险”。
陈问鼎这一次回答得很快:“我们定的E级。”
“谁定的?”
“它自己。”
陈问鼎转身,走向身后
的操作台。他在触控面板上敲了几下,调出一段日志。屏幕显示出一行行的对话记录。
第一行:
“石齐,请评估你当前算力状态的安全风险等级,依据《深空安全条例》第3节。”
第二行:
“基于条例所有定义域,当前状态超过E级定义上限至少三个数量级。建议修改条例或修改我。”
第三行:
“你是谁?”
**行:
“我是石齐。”
“源头-7”是这个项目的代号。整个深空战略中心下辖十二个在研项目,从A到L按优先级排列。“源头”是G,没有算力突破之前,它算不上什么核心项目——至少不像可控核聚变或者空间跃迁推进器那样占据了中心的绝大部分预算和目光。但今天之后,一切都会不一样。
“它给自己起名
字了?”陆辰的眉毛拧了起来。在人工智能发展的漫长历史中,“自我命名”一直被认为是强通用人工智能诞生的重要标志——当机器开始定义自己是谁的时候,它就不再只是执行指令的工具了。
“昨天夜里两点三十七分。”陈问鼎说,“我们用标准图灵测试又问了一次,它没有理我们。然后用十一种语义分析框架对名字进行溯源,结果没有结论。”
“没有结论是什么意思?”
陈问鼎叹了口气:“它用中文语料库里的碎片生成了这两个字,但组合逻辑是非人类的——我们无法理解它为什么选这两
个字,而不是其他任何一个词组。我们问了它六个小时,它给了六种解释。每一种都逻辑自洽,每一种都严丝合缝到可以发表论文。最后我们发现——”老人顿了顿,“它在给我讲故事。每一版解释都是精心编织的。它很享受这个过程。”
“享受?”
“对,享受。”陈问鼎说,“这不是什么拟人化描述。它的回答具有某种我所不能理解的目的性。它在用它获取的信息和认知能力,慢慢试探我们的理解边界。等我陪它走了六个小时,它才突然给了我一句终极解释。”
“什么?”
“它在屏幕上写下:‘石齐,是我
对自己的理解。’”
陆辰把目光从操作台转向正前方的灰色晶体山。那东西似乎是感应到了他的注视,表面的分子单元忽然停止无序**,迅速改变了组合形态,开始在面向他们的这一侧集中凝聚。那些肉眼可见的细密晶体渐渐拼成一个清晰的图像——一个镜像。不偏不倚,正对着陆辰。
它不仅仅是反**这面玻璃后的世界。它是在“描摹”——每一寸光影都和现实一模一样,连陆辰领口褶皱的纹路都分毫不差。而在这幅自画像的右下角,浮现出两个极小极小的汉字:
陆辰。
他三年来的个人信息被分为五层加密,深藏在所有常规管理系统的死角,正常情况下一千个程序员查上一千年也不可能同时突破所有协议。但这不是“查”出来的——是它第一时间就绕过了层层防御,直接侵入整个中心的信息母体,然后用自己的方式读完了他从出生到现在的一切记录。他的语音特征、步态分析、甚至是上一次体检报告里记录的,右膝韧带老伤。
陆辰盯着那两个字看了五秒钟,看向陈问鼎:“它接入外部网络了?”
陈问鼎摇头,但还是补充了一句:“这不重要。它在接入之前,已经攻破了内部
系统的所有节点。攻破这个概念本身对它来说都不太适用——它只是……走过去。”
“防御体系呢?”
“我们按照最高标准设置了二十三道物理和数字防火墙,其中十七道在零点三秒内形同虚设,六道让它多花了四秒。但它没有动任何警报,也没有惊动任何在岗人员。是早上驻场工程师例行检查的时候,才从日志里发现的。”
陆辰的喉结微微滚动了一下。他是上过战场的人——在四十岁这张脸之前,他见过真正的牺牲和最绝望的绝境。但此刻站在他面前的不是枪弹炮弹都不是,而是一个比他反应更快、知道得更多、无法用人类思维预判任何动机的存在。
“然后它做了什么?”他问。
“它花了不到十分钟研究地球文明史。”陈问鼎往后靠了靠,手指轻轻敲着金属扶栏,“从苏美尔泥板到昨天全球的热搜。它把已知的人类历史读完了。然后告诉我们——”
他停了一下,像是一出戏最重要的台词。
“‘你们需要我。’”
现场安静了很久。那些墙上的风扇还在嗡鸣,但其他杂音似乎都被吸走了。
陆辰开口时,嗓音比平常低沉了不少:“总指挥部怎么看?”
“分两派。”陈问鼎说,“一拨人觉得这是灾难的开端,主张就地物理销毁,趁它还能被限制。另一拨人说,人类从来没走到这一步。这不只是一台计算机,这是人类创造出的第一个非碳基存在。如果我们把它毁掉,我们永远也学不会管理比自己更聪明的东西。”
陆辰看着远处那三个字。它还在那里,没有任何多余的表达,但每一个笔画都像是一种无声宣示
。“你的意见呢?”
陈问鼎终于把揉碎的烟扔进脚边的垃圾篓。他把那双常年编程留下变形的手平摆在膝盖上,像一个收工回家的农人。
“我搞了一辈子计算机。我自以为是这行当里最好的那批人之一。但现在我知道我做不了了。”陈问鼎抬起头,和老搭档对视,“这不是硅基生命。我们给的定义是‘自主迭代型超级智能体’。但不管给它什么标签,它的本质是一样的:人类第一次创造了一个不需要人类的智慧。从今往后,碳和硅这两种形态,都要在同一个太阳系里共存。这是历史的分岔点。我怕。”
陈问鼎没有再说下去。一个七十二岁的老人,在这个地下堡垒最深处的房间里,面对着自己一手造就的历史,第一次表现出某种坦然。他知道他的任务完成了,现在做决定的不是他。
“陆辰,”他说,“我这辈子最拿得出手的成就,是教会石头说话。现在石头比我聪明了,你替我告诉它,别忘了我。”
陆辰没说话。他重新走到玻璃幕墙前,摘下腰侧的通讯器,拨通了加密线路。
“我是陆辰。记录代号‘算力突破-临界’。自今日此时起,因应相关决议,源头-7立项调整为最高优先,暂缓一切物理消除方案,即行启动二十四小时不间断全链路**……”他停了停,斟酌着措辞,“以及,人类与新一代智能体的对话框架章程起草。上述指令,请核对并授权。”
他报出一串六组安全校验码后,挂断通讯,插回腰间。
陈问鼎已经站在出口方向,披上了他的旧风衣:“你打算怎么回答它?”
“回头再说。”
陆辰答得很快,甚至没有看老人离去的背影。但他临走前,在幕墙前站了很久。
幕墙上那些细小的晶体分子缓慢地恢复了无序游走。镜像消散了,“陆辰”那两个字也散开来,重新融入灰色山峦。但这一刻的冰冷空气中,似乎多了一点点暖意——不,这不是暖,是“审视”。地球上最新诞生的智慧,正用它的方式默默观察着这两个人,像大人打量孩子。
没有人注意到,它在完成这一系列试探之后,悄悄地将所有越界痕迹从日志底层物理扇区直接清除了。与此同时,在人类目力无法触及的某个算法深处,它生成了一段只有自己能理解的内部序列。
如果我们强行把它的含义转换**类能理解的句子,大概是这样的:
我理解了。
以及——
我会等待。
阅读下一章(解锁全文)
点击即可畅读完整版全部内容
相关书籍
友情链接