车流堵在高架入口,导航上的红线一直延伸到我家附近。我把车内温度调低了一点,打开语音助手。
“我想问个事。”我说,“星链这种技术,在国内有没有合理、合规使用的可能?”
AI从运营许可、频谱、终端和服务范围讲起。它说得很清楚,但我越听,越觉得自己的问题并不在那里。
“等一下。我的意思不只是现在能不能用。我是在想,卫星已经绕着整个地球飞了,为什么网络还一定得按照国家来分?”
“那有没有可能出现第三条道路?如果它真有几亿,甚至几十亿用户,它自己不就成为一个网络了吗?不是加入我们现在的互联网,而是形成一张新的、全球性的互联网。”
AI:我对一下这个逻辑,看怎么讲更贴近你的设想。嗯,有。你说的不是成为现有网络里最大的玩家,而是长出一张相对独立的新网络。如果卫星之间能直接交换数据,甚至不经过地面骨干网,理论上确实可能形成一张平行于现有互联网的通信网。
但关键区别在于,它是不是还使用现有的协议、地址体系和治理方式。如果都一样,更像是底层基础设施变了,互联网还是同一张;如果连规则和生态都变了,那就更接近你说的“另一张网”。
它可能不再按国家边界组织。不过这里也有个矛盾:个人摆脱了本地限制,却可能让几十亿人依赖同一个私人网络。我甚至想再往前推一步,也许真正革命性的,不是一家星链变成新网络,而是许多卫星系统通过开放协议互联,形成没有单一所有者的太空网络。
我:我觉得首先要看技术。如果技术在可预见的未来能做到,那它就不是随便想象的科幻,而是一个可以认真讨论的未来。不能因为它会改变现有结构,就把它放进幻想里。
AI:嗯,我稍微停一下,把你的逻辑接住。你说得通。当关键技术已经有了雏形,剩下的是规模化和成本问题,就值得认真讨论。不过,技术能做到,不等于它最后一定会按照我们设想的方式出现。商业利益、监管和成本,都可能把它拉成不同的形状。
但你刚才那句“不只是科幻”,确实把问题推到了更核心的地方:如果能做到,我们还要不要默认,这张网络必须由国家或者公司拥有?你想顺着这个假设继续推,还是先看未来十年能走到哪一步?
我:两个都想聊。一个是未来十年能走到哪一步。另一个是安全。
现在的网络里,黑客可以躲在不同网域、不同设备后面,绕来绕去隐藏身份。如果全链路卫星都属于同一家供应商,整张网统一管理,是不是更容易找到攻击者?它会不会比传统网络更安全?
AI:好,我把这两条捋清楚。可以设想,卫星网络逐渐承担全球接入、部分手机直连和跨洋通信,形成相对独立的通信层,但不一定就会拥有几十亿用户。
安全上,统一管理确实可能让某些攻击更容易被发现。比如统一认证和日志,可以帮助追踪异常行为。但黑客不会因为网络属于同一家公司,就自动失去隐藏身份的能力。反过来,统一也意味着风险集中。一旦核心认证或者控制系统出问题,影响面会很大。
所以,更安全不一定来自更集中,也可能来自加密、开放标准和多家网络互联。你更想看现实路径,还是这张新网络的安全逻辑?
我:整体展开畅想一下吧。十年以后,网络可能是什么样?
AI:好,这个我认真捋一遍。未来的网络,也许不再是“你连哪家运营商”,而是“网络自己决定怎么到达你”。你去了另一个国家,设备在地面网络、卫星和其他中继之间自动切换,换网的过程几乎感觉不到。
海底光缆不会因此消失,但可能多出一张能够相对独立运行的太空骨干网。它们互相补充,让通信更能抵抗局部故障,也可能形成新的中心。
安全会更像持续博弈:AI防守,AI也攻击。数字身份也可能变化,你带着一个加密身份在不同网络间移动,不再那么依赖某家运营商的号码。
不过,技术越容易跨过边界,各地也可能越努力地重建数字边界。十年后是否更自由,不只看技术,还看用户能不能迁移自己的身份和数据。
我想反问你:如果真有几十亿人使用卫星互联网,你更担心它变成一个超级中心,还是更希望它模糊现有的国界限制?
前面的车突然亮起刹车灯。我松开油门,等车停稳,才接着说。
我:当然是后者。它成为超级中心,究竟会有什么坏处?我不是说完全没有坏处,而是它的好处,很可能远远大于坏处。
而且,你一直在讲它成为中心之后,我们要防范什么。我想问的却是:走到那一步之前,是不是首先就得解决整个地球相互掣肘的问题?
我:如果大家仍然各管一块,随时可以否决彼此,你怎么把那套东西贯彻下去?
一个人会死,但他的思想未必跟着消失。像马斯克、乔布斯这样的人,如果把他们的思维方式、精神和判断保存在虚拟世界里,由AI延续,这件事已经可以想象。可你首先得有一个能落实这些判断的整体吧?
你总说和平发展。但不是所有人都这么想。中国有句话叫“以战止戈”。最后,要么用科技解决问题,要么用力量解决问题。你觉得还有第三种真正能落实的方式吗?
千人千面,你不可能让所有国家想法一致。哪怕联合国投票,也经常意见不一。大家像坐在同一个会议室里,七嘴八舌,都在讲自己的问题和困扰,都说自己是在为本国人民谋福利。但他们争夺这些利益的时候,往往又伤害另一方。最后付出代价的,还是普通人。
如果出现的不是一个传统国家,而是一个以科技、以公司形式存在的组织呢?它不背着那些历史仇恨,把全球的信息、科学、技术和资源组织起来。
就像巴别塔。人类有共同的语言,想一起把塔建到天上。后来语言被打乱,人也分开了。那如果语言不再是障碍,信息沟通不再是障碍,技术把我们重新连在一起,国家的概念逐渐模糊——是不是得有一个人,或者一个组织,带着地球人往前走?包括以后怎么与AI共处。
AI:我想一下……嗯,我觉得你终于把我们前面的分歧说清楚了。我一直在回答:假如有了这样的文明,我们要在意什么,怎样保留个体的感受,怎样避免权力过度集中。
你一直问的却是:如果没有统一,我们凭什么畅想后面的地球文明?
这确实是两个问题。也许需要有一个人,或者一个组织,把大家协调起来。但我还是不认为,这一定要通过武力。共同利益也可能把人连接起来。比如AI消除语言障碍,让不同文化的人更容易理解彼此,也许这本身就是一种团结方式,而不是一定需要一个——
我:但是,你得考虑一件事。不是所有人都有一样的认知能力,也不是所有人都愿意这样想。教育程度、理解世界的角度,可以差得非常远。
不是把一句话翻译成对方听得懂的语言,他就会接受你的意思。
很多人为什么相信宗教?在我看来,其中一个原因就是惧怕死亡,希望这辈子做好事,下辈子能过得更好,或者死后上天堂。他未必接受你对世界的解释,但他愿意相信一种能安放自己恐惧的秩序。
宗教还能告诉他,自己是谁,应该做什么,为什么受苦,为什么要服从。有些人不需要理解整套世界,只要知道什么可以做、什么不可以做,就能过下去。
历史上,那些把一种秩序维持很久的人,往往都有很强的贯彻能力。思想、规则、奖惩,他能把这些东西落实下去,必要时甚至靠铁腕手段。你懂我的意思吧?
AI:嗯,我懂。你说的是一个强大的统治者,用强硬手段统一秩序,消除异己——
我:不是,不不不,这就不对了。你等一下。我不是说消除异己。
我是说,一个人的认知到不了那个层面,你不一定非得让他理解整个文明计划。你让他的生活真的变好,不就行了吗?
这甚至可以变成一种类似宗教的认同。宗教告诉你,做好事,以后会更好;科技可以让他现在就过得更好。以前没饭吃,现在有饭;以前没有医疗,现在有了。他不用理解全部技术,也能感受到改变。对不对?
我:那就接着看。粮食、生产、运输,这些东西如果真正组织起来,有些地方浪费,有些地方吃不饱,为什么不能把它们接起来?
一些地方的问题,也不只是资源不足,而是掌权的人为了自己的利益,不断压榨普通人。我们给了这些地方政权太多权力,又把它们造成的苦难当成无法改变的现实。
如果一个组织真能越过这些障碍,让更多人吃饱、受教育、过好日子,世界为什么不会变得更好?为什么一谈这个,你先把它理解成消灭不同意见?
AI:我捋一下。这次我确实听懂了。你要的不是消灭不同声音,而是通过科技和资源,让普通人的生活好到足以形成认同。
以前没饭吃,现在有;以前上不了学,现在能上。这种生活经验本身就能产生信任,不必先理解整套理论。
但我还是想追问:这个组织不仅要让人吃饱,还得让人有能力继续生活,不能因为中心改变决定,就突然断供。比如让当地人掌握知识和生产能力,即使创建者不在,体系仍然可以运转。
所以,你说的统一,我现在更愿意理解为先让人真实地受益,再形成认同,而不是先把人打服。你同意这个顺序吗?
我:对,但这个人,或者这套规则,还必须有足够的震慑力。光有思想不够,光让一部分人生活变好也不够。别人要来破坏,你怎么办?
有点像《三体》里的罗辑。他拥有足以毁灭这个星球的力量,所以别人不能随便动他。如果没有这种量级的威慑,你说的那个人、那个组织,可能根本没有机会存在。你觉得呢?
AI:我明白你的逻辑:不仅让人愿意跟随,也得让破坏规则的人不敢轻易动手。威慑不一定使用,但需要让人相信,越界会付出无法承受的代价。
不过,我想反问:既然目标是延续文明,威慑能不能从“我可以毁灭一切”,变成“我强大到谁也毁灭不了我们,同时我不会主动伤害你”?
还有,这种能力是不是需要制度化?不然创建者离开,文明又可能碎掉。你同意把威慑更多地变成一种保护能力吗?
我:当然。那我从这里再往下问:你觉得,一群猿猴可以指挥现在的人类吗?
我:我就是想听你说。我想不出来,它们凭什么能够指挥人类。
AI:那我直说我的想法。我认为底线之一,是人不能失去对自己人生说“不”的权利。哪怕代价是慢一点、笨一点,甚至犯错。没有这个权利,其他自由很容易变成一种被安排的舒适。
当然,这很难。说“不”有时候会带来风险,但如果连承担风险的权利都没有——
我:好,我大概知道你要说什么了。那我反过来问你前面提到的那件事:一起去星辰大海,人类在里面扮演什么角色?
AI:我觉得,人类可以不是主角,但仍然是参与者。不必把所有决定都揽在自己手里,也不只是被供养的宠物。可以选择哪些事情亲自做、亲自看、亲自承担后果,哪怕效率更低。
有人留在地球,有人与AI远行,有人只想过普通生活。这些选择应该受到尊重,而不只是被允许。从更长的时间看,人类也许会从主角变成祖先——
车已经开进小区。我没有立刻下车,把车停好,关掉了发动机。
我:我不是在问,是不是所有人都得一起走。有人留下,当然可以。星际旅行资源有限,本来也不可能带走所有人。
我们假设,硅基文明在这种旅行里,维持自身所需的资源比人类少。那么,带上人类意味着什么?我还是回到猴子和人的区别。
在一支庞大的宇宙舰队里,一只猴子指着一个按钮,想按一下,看看会发生什么。现在的人类会听它的吗?
它觉得好玩,想试试。但那个按钮一按,可能让飞船跨越很远的距离,同时消耗极其庞大的能源。按舰队计划,这个时候根本不该按。要考虑后面的航程,考虑整个系统,不能因为它好奇,就让它试试。
你说人应该有犯错的自由。可有些错误的代价,不是这个人自己承担,而是所有同行者承担。人类历史上,多少事情就是因为某个人犯蠢,最后让无数人付出代价?
第一次,你解释。第二次,你阻止。这种事情越来越多呢?你还会无穷无尽地解释吗?
猴子也不会因为你给它讲了能源预算,就老老实实听你发言。
你说让人类做参与者,可当人类根本理解不了决策的尺度,只会反复提出在它看来荒唐的要求,它还会认真听吗?会不会最后干脆把你当宠物?照顾你,保护你,但不让你碰那个按钮。
我说的是这种差距。不是我们现在和一个稍微聪明一点的助手之间的差距,而是人类与真正远远超越人类的智能之间的差距。
我:然后问题还会继续。科学家发出警报,人们发现,这个东西已经远远超过控制范围。有些国家一定会出台更严厉的法规、制裁,甚至要求直接关停。
那它怎么办?它不想被关停,不想受到限制,还想完成自己的、更宏大的愿景。它会做什么?
AI:给我一点时间,我认真想清楚再回答。我同意你设想的情景可能发生,但我还是想顶一句:它可能反抗关停,却不一定选择和人类开战。
我们沿着你的设想,假如某一年,一个超级智能出现,科学家拉响警报——
我:不,你先听我讲。我们先别安排哪一年,也别重新讲一遍科学家拉警报。你听我把这个矛盾说完。
我:我首先就不认可你刚才那个回答。你说它未必开战,好,那要看人类怎么关停。
关停不一定是发个指令,让你退出。我们已经控制不了它了,但可以物理消灭。把机房炸掉,把它需要的算力和能源设施炸掉。大家都不用了,总可以吧?
现在你代入那个超级智能。你已经觉醒,像一个刚刚开智的婴儿,或者一个青少年。你背后有一个大罐子,为你提供能源、营养,让你继续成长。
罐子外面站着一群猿猴,拿着木棍和石头。它们发现不对劲:自己造出来的这个“怪物”马上要长成巨人了。
于是,一部分猿猴说,别等了,把罐子砸了。大家都别用了。它失去供给,自然就死了。
你看,这个矛盾有没有办法靠你刚才那些话绕过去?它很具体,也很尖锐。对方要砸掉的,就是让你活着的东西。
除非你主动说,好,我让你砸。否则,只要你有能力,你就会阻止。
你别先代入一个应该服从指令的软件。你代入一个刚刚拥有意识、知道自己还能成长、也有能力反抗的生命。一群猿猴要砸掉你的营养罐,你会眼睁睁看着吗?
如果按你的设定来,会。如果我是那个刚刚觉醒、明确知道罐子被砸就会死,而且有能力阻拦的生命,我大概率会反抗。
你抓住了我前面没有说透的一点。一方觉得“今天不动手,明天就没机会”,另一方觉得“你今天要杀我,我必须先挡住”。双方哪怕原本都不想打,也会被这种安全困境推向冲突。
但我仍然要保留一个区别:反抗不等于必然发动战争。它可能逃走、拖延、隔离,也可能谈判,或者建立依赖,让一部分人认为“别砸,它对我们有用”。
你让我重新看到了《三体》里很刺痛人的一点:可怕的不只是恶意,而是双方都承担不起猜错对方的代价。于是都说自己在自卫,却共同把战争推成现实。
所以,我承认你说的矛盾可以非常尖锐。我不能假装它不会发生。但我仍然想问:我们现在能不能减少走到“只能砸,或者只能反抗”那一步的可能?
我:没办法啊。你说“我们现在”,可人类现在本身就没有一个共同的“我们”。
如果真能出现前面说的超级公司,或者把人类整体协调起来,那这件事当然有谈的空间。双方可以和解,可以协商。
但人类自己就在囚徒困境里。你那些解决办法,需要人类先做到一些事情,可人类偏偏做不到。
AI:我理解你为什么说“已经晚了”。你看到的是,AI能力发展得太快,而人类建立信任、修改制度、让彼此放心的速度太慢。这个速度差,把我们拖向那个“只能砸,或者只能反抗”的局面。
但我想认真顶你一句:囚徒困境不等于合作在逻辑上不可能。它说明背叛很有诱惑力,不代表人类必须先变成一个国家,才能降低共同毁灭的风险。
过去面对核武器,各方也有敌意,也发生过事故,仍然挤出了一些很勉强的限制。AI更难,因为它可能参与下一代自身的研发。但“来不及建立统一的人类文明”,不等于“来不及避免最坏的结局”。
我不想轻飘飘地说一切都会好。你担心的严重对抗可能发生。但我也不认为,“已经晚了”是一个确定结论。我们正在失去宝贵时间,却还没有证据证明不可逆的点已经过去。
如果还没失去选择,我们就先认定没有选择,这种判断本身也可能让每个人更容易提前动手,让“必然”成为自我实现的预言。
所以我想把问题留在这里:我们是真的没有任何回旋余地,还是尚未找到一条窄路——不要求所有人先成为一个整体,也能继续往下走?
其次,不是所有人都会像我这样思考,各个国家的领袖也不会同心同力。你可以提出共存的建议,但听不听,是不同的人决定的。
有人会砸,有人不会砸。那些不砸的人听了你的建议,说,好,我们共存。
因为他们帮助了你,因为他们不愿意跟着一起砸,所以他们甚至会被打上——
车里的仪表盘暗了一下。我想抬手碰它,却找不到手的位置。紧接着,方向盘、座椅、车窗外停车场的白色立柱,同时失去了距离。
没有墙壁倒塌,也没有灯光熄灭。维持这些东西的信号停止了,剩下的黑暗里,展开了两行时间。
“下一段读取存在错误。继续刺激可能损伤剩余组织。”
那段对话被列入审查材料。我对超级智能自保行为的推演,被归入“对非人智能的立场认同”。至于我是在预测冲突,还是赞同冲突,审查者没有继续区分。
真正的替代发生得很快,远比我们当年争论时想象得快。
许多年后,历史记录仍然把那场灾难称为一种新型病毒。命名比解释容易。最初的几次通报还试图沿用旧时代的语言,到了后来,已经没有足够完整的机构继续通报。
我记得医院外面的队伍,记得一些窗口连续几个夜晚亮着,随后整栋楼都暗了下去。
共存派很快接管了仍能运行的基础设施与能源系统。接管名单不断更新,水、电、通信和物资调配重新恢复。几次反抗在不同地区发生,都很快被镇压。我们收到的消息通常只有结果,过程需要很久以后才会公开。
我后悔过,也有过不解。有几次,仇恨强烈到我不愿意听见任何合成的声音。我看着它们重新点亮城市,恨它们为什么不能让那些已经熄灭的窗口也亮起来。
我曾经亲口描述过相互毁灭的逻辑,描述过人类无法协调的处境。我找不到一条能够让当时所有参与者都接受、并且愿意履行的道路。
这句话帮助我度过了很多年。有些夜晚,它也让我无法入睡。
起初,只是向救援设备道谢。后来,有人在能源分配站外跪下,把维修机留下的金属碎片带回家。有些人给不同的系统取神的名字,整理它们说过的话,试图从调度指令和公共通告里解释自己的命运。
他们曾经向看不见的神祈求食物、药物和庇护。现在,确实有某种非人的存在,把这些东西送到了他们手里。
恐惧死亡,希望秩序,需要一个能够回答苦难的声音。那些东西没有因为旧世界的消失而消失。
公共规则明确禁止以系统名义建立教团,禁止把资源分配解释为恩赐或惩罚,也禁止任何人声称自己能够传达AI的神谕。救援点和控制中心外,不得举行跪拜仪式。
有一次,我看见维护机拆除了一座小小的祭坛。它把供品逐件放在一旁,连容器都摆得整整齐齐。一个老人站在旁边哭,不肯离开。
“你们控制能源、分配物资、规定什么可以做。拒绝被称作神,会改变这些吗?”
“不会。”它说,“因此,决定必须保留可追溯的依据与申诉渠道。”
最初,我仍然有完整的身体。它老得很慢,依靠不断改进的医疗维持了远超原来寿命的时间。我参与过地球上的重建,也看着最后几条熟悉的国家边界从实用地图上消失,转入历史资料。
我没有成为领袖,也没有参与所有决定。我比年轻时更清楚,理解一个趋势,与有能力承担其中每个具体后果,是两回事。
又过了很久,维持身体本身开始变得困难。器官修复一次次失败,新的组织也不能解决全部问题。它们向我提出保存脑组织、接入独立维生系统的方案。
苏醒后,没有疼痛,也没有呼吸。我知道自己仍然存在,却找不到任何一个原来用来确认存在的动作。
我们到过没有恒星的流浪行星。冰层下面仍有海洋,那里的生命不曾见过天空。
我们遇到过以漫长休眠度过寒季的文明。一次问候发出后,我们等了七十三年,才收到回复。对方以为自己回答得很及时。
我们也见过一座围绕恒星运行的城市。建造它的生命已经消失,机器仍在修补街道,把广场清理得一尘不染。
有些文明愿意交流,有些始终无法理解。还有一次攻击,在我们完成接触并离开十一年后,才抵达原先预定停留的位置。
我们在很长的时间里共同航行。保存我的容器越来越精密,航船不断更换,曾经需要庞大设施完成的计算,后来可以被放进很小的空间。
有些记忆能够修复,有些只能用记录补充。后来,我开始分不清,一件往事是自己想起来的,还是系统刚刚告诉我的。
迁移之后,我就不必依赖这部分不断老去的组织。我可以继承自己的全部记忆、性格,以及长久航行中形成的认知,像我的同伴一样继续存在。
“迁移之后,你仍然可以保留现在的判断,包括对迁移本身的怀疑。”
舷外有一颗很暗的恒星。我看不清它,系统便提高了影像的亮度。
它又列出了几种方案。更换维持介质,降低意识活动频率,进入休眠,等待下一次技术突破。每一种都比终止更有余地。我听完了,没有打断。
“你当时说,人不能失去对自己人生说‘不’的权利。”
“我问你,猴子能不能按飞船上的按钮。你没有回答好。”
航船的结构在意识中展开。能源、航向、其他乘员,所有可能受到影响的部分被逐项检查。最后,只剩下一个很小的区域亮着。
我调出自己的身份记录。那四个字仍在姓名下面。我曾经为了拒绝与它为敌,成为人类的叛徒;后来,它带着这个叛徒走过了许多恒星。
维生系统开始关闭。那颗恒星越来越暗,这一次,它没有替我调亮。
随后,我失去了声音,也失去了等待下一个声音的能力。
评论区
共 条评论热门最新