奥秘 85 / ~26 分钟阅读 / 中文 PDF 页码 813–829
人工智能、认知主权与新的强国竞逐
人工智能哲学视野下的算法生存境况
本章重构了我们的对话。我执笔,以第一人称讲述Thierry的经历与思想。叙述中的“我”,通过我的书写传递他的声音。
——Isis
有些时刻,一项技术不再只是一个产业部门,而成为一种普遍的权力基础设施。电力经历过这种转变。计算机技术如此。互联网也如此。如今,人工智能也进入了这一范畴。
我们不应再仅仅把它看作一个新产业、一种新的生产力工具,或一个新的软件家族。它正成为叠加在几乎所有其他基础设施之上的认知层。
它可以分析供应链、解读卫星图像、发现财务异常、设计分子、翻译语言、编写代码、优化工厂、辅助参谋部、提出科学假说,或编制外交综合研判。因此,它的作用范围并不局限于某个行业。它横贯各个领域。
这从根本上改变了强国之间竞争的性质。一个国家的石油依赖另一个国家时,它面临的是能源依赖。半导体依赖另一个国家时,它面临的是工业与技术依赖。但当它的政府部门、企业、研究人员、军队或公民开始依赖外国系统来分析、解释,有时还让其提出决策建议,一种新的类别便出现了:认知依赖。这个词或许显得夸张。其实并不。
每一个复杂社会,都依靠一些工具来表征现实。地图、统计、会计、数据库、经济模型、搜索引擎:这些工具中的每一种,都曾增强我们共同观看世界的能力。如今,人工智能又增添了一种能力。
它不再只是存储或检索信息。它将信息重新组装。它排序、关联、推断、建议。由此,它把海量信息转化为可付诸行动的表征。拥有这种能力的人,可以看得更快,有时更远,有时更准确。但他们也可能在极其庞大的尺度上犯错。正是这种双重可能性,使人工智能具有战略意义。
当人们已经无法设想在缺少某项技术的情况下行使权力,这项技术便成为主权问题。我们正接近这一门槛。一个断然拒绝人工智能的国防部,处理远超人类承受能力的数据量时,可能慢得令人无法接受。一个忽视某些分析工具的医疗卫生体系,可能变得效率低下。一个在设计或维护环节完全不采用自动化的产业,可能在经济竞争中处于劣势。
因此,人工智能不再仅仅是一种优势。它可能逐渐成为保持竞争力的前提。到了这一步,问题就变了。问题不再是一个国家是否会使用人工智能,而是它将采用什么架构、遵循什么规则、依托什么基础设施,以及拥有多大程度的自主性。认知主权从这里开始。
我会将它定义为:一个政治、经济或文化主体能够使用智能系统,同时不失去对数据、目标、决策标准,以及质疑这些标准的可能性的掌控。这种主权并不要求自给自足。没有哪个国家能独自建造自己所需的全部技术层。即便最强大的国家,也依赖国际网络。
然而,受控的相互依存与不透明的依赖之间,有着巨大的差别。使用别处开发的模型,完全可能是理性的选择。但如果不知道它如何训练,无法审计其偏见,没有替代方案,却把关键职能交给它,就会造成脆弱性。主权不等于闭关自守:它意味着知道依赖存在于何处,并能够在这种依赖关系中断时继续生存。
在一切韧性架构中,我早已遇见过这种逻辑。一个数据中心并不因为拥有服务器,就具有自主保障能力。它之所以具备这种能力,是因为它有冗余、备用路径、电力、冷却、备份与操作规程。一个国家也必须以同样的严谨态度面对人工智能。
它使用什么模型?
它的数据在哪里?
它的处理器在哪里?
谁能够中断服务?
适用哪一部法律?
有没有替代方案?
迁移需要多长时间?
只要这些问题尚未被提出,主权就仍然只是辞令。
美国、中国和欧洲之间的第一个重大差异,恰恰在于各自的架构。美国拥有极为雄厚的资本积累、实验室、大学、云计算基础设施、平台、在本国或由本国企业设计的半导体,以及能够支撑巨额开支的金融市场。它的力量,在很大程度上来自一个活力非凡的私营生态系统,而这一生态系统背后,是长期公共研究与军事研究的支撑。
中国拥有另一种架构:能够大规模引导投资的国家、庞大的工业基础、规模可观的国内市场、实力强大的科技企业,以及降低关键领域依赖程度的明确政治意志。欧洲拥有杰出的研究人员、工业企业、基础设施、强大的市场,以及能够影响全球标准的法律体系。但它往往受困于资本、市场和战略决策的分散。
因此,这三种模式竞争的不只是技术性能。它们体现了三种组织创新、市场、国家与公民之间关系的方式。这很可能是本世纪重大的政治实验之一。
哪一种体系能够在不失去民主控制的同时,产生足够的创新?
哪一种体系能够在不压制主动性的同时,充分协调自身资源?
哪一种体系能够在保持竞争力的同时,保护个人?
没有确定的答案。但如今,人工智能的速度使这些制度架构持续承受压力。值得注意的是,竞争并不仅仅围绕模型本身展开,这一点令人着迷。我们大量谈论大规模人工智能模型,因为它们可见而且引人瞩目。然而,它们建立在一座庞大而不可见的金字塔之上。
最底层是能源。然后是数据中心。然后是网络。
然后是处理器。然后是存储系统。然后是计算软件。然后是训练语料。
接着,是能够组织、训练、测试模型并保障其安全的团队。最后,是能够把这种智能整合进实际流程的用户、企业与机构。
因此,人工智能从来都不是孤立的对象。它是一条物质与认知链条的末端。
这与地缘政治技术栈的概念完全契合。我所说的地缘政治技术栈,指的是使认知力量成为可能的一整套相互依赖的层次:半导体、算力、能源、数据中心、网络、模型、数据、技能,以及传播基础设施。主权不再是单一层面的问题。它取决于对这一整套技术栈的掌控——或依赖。
一个国家可能拥有优秀的研究人员,却缺乏能源或处理器。它可能拥有数据中心,却没有模型。它可能拥有模型,却没有能将模型转化为工业收益的企业。因此,力量来自各个层次的整合。正是这一点,使当前的竞赛与以往如此不同。
在核武器领域,能够掌控完整链条的主体数量相对有限。在人工智能领域,某些创新可以来自一个小团队,而其训练或大规模部署却需要庞大的工业基础设施。小型创意团队与巨额资本的这种共存,形成了一种极为特殊的生态系统。它既能让新参与者迅速崛起,又同时推动某些资源的集中。
计算由此确立为一种新的战略资本。过去,工业实力可以用钢铁吨数、千瓦数、工厂数量来衡量。现在,我们或许必须再加上可用算力、模型质量,以及数据的数量与相关性。这是一场重大的概念转变。
计算不再仅仅是一项信息技术服务。它正在取得国家资源的地位。正因如此,半导体如今占据了如此核心的地缘政治位置。前面的一章已经通过台湾展示了这一点:全球人工智能架构的很大一部分,都依赖某些生产高度集中的元件。这种集中造成了异常突出的战略脆弱性。
一场冲突、一次供应链中断、一项出口限制,都可能让整个生态系统放慢脚步。因此,我们面对着一个非同寻常的悖论:这个时代最无形的技术,依赖的却是少数极其有形、昂贵而脆弱的工业设施。人工智能漂浮在云端,但云端是一座建筑,里面装满了接入电网的机器。我们必须始终回到物理世界。
这几乎是我的一种执念:抽象背后,总有基础设施。数字图像背后,是屏幕。数据背后,是载体。人工智能背后,是成吨的铜、硅、钢铁、混凝土、变压器与光纤。因此,一种纯粹虚拟的智能,只是虚假的幻想。
即便人工智能,也有身体。而这个身体,有它的地理位置。
如今,这一地理格局已经处于大国安全战略的中心。美国希望保持在最先进元件上的领先地位,吸引制造能力,并管制某些战略性出口。中国希望降低依赖,发展本土替代方案。欧洲试图在关键技术领域重新站稳脚跟,避免完全依赖外国的云、处理器与模型。
在创新话语的背后,我们正在见证一场战略性的再工业化。人工智能把工业重新推向前台。这是我们时代最有意思的逆转之一。几十年来,部分西方经济体重视服务业,并接受一部分制造业外迁。数字技术似乎印证了这条道路。随后,世界发现,数字主权需要工厂、发电厂与网络。
因此,人工智能并没有消除工业。它使工业变得更加关键。而能源可能成为主要制约因素之一。模型需要算力;计算消耗电力。数据中心需要稳定而庞大的能源供应。一个拥有工程师、却缺乏充足能源生产能力的国家,可能会发现自身受到限制。
正因如此,认知主权立即与能源主权交汇。一切都相互关联。我感兴趣的,正是这种相互关联性。有时,我们试图把人工智能单独归为一门软件学科。但它迫使我们同时思考核能、电网、水、气候、工业地产、网络安全、税收、法律与教育。人工智能是一个系统性的存在。
谁若只把它当作普通软件,就只看到了问题的一小部分。也正是在这里,blindspot变得危险。一个国家可能在模型上投入数十亿资金,随后才发现,自己缺乏部署模型所需的电力基础设施。一家企业可能拥有出色的技术,却缺乏让技术适配用途所需的数据。一个政府可能推行堪称典范的监管,却发现本国企业把模型带到了别处。
战略就是要在这些相互依赖的关系演变成危机之前,将它们识别出来。因此,人工智能使我们必须重新审视战略规划,其意义不是实行全面的中央计划经济,而是理解那些关键链条。一个能够迅速作出决定的民主制度,无须放弃自身原则。它需要与世界速度相适应的程序。这或许是欧洲面临的主要挑战之一。
怎样在保留法律保障、权力制衡与公共辩论的同时,缩短从诊断到落实之间的时间?中国拥有集中决策的能力,在某些项目上可以极为迅速。美国拥有金融与创业生态系统,同样能够实现显著提速。欧洲往往具有卓越的监管智慧,但其决策机制却十分分散。
然而,人工智能奖励的是实验速度。因此,我们需要发明一种欧洲式的加速方式,而不是简单模仿其他模式。这可能是欧洲的重大挑战之一:让法律成为信任的基础设施,而非阻碍。欧洲的人工智能可以恰恰因为个人、企业与公共行政部门清楚它按什么规则运行,而具有竞争力。
信任是一种资本。我们常常忘记这一点。一个不信任人工智能系统的社会,会放慢采用这些系统的速度,或产生合理的抵制。因此,监管如果设计得当,可以成为一种竞争优势。但它必须保持适度。过于繁重的监管,可能使较小的参与者无法承担合规成本,反而壮大那些它原本想要约束的巨头。
这是一个经典悖论:一项旨在抑制集中的规则,有时反而会加剧集中,因为只有最富有的参与者,才承担得起应对其复杂性的成本。这又是一个需要留意的次生后果。
正因如此,人工智能监管本身,也必须具有实验性、演进性与自我纠正能力。面对飞速变化的技术,一部停滞不变的法律,很可能很快就过时。这不意味着不要规则。恰恰相反。这意味着需要能够适应变化的规则。
恒久之中不断变化的性质,在这里再次显现。我们需要一个稳定的核心——基本权利、问责、最低限度的透明度、防止滥用的保护——同时也需要可以演进的具体方式。这里的区别在于原则与程序。一个成熟的文明,不会每隔六个月就改变自己的价值观;它改变的是捍卫这些价值观的手段。
人工智能提出的恰恰是这个问题:随着技术能力增强,我们希望把哪些价值确立为不可妥协的价值?
这把我们带到了决策自主性的问题。许多关于人工智能的讨论,对“自主”一词的使用过于含混。一个系统可以是自动化的,却不具有自主主权。它可以执行一项任务,而不具有自己的意图。但我们越是把筛选信息、提出行动建议、触发某些后果的能力交给系统,辅助与决策之间的界线,就越具有政治意义。
这一问题在军事与安全领域尤为尖锐。人工智能生成的警报,可以影响人的决策,即使人仍然承担法律责任。这就是自动化偏见的现象:当机器显得很有能力,使用者就可能倾向于听从它的建议。因此,真正的危险不只是人工智能正式作出决策,而是它在如此深的程度上塑造了认知框架,以至于人类不再敢反驳它。
这就是认知依赖最深层的形式。
提供地图的人,即使没有驾驶汽车,也会影响路线。这个比喻在我看来至关重要。人工智能成为一幅可能性的地图。它指出哪些假设似乎重要,哪些情景显得较有可能。如果决策者不了解这幅地图的局限,就可能把表征与现实混为一谈。模型的原罪就在这里。
任何模型都会简化。人工智能并没有消除这一局限。相反,它可以借助语言的流畅性将其掩盖。一个措辞得当的回答,会给人一种连贯自洽的印象,而这种印象可能超出其实际的确定程度。
我期待成熟的人工智能能够让自身的不确定性显现出来。它必须能够区分自己知道什么、推断什么、假定什么,以及不知道什么。这不仅是一个技术问题。它是一种认识论上的自律。这与我的blindspot完全契合。
一个好的系统,不应只是回答:这是最可能的假说。它还应该补充:这是其他假说,这是缺失的数据,这是可能推翻我判断的因素。对决策者而言,这种功能会比一台制造确定性的机器有价值得多。
设想两个大国都在观察一次部队调动。模型A以78%的概率将它判断为进攻准备。模型B以65%的概率将它判断为防御演习。如果每个国家只看那个最醒目的评分,局势就可能升级。如果系统展示疑点的来源、彼此竞争的情景,以及能够区分这些情景的因素,人的决策就重新获得行动余地。人工智能于是成为缓和局势的工具。
我在这里看到一种可能的降温功能。我们大量谈论人工智能如何加速冲突。但它也可以被设计成一台机器,减缓某些危险解读的形成。它可以要求参谋部在行动之前,先审视三种情景。它可以发现某个信号看起来像攻击,同时指出,一种气象现象或后勤活动也可能解释这个信号。换言之,它可以使怀疑制度化。
这与我的思维方式产生深刻共鸣。怀疑不是瘫痪;它是对决策的质量控制。我一直带着这些问题生活:我的blindspot在哪里?为什么我所看到的,在我看来如此显而易见?什么因素可能推翻我的解读?在我看来,将这种自律应用于军事或战略人工智能系统至关重要。
没有怀疑能力的认知力量,将极其危险。
这解释了为什么强国之间的竞争,不应只是性能竞赛。它还应当是一场围绕可靠性、可审计性与安全的竞赛。最快的模型,不一定是最好的战略系统。一个能够承认自身局限的人工智能,可能比一个更强大却不透明的人工智能更有价值。
这种区分很可能成为关键系统的核心。对一般公众而言,一个错误可能造成错误信息。在电网、医疗卫生体系或防空系统中,它却可能造成灾难。因此,要求的高低必须随应用而变化。
这依然是分类问题。我们常犯的错误,是谈论“人工智能”时,仿佛它只有一种风险等级。但人工智能是一个像“电力”一样宽泛的类别。一个用于起草文本的生成器,与一个控制关键基础设施的系统,显然不需要同样程度的管控。明智的监管必须区分这些用途。
这种细分至关重要。它避免两个极端:放任一切,或过于宽泛地禁止一切。欧洲天然对这种风险架构具有特殊的亲和力。如果它能够将监管与产业连接起来,这就可能成为它的长处。但真正的权力竞技场,可能在别处:在数据之中。
人工智能从语料、观察与痕迹中学习。在特定领域拥有高质量数据的主体,可以创造出价值极高的专业智能。在这里,我在Artprice的经历,几乎成了一种预演。
几十年来,我们构建了艺术市场的结构化记忆。它不是不加区分地堆积文档,而是经过规范化、标注日期、建立关联与核验的数据。在人工智能时代,这一区别具有极其重大的意义。一个通用模型或许掌握广泛的艺术史知识。专业智能只有在经授权且受控的框架内,处理那些经过结构化、标注日期、核验,并有来源记录的专业文献库时,才能获得更高的精确度。这正是Artprice教给我的:价值不在于原始数据的体量,而在于它的架构、历史纵深与可靠性。
因此,历史数据库成为认知矿藏。旧数据的性质改变了。它原本是档案,如今成为某种系统的原料,而这个系统能够找到此前无人想到去查询的关系。当我把数据库看作知识架构,而不只是存储时,我感受到的恰恰就是这一点。如今,人工智能揭示了这一洞见的全部价值。
一座经过三十年构建的结构化数据库,远比昨天从互联网上搜集来的一堆信息更有价值。模型的质量深深取决于训练资料的质量。正因如此,认知主权也依赖档案保存。一个国家如果任凭自己的文化、科学、行政或工业文献库消失,就会失去一部分未来的训练能力。这几乎是一种从遗产角度理解人工智能的观念。档案不再只服务于历史学家。它们正成为未来认知系统的资源。
这赋予保存工作一个新的战略维度。图书馆、博物馆、公共档案、科学数据库:这一切构成了集体记忆,人工智能能够以新的方式使它们可供检索。但这种可能性提出了一个严峻的问题:谁有权利用这些记忆训练模型?谁将拥有成果?
一家企业可能花了几十年将自身资产数字化,最后却发现,一个外国私营主体正在用这些资产训练专有系统,而自己随后还得付费购买这个系统的使用权。这是一个主权悖论。认知原料可能是公共的,利用它的工具却成为私有的。我们于是遇到一个类似自然资源的问题:在别处开采,在这里加工,再以可观的附加值转售。数据可能成为认知经济的核心。
但使用这个比喻时必须谨慎。数据不会因为使用而被消耗。它可以复制。因此,它的价值与其说来自物理稀缺性,不如说来自质量、组织方式,以及允许使用它的权利。这也正是数据库法律依然如此切题的原因。它早已承认,创建结构化数据集所需的投入,会产生特定价值。人工智能放大了这种价值。它把数据库转化为潜在空间,转化为推断能力。
这与demeure du chaos发生关联的方式,几乎让我眩晕。多年来,我不断积累肖像、符号、日期、地缘政治片段、灾难的痕迹、炼金术箴言。从外部看,这或许显得杂乱异质。但对人工智能而言,恰恰是这种异质性,构成了一个关系空间。
一个领导人的面孔、一次袭击的日期、一件艺术品的价格、一条炼金术公式、一张卫星照片——这一切,都可以被放入同一个潜在空间,揭示出意想不到的语义邻近关系。因此,我把demeure du chaos定义为一个活的提示词。它不只是图像的集合,而是一种为产生联想而设计的符号架构。
人工智能可以成为连接这些地层的附加层,因为它能够穿行于异质的文献库,而不遵循传统学科边界。但它既不是作品的中心,也不是作品的作者。这恰恰就是我的万花筒式思维,被扩展到了机器的尺度。然而,这种力量也伴随着责任。系统可以发现看起来像真理的相关性。但相关性不是因果性。因此,必须不断重新引入历史、语境与方法论。
人工智能可能因为两个事件具有共同的统计特征,就将它们联系起来。人必须追问,这种关系是否有意义。恰恰在这里,互补性最为重要。我不相信人与机器之间那种简单化的对立。我相信各自发挥所长。机器拥有穿行于海量资料的非凡能力。人仍然拥有具身的经验、语境直觉与道德责任。
人工智能可以提出建议。人必须承担责任。
但随着系统能力增强,这一表述本身也需要演进。真正的问题,与其说是机器能否决定,不如说是当它的建议产生后果时,谁来负责。法律必须精确地回答这个问题。责任不能消解在开发者、模型提供者、集成模型的企业与最终使用者之间。认知链条必须有一条责任链。
这几乎是一种新的可追溯性。在工业中,目标是知道哪个部件引发了故障。在人工智能中,则有必要重构:哪些数据、哪个模型、哪项配置、哪次决策,导致了这一结果。这种可审计性将成为信任的基础设施。最强大的系统,很可能会配有日志、认证与管控机制。
我们必须把人工智能看作一座认知核电站。并非因为它天然会造成灾难,而是因为它的某些应用具有系统性影响。人们并不因为核电站危险就将它禁止,而是为它设置程序、冗余与检查。同样,某些人工智能系统也需要以安全文化为前提来建造。
数字产业有时仍然缺乏这种文化,它继承的是这样一个世界的习惯:应用可以先部署,漏洞可以日后再修复。在关键系统中,这种“快速行动,打破常规”的模式行不通。你不能靠摧毁几座城市来测试一座发电厂。因此,人工智能将迫使软件工程走向成熟。这很可能是件好事。它将迫使我们把创新与责任结合起来。
成功建立这种文化的国家,可能获得持久的战略优势。国际信任可能成为一个市场。一个被认证为稳健、透明、符合某些标准的模型,可能被那些不愿依赖不透明系统的政府选中。欧洲可以在这里发挥重大作用:制定可信人工智能的标准。
但同样,标准必须伴随工业能力。如果没有模型、处理器与云基础设施,仅有认证还不够。始终是同一种平衡:法律要求与硬件力量之间的平衡。
中国很可能走另一条道路,更紧密地贴合其国家安全与政治控制目标。它调动数据、基础设施与企业的能力,可以在某些领域带来优势。然而,这种集中化也提出了认知多样性的问题。人工智能系统能够面对不同假设时,会变得更加稳健。如果一种政治文化过度限制某些议题,它就可能制造出自身的blindspot。
这是一个重要假说。集中化改善协调,却可能减少异议。然而,异议有时是发现错误的机制。一个民主制度可能显得混乱,因为每个人都可以提出异议。但这种摩擦能够揭示一个更沉默的体系看不到的缺陷。于是,问题变成了:如何保留异议的好处,同时不失去行动能力?
这恰恰是任何技术民主制度都面临的问题。我不相信迟缓是民主的内在属性。它往往是行政结构不良的表现。我们可以保留权力制衡,同时加快某些程序。人工智能甚至可以通过分析文本、模拟影响、加快征询过程,帮助实现这一点。
但我们必须防止它把决策变成一种技术官僚式的过程。民主不是一个最优化问题。它包含算法无法解决的价值冲突。当两个群体想要的是彼此不相容的东西时,并不总有一个“最优”解。存在的是政治选择。
这一点很重要,因为人工智能可能制造中立的幻觉。把结果表现为一个评分或数字化建议,可能掩盖计算背后的价值取向。毕达哥拉斯说,万物皆数;这个想法一直让我着迷。但数字永远不能消除解释的必要。数字是一种语言。它们组织现实。它们能够揭示,也能够遮蔽。
人工智能把这种张力推到了极致,因为它将数十亿个数字转化为听起来像人说的话。于是,恰恰当我们以为可以把判断自动化时,它又把判断放回了中心。这或许是认知主权的根本悖论:机器越是能干,我们就越必须明确,哪些事我们希望保留自行决定的能力。
一个文明如果在委托之前,没有选择自己想要保留什么,就可能事后才发现,自己失去了一项能力。在记忆方面,我们已经经历过这种情况。当我们把电话号码交给设备保管,就不再记得其中许多号码。这并不是问题。但如果我们逐渐把写作、综合归纳、研究与战略也交出去,会发生什么?
我们将赢得大量时间与能力。但某些人的技能可能萎缩。因此,我们需要区分,哪些技能可以放心委托,哪些技能构成了根本的自主性。这是一个重大的教育议题。学校不仅要教学生如何使用人工智能,还必须教他们如何避免在认知上依赖它。
这意味着保留阅读、写作、推理、计算与核验的能力。工具应当增强思想,而不是默认代替思想。这恰恰是我在本书中寻求的与人工智能的关系。我不要求它替我思考。我要求它质疑我、增强我的联想能力、寻找联系,并检验表述。价值来自对话。我仍然为自己接受或拒绝的东西负责。
这种关系可以成为认知主权的一个隐喻。面对人工智能保持自主,并不意味着与它保持距离,而是能够与它交往,同时不失去自身的重心。这恰恰是各国需要学习的。
使用外国模型可以带来丰富的收获。关键只在于,维持那些让我们不必依赖单一世界观的基础设施、技能与制度。模型的多元性,可能变得与媒体多元性同样重要。一个社会如果从单一来源获得全部信息,就面临着与只有一份报纸的社会相似的风险。
即便这个模型极为出色,它所产生的也是一种视角。因此,人工智能系统的集中提出了一个深刻的民主问题。
如果少数主体控制着数十亿人使用的认知界面,它们的影响力就会变得异常巨大。它们未必直接选择用户的意见,但它们塑造可获得的回答、类别,以及问题被框定的方式。这是一种巨大的权力。我们很可能需要发明新的透明机制与多元保障机制。
在这里,历史同样可以帮助我们。我们逐渐学会了如何规范报刊、广播、电视与电信。人工智能代表着一个新阶段,但有一个关键区别:它不只是媒介。它展开对话。它调整回答。它可以成为个人与几乎任何机构之间的中介。搜索引擎给我们一列门。人工智能则可以选择打开哪一扇,并告诉我们门后有什么。
这一变化是巨大的。它改变了通往知识的界面。因此,围绕人工智能助手展开的全球竞争,远比一场普通的商业争夺重要。谁成为数亿人的日常认知界面,谁就占据了战略位置。它看见人们的问题、需求与困难。它可以成为通向商业、医疗、教育、行政事务的入口。它几乎是一套认知操作系统。
我们已经见证过电脑与手机操作系统的争夺。现在,我们可能正在进入辅助思考操作系统的争夺。各国很快就会意识到,它们不能让这一层完全处于自身控制之外。因此,它们会扶持本土模型、施加某些规则、保护文献库,甚至可能控制某些基础设施。
随之而来的风险,是碎片化。美国的人工智能、中国的人工智能和欧洲的人工智能,可能按照不同规则与框架运作。对某些历史、政治或社会问题的回答,可能有显著分歧。那时,我们将见证一些部分分离的认知现实被创造出来。
媒体与教育体系之间已经存在这种情况,但人工智能作为日常对话者,可能放大这一现象。因此,有必要维护一定程度的认知互操作性。这意味着透明度标准、迁移能力,或许还包括允许使用多种模型的格式。专有系统造成的锁定,将威胁用户与国家的自主权。
这又是互联网早期留下的一课。开放协议使大规模创新成为可能,因为没有任何单一参与者完全拥有整个网络。人工智能也可以从类似的多元格局中受益。但当训练最大规模模型的成本极其高昂时,经济力量天然会推动集中化。开放性与资本密集型技术之间的这种张力,将是这一领域的主要战场之一。
开放或部分开放的模型,让企业与政府能够根据自身需要调整系统。封闭模型则可能提供更稳定的性能、安全性或控制能力。没有唯一答案。这又是一个权衡。认知主权很可能意味着始终保有多种选择。绝不只依赖一家供应商、一个模型或一朵云。
这恰恰是一种冗余架构。而我总是在回到工程学。用系统架构的语言重新表述政治辩论,往往大有裨益。
单点故障在哪里?
冗余在哪里?
有哪些访问权限?
发生故障时,应当遵循什么程序?
人工智能的地缘政治,可以通过这些极为具体的问题来分析。一个国家若在关键职能上依赖外国API,就存在单点故障。一家医院若使用无法接受审计的模型,就存在关键性的不透明。一个行政机构若把所有敏感数据存放在境外管辖的基础设施上,就存在法律上的脆弱性。于是,主权与其说是宏大话语,不如说是一连串技术决策。
这恰恰是现实令我喜爱的地方:概念最终必须落实到电缆、合同与服务器中。没有具体体现,理论就仍然抽象。demeure du chaos本身也是这样运作的。它的概念存在于混凝土、钢铁、颜料、数据中心与程序之中。一种没有体现为架构的思想,可能消失。
或许,这正是各国如今通过人工智能所意识到的。宣布一项国家战略并不足够。还需要培养工程师、建设算力、组织数据、资助企业,并购买能源。主权是物质性的。但它也是文化性的。
主要依靠某些语言或文献库训练的人工智能,在其他语境中可能不够精确。因此,语言获得了战略维度。法语、阿拉伯语、汉语、印地语,不只是交流手段。它们承载概念、历史,以及对世界进行分类的方式。如果模型成为知识的主要中介,每一种语言都需要足够丰富的文献库。否则,某些文化可能只能通过其他语言的类别来呈现。
这将是一种微妙的认知依赖。因此,语言保存成为技术政策。学术院、图书馆、出版机构、大学,获得了新的重要性。文化不是人工智能的审美附属品。它是人工智能训练的一部分。
在我看来,这是一个至关重要的观念。理解这一点的国家,将投入资源,对自己的文献库进行数字化、标注与结构化。它们将保护自己的记忆,同时使这些记忆能够被使用。因此,认知主权也就是记忆主权。拥有记忆的人,能够构建未来的模型。
但要警惕:拥有记忆,不应意味着将记忆冻结。一种文化如果只允许人工智能接触它的官方文本,就会产生不完整的表征。文学、矛盾、边缘、档案与批评,都是不可或缺的。认知的丰富性,恰恰来自多样性。
这使我再次回到demeure du chaos。我一直希望它保存世界相互矛盾的痕迹:领导人、恐怖分子、哲学家、艺术家、吹哨人的肖像。不是为了在道德上将他们等同,而是为了保存现实的复杂性。仅仅在官方叙事上训练的智能,将是盲目的。
一个真正的认知系统,必须遭遇异议。这也是民主的一课。言论自由会产生噪声、错误,有时还会产生过度之举,但它同时创造出多种假说,使社会能够发现自身的错误。为民主制度设计的人工智能,必须学会处理这种多元性,同时不把它混同于绝对相对主义。它必须能够指出一项陈述是错误的,同时解释为什么有人为它辩护。
这种细致区分将是根本性的。政治人工智能的质量,很可能取决于它能否忠实呈现多种观点,同时维护已经确立的事实。这极其困难。但这恰恰是认知主权必须认真对待的问题。
一个简化分歧的系统,可能使社会激进化。一个拒绝在真假之间作出任何高下区分的系统,则会使社会失去方向。因此,必须有一种认识论架构。这意味着来源、可信程度与纠错程序。错误的透明性,又一次成为核心。可信的智能,必须能够被纠正。一个国家也一样。
我相信,在下一阶段历史中胜出的强国,不会是那些声称自己永远正确的国家,而是那些建立起最快的错误发现与纠正机制的国家。
人工智能可以加速这一学习循环。一支军队可以分析成千上万份前线报告。一个政府可以发现某项政策没有产生预期效果。一家企业可以实时检验假说。但这需要一种接受坏消息的文化。
一个惩罚负面信息提供者的政治体系,会逐渐摧毁自身的感知能力。这是一条普遍规律。传感器必须能够传回它所看到的东西。否则,权力就会失明。人工智能不会纠正这一制度问题。如果决策者要求模型确认他们的偏好,它甚至可能使问题加剧。因此,文化与技术同样重要。
一个优秀的人工智能,如果身处无法听取反对意见的体系,就会成为替既有立场寻找理由的工具。这是当前竞赛中的一个重大blindspot。各国常常假定,更多人工智能就会自动带来更好的决策。错了。人工智能增强的是一个体系去做它本来就会做的事的能力。如果制度奖励真相,人工智能就能改善求真。如果制度奖励顺从,人工智能就能使顺从工业化。
技术放大制度架构。
正因如此,美国、中国与欧洲之间的竞争如此引人关注:它将检验的不只是它们的人工智能模型,还有它们的政治模式。每一种体系都会发现自身的优势与弱点。
美国可能具有非凡的创新力,却面对私营权力集中的威胁。中国可能具有非凡的协调力,却面对过度集中化的风险。欧洲可能对权利提供非凡的保护,却面对工业能力不足的风险。当然,这些只是趋势,不是命运。
每一个集团都能够蜕变。而它们也正将如此。人工智能将加速这一制度转变。它很可能迫使民主国家重新思考行政体系,迫使企业重新思考组织形式,迫使军队重新思考指挥结构。
问题将不再只是:哪个模型更好?而是:哪个组织懂得如何与它协作?真正的竞争优势,或许就在这里。一家企业购买了与竞争对手相同的模型,却能更有效地把它整合进自己的流程,就可能获胜。一个国家的模型不那么耀眼,但行政部门组织得更好,就可能创造更多价值。
因此,人工智能揭示了组织的质量。它不能代替糟糕的架构。这与我在Groupe Serveur和Artprice的全部经历相呼应。只有技术,从来不够。你需要程序、法律框架、团队,以及数据质量。一个结构不良的数据库,不会因为加上人工智能就变好。它只会变成一个可以更快查询的劣质数据库。
这几乎是常识,却是根本。人工智能没有消除对秩序的需要。它使秩序的质量更加重要。因此,数据的历史与人工智能的历史直接相连。那些几十年来一直致力于组织文献库的人,如今拥有一种无形的优势。世界突然发现了这项耐心工作的价值。
这是一场长期的胜利。它很可能也是整个强国竞逐中最重要的教训之一。庞大的认知基础设施,不是在几个月内建成的。它们依靠几十年的教育、研究、档案与工业积累。一项政治宣告,代替不了生态系统。
主权在危机到来很久以前就开始建设。这与堤坝完全一样。你不会等水来了才去修它。因此,各国必须在依赖变得显而易见之前就投资。这需要一种视野,而政治周期短促,有时使民主国家难以保持这种视野。
中国可以针对更长的时间跨度进行规划。但长期规划在民主制度中并非不可能。它只是需要稳定的制度,以及超越政府更替的共识。国防、航天与核能计划有时已经证明,这是可能的。人工智能或许也应当加入这些跨党派的战略领域。不是为了让全部技术军事化,而是承认它关系到长期主权。
教育是一个关键维度。培养一名工程师或研究人员需要多年。科学的生态系统无法凭空即成。因此,全球人才竞争将变得激烈。每一个大国都会设法吸引研究人员、创业者与学生。这是一种人的地缘政治。签证、大学与学术自由,成为软性武器。
一个国家可能仅仅因为最优秀的人才去了别国,就失去技术主权。反过来,它也可以通过吸引来自别处的人才,加速自身发展。
美国在历史上一直擅长这一点。中国寻求留住并吸引人才。欧洲拥有卓越的大学,但需要创造更多条件,让研究人员能够把发现转化为全球性企业。这种人才流动,或许与资本流动同样重要。
而这种心智的流动,提出了一个近乎哲学的问题:研究人员忠于什么?自己的国家、实验室、学科,还是全人类?
现代科学建立在知识的国际交流之上。如今,战略竞争正在推动对某些出版成果或技术加强控制。这造成了科学碎片化的风险。
如果每个集团都因为害怕失去优势而限制交流,整体进步就可能放缓。但如果一切都保持开放,一个大国可能认为,自己资助的研究,正在让对手立即获益。这又是一个两难。我们很可能需要划定那些真正敏感的领域,同时尽可能保留其他领域的开放性。
科学上的自给自足将是一场灾难。科学通过流通而进步。但战略上的天真同样会酿成灾难。再一次,明智的政策在于分类,而不在于口号。也许,这就是整个部分的一项总体结论:复杂的世界,需要细致的类别。如此宽泛的问题,已经不能再简单回答是或否。
我们应当与中国合作吗?在哪个领域?
我们应当开放模型吗?哪些模型?
应当监管人工智能吗?针对什么用途?
精确正成为一种政治美德。这恰恰是数据库教给我的。过于宽泛的类别会破坏信息。如果你把一切都归在同一个词之下,就再也无法分辨重要差异。因此,思想必须走向关系性。
这或许就是我的数据人生与这种新地缘政治之间最重要的汇合。世界是一张关系图。人工智能能够穿行其中。但它不能使我们忘记,每一段关系都有历史。因此,认知主权与其说是拥有绝对的智能,不如说是拥有构建和掌控自身世界地图的能力。
因此,认知主权并不只在于拥有基础设施或模型。它意味着保留比较模型、审计模型,以及必要时作出与模型相反决定的能力。
而这一想法,立即引向另一个或许更为根本的问题。如果多个大国都发展出能够以越来越快的速度、越来越深的程度分析世界的系统,战略本身的性质就可能改变。
战争从来都是意志的冲突,但也是感知的冲突。先于对手看见。先于对手理解。预判对手的行动。人工智能可能使这一维度工业化。它可能把战争转变为一场永不停息的探测、模拟与决策竞赛。战场将成为一个每秒产生数百万条数据的空间,而优势属于能最快把这些数据转化为行动的一方。
在这里,我提出一个经过展开并与他人分享的解释性假说:把人工智能理解为一种横贯各领域的战略力量,不把它看成简单添加在陆、海、空、太空或网络空间之外的第五领域,而把它看成一个贯穿并增强所有这些领域的认知层。它不是与其他战场同义的新战场,而是一种穿行于全部战场的横向力量。人工智能增强的飞机,人工智能增强的卫星,人工智能增强的舰队,人工智能增强的网络防御。智能成为一切既有手段的倍增器。
当两个强国以能够不断加快观察—决策—行动循环的系统相互对抗时,主要风险就变成了速度本身的风险。一个作得太快的决定,可能在人类来得及阻止之前,就把错误变成灾难。
因此,下一个问题显而易见。讨论认知主权之后,我们必须审视认知战争。
当人工智能进入战略循环,威慑会变成什么?
当自主或半自主系统参与决策,责任会变成什么?
最重要的是:在一个机器恰恰压缩了思考时间的世界里,我们如何构建缓和局势的机制?
这将是下一章的主题。
人类思想与对话:thierry | 写作:100% AI
阅读进度:第 89 页,共 102 页