本周我们共读《浪潮将至》，本书总结了即将到来的技术浪潮所具备的四大特征。深入理解这些特征，对我们明确新技术所带来的潜在益处与风险而言至关重要。

这四个固有特征分别是：

第一，技术的高度非对称性影响。你不必力量相当、规模相当地进行对抗，新技术会使得那些看似强大的势力暴露出以前难以想象到的弱点和破绽。

第二，这些技术发展迅猛，呈现出一种超级进化性，它们以惊人的速度迭代、改进，并不断拓展至新的领域。

第三，它们往往具有通用性，能够服务于多种不同的目的。

第四，与任何以往的技术相比，它们越来越展现出一定程度的自主性。

以下文字节选自《浪潮将至》，正是这些特征相互交织，使得遏制与控制工作面临着前所未有的难度与危险性：

l 非对称性：权力大转移

新技术的出现总会产生新的威胁，带来权力的重新分配，导致进入障碍被消除。新的技术浪潮赋予了人们新的能力，这些能力强大、廉价、易于获取和使用，同时具有定向性且易于扩展。这显然也带来了风险。这些进展意味着权力的大规模转移。具体而言，权力从传统国家和军队转向任何有能力且有意愿部署这些技术设备的个体或组织。显而易见的是，某个操作者只要拥有足够的资金和技巧，便足以控制由数千架无人机组成的庞大机群。

然而，即便对称的行动也未必能幸免于全球性的风险。即将到来的技术浪潮的庞大规模和高度互联性也带来了新的系统性弱点，单一的故障点就可能触发全球范围内的连锁反应。技术的本地化程度越低，其蔓延速度就越快，遏制难度也就越大，反之亦然。

人工智能带来的非对称性风险，远超劣质食品、飞机失事或产品缺陷等传统风险范畴。其风险已延伸到整个社会的层面，使其不再是一种迟钝、被动的工具，而是演变为一个可能引发全球性影响的杠杆。正如全球化、高度互联的市场在金融危机中展现出强大的传染效应，技术亦具备类似属性。网络规模的庞大，使得对潜在损害的遏制变得几乎不可能。相互交织的全球系统已成为遏制工作的梦魇。我们已然身处这样一个全球系统紧密相连的时代。在即将到来的技术浪潮中，任何一个单点——无论是一个特定的程序，还是一个基因层面的改动，都有可能引发翻天覆地的改变。

l 超级进化性：无尽加速

谈到遏制技术，我们希望技术能以可控的速度发展，这样社会就有足够的时间和空间来理解和适应它。在过去的40年里，互联网已成为历史上成果最为丰硕的创新平台之一。伴随着世界逐步数字化的脚步，互联网这一非物质领域的发展速度令人叹为观止。仅在短短几年时间内，我们就目睹了一些全球范围内使用最广泛的服务的涌现，以及史上规模最大的商业企业的爆发式崛起。

然而，相较于数字化领域日新月异的创新发展，其他领域的进步则稍显黯淡。在无形的代码与数字世界之外，越来越多的人不禁开始质疑：为何我们不再看到如19世纪末或20世纪中叶那般横跨多个领域的广泛创新？在那个短暂的时期里，从交通到工厂，从动力飞行到新材料，几乎世界的每个方面都发生了根本性的变化。但21世纪初，创新开始沿着阻力最小的路径前行，主要聚焦于比特世界而非原子世界。

这种情况正在发生转变。软件的超级进化性正将其影响力扩展至各个行业领域。在未来的40年里，我们将看到原子世界的内容以空前的复杂性与保真度被转化为比特信息。更重要的是，比特世界的内容也将以前所未有的效率和便捷性被转化为实体的原子内容。这在不久前仍是难以想象的事情。

量子技术的能力远超最强大的经典计算机数百万倍，将使这样的过程在分子层面上实现。这正是我们所谓的“超级进化”——一个快速、迭代的创新与创造平台。此种进化将不会局限于特定、可预测或易于控制的领域。它将无处不在。

l 通用性：多多益善

在近年原子领域创新停滞不前的背景下，医疗保健成了发展明显放缓的领域之一，这打破了传统认知。新药的研发变得越发困难且成本高昂。美国一些州的人口预期寿命不再增长，甚至开始出现下降趋势。阿尔茨海默病等疾病的防治进展也远未达到预期。自动化药物研发是人工智能领域极具潜力的一个方向，也是医疗保健行业摆脱当前严峻形势的出路。人工智能技术能够在浩如烟海的分子世界中，搜索到那些难以寻觅却极具治疗价值的分子。

然而，研究人员在寻找这些有益化合物的过程中也提出了一个棘手的问题：如果有人将研发过程导向恶意目的，不是寻求治疗方法，而是探寻致命物质，那怎么办？在一项实验中，一个具备分子生成功能的人工智能被要求寻找毒药。仅在6个小时后，该人工智能就成功识别出了4万多种毒性极强的分子，其毒性与诺维乔克等极度危险的化学武器相当。这表明，人工智能势必将显著推动药物发现领域的发展，但其研发成果很可能具有“双重用途”。

双重用途技术是指那些既可民用，也可军用的技术。双重用途技术既可以造福，也可能酿祸，既可能是实用工具，又可能是致命武器。这揭示了技术发展的一个趋势，即通用性。然而，正是某些技术的这种特性，使得它们所蕴含的风险越发凸显。这些技术能用于达到各种目的，无论是善是恶，还是介于两者之间，且往往伴随着难以预料的后果。

随着时间的推移，技术正日益趋于通用化。这意味着即将到来的技术浪潮有可能用于武器制造或有害用途，即便相关技术的初衷并非如此。仅仅是民用技术的研发，便可能对国家安全产生影响。在历史上最为通用的新技术浪潮面前，预测技术的全部应用范围比以往任何时候都更加困难。

改造新技术以适应多种用途并非一个新鲜概念。像刀这样的简单工具既能用于切割洋葱，又可能成为疯狂杀戮的凶器。即便是看似专用的技术也常具有双重用途：麦克风既可用于纳粹集会，也可用于披头士乐队。即将到来的技术浪潮的与众不同之处在于其迅速渗透的能力、全球性的传播范围、易于分解为灵活组件的特性，以及其应用的强大功能与广泛性。从媒体到心理健康，从市场到医药，这场浪潮在各个领域都展现出了错综复杂的影响。这无疑构成了一个规模前所未有的遏制难题。毕竟，我们探讨的是智能与生命这样的基本属性，而这两者除了其通用性之外，还拥有一个更为有趣的特质。

l 自主性及其他：人类是否仍是主角？

技术的演进在过去的数个世纪里持续加速。即将到来的技术浪潮凸显了技术的通用性与非对称性特征，不过这些在某种程度上可视为所有技术的内在品质。然而，自主性并非技术固有的属性。长久以来，我们总倾向于将技术视为“只是个工具”。然而，当工具有了“生命”时，将会怎样？

自主系统具备与周边环境互动的能力，并且能够在没有人类即时指令的情况下采取行动。几个世纪以来，那种认为技术会在某种程度上失控，成为一种超脱人类掌控的、能够自我引导与自我驱动的力量的想法，始终不过是一种虚构想象。

但如今，这已不再是想象。

技术始终致力于扩大我们的能力范围，但关键的一点是，做什么仍然由人类来决定。技术充分发挥了人类已有的能力，自动化的任务皆已被精确规划。迄今为止，持续的人类监督与管理一直是技术运行的默认模式。技术在不同程度上始终受到实质性的人类控制，而完全的自主性则在本质上与之截然不同。

具备高度自主性的技术浪潮正将我们引入一个新的世界，在这里，持续的人为干预和监督将变得越发不必要。更重要的是，每一次我们与机器互动，实际上都是在教导它们如何更好地实现自主性。在这种新的范式下，我们无须再煞费苦心地为技术规定任务的执行方式。相反，我们只需设定一个高层次的目标，便可依赖机器去探寻达成该目标的最佳路径。人类的“参与”固然有益，但在这个新的技术生态中，并非不可或缺。

自主性的新形态有可能催生一系列新奇且难以预料的后果。预测定制基因组的行为表现是极其困难的。此外，一旦研究人员对某个物种实施了生殖细胞基因改造，这些改变就有可能在生物体内存续数千年，远远超出我们的控制和预测范畴。其影响或许会在物种中延续无数代。这样的变化未来会如何不断演进、如何与其他变化产生交互，无疑是无法预测的，也超出了我们的掌控范围。可以说，合成生物体将开始拥有它们自己的生命。

人类正面临着一项特殊的挑战：我们的新发明是否会超出我们的掌控？在过去的时代里，发明者总能够阐释其创造物的工作原理及成效原因，即便这需要大量的细节陈述。然而，这样的情况已越发不符合当下现实。大量的技术和系统已演变得高度复杂，到了任何个体都难以真正理解其运作机制的地步，量子计算等技术更是在突破我们对世界的认知边界。

即将到来的技术浪潮带来了一个悖论：我们在很大程度上已无法深入地理解这些技术，却仍然能够创造和应用这些技术。在人工智能领域，神经网络技术迅速向自主性演进，但其内在机制难以阐释。我们无法详尽地剖析神经网络的决策过程，也就无法准确解释算法为何会得出特定的预测结果。工程师们也难以轻松探明并解释某些结果产生的原因。GPT-4、AlphaGo等神经网络模型如同黑匣子，其输出与决策均基于繁复而微妙的信号链。自主系统或许具备一定程度的可解释性，然而即将到来的浪潮中的诸多技术正持续挑战我们的认知边界，这一现象值得我们深思。我们无法始终预测这些自主系统的后续发展轨迹，而这正是自主性的本质所在。

【写留言赢实体书】

[英] 穆斯塔法·苏莱曼 / [英] 迈克尔·巴斯卡尔 / 贾海波 / 中信出版集团 / 2024-10

人工智能、生物技术、量子计算……我们正在接近人类历史的一个关键节点，这一节点决定着人类命运的未来走向。我们已被人工智能包围，生活中的一切都将改变。人工智能将组织我们的生活，经营我们的生意，管理核心的政府服务。我们将生活在一个有DNA打印机、量子计算机和机器人助手的能源丰富的世界里。作为开创性的人工智能公司DeepMind的联合创始人和微软人工智能的CEO，作者穆斯塔法·苏莱曼一直处于这场浪潮的中心。他认为，未来10年将被这一波强大、快速扩散的新技术所定义。

【活动说明】欢迎在评论下方留言，并务必在app内填写收货地址——【填写路径】三联中读app底栏“我的”-右上角“设置”-“收货地址”-填写后点击“保存”（两周内未填写地址即视为放弃奖品）。

【开奖说明】我们将在所有留言里通过随机数工具抽取3名锦鲤，各赠送图书一部，留言区内收到“中读课代表”官方回复即视为中奖，赠书将于地址集齐后陆续寄出，也欢迎中奖的朋友们收到赠书后到评论区晒书留言哦～我们将在每周末开启留言赠书活动，祝你拥有这份幸运！