本·塔诺夫《AI悖论》英文版（2026年）封面（来源：https://press.princeton.edu/）

译/景阳

撰写人工智能（AI）题材内容简直是件苦差事。倒不是因为技术部分本身复杂难懂，也不是仅仅因为这一领域更新迭代太快，大多数相关评论很快就会过时，而是因为相关讨论已极端到让人在混乱中几乎无所适从，感觉毫无希望。人工智能既是技术，也是神学，就后者而言，它像极了形形色色高声叫嚷的祭司之间的一场教义之争。

AI要么将我们带入人间天堂，要么将我们所有人消灭；要么是人类历史上最重要的发明，要么是一场骗局；要么消除数百万工作岗位，带来永久性大规模失业，要么被证明是夸大宣传，技术领域万亿美元的投资泡沫突然破灭，将使经济陷入崩塌。

我们需要审慎的、不囿于任何阵营的思考，来引导我们走出这片混乱。计算机科学家弗吉尼亚·迪格纳姆（Virginia Dignum）完全有资格扮演这一角色。她现任瑞典于默奥大学（Umeå University）教授，自1980年代起便一直从事人工智能研究。迪格纳姆是“负责任AI”（responsible AI）领域的专家，该领域研究如何以合乎伦理的方式创建和使用AI系统。她还就此主题写了一本广受引用的教科书。她在政策领域也很有影响力，给不少国际机构当过AI顾问，包括欧盟委员会、联合国和世界经济论坛。

在其新书《AI悖论》（The AI Paradox）中，迪格纳姆对人工智能做了全景式梳理，尤为关注其社会影响。该书每一章聚焦讨论一个不同的悖论，每个悖论都旨在揭示该书主题的某个特定维度。例如，“共识悖论”（agreement paradox）聚焦一个出奇棘手的问题，即AI本身究竟是什么（“我们对AI探索越深入，对其定义就越难以达成共识”）；而“解决方案悖论”（solution paradox）则概括了科技行业偏好技术性解决方案所固有的陷阱（“用技术解决问题，往往又制造出更多问题”）。

迪格纳姆提到的悖论，也不是每一个都显得特别矛盾或反直觉，但合在一起，就为本书搭建了一个有效且富有创意的架构。近年来，AI在某种程度上已经变得有些陈词滥调了，但迪格纳姆通过探析表面之下的谜题和矛盾，让普通读者得以更真切地感受到这一主题的深度。毕竟，正如迪格纳姆所说，悖论的价值在于，它们“揭示了现实往往不像表面看起来那么简单”。

第一个悖论对于作者和其许多人文主义者同道来说最为重要：AI非但不会削弱，反而有助于澄清何以为人。“AI能做的越多，就越突显人类智能的不可替代性。”AI擅长某些任务，如“数据分析、逻辑推理和语言处理”，但它在另一些任务上却显得吃力，特别是那些涉及创造性、共情、“道德及伦理判断”、“复杂推理能力”以及“在概念之间进行关联推理的能力”的领域。迪格纳姆据此认为，“无论将来AI变得多么先进”，我们“独一无二的人类特质”永远不会“被完全取代”。悖论之处在于，AI能力的不断提高，恰恰突显了我们的独特性。

这一观点将迪格纳姆置于AI批判的人文主义传统，而该传统几乎与AI领域本身同样悠久。自1950年代人工智能诞生以来，先是作为学术探索，而后转向商业应用，其支持者始终坚称，心智（mind）是一台机器，因此，将人类的智能赋予机器是可能的。而像哲学家休伯特·德雷福斯（Hubert Dreyfus，1929—2017）和计算机科学家约瑟夫·魏泽堡（Joseph Weizenbaum，1923—2008）等人文主义者则反驳说，不论AI能做什么或不能做什么，它都永远无法真正复制（replicate）人类心智，因为后者根本不像一台机器。作者解释说，“核心差异不仅在于能力，更在于存在的本质”；“AI进行计算，而人类感受；AI进行迭代，而人类想象。”

这并不意味着AI毫无用处。相反，迪格纳姆对该技术的潜力抱持乐观。不过，实现这一潜力则需将AI视为“人类智能的辅助工具，而非替代品”。就像计算器将我们从繁琐的手工算术中解放出来一样，AI在数据中寻找模式的能力，也能将我们解放出来，“去专注于更具创造性、战略性和更深层次的思考”。作者赋予AI辅助性的角色，犹如处理杂务的帮手，好让我们有更多时间施展那些更高阶，在她看来更属人类特有的功能。

当然，科技行业另有盘算。将巨量资金源源不断投入生成式AI热潮，意味着只有让大量人口失业，才能获得可接受的投资回报。企业需要让它们的计算机开始像人那样行动和工作，其目的不是增强人类劳动，而是尽可能将其从生产过程中清除出去。这一目标在多大程度上实现，尚不明朗。至少，像Claude Code这样的AI编程工具，正通过让编程过程变得远比以前更为简单快捷，而从根本上改变软件的编写方式。这对软件工程师的就业前景来说，可能影响重大。

因为科技从业者往往将编程视为人类所能做的最难之事，AI在这一领域日益精进的表现，便常被看作迅速逼近“通用人工智能”（AGI）甚至“超级人工智能”（ASI）的预兆。AGI指的是AI达到与人类智能相匹配的门槛；ASI则是AI超越人类智能的那个节点。在迪格纳姆看来，这类观念荒谬至极。她把AI“接近或超越人类智能”的想法，比作“飞机很快就会下蛋，只要我们能不断提升它们的飞行能力”。这一类比“突显了这个观念多么荒唐，也就是期待一台机器——一个没有生命的机械造物——能获得人类智能的全部维度。”

更深刻的是，迪格纳姆认为，AGI和ASI的概念植根于误解了人类智能的本质。当今AI公司的野心不仅在于取代人类劳动者，更在于建造某种远超人类的东西，也就是盒子里的神灵——某种单一的技术体系，无所不知、无所不能。但迪格纳姆指出，智能从来不可能纯粹在孤立中产生；它始终是一项集体的事业。“我们的进化史表明，合作、沟通和群体生活等社会行为，不仅对生存至关重要，它们正是我们智能得以发展的根基。”迪格纳姆写道：“我们越是追逐AGI，就越发现真正的超级人工智能在于人类的合作。”这就是她所称的“超级智能悖论”,也是又一个说明人类永远无法被AI取代的难题。

如果我们认真对待认知的合作面向，那么我们会创造出怎样的AI呢？迪格纳姆认为，它看起来会与目前正在开发的AI有所不同。与其构建试图取代人类劳动的系统，我们更应设想那些“与人类协作，扩展我们的能力并增强集体智能”的系统。这种转变或许可以通过远离像ChatGPT这类服务所依赖的大型、昂贵和单一的AI模型，转向一种更加模块化的路径来实现，也就是让一系列更小、更专业的模型以尊重劳动者自主性和专业性的方式供其使用。这一策略还有一个额外好处，就是削弱科技垄断企业的权力，因为正如迪格纳姆所指出的，科技垄断企业对当前AI的掌控，与这一事实密不可分：唯有它们拥有足够的基础设施来训练和部署大模型。

因此，《AI悖论》的核心论点是，AI当前的发展轨迹并非不可避免。迪格纳姆在全书结尾处，呼吁以一种更有意识、更具包容性的方式来发展AI，其中“每个人在塑造AI的发展方向上都有发言权”。她希望驱散那种在涉及技术时经常笼罩人们心头的消极顺服心态。“我们必须抵制那些把AI描绘成一股不可阻挡、超越人类控制的力量的诱人叙事，这些叙事剥夺我们的主动性，让我们在技术变革面前变得被动。”AI是由人制造的，因此它是“我们人类把它塑造成的样子······（塑造成什么样子的）决定权在我们手中。”

迪格纳姆的信息是赋权性的：人类垄断了真正的智能。AI不过是另一种工具，就像飞机或汽车一样，我们可以把它引向任何我们想要的方向。

如果《AI悖论》出版于十年前，上述论断会更容易站得住脚。但大语言模型（LLMs）——构成生成式AI引擎的计算系统——于2018年问世，以及后来的迅速演进，已对迪格纳姆的部分论断提出质疑。尽管她承认“LLMs代表了令人难以置信的进步”，但这些进展并未促使她修正对AI的整体看法。在作者看来，LLMs与先前的AI系统有着同样的根本局限：它们不具备“真正的理解能力”，“并不‘思考’或‘知道’”，“它们只是模拟从训练数据中提取出的模式。”

鉴于迪格纳姆作为一位在AI领域深耕数十年的杰出学者的资历，很少有人像她那样有资格对LLMs做出判断。但该领域内部的意见远非她所暗示的那样已有定论。这是因为LLMs比其前身更为复杂，提出了更难以回答的解释性问题：它们是纯粹的模仿，还是因其复杂性而表现出“涌现”（emergent）特性？最好是将其看作模式匹配机器，还是能够进行某种类型的概念推理？在AI研究人员和实践者中，这些都是热门议题。正如某些AI“消胀派”（deflationists）所暗示的，这场争论不能被简化为讲真话的人与OpenAI市场部之间的斗争。在如何描述LLMs及其能力的问题上，存在真正的分歧。在某些情况下，这涉及实证方面的争论，也就是LLM在任何特定时刻实际上在做什么。在其他时候，分歧则更具语义或哲学色彩，围绕的是“推理”和“理解”等词汇的含义。

描述LLM最简单的方式，就是将其看作一个系统，该系统试图根据从训练集（training set）中提取的概率（probabilities），来预测序列中下一个词。LLM通过一系列繁复的计算，来学习如何进行这些预测，而这些计算的错综复杂（convolutions）尚未被完全理解。我们知道LLMs为什么能工作，也就是说我们对其基本机制有相当了解。但不太清楚的是它们如何工作：即便它们的创建者也无法精确说出一个模型为什么会给出某个特定的回应。这就是为什么说围绕LLMs的争论如此激烈，而且或许无法解决。这项技术在某些重要方面难以驾驭，也不透明。

相比之下，汽车和飞机并不是这样，你可以把它们拆开，查看它们如何工作。它们是确定性（deterministic）的系统，会按照你的指令行事。迪格纳姆反复强调AI是由人造的。但仅仅因为某样东西是人造的，并不意味着它将始终处于人类理解和掌控的范围之内。

如果AI不像汽车或飞机，那它又像什么？在本书中，迪格纳姆把LLMs描述为“一个认知意义上的弗兰肯斯坦怪物”。其用意是，把LLMs的工作弱化理解为“以看似智能的方式将人类语言的碎片拼凑起来”，但并非真正的智能。作者写道，“像弗兰肯斯坦的怪物一样，它们缺乏真正的理解和意向。”

认为弗兰肯斯坦的怪物并不真的思考、感受和谋划，这是误读了玛丽·雪莱（Mary Shelley，1797—1851）的小说。我希望指出这一点不会显得过于学究气。他会自学阅读，热爱《失乐园》，渴望陪伴，憎恨他的创造者抛弃了他。这种憎恨驱使他杀死那个男人的妻子和弟弟。

然而，迪格纳姆的类比确实引起了共鸣，尽管是出于不同的原因。《弗兰肯斯坦》是一个关于人类与其异己后代关系的故事。怪物由一位人类科学家创造，甚至是用人类的部分躯体拼凑而成。然而，他遇到的几乎每个人都因他的“非人般的丑陋”（unearthly ugliness）而恐惧憎恨他。尽管完全是人造的，他在某种意义上却是另一个世界的产物。

LLMs拥有一组可与之类比的特质。一方面，它们是人类聪明才智的产物，是八十多年来对以人类大脑为松散灵感来源的计算模型研究的成果。在最广泛的意义上，它们也是人类文化的复合体，其训练数据涵盖了大量可公开访问的互联网内容，以及书籍、学术论文和其他来源。然而，尽管其输入充满了“人”的印记，LLMs在运作方式上却具有不可化约的非人属性。它们通过学习大量文本，并构建其中符号关系的精妙数学图谱来运作。而这不是人脑的工作方式。

因此，我们不妨把LLM看作某种类似于弗兰肯斯坦怪物的存在：有人类血统，但无法完全纳入我们目的的异质之物。这个比喻需谨慎使用，不应被理解为AI具有感知能力或超自然属性。我同意迪格纳姆的主张，也就是我们需要祛除AI的神秘色彩，并构建一个关于该项技术的“简单清晰的叙事”。然而，在这样做的时候，我们应当小心，不要抹除LLMs那种根本性的怪异之处。

我们还应质疑作者在人与技术之间设定的对立关系。这种二分法似乎难以成立，尤其是在当下，我们与技术的纠缠比1985年唐纳·哈拉维（Donna Haraway）称我们为“赛博格”（cyborgs）时更加深入。LLMs或许永远无法像迪格纳姆所说的那样“获得人类智能的全部维度”，因为它们本来就不是人类。但它们显然已经实现了一种与“人性”的混杂状态，使其能够以大多数人至少会认为是“准智能”（quasi-intelligent）的方式行事。与其将这种感知斥为妄想，我们不如视之为技术混合特征的证据。LLMs是一个活生生的教训，它昭示了“人”作为一个范畴的渗透性（porousness），以及我们将自己投射到人造物中的倾向，而这些造物反过来又可能对我们施加影响。这未必是一件好事。人们正因与AI聊天机器人对话而经历精神崩溃。维克多·弗兰肯斯坦死时充满了悔恨。

你也许会问，我们如何解读LLMs这件事为什么重要？答案是，它会影响我们在政治上如何回应AI，这正是迪格纳姆在全书中探讨的主题。例如，如果我们把这项技术看作一辆汽车，那就意味着一种特定的应对方式。迪格纳姆指出，汽车带来了某些好处，但也会“造成事故”。幸运的是，由于监管，它们比50年前“安全得多、高效得多”。当前的AI就像“一辆没有刹车或安全带的汽车”，这意味着我们需要找到与之相当的AI措施。迪格纳姆建议，“正如我们通过监管汽车来保护自己免于事故和滥用一样，AI也需要相应的保护措施来防止伤害，并确保其服务于人类的最大利益。”

她认为，此类保护措施应以“合乎伦理的AI原则”为根基，比如公正、问责、透明及保护个人权利，并且这些保护措施通过“技术专家、伦理学家、政策制定者和社群”之间的“持续对话”来加以发展。只有通过“让多元利益相关方参与决策过程”，才能达成正确的平衡。对迪格纳姆来说，极为重要的是监管不应被视为阻碍AI发展。“正如刹车和安全措施让汽车能够跑得更快一样，监管也使创新能够以负责任且可持续的方式成长。”更具体而言，治理的缺失可能导致“对AI的信任被侵蚀，从而减缓其采纳速度，甚至导致对该技术的排斥”。政策制定者能够帮助加速AI融入社会，同时确保它尊重我们的权利，并公平地分配其带来的益处。

这些段落传达出一种对受监管的资本主义的信念，带有明显的欧洲色彩。其描绘的图景是：来自政府、产业界、公民社会的代表齐聚一堂，共同打造协调各方利益的政策框架。我们或许会问，和谐是否可能达成？或者说需要展开何种斗争，才能迫使科技巨头屈从于这样的进程？（他们目前正与欧盟监管机构激烈对抗。）但迪格纳姆乐观主义的更深层根源，在于她对AI本身的看法。因为AI本身是一种工具，我们可以重新塑造它。她解释道：“无论我们如何定义AI，关键在于要理解它是一个人造物，也就是由人创造的东西。”“既然我们造了它，我们就对它加以控制，并为它的发展轨迹和选择负责。”

但如果我们更好地把AI理解为弗兰肯斯坦的怪物呢——一个由人制造却又是异质的存在，时而熟悉时而陌生，不可预测、完全无法洞悉，至多只能算作半服从？并不是所有AI都符合这一描述，但LLMs确实如此，而科技行业正试图将LLMs打造为无处不在、不可或缺。采取一项旨在帮助该行业实现这一目标的政策议程，即便让正确的技术官僚来掌管，似乎也不是明智之举。AI可以是一种工具，而且是有用的工具，但它也可以是别的东西。我个人并不担心AI会消灭我们，但我确实认为，将如此巨大的权力授予这样一种技术，使其凌驾于我们的生活与工作条件之上，很可能会成为混乱和苦难的根源。我们最大的希望，至少在短期内，或许应当是采取一种遏制战略，将AI限制在特定的领域和功能之内，其理论依据是：与异质之物的接触可以是有益的，但异质之物的入侵则是不好的。

原文见美国《国家》（The Nation）杂志网页：https://www.thenation.com/article/society/artificial-intelligence-ai-paradox/

（作者简介：美国专职作家，曾任职于科技、媒体行业。）

《世代》2026年春季号主题为“AI与人”。本刊所发布的文章涉及生活各方面，鼓励不同领域的研究和创作，盼望同道诸君不吝赐稿kosmoseditor@gmail.com，分享您的研究、观察和思考。来稿一经采用，将择期于《世代》网站kosmoschina.org和公号平台kosmos II发布，并支付稿酬。