分析：人工智能或是对澳大利亚民主制度的终极考验

从10月19日起，2025年博耶讲座（Boyer Lectures）会在每周日通过 ABC全国广播网和ABC新闻频道播出。

科幻作家威廉·吉布森（William Gibson）曾说过，未来已降临，只是尚未均匀地分布。而我今天想说的是，未来就在旧金山，一场现代淘金热正在这里上演。因为在这座城市，人工智能已经成为了人们的日常。

我们都听到过各种炒作宣传。埃里克·施密特（Eric Schmidt）说，这是人类历史上最重要的技术。斯蒂芬·霍金（Stephen Hawking）则认为，这是自电力发明以来最具变革性的技术。谷歌母公司Alphabet的首席执行官桑达尔·皮查伊（Sundar Pichai）表示，人工智能的重要性将超过火。但直到我在旧金山坐上一辆自动驾驶的捷豹——一辆Waymo出租车——我才真正意识到即将到来的变革有多么巨大以及它将如何从根本上改变一切。

起初我有些紧张，但当我看着方向盘几乎难以察觉地自动转向时——就像一连串的驾校教练都没能教会我的那样——我竟然觉得这种体验比普通出租车好多了。所有的人为可变因素都烟消云散。司机昨晚睡得好吗？万一他突然开始大放厥词怎么办？我讨厌这首歌。请不要绕远路。 这感觉既安全又轻松。

在车里，我经过了一家人工智能初创公司的广告牌。上面写着：停止给予人类他们讨厌的工作。人工智能真的会像广告里说的那样，带来一个后资本主义的乌托邦吗？自从那次旅行之后，我的心情一直在一阵阵的疯狂乐观和认为机器人最终会毁灭我们所有人之间摇摆不定。

这两种情况显然都属于极端例子，但我敢打赌，这种想法你可能并不陌生。总体而言，民意调查显示，公众对人工智能的悲观情绪远大于乐观情绪——甚至可以说我们对它感到恐惧。这项技术的发展和最终普及似乎不可避免。为什么我们大家对人工智能感到如此无能为力呢？我认为很大一部分原因是，谈论人工智能真的很难。

在提出一些原因之前，我想先快速明确一下我在这里所说的人工智能的含义。人工智能是一个统称，指的是那些旨在模仿人类能力的各种技术。我们大多数人至少熟悉其中一种人工智能——生成式人工智能，比如ChatGPT——但还有其他类型，例如机器学习。

自20世纪40年代诞生以来，人工智能已经贡献了许多“狭义”系统，这些系统可以在特定情况下完成一些有用的任务。然而这些系统始终无法达到“无所不能”的宏伟目标。大型语言模型——一种生成式人工智能——或许有所不同，但人们对它们抱有诸多合理的怀疑。随着新模型的发布和实际表现堪属平平，这种怀疑与日俱增，以至于现在有人开始谈论人工智能泡沫。

这或许是人们难以谈论人工智能的第一个原因——它的发展轨迹充满了不确定性。

这引出了第二个相关的原因：少数几家大型科技公司控制着我们对人工智能的认知。与原子弹、互联网、雷达或太空探索不同，人工智能是现代史上第一个从真正意义上来说并非由政府开发的重大技术。它一直被局限在私营部门。由于这些公司想要巩固对人工智能生态系统的寡头垄断，我们不得不不断地分辨哪些是事实，哪些是炒作。

但即便讨论人工智能很困难，也不意味着我们必须屈从于它或者任何会对人类造成危害的技术。科技公司有责任向消费者阐明人工智能到底能为我们做些什么。然后就是我们作为公民有责任就人工智能的使用达成共识。

感觉澳大利亚尤其对此有些措手不及，并不是因为我们没有世界顶尖的科学家和技术专家在研究人工智能，我们的确有，而是因为人工智能问题还没有像它应该的那样成为公众讨论的焦点。

对于像澳大利亚这样的民主国家来说，人工智能会构成诸多风险。它可能会进一步恶化我们的信息环境，并有可能侵犯我们的公民自由。它破坏了雇佣劳动的概念。它甚至威胁到人类本质的稳定，甚至可能动摇或质疑人之所以为人的根本属性。在某种程度上，人工智能本身可以被描述为一种具有非自由主义倾向的技术——它有利于专制政权，甚至有可能催生专制政权。

澳大利亚不是一个大国。我们永远无法仅凭计算能力取胜。首先，我们无法像超级大国那样在人工智能领域投入巨资。美国每年在人工智能上的投入高达2300亿澳元。但在澳大利亚，亿万富翁的数量较少，而且他们目前还无法掌控一切。我们仍然是一个强大的民主国家，我们信仰每个人都被公正对待。

这是为什么澳大利亚有机会成为一座灯塔。我们可以清醒认识到人工智能的风险和回报，尤其是在工作领域。然后，与其追求少数人的最大利润，我们可以确保人工智能安全且人道地融入社会——按照我们自己的方式。

不过，在深入探讨这些要点之前，我需要先从宏观角度出发，给大家介绍一下大背景。我需要谈谈目前正在进行中的争夺人工智能霸权的地缘政治竞争。

新世界秩序

“新世界秩序”正在形成，并取决于美国和中国在人工智能领域的胜负。这是前OpenAI开发者利奥波德·阿申布伦纳（Leopold Aschenbrenner）的观点。阿申布伦纳对这项技术利害关系的看法非常具有影响力——许多美国技术专家以及美国政府如今都认同这一观点。

特朗普总统经常谈到要在“人工智能竞赛”中“击败”中国。这种说法有些奇怪，因为我们并不知道终点线在哪里，但特朗普的意图很明确：他将人工智能视为地缘政治竞争的一柄利器。事实上，美国内政部长道格·伯古姆（Doug Burgum）最近甚至表示，我们应该忘记气候变化——它并不重要。伯古姆说，美国正在与中国进行一场人工智能的“军备竞赛”，以“拯救地球”。

为了拯救地球并在与中国的竞争中胜出，特朗普政府已经着手废除前总统拜登对人工智能行业的所有监管规定。

取消这些限制正是亚马逊、谷歌、微软和Meta等公司一直在游说的。这也是为什么这些公司的首席执行官们纷纷前往华盛顿庆祝特朗普就职。他们希望不惜一切代价加速人工智能的发展——全然不顾对公众的危害。

当然，创新与监管之间的二元对立是虚假的。人工智能在全球范围内都面临着消费者的信任危机。埃隆·马斯克的Grok聊天机器人“幻觉性”支持新纳粹就是一个尤为恶劣的例子，但所有生成式人工智能模型都容易出现不可靠且怪异的内容。这种不信任使得消费者难以接受人工智能，即便我们不断听到它有多么出色。

我们以前也见过这种现象——即我们应该相信那些向我们兜售新奇产品的人。互联网及其发展就是一个警示。科技企业家们“行动迅速，打破常规”，然后我们其他人不得不找出方法修复这些问题。

以澳大利亚禁止儿童访问社交媒体平台的法律为例。这是世界首部此类法律，我认为我们应该为此感到自豪。但这项法律实施过程中遇到的种种复杂问题表明，要为现有系统添加社会保障措施是多么困难。这种“末日循环”——即我们倾向于只寻找并接受我们想要的信息，而不是我们需要的信息——在人工智能领域可能比在社交媒体领域更为严重。这是我们为什么必须现在就采取行动，以免为时过晚。

社交媒体也体现了另一种现象：作为“技术接受者”，澳大利亚和其他国家通常表现出一种无力感。由于奉行新自由主义的开放市场政策，澳大利亚被动地接受了社交媒体等消费技术，然后发现即使采取监管措施，也覆水难收了。如果澳大利亚能够摒弃这种被动态度，积极努力地塑造人工智能市场，就能展现出一种不同的模式。

总而言之，美国已经认定自己在人工智能领域正与中国展开一场生死存亡的较量。它正在不择手段地扫清障碍，以求取胜。但在澳大利亚这里，情况却截然不同。我们需要清醒认识到人工智能的能力和风险，避免重蹈社交媒体和互联网的覆辙。人工智能的风险是什么？我们需要监管哪些方面，又需要避免哪些问题？我们很容易陷入对最坏情况的设想。但我们的社会和国家正在经历的种种正是我今天想向大家展示的。

对民主的独特威胁

我们大多数人通过大语言模型与人工智能互动。驱动这些模型所需的“计算”能力极其庞大。每当我们向 Perplexity 或 ChatGPT 提出任何问题时，模型给出的答案会消耗五滴水，且耗电量几乎是谷歌搜索的十倍。运行人工智能数据中心的环境成本将需要大量廉价的绿色能源。

此外，还有所需的矿产开采和排放。据估计，到 2026 年，数据中心的电力需求将大致相当于日本的电力消耗量。这些环境成本将影响到世界各地的每一个人。

然而，对于民主国家而言，人工智能将如何应用会带来一些额外的风险。根据模型的使用方式以及它们是否缺乏监管，人工智能可能会破坏民主实践、规范和法治。

首先，人工智能将对信息格局产生影响。专家警告称，人工智能宣传工厂已经出现——借助廉价且可下载的模型，任何人都能在家中构建一套完整的说服框架。这种情况前所未有，且极具破坏性。而且这种影响难以轻易消除。

另一方面，人工智能也有可能培养出更知情的公民。澳大利亚首席政治学家苏珊·弗利博士（Susan Foley）指出，15世纪印刷术的发明也伴随着类似的担忧——而最终，印刷术引发了一场社会革命，并推动了教育的民主化。

即便信息安全风险最终被证明是夸大其词，人工智能系统对民主构成的独特威胁也远不止于此。

人工智能正在造成权力失衡，重新分配原本属于个人的权力，并将其潜在地交给国家，但更重要的是，交给那些未经选举的科技高管。越来越多的企业控制着数据、算法和负责处理的基础设施。他们要求员工签署范围广泛的保密协议，并对任何离职者采取强硬的封口手段。

这种保密旨在阻止我们对那些被告知不可避免的事情提出过多疑问。它也分散了我们对机器学习的注意力，让我们无暇顾及我们早已身陷其中的困境。聊天机器人无处不在。它们是你的银行家，甚至是你的心理咨询师，偶尔还会成为你孩子的老师。而且它们无时无刻不在收集你的信息。

我们已经生活在一个“监控资本主义”的时代——哈佛大学的肖莎娜·祖博夫（Shoshana Zuboff）将其描述为“全球行为改造架构”。她写道，正如工业资本主义在20世纪扭曲了自然世界一样，人工智能在21世纪威胁着人类本性。

其实你甚至都不需要找到一位常春藤名校教授就能听到这种说法。人工智能最大的支持者、实力雄厚的风险投资家彼得·蒂尔（Peter Thiel）在2019年的一次演讲中就暗示，人工智能本质上可能具有独裁性。蒂尔称这项技术为“共产主义”，并设想人工智能可能会带来一个“由少数大型计算机控制一切”的世界。

这种无血无情、合成化的未来论的关键在于这些人工智能模型如何侵犯隐私。泽尔曼·考恩爵士（Sir Zelman Cowen）在他1969年极具前瞻性的博耶讲座《私人之人》（The Private Man）中谈到了澳大利亚个人权利日益受到的威胁，其中包括——请注意——“美国窃听设备”的威胁。

考恩指出，过去澳大利亚人往往没有像他们应该做的那样捍卫自己的公民自由，现在必须认真捍卫了。他进一步论证了为何隐私是文明社会的核心价值，并概述了隐私的四个组成部分：第一，保护个人的独处；第二，保护个人在自己选择的各种群体中的亲密关系；第三，保护个人的匿名性；第四，保护个人的自主权——即免受不必要的侵扰。

所有这些自由都被我们统称的“互联网”所侵蚀。但这些自由有可能被人工智能彻底摧毁。最明显的影响体现在执法领域。人工智能就像一位无处不在的警察，能够筛选海量数据，并有可能进行无休止的执法。这并非我们现有法律所设计的。随着监控体系日趋完善，我们司法系统的人性化程度将会降低。

同时我们的人性也受到其他方面的威胁。目前人工智能对传统大学来说是一场灾难，或许对中学来说也是如此。它威胁着阅读、写作和思考的融合，而这正是我们教育理念的核心。对于艺术家和作家而言，也存在着类似的深刻担忧。作家安娜·芬德（Anna Funder）谈到了生成式人工智能的伦理问题——它掠夺艺术创作，却不给予署名或补偿。

而说到人际关系，每天都有关于人工智能破坏社会稳定能力的新闻报道——比如，训练一些模型克隆儿童的声音来诈骗他们的祖父母，或未经当事人同意就生成深度伪造的图像。我们甚至听说一些聊天机器人说服人们离开他们的家庭。

情况并非毫无希望。针对这些信息问题，人们提出了一些解决方案，例如水印技术，或制定法律来监管面部识别技术。我们可以通过立法来防范恶意行为者和威胁我们个人身份和安全的企业利益。

但这些切实可行的措施还不够。我们需要更宏观地思考。我们不仅需要保护个人免受人工智能过度干预的影响，还需要赋予他们权力——让他们能够使用人工智能工具并使这项技术民主化。毕竟，人工智能应该为我们服务，而不是反过来。

在考虑人工智能与劳动力问题时，我们应该牢记“人工智能是增强而非取代人类劳动”这一原则。未来十年左右，我们的工作方式或许会发生翻天覆地的变化，在这个过程中，它也将重塑我们的社会。让我们先来看看人工智能在人类工作中已经取得了哪些进展，以及接下来可能的发展方向。

人工智能在职场

人工智能模型已经进入职场，并正在颠覆现状。这些模型有可能让员工的工作更轻松、更高效，但同时也正在将权力天平向雇主倾斜。其中一个体现就是，雇主现在能够收集到大量关于员工的信息。澳大利亚工会正在积极寻求在这方面制定更严格的法规。

从更根本的层面来看，人工智能模型可以执行以前由人类完成的工作——就像我在旧金山的Waymo无人驾驶出租车体验中亲身感受到的那样。随着这一进程的推进，它将对我们的经济结构造成巨大的冲击：哪些工作岗位会存在，哪些工作岗位会消失。即使在不久的将来，情况也仍然不明朗，但这对于雇主来说并非坏事，而是一个优势——看看他们是如何利用人工智能的模糊潜力来精简员工队伍的就知道了。

诺贝尔经济学奖得主达龙·阿西莫格鲁（Daron Acemoglu）研究了人工智能在职场中的应用对整个社会的影响。他的核心观点是，人工智能很可能会加剧不平等。尤其重要的是，他认为人工智能会扩大资本收入和劳动收入之间的差距。有证据表明，这甚至正是人工智能领域大型投资者所希望看到的。风险投资家马克·安德森（Marc Andreessen）提出了一种在旧金山湾区盛行的观点，即劳动力的价值将在几年内彻底崩盘。

天平向资本的倾斜应该给澳大利亚人敲响警钟。毕竟，在这个国家，工薪阶层长期以来一直处于房客的弱势地位。澳大利亚人已经被我们这个对富人有利、对劳动者不利的税收制度所剥削。

那么效率又该如何保障呢，我听到生产力委员会这样说。该机构警告政府说，不应在人工智能监管方面采取强硬手段，因为这样做会扼杀数十亿澳元的经济潜力，并可能导致澳大利亚“落后于时代”。

对此，我想反驳说，澳大利亚恰恰是最需要在人工智能及其在职场上的应用表明立场的国家，因为澳大利亚在工人权利方面的先锋作用。这是一个建立了至关重要的劳动保护措施的国度，例如周末带薪休假、最低工资标准以及具有里程碑意义的反歧视法，这里要感谢早期强大的工会运动。澳大利亚在这些方面是先行者，正如我们在职业健康与安全改革以及最近推出的“断线权”法案一样。

正如休·麦凯（Hugh Mackay）所描述的那样，澳大利亚的工作文化讲究有效率但不急躁，它既重视生产力，也重视轻松悠闲的生活方式。这种独特的平衡实属难得。然而，如果机器能够做得更好、更快、更廉价，从而了破坏了劳动一概念，又会发生什么呢？电脑可不在乎有没有周末。

从短期来看，告诉年轻人机器已经或即将取代所有入门级工作，无疑会滋生虚无主义和疏离感。这无疑已经对我们的政治产生了腐蚀性的影响，如果年轻人感到自己的未来注定黯淡，则或引发社会动荡。

麦肯锡估计，未来20年，大约一半的工作岗位可能会被自动化取代。如果这种情况真的发生，而这些工作岗位又没有被新的岗位所取代，那么我们的社会保障体系和凝聚力将会受到怎样的影响？工作的意义究竟何在？或许我们应该思考，当许多公民无法再从事有偿工作并缴纳税款时，政府对公民究竟负有哪些责任。一些激进的想法，尤其是全民基本收入（UBI）这一概念，开始显得尤为重要。

未来或许需要一份新的社会契约。然而，我们无需陷入宿命论，我们可以决定这份契约的条款。让我们来探讨一下如何在澳大利亚做到这一点。尽管我们可以维护自身的数字主权，但我们无法独自完成这项任务。我们需要盟友。为了找到他们，让我们再次打开视野，审视一下宏观的地缘政治格局。

这取决于我们

现在，显而易见的问题是，我们能否与老朋友美国携手合作？今年五月，OpenAI 首席执行官萨姆·奥特曼 (Sam Altman) 在国会作证时表示：“我们希望确保民主人工智能战胜威权人工智能。” 奥特曼似乎在暗示，美国的人工智能技术在本质上几乎可以说是与民主价值观相一致。但鉴于美国目前的局势，我并不确定我们能否确信这一点。

此外，美国科技产业中存在一定程度的国家干预，这应该让我们保持警惕。美国政府已入股芯片制造商英特尔公司，而美国副总统万斯 也曾表示，他不会接受外国势力“收紧”对美国科技公司的控制。万斯去年在巴黎人工智能行动峰会上发表了这番言论。值得注意的是，在那次峰会上，美国拒绝签署一项旨在开发安全可靠且值得信赖的人工智能的协议。

在某些方面，中国采取了截然不同的做法。这表明，透明民主国家和不透明威权国家之间的二元对立已不再像过去那样泾渭分明。例如，中国正在推动人工智能研究领域的国际合作，此举与美国不同。中国还致力于在全球范围内公平分配人工智能基础设施。

澳大利亚现在的任务从欧洲到亚洲寻找既希望拥有民主又希望拥有较为安全的人工智能的中等实力国家。随着多边机构的影响力日渐式微，我们不能指望国际协议。这意味着像澳大利亚这样的国家肩负着独特的责任，需要与志同道合的国家携手合作，共同制定规则。

欧洲在互联网监管方面一直处于领先地位，如今在人工智能规则方面也取得了进展。大型科技公司并不乐见欧盟新的人工智能行为准则——这无疑表明欧盟的政策方向是正确的。尽管有人认为该准则力度不够，但支持者认为它是一份如何通过民主方式制定人工智能决策的实用指南。

除了欧盟之外，正如我们外交政策的其他方面一样，我们也需要寻求在区域内建立支持我们理念的同盟。日本的《广岛人工智能进程》就是一个全球性的人工智能治理框架。东盟对人工智能监管采取了有利于创新的策略，旨在防止中国或美国垄断人工智能市场。而越南则从另一个角度提供了饶有趣味的案例。它正在开发一套技术栈——即运行人工智能应用所需的软硬件和工具的集合——该技术栈融合了美国、中国、加拿大和日本的元素。

对于澳大利亚而言，正如我们曾经引领世界劳工运动一样，我们也可以在开发安全、高效且符合我们需求的人工智能方面做到这一点，同时我们还可以保留现有的工作方式。这不仅仅是我们这样的民主国家的一个机遇；自从我们的超级大国盟友放弃了这方面的责任后，这更成为我们的一项义务。

让我们以积极的态度结束今天的讨论吧。人工智能确实有潜力以积极的方式改变我们的社会。我在这里关注的是人工智能对民主制度构成的具体威胁，但我们也有理由对它抱有希望。我们可以构建人工智能基础模型，推动科学创新和进步。我们可以治愈更多疾病，延长寿命，保护原住民语言，提高公民参与度。我们还可以摆脱那些没人喜欢做的工作，找到新方法来使用我们拥有强大潜能的大脑。

但人工智能无疑也会在很多方面考验澳大利亚：作为一个民主国家；作为一个自由民主国度；作为一个重视工作但并不认为工作应是一切的地方。最重要的是，它将考验澳大利亚将平等奉为核心的价值观。

如何公平管理和实施这项技术是我们的责任，不是那些未经选举出来的科技巨头的责任。当威廉·吉布森写道，未来或许不会人人平等，他这番话或许正是在预言人工智能将如何改变我们的社会。让我们就如何按照澳大利亚的意愿分配人工智能展开讨论吧。是时候由我们掌握主动权了。

Amelia Lester是华盛顿《外交政策》（Foreign Policy）杂志的副主编。她曾任《纽约客》（The New Yorker）杂志执行主编和《美好周末》（Good Weekend）杂志编辑。

相关英文文章