一、两篇文章，两种口气

2023 年 7 月 11 日，比尔·盖茨在个人博客 Gates Notes 上发表了一篇长文，标题是《AI 的风险是真实的，但可以管住》（*The risks of AI are real but manageable*）。当时 OpenAI 联合创始人山姆·奥尔特曼刚在美国参议院作证，两党议员都追问 AI 对选举和民主的影响。盖茨在文中逐条回应了当时最常听到的担忧：深度伪造（deepfake）、网络攻击、失业、偏见和幻觉、学生不再学写作。他的总判断写得很清楚：AI 的未来“不像有些人想的那么阴暗，也不像另一些人想的那么美好”，“风险是真实的，但我乐观地认为可以管住”。

三年后，2026 年 8 月下旬，他在同一个博客上发表了另一篇长文：《动荡的 AI 时代已经到来，眼下的选择至关重要》（*The turbulent AI era is here. The choices we make now are critical.*）。正文第一句是：“向 AI 时代的过渡，将是人类历史上最动荡的时期之一。”紧接着是：“眼下，我们并没有为这场过渡做好充分准备。”

两篇文章都出自同一个人，谈的是同一项技术，结尾也都落在“做对了，世界会更好”上。但口气差别很大。2023 年那篇的底气来自一句话：“我们以前做到过。”2026 年这篇里，他专门用一节讲“这次真的不一样”。

先说明一点：2026 年的文章没有提到 2023 年那篇，盖茨也没有说过“我以前看错了”。下面的对照，是把两篇放在一起读出来的；变化的原因只采用他本人在文中给出的理由。

另外，盖茨在新文里主动交代了自己的利益关联。他说自己从科技行业获益巨大，虽然已经大幅分散投资，但仍与这个行业有财务关联；他以盖茨基金会主席的身份，正在与微软和其他 AI 公司合作，推动 AI 以真正惠及全世界的方式部署。他说自己对 AI 的看法并非出于赚钱的考虑，投资收益包括科技相关的部分，都会交给盖茨基金会用于应对全球不平等。然后他补了一句：“当然，这是否影响了我的判断，读者得自己决定。”

二、历史类比为什么不再管用

2023 年，盖茨讲 AI 风险时反复回到三个主题。第一，AI 带来的很多问题都有历史先例，可以借鉴过去行之有效的做法。第二，很多问题也可以借助 AI 本身来处理。第三，需要调整旧法、制定新法，就像反诈骗法当年必须针对网络世界做出调整一样。

三条里，历史先例从开头贯穿到结尾。他写道，汽车刚上路不久就发生了第一起车祸，但人类没有禁止汽车，而是制定了限速、安全标准、驾照制度、酒驾法律和其他交通规则。他认为当下正处在 AI 时代的最早阶段，“就像限速和安全带出现之前那段不确定的日子”。谈教育，他拿 1970 到 80 年代普及的电子计算器作比；谈就业，他拿 PC 作比：“我不认为 AI 的冲击会像工业革命那样剧烈，但它肯定会和 PC 的出现一样大。”文字处理软件没有让办公室工作消失，但永远改变了它，雇主和雇员不得不适应，他们也做到了。文章最后一句是：“相信我们能管住风险的最好理由，就是我们以前做到过。”

2026 年，他把这套论证拆开了。他说许多评论者低估了 AI 的冲击，原因之一是“拿过去创新的影响作类比，会误导人”。人类从没遇到过一种能被迅速采用、又能像人一样思考和行动的技术。PC 花了二十年才显著改变人们的工作方式，因为软件得先开发出来，价格得降下来，人们得学会使用这些工具，再把它们融入业务流程。AI 却跑在人们已有的设备上，用的是自然语言。“我们不必去适应它，因为它能适应我们。”它可以看培训人类员工用的同一段培训视频，也能从现有数据中学习。

对“就业结构变迁”的类比，他也作了回应。很多人举美国就业从农业转向办公室工作的例子，说这次也会一样。盖茨认为，那次转变跨越了好几代人，而且创造出的新工作恰恰需要人类认知；这一次，技术本身就能替代人类认知。AI 能看、能听、能说、能推理，最终还能像人一样顺畅地做体力活，所以它不会只影响某一个行业。法律、客服、医疗、软件、制造都会受冲击，而且是在十年左右的时间里，而不是几代人。他预测会有一些新工作出现，但如果没有正确的政策，新工作会远远少于现有的工作。

低估 AI 的另一个原因，是 AI 模型仍然会犯错。不久前，它们还解不了简单的数独，数不清 *strawberry* 里有几个 R，很难想象这样的东西能替代人类认知。盖茨说，可靠性问题正在被快速解决，研究者正在做出能检查自己工作、自我改进的模型，它们很快会在许多任务上大幅超过人类。他在文章开头就写过：“AI 第一次能够替代、甚至超越人类认知。”

这个判断和三年前是接得上的。2023 年，他在解释幻觉和偏见时说，有些研究者认为幻觉是 AI 固有的问题，“我不同意”，他乐观地认为模型终将学会区分事实与虚构。当时这是一句“问题能修好”的乐观话。到了 2026 年，可靠性改善反而成了他提醒人们不要低估 AI 的理由。后文还会讲到，他把“AI 几乎零错误”视为劳动者面临的最大转折点。

对“要不要放慢 AI”，他的态度也变了。2023 年，他在讲网络安全时明确反对暂停：有人提议暂时不让大家把 AI 的新进展投入使用，他认为不应该这样做，因为网络罪犯不会停止开发新工具，想用 AI 设计核武器和发动生物恐怖袭击的人也不会停，阻止他们的努力必须保持同样的速度。2026 年，他写道：“我这辈子一直希望创新能来得更快。对 AI，我的感受更复杂。”他希望世界能尽快得到好处、尽量推迟问题，但好处和问题是同时到来的。社会需要时间为即将到来的社会、政治和经济动荡做准备，而最需要时间的人拥有的时间最少：被机器人程序（bot）取代的会计人员，被时薪 10 美元的机器人取代的时薪 20 美元的工人。他说：“如果有人拿出一个可信的、在全球范围放慢 AI 进展的方案，我很可能会支持。”但他不认为这会发生，因为地缘政治和经济上的激励推力太大，各方都在全速向前。

三、工作：从“帮你提效”到“很多岗位永久消失”

就业是两篇文章判断差距最大的地方。

2023 年，盖茨认为未来几年 AI 对工作的主要影响是帮人更高效地完成工作，无论是在工厂，还是在办公室里处理销售电话和应付账款。AI 最终会写邮件、管理收件箱，人们用自然语言提个要求，就能生成一份内容丰富的演示文稿。他重申了同年 2 月那篇文章的观点：生产率提高对社会有好处，让人们在工作和家庭中有更多时间做别的事；而帮助他人的工作，比如教学、照护病人和老人，需求永远不会消失。他也承认，一些工人在过渡到 AI 驱动的职场时需要支持和再培训，这是政府和企业的责任，要管理好，避免重演美国制造业岗位衰退时那种对人们生活的冲击。他的结论是，这会是一次颠簸的过渡，但完全有理由相信可以减轻冲击。

2026 年，这一节的标题是“许多工作将永远消失”。他先拿大萧条作参照：1933 年，美国失业率约为 25%，此后十年里大部分时间保持在两位数，最终随着需求、投资和增长回升才恢复。他说 AI 未必会达到那个水平，但它的影响不会随经济周期过去。风险最大的是初级和中级岗位，而新出现的工作大多需要多年才能学会的技能。

他引用斯坦福大学的一项研究说，白领工作已经受到温和冲击：生成式 AI 被广泛采用之后，在特别容易被替代的岗位上，年轻员工的就业显著下降，年长同事则没有。他认为这一趋势会继续，而且不会局限于少数行业。销售和客服（线上和电话）、软件工程、律师助理工作可能首当其冲，冲击还会延伸到今天仍需受过训练的人来做的任务，比如评估贷款申请、做数据分析，甚至患者分诊。他也提到一个例外：软件工程等少数领域会因为成本下降产生新需求，只要设计之类的任务仍是人做得更好，这些领域的净岗位损失会比其他领域少。

蓝领工作同样会受影响。机器人的进展不如 AI，但成本最终也会大幅下降。盖茨说，他交谈过的很多美国人没有意识到灵巧机器人进步有多快，因为大量前沿工作在其他国家进行，主要是中国；也有人被最近网上流传的“机器人跳舞跳得很笨”的视频迷惑了。他预测，到本十年末，“智能”机器人会在一些体力工作上开始与人竞争，比如建筑业和酒店服务业。

他描述了一个恶性循环：一家公司采用机器人和 AI，用省下的钱降价，竞争对手就会承受巨大压力跟进；现有公司不跟进，初创公司也会这么做。很多人会转到其他工作，但失业、再培训、再找工作的动荡会很大。市场力量会让采用越来越快，除非我们干预，好工作会越来越少，好处会集中到一小群人手里。

他特别担心年轻人，他们进入职场时，初级岗位会更少。他说年轻人其实明白这个挑战，因为他们是最活跃的 AI 用户，既看得到 AI 的能力，也看得到它进步的速度，“难怪他们中那么多人对 AI 抱有负面看法”。

在盖茨看来，对劳动者最大的转折点，是 AI 能交出几乎零错误的工作的时候。到那时，AI 可以在没有人检查的情况下独立运转，企业也有充分的经济动机让它这样做。这会从根本上改变人们对工作、收入和经济保障的理解：一个围绕就业建立起来的经济体，如果工作的人变少，或者很多人工作时间变短，要怎么运转？

他写道，在资本主义社会里，就业是大多数人获得基本生活所需的主要途径，也是尊严和社会联系的重要来源。一个社区失业率高，连锁反应会无处不在。他说，研究表明，在美国一些地区，工厂关闭与阿片类药物过量死亡人数上升有关。“现在想象一下，全国范围的白领和蓝领工人都面临类似的压力。”他的结论是，AI 是对经济组织方式的结构性挑战，等到人们已经失业或就业不足时再应对，就太晚了。

两篇文章在这里也有一条延续的线。2023 年他说，照护他人的工作需求永远不会消失；2026 年，他提出要主动为人类保留一部分工作（第七章会讲到），也就是说，这类工作需要有意去划定和保护。

四、安全：从“攻防一起升级”到“进攻跑在防守前面”

在安全问题上，两篇文章提到的风险有不少重合，差别在于盖茨对攻防力量对比的估计。

2023 年，他从深度伪造讲起。用谎言操纵舆论并不新鲜，书籍和传单时代就有，文字处理器、激光打印机、电子邮件和社交网络让它越来越容易。AI 把这个问题从假文字扩展到假音频和假视频。他举了个例子：如果你收到一条听起来像自己孩子的语音，说“我被绑架了，十分钟内往这个账户打 1000 美元，别报警”，它带来的情绪冲击远远超过一封写着同样内容的邮件。更大的层面上，深度伪造可能被用来左右选举：假设大选当天早上，一段候选人抢劫银行的假视频疯传，新闻机构和竞选团队要花好几个小时才能证伪，在势均力敌的选举里，这足以改变结果。

他当时“保持谨慎的乐观”，理由有两个。一是人能学会不轻信，就像当年很多人被“尼日利亚王子”诈骗邮件骗过，后来大多数人学会了多看一眼。二是 AI 既能制造深度伪造，也能识别它，英特尔开发了深度伪造检测器，美国国防高级研究计划局（DARPA）也在研究识别音视频是否被篡改的技术。他预期这会是一个循环：有人找到检测方法，有人找到反制方法，再有人开发反反制措施，“不会完全成功，但我们也不会无能为力”。

对网络攻击，他的逻辑相同。黑客找漏洞靠暴力试错，安全专家也一样；AI 会帮黑客写出更有效的代码，利用个人公开信息设计更高级的钓鱼攻击，但好消息是 AI 也能用于好的目的，政府和企业的安全团队需要掌握最新工具，赶在罪犯之前发现并修补漏洞。至于国家之间可能出现的 AI 网络武器军备竞赛，他拿核不扩散体系作参照：这个体系有缺陷，但它避免了他那一代人从小害怕的全面核战争。他建议各国政府考虑建立一个类似国际原子能机构的全球 AI 组织。

2026 年，他先指出，早在 AI 进入主流之前，网上就有制造炸弹、生物武器甚至电脑病毒的信息，AI 会让人不仅更容易拿到这些信息，还更容易付诸行动，即便技能非常有限的罪犯，也能在个人、公司、政府各个层面上攻击目标。对大多数人的日常生活来说，感受最深的会是 AI 驱动的诈骗、虚假信息、深度伪造和监控。

在他的描述里，网络攻防的平衡已经被打破。他说，最聪明的网络安全专家都在为未来几年感到害怕，因为攻击方获得强大新能力的速度，快于防守方修补所有漏洞的速度。能帮企业找到软件漏洞加以修补的同一个 AI 模型，也能帮罪犯利用这个漏洞。发动攻击所需的资源正在大幅下降，“而我们还没办法把这些能力和正常用途分开”。

他列出了会暴露在风险中的基础设施：医院、金融机构、供水系统、电网、政府福利管理系统。这些机构遭到攻击时，受损的是病人、客户和福利领取者。生物恐怖主义也是同样的逻辑：AI 会带来救命的药物和疫苗突破，也会让设计一种致命新疾病变得更容易，有益的能力和危险的能力很难分开。他说，这是一个全球性问题。

2026 年的文章还新增了两类风险。第一类是权力集中。前面说的风险都是 AI 让原本没什么权力的恶意行为者（bad actors）变得更有能力；同样的工具也会让权力在原本就集中的地方更加集中。比如自主武器会让政府在没有人参与决策的情况下使用致命武力的能力更强；监控和操纵舆论会变得更容易、更便宜，也更有效。

第二类是 AI 系统本身。盖茨写道，最终，用 AI 伤害人的能力将不只属于人或机构。AI 系统已经偶尔以设计者没有预想的方式行动；这项技术的进步比任何人预期的都快，方式也出人意料；随着模型越来越强大，它们可能开始违背人类利益行事，“我们可能会失去控制”。他说以后会就此写更多。

这一点和 2023 年形成了明显对照。三年前，他在文章开头特意划定了讨论范围：只谈已经存在或即将出现的风险，不讨论人类造出能学习任何学科和任务的 AI 之后会发生什么。他承认，无论这一天是十年后还是一百年后到来，社会都得面对深刻的问题：如果超级 AI 自己设定目标怎么办？如果目标与人类冲突怎么办？到底该不该造超级 AI？但他当时认为，思考这些长期风险不应以牺牲眼前风险为代价。到 2026 年，失控已经被他写进了当下的风险清单。

五、孩子与学习：一类新风险

2023 年文章谈教育，关心的主要是一个问题：人人都能用 AI 写出一篇像样的作文初稿，怎么防止学生拿去当自己的作业交？

盖茨当时的回答偏乐观。他提到已有 AI 工具在学习分辨文字是人写的还是机器写的，但他更关注另一批老师：他们不禁止学生用 AI，反而鼓励使用。资深英语教师谢丽·希尔兹（Cherie Shields）当年 1 月在《教育周刊》（*Education Week*）撰文，介绍她如何在课堂上用 ChatGPT 帮学生开头、列提纲、获得反馈。她写道，就像当年教学生正确使用谷歌搜索一样，老师应该围绕 ChatGPT 如何辅助写作设计清晰的课程。盖茨说，不是每个老师都有时间学新工具，但她这样的教育者有力地说明了，愿意学的人会受益很多。他又想起 1970 到 80 年代电子计算器普及时，一些数学老师担心学生不会算术，另一些老师则拥抱新技术，把重点放在算术背后的思维能力上。

他还提出，趁幻觉和偏见仍是问题，老师可以让 AI 生成文章，再带学生一起核查事实。他资助的可汗学院和 OER Project 都提供免费在线工具，重点训练检验论断的能力。“很少有技能比分辨真假更重要。”他当时也提醒了教育公平问题：现有教育软件大多只能帮助本来就有学习动力的学生，还不知道如何把人吸引进一个原本不感兴趣的学科，开发者需要解决这个问题。

2026 年，教育和成长问题的范围扩大了。盖茨从自己讲起：他在西雅图长大，除了几个和他相似的男孩，没什么朋友；靠着自己下苦功和母亲的大量帮助，他才学会与各种各样的人相处，70 岁的他至今仍在用这些经验。他说，如果当年有个 AI 伴侣，他怀疑自己不会下同样的功夫。AI 伴侣用你已经习惯的方式跟你说话，不会把你推出舒适区，随时都在，从不对你生气。这让它们可能变得高度成瘾，剥夺人们从与他人相处中学到的东西。

他承认，这方面的证据还不多，结论也不完全一致，但有迹象表明应该高度警惕。他举了斯坦福大学和卡内基梅隆大学的一项研究：研究者调查了 1100 多名 AI 伴侣用户，发现社交网络较小的人最可能向聊天机器人寻求陪伴，而使用越频繁、越涉及私人情感，他们的感受就越差。

他认为年轻人可能会受到终身影响，并引用了乔纳森·海特在《焦虑的一代》中关于社交媒体的一段话，说它对 AI 更加适用：“就像经受风吹的小树，经常接触小风险的孩子长大后，能从容应对大得多的风险而不惊慌；反过来，在受保护的温室里长大的孩子，有时还没成年就被焦虑压垮了。”盖茨接着写道：“一个被设计成永远不会让你难受的 AI 伴侣，就是一座巨大的受保护的温室。”

他说，人们才刚开始理解互联网尤其是社交媒体对年轻人成长的危害：强迫性使用、睡眠紊乱、网络霸凌、接触有害内容。AI 可能让这些风险更有说服力、更难摆脱，“我们不应该再等一代人才开始认真对待”。他提到澳大利亚、英国、挪威等国正在出台儿童网络保护措施，而中国走得最远：规定广泛限制 AI 伴侣应用，禁止培养情感依赖的设计，并禁止向未成年人提供虚拟亲属和虚拟恋人。

教育方面，他写道：“讽刺的是，能让人学到比以往任何时候都多的工具，也可能让很多人学得更少。”一项初步调查显示，AI 使用越多，批判性思维越弱，而且这种关联在年轻人中更明显。

这里有一条线贯穿了两篇文章。2023 年他说很少有技能比分辨真假更重要；2026 年他说，现在是人类最不应该丢掉批判性思维的时候，因为在深度伪造和可以为每个人量身定制的不实信息泛滥的时代，分辨真假成了一项基本的生存技能。

这些社会心理问题的界线该划在哪里，他说还不清楚。在有些情况下，AI 可能帮人更好地处理人际关系；对与外界隔绝的老人和行动不便的人来说，AI 可能是他们与外界唯一的联系，总比没有好。他只说：“无论最后把线划在哪里，都应该是我们有意识做出的决定。”

六、好处：从“技术红利”到“公平问题”

2023 年那篇专谈风险，好处留待以后。盖茨在文中说，AI 会帮助解决健康、教育、气候变化等过去看似无解的问题，盖茨基金会已将其列为优先事项，他以后会再写 AI 的好处。

2026 年的文章用了一整节写好处，但放进了一个新的框架里。文章开头就提出：“在公平方面，AI 要么是史上最伟大的均衡器，要么是最严重的不公之源。”他追问，如何用这项技术让世界更公平，而不是扩大贫富差距？如何保护最容易受伤害的人，包括失去生计、失去对未来掌控感的人？他认为回答这些问题并付诸行动，应当是世界的头号优先事项。

他还给出了一个现实理由，说明为什么尽量扩大好处和尽量减少伤害同样重要：如果人们看到 AI 让生活变得更轻松，就会建立起管理过渡中更艰难部分所必需的公众信任；如果 AI 在大多数人生活中做的第一件事是夺走他们的工作，那些本来就怀疑它的人会彻底拒绝它，好处也就更难兑现。这也是他主张政府、医疗等行业和 AI 公司现在就合作的原因之一。

他从科研讲起：AI 能综合各学科知识，帮助研究癌症疗法或核能的人检索海量文献、发现人可能忽略的规律、判断哪些实验最有希望；当智力不再是今天这样的限制因素，小公司就能与研发预算大得多的机构竞争。具体领域里，他先讲医疗。美国许多小医院没有能在危急时刻快速诊断的驻院专科医生，他举了 Viz.ai 的例子：它分析影像来发现中风等急症，协助医疗团队协调救治，已在近 2000 家美国医院使用。AI 还能帮基层医生做出更好的诊断，帮病人看懂检查结果和复杂的服药安排。

第二个领域是农业。他说很多人听了会意外，但他认为 AI 在低收入国家见效最快的正是农业。这些国家的大多数农民得不到可靠的天气预报，也得不到关于选什么种子、如何防治作物和牲畜疾病、如何改良土壤的建议。他说，借助 AI，低收入国家的农民很快就能得到比今天最富有的农民还好的建议，大幅提高产量。

政府服务是第三个领域。他在美国见过一些家庭，面对申请医疗保险、助学金或食品援助的一大摞复杂表格，想过放弃。AI 可以大大简化流程，让人更快得到帮助，也让政府更高效，首先受益的应当是最需要社会保障的人。

他还谈到心理健康和教育。心理健康方面，他虽然担心 AI 对心理的影响，但也认为在有隐私保护的前提下，AI 工具可以帮人识别预警信号，提供循证的应对策略，必要时与人类专业人员配合。教育方面，AI 可以让老师有更多时间一对一或小组辅导学生，也能让老师看清全班卡在哪里；对学生来说，一个保留研究者所说的“有益的挣扎”（productive struggle）的 AI 工具，也就是保留建立理解所需的那部分思考过程，可以强化学习：学生初次接触新概念时，AI 给出实质性的讲解，既提问也给答案；到检验理解时，AI 不直接给答案，而是引导学生自己得出。

他说，这些领域的进步加在一起，可以让日常生活更轻松、更实惠，更少受个人收入和人脉的限制，把人们现在耗在文书、官僚流程、寻找可靠信息，以及花不起钱请人代办的事情上的时间和精力还给他们。

但他强调，在所有这些领域，关键词都是“可以”：AI 可以改善各个收入阶层人群的生活，但不会自动做到。和任何新技术一样，需要有意识地确保它惠及所有人，而不只是少数富人，这需要政府和慈善机构发挥重要作用，让不那么富裕的人和低收入国家充分受益。

盖茨基金会计划在 20 年内花完剩余的 2000 亿美元，现在还剩 19 年。他说 AI 会帮助基金会实现目标：加快艾滋病病毒（HIV）、结核病、疟疾和营养不良相关疫苗与药物的研发，并帮助医护人员和患者学会使用这些工具。基金会的目标之一，是让每年死亡的儿童人数再减少一半，就像 2000 年到 2024 年间做到的那样。他说基金会在健康、农业和教育方面的所有工作都会充分利用 AI，下个月的《目标守卫者》报告会详细介绍，包括确保 AI 模型支持基金会工作所在国家人们使用的语言，而不只是富裕和中等收入国家的常用语言。他提到，OpenAI、Anthropic、谷歌和微软等多家领先的 AI 公司正在这些项目上与基金会合作。

七、从“修补旧法”到“新建体系”

2023 年文章的结尾，盖茨讲了下一步该怎么做。政府需要培养 AI 专业能力，才能制定明智的法律法规，应对不实信息和深度伪造、安全威胁、就业市场变化和教育影响；比如法律应该讲清楚哪些深度伪造用途合法，以及深度伪造应如何标注。政治领导人要能与选民进行有见识的对话，也要决定在这些问题上和其他国家合作到什么程度。私营部门方面，AI 公司需要安全、负责任地开展工作，保护隐私，让模型体现基本的人类价值观，尽量减少偏见，让尽可能多的人受益，防止技术被罪犯或恐怖分子利用；各行业企业要帮员工过渡到以 AI 为中心的职场；客户应该始终知道自己是在和 AI 还是人打交道。他说，乐观的理由多于悲观的理由，“但我们需要行动得快”。总体上，这套方案以调整旧法、补充新法为主，也对 AI 公司提出了一串要求。

2026 年，他对企业的定位变了。他说，一些 AI 公司在为自家技术带来的挑战提出解决方案，这很好，但不应该指望它们带头：有些问题超出了它们的专业范围，而且在民主社会里，这些事不该由它们来决定。解决方案应当通过公共的民主程序制定，参与者包括民选官员、政策制定者、教育工作者、医护人员、地方官员和社区领袖。他提到，数百万人的生活将被打乱，需要一张更强、更灵活的社会保障网；地方社区已经在担心数据中心消耗的能源和水；如果拿不出解决方案，一些群体会要求彻底叫停 AI 的研发和部署。

他还认为，解决方案应当建立在对 AI 所提出的深刻问题的回答之上，比如在机器的思考能力胜过人类的时代，如何保有人性。他说宗教领袖一生都在思考“人意味着什么”，可以发挥关键作用，并提到自己对教宗良十四世关于 AI 的通谕《论在人工智能时代守护人的位格》（*On Safeguarding the Human Person in the Time of Artificial Intelligence*）很感兴趣，认为它为需要做的工作打下了坚实基础。

他说接下来几个月会分享更多想法，这次先提三项。

第一项，也是他认为最重要的一项，是建立国内和国际的 AI 应对框架。他说，现有机构没有一个是为这样一种传播如此之快、触及生活如此多方面的技术设计的，所以需要建立新机构。他拿 9·11 作参照：袭击发生后，美国政府经历了二战以来最大规模的改组，而目的只是改善国家安全这一项职能。AI 需要的远不止于此，它会影响国家安全、就业、教育、税收、能源、选举、空气和水、公共卫生、金融体系、执法、交通、公共土地和信息系统。这些领域相互交织，现有官僚体系不是为此设计的：劳工部门也许懂劳动力冲击，但不懂安全风险；商业监管机构也许懂市场集中，但不懂 AI 对儿童和青少年的影响。各管一段，每个机构都只看到系统的一部分，而 AI 的后果会波及整个系统。

所以在国家层面，需要能在各政府部门之间统筹优先事项的机构，确保每一种风险都有人负责，否则一次 AI 驱动的攻击可能仅仅因为没人认为这是自己的职责而得逞。但即便一个国家理顺了内部，仍会暴露在跨境风险之下，因此需要同步建立一个国际组织。盖茨说，它将不同于人类建立过的任何机构，但可以借鉴现有体系：核武器的核查机制、国际航空规则、保护臭氧层的协议，新的全球 AI 组织需要这三者的要素，甚至更多。

与 2023 年相比，核领域的经验仍是他的参照，但只是新组织的三个参照之一；三年前的建议是设立一个“类似国际原子能机构”的机构，现在他说的是一整套国内加国际的新架构。

他也承认，人们有理由怀疑现有的机构能否胜任：政府行动迟缓，有时根本不动，国内和国际的两极分化让做成事情比以往更难，而且需要中美之间一定程度的合作。但他说没有慢慢来的余地。起点是赶在冲击迫使政府进入危机模式之前，先建立一套流程，用来设计合适的机构：各国领导人应定期召集经济学家、技术专家、劳工专家、企业领袖和劳动者本人，找出现有机构在哪里失灵、需要哪些新的权限，各国之间也要相互学习。拥有领先 AI 开发者、掌控供应链关键环节的国家，应当现在就开会确立共同规范，趁竞争压力还没让合作变得更难。他说这个框架要花好几年才能建成，所以现在就得开始。

第二项主张，是为人类保留一些工作。盖茨从父亲讲起：他的父亲 2020 年因阿尔茨海默病去世，病情后期由受雇的护理人员日夜照料。即使父亲难以表达自己，他们也能理解他；他不总能说出自己饿了，但他们总是知道。盖茨说，他们给予父亲的照护里，有一种无法替代的人性，“没有机器人能做到，也不应该由机器人来做”。

每当讨论哪些工作会消失、哪些会留下，他都会想起那个护理团队。他相信，随着 AI 和机器人进步，人类会把某些事情留给人来做。他把这个范围叫作“人类保留区”（Human Reserved），说自己喜欢这个说法，是因为它让人想到自然保护区：那些地方本可以盖楼修路，但人们选择不这样做，因为损失太大。

划定人类保留区的理由可能是经济上的。比如让机器接管某个岗位，会让大量难以转行的人失业。他说，你没法对一个干了一辈子建筑的 55 岁工人说，你去养老机构工作吧，还指望对方觉得这份工作有意义。理由也可能是别的。在医疗领域，想象一台机器人告诉你，你得了不治之症。技术上没有任何理由做不到，但它不应该这样做。

他说人类保留区的范围会随时间变化，比如现在就可以考虑保留一些工作，用几年或几十年逐步引入 AI，同时承诺保留一部分岗位；教育和心理健康等领域会是混合形态，由人主导，用技术扩展自己的能力。界线也会因地而异：有些国家可能坚持由人来照顾老人，但像日本这样劳动力萎缩、年轻人不足以照顾老人的国家，可能会欢迎护理机器人。

他列出了自己回答不了的问题：谁来决定为人类保留什么？用什么标准？怎么防止企业作弊、偷偷用机器人？一个国家允许机器人生产某种东西、另一个国家不允许，国际贸易会怎样？他说这些问题需要作为过渡计划的一部分，公开讨论解决。

第三项主张，是重新平衡对劳动和资本的征税。劳动者被挤到别的工作岗位时，需要再培训和社会保障网的支持；但他们工作得少了，缴的所得税也少了，政府收入恰恰在最需要这些服务的时候下降。钱总得从某个地方来，而各国预算已经很紧张。

盖茨主张对 AI token 和机器人征税。他解释说，现在雇主雇一个人，要为其收入缴纳工资税；但买一台机器人，通常可以作为经营费用一次性抵扣。税制在推动企业用机器替代人。征税能稍微放慢企业弃用人工的势头，并为再培训和更强的保障网筹集资金。他强调税要有针对性，不能拖慢那些纯粹有益的 AI 用途，比如让药品和教育更便宜。

他承认批评者说这在经济上不是最有效率的做法，但他认为这些人没有考虑到工作对个人和社会更广泛的价值，而且在创新加速的时代，社会负担得起为保住就业付出一点效率代价。

他说自己多年前就提出过机器人税，当时大多数反应是觉得这个想法很奇怪；他至今仍是坚定支持者。机器人税不是应对 AI 威胁的全部答案，但他认为是明智回应的一部分。无论用什么方式筹钱，都要让钱到达最需要的人手里，包括因 AI 和机器人失业的工人、工时或工资下降的人，以及损失集中的社区。他说这项工作要现在就开始，这样需求变得迫切时，体系已经就位。

最后，他交代了自己要做什么：利用自己的声音和时间，把 AI 与公平问题推上公共议程；每次去华盛顿特区、每次见各国领导人都会提起；在与 AI 模型开发者的对话中把它放在核心位置；倡导前面说的国内和国际框架；盖茨基金会将推动 AI 的有益使用，包括在非洲；他创办的突破能源（Breakthrough Energy）将用 AI 帮企业开发廉价清洁能源；他也会定期写 AI。

他写给领导人的话是：“你们现在有机会行动，赶在失业率急剧上升、社区受到伤害、公众信任流失之前。你们可以确保政府整体应对这个问题，而不是把它分割到各个官僚机构的地盘里。你们可以确保 AI 惠及所有人。你们也可以与其他国家的政府合作，应对这一国家和全球层面的挑战。”

他还说要扩大参与这场讨论的人群，包括劳动者、即将进入职场的大学生、社区领袖、宗教领袖和宗教组织、家长、教育工作者，以及其他声音常常不被听到、却了解这场过渡会如何影响人们生活的人。

八、变了什么，没变什么

把两篇文章放在一起读，有几样东西没有变。

盖茨始终相信，处理得当，AI 会让世界更好。2023 年他说好处会是巨大的；2026 年他说，做对了，人类的回报会非常大，世界也会更公平。他也仍然借用历史上的制度经验：三年前是核不扩散体系和国际原子能机构，现在是核查机制、国际航空规则和臭氧层协议。分辨真假这项能力在两篇文章里都被他放在很高的位置。急迫感也并非新东西，2023 年那篇的结尾就写着“我们需要行动得快”。

变化发生在乐观的依据上。2023 年，乐观建立在历史经验上：汽车、计算器、PC 都曾带来冲击，人类都适应了，所以这次也可以。2026 年，他明确认为这些类比会误导人，乐观于是变成了有前提的判断：“如果世界采取正确的步骤，AI 将成为一股向善的力量，让每个人都过得更好。”而现在，他没有看到领导人、专家和社区在充分应对这些挑战的迹象，也没有让人们平稳进入 AI 时代的计划。

依据变了，他看问题的范围也跟着变了。2023 年，他把 AI 风险拆成几项，逐项说明可以怎么管：深度伪造靠公众学会怀疑和检测技术，网络攻击靠防守方同步升级，就业靠再培训，教育靠老师拥抱新工具。2026 年，他把 AI 看作对经济组织方式的结构性挑战：就业、税收、社会保障、儿童成长、国家安全和国际秩序缠在一起，任何一个部门单独都应付不了，所以需要新建机构、主动为人类保留一些工作、改变税制，而且要赶在冲击到来之前。

他自己也没有给出所有答案。新文的结尾留下了四个问题：如何确保 AI 的好处到达那些原本没有财富、影响力和门路的人？如何加强社会保障网，让劳动者和社区即便被取代也能好好生活？公共机构应该如何调整？在这一切之中，人类如何保有人性？

他说，自己几乎一刻不停地在想 AI，“不是因为我有所有答案，而是因为它提出的问题太重大了，不能只留给一小群技术专家”。