AI 的风险是真实的，但可以管住
对于怎么处理突破性创新造成的问题，世界已经学到了很多。
作者 比尔·盖茨，发表于 2023 年 7 月 11 日星期二
人工智能带来的风险，看上去可能是压倒性的。那些把工作输给智能机器的人会怎么样？AI 会不会影响选举的结果？万一将来某个 AI 认定它不再需要人类，想把我们清除掉呢？
这些都是合理的问题，它们提出的担忧需要认真对待。但有充分的理由认为我们能够应付它们：这不是重大创新第一次带来必须加以控制的新威胁。我们以前做到过。
无论是汽车的问世，还是个人电脑和互联网的兴起，人们都挺过了别的变革性时刻，尽管经历了大量动荡，最终还是过得更好了。第一批汽车上路后不久，第一起车祸就发生了。但我们并没有禁掉汽车——我们采纳了限速、安全标准、驾照要求、酒驾法律，以及其他交通规则。
我们现在正处在另一场深刻变化的最早期阶段，也就是 AI 时代。这类似于限速和安全带出现之前那段不确定的时期。AI 变化得如此之快，以至于接下来究竟会发生什么并不清楚。我们面对着一些大问题，它们来自当前这项技术的运作方式，来自人们将会怀着恶意去使用它的那些方式，也来自 AI 将会怎样改变作为一个社会、作为一个个体的我们。
在这样的时刻，感到不安是自然的。但历史表明，新技术造成的挑战是可以解决的。
我以前写过 AI 将怎样彻底改变我们的生活。它会帮助解决那些过去看起来棘手无解的问题——在健康、教育、气候变化以及更多领域。盖茨基金会正把这件事列为优先事项，我们的 CEO 马克·苏兹曼（Mark Suzman）最近分享了他在减少不平等这件事上是怎么思考它的作用的。
关于 AI 的好处，我以后还会有更多话要说，但在这篇文章里，我想正视我最常听到和读到的那些担忧，其中很多我自己也有同感，并解释我是怎么看待它们的。
从迄今为止所有关于 AI 风险的文字里——而且已经写了很多——有一件事是清楚的，那就是没有人掌握全部答案。对我来说清楚的另一件事是，AI 的未来既不像一些人以为的那么暗淡，也不像另一些人以为的那么美好。风险是真实的，但我乐观地认为它们可以管住。在逐条梳理每一项担忧的过程中，我会不断回到几个主题上：
- AI 造成的许多问题都有历史先例。比如说，它会对教育产生巨大影响，但几十年前的手持计算器也是如此，更近一些的、允许电脑进课堂也是如此。我们可以从过去那些管用的做法里学习。
- AI 造成的许多问题也可以借助 AI 来管住。
- 我们将需要调整旧的法律并采纳新的法律——就像现有的反欺诈法律当初必须为网络世界作出调整那样。
在这篇文章里，我打算聚焦那些已经存在、或者很快就会存在的风险。我不去谈，当我们开发出一种能够学习任何主题或任务的 AI、而不是今天这种专用 AI 时，会发生什么。无论我们是在十年后还是一个世纪后走到那一步，社会都将需要面对一些深刻的问题。如果一个超级 AI 确立了它自己的目标呢？如果这些目标与人类的目标相冲突呢？我们究竟该不该造一个超级 AI？
但思考这些更长期的风险，不应当以牺牲那些更迫近的风险为代价。我现在就来谈它们。
AI 生成的深度伪造和不实信息可能破坏选举和民主。
用技术来传播谎言和不实之词，这个想法并不新鲜。几个世纪以来，人们一直在用书籍和传单做这件事。后来有了文字处理软件、激光打印机、电子邮件和社交网络，这件事就变得容易多了。
AI 把虚假文本这个问题接了过去，并且把它扩展开来，让几乎任何人都能制作虚假的音频和视频，也就是所谓的深度伪造（deepfake）。如果你收到一条语音消息，听上去像是你的孩子在说“我被绑架了，请在接下来的 10 分钟内往这个银行账户打 1,000 美元，别报警”，那种情绪冲击会非常可怕，远远超过一封说着同样内容的电子邮件。
放到更大的尺度上，AI 生成的深度伪造可能被用来试图让一场选举偏向一边。当然，要让人们怀疑一场选举的合法胜出者，并不需要多么先进的技术，但 AI 会让这件事更容易。
已经有一些假视频出现，里面是知名政治人物的伪造画面。设想一下，在一场重大选举当天的早上，一段显示某位候选人正在抢银行的视频疯传开来。它是假的，但新闻媒体和竞选团队要花上好几个小时才能证明这一点。会有多少人看到它，并在最后一刻改变自己的投票？它可能让天平倾斜，尤其是在一场票数接近的选举里。
最近，OpenAI 联合创始人萨姆·奥尔特曼（Sam Altman）在美国参议院一个委员会作证，两党的参议员都紧盯着 AI 对选举和民主的影响。我希望这个话题能在所有人的议程上继续往上走。
我们当然还没有解决不实信息和深度伪造的问题。但有两件事让我谨慎乐观。一件是，人是能够学会不把所有东西都按表面意思接受的。多年来，电子邮件用户一直在上一种骗局的当：有人冒充尼日利亚王子，承诺只要你把信用卡号给出去，就会有一大笔回报。但最终，大多数人学会了对那些邮件多看一眼。骗局变得更高明，它们的许多目标对象也跟着变得更高明了。对于深度伪造，我们需要练出同样的肌肉。
另一件让我抱有希望的事情是，AI 既能帮助识别深度伪造，也能制造深度伪造。比如英特尔已经开发出一款深度伪造检测器，政府机构 DARPA（美国国防高级研究计划局）也正在研发技术，用来识别视频或音频有没有被动过手脚。
这将是一个循环往复的过程：有人找到检测伪造的办法，又有人想出怎么反制这种办法，再有人开发出反反制的手段，如此下去。这不会是一场完美的成功，但我们也不会毫无办法。
AI 让对人和政府发动攻击变得更容易。
今天，黑客想找到软件里可利用的漏洞，靠的是暴力破解——写代码去反复撞击可能的弱点，直到找出一条进去的路。这中间要走进很多条死胡同，也就是说，它需要时间，也需要耐心。
想要对抗黑客的安全专家也得做同样的事。你在手机或笔记本电脑上装的每一个软件补丁，背后都是许多小时的搜寻，善意的人和恶意的人一样都在找。
AI 模型会加速这个过程，办法是帮黑客写出更有效的代码。还能利用关于个人的公开信息，比如这个人在哪里工作、朋友都有谁，来开发出比我们今天看到的更高级的网络钓鱼攻击。
好消息是，AI 既可以用在坏的目的上，也可以用在好的目的上。政府和私营部门的安全团队需要拥有最新的工具，好在罪犯利用安全漏洞之前先发现并修复它们。我希望软件安全行业会扩大他们在这条战线上已经在做的工作——这应该是他们最优先关心的事。
这也是为什么我们不该像有些人提议的那样，试图暂时阻止人们实施 AI 领域的新进展。网络罪犯不会停止制造新工具。想用 AI 来设计核武器和生物恐怖袭击的人也不会停。阻止他们的努力需要以同样的速度继续下去。
在全球层面还有一个相关的风险：一场围绕 AI 的军备竞赛，而这种 AI 可以用来设计并发动针对别国的网络攻击。每个政府都想拥有最强大的技术，这样才能遏制来自对手的攻击。这种不让任何人领先的动机，可能引发一场竞赛，去制造越来越危险的网络武器。所有人的处境都会变得更糟。
这个想法很可怕，但我们有历史作指引。尽管全球的核不扩散机制有它的缺陷，但它阻止了全面核战争，而我这一代人在成长过程中曾经那么害怕这场战争。各国政府应该考虑为 AI 创建一个类似国际原子能机构的全球机构。
AI 会夺走人们的工作。
在接下来的几年里，AI 对工作的主要影响将是帮助人们更高效地完成工作。不管他们是在工厂里干活，还是在办公室里处理销售电话和应付账款，这一点都成立。最终，AI 表达想法的能力会好到可以替你写邮件、替你管理收件箱。你将能够用简单的英语、或任何其他语言写下一个请求，然后生成一份关于你工作的、内容丰富的演示文稿。
正如我在二月那篇文章里所论证的，生产率上升，对社会是好事。它让人们在工作中和在家里都有更多时间去做别的事情。而对那些帮助他人的人的需求——比如教书、照护病人、照料老人——永远不会消失。但确实，在我们向 AI 驱动的职场过渡的过程中，有一些劳动者会需要支持和再培训。这是政府和企业的职责，他们需要把这件事管好，好让劳动者不被甩在后面——以避免美国制造业岗位衰退期间发生过的那种对人们生活的冲击。
另外，请记住，这并不是新技术第一次在劳动力市场上引起大的变动。我不认为 AI 的影响会像工业革命那样剧烈，但它肯定会和 PC 的问世一样大。文字处理软件并没有消灭办公室工作，但它们永远地改变了办公室工作。雇主和雇员必须适应，而他们适应了。AI 引起的这场变动将是一次颠簸的过渡，但我们完全有理由认为，我们能够减少对人们生活和生计的冲击。
AI 会继承我们的偏见，还会编造东西。
幻觉——这个词指的是 AI 信心十足地做出某个根本就不真实的断言——之所以出现，通常是因为机器不理解你这个请求的上下文。让 AI 写一篇关于去月球度假的短篇小说，它可能会给你一个非常有想象力的回答。但让它帮你规划一次去坦桑尼亚的旅行，它可能会试图把你送到一家并不存在的酒店。
人工智能的另一个风险是，它会反映、甚至加剧针对某些性别认同、种族、族裔等人群的既有偏见。
要理解幻觉和偏见为什么会发生，就得先了解今天最常见的那些 AI 模型是怎么运作的。它们本质上是那种代码的高度精密版本，就是让你的邮件应用能预测你接下来要打的那个词的那种代码：它们扫描海量的文本——某些情况下几乎是网上能拿到的一切——再加以分析，从中找出人类语言的模式。
当你向 AI 提出一个问题，它会看你用了哪些词，然后去搜索经常与这些词相关联的文本块。如果你写下“列出做煎饼需要的配料”，它可能会注意到“面粉、糖、盐、泡打粉、牛奶和鸡蛋”这些词经常和这个短语一起出现。然后，根据它所知道的这些词通常出现的顺序，它生成一个回答。（以这种方式运作的 AI 模型，用的是所谓的 Transformer。GPT-4 就是这样一种模型。）
这个过程解释了 AI 为什么可能出现幻觉，或者显得带有偏见。它对你问的问题、你告诉它的事情，都没有上下文。如果你告诉它它犯了个错，它可能会说：“抱歉，我打错了。”但那是一个幻觉——它并没有打过任何字。它之所以这么说，只是因为它扫描过足够多的文本，从而知道“抱歉，我打错了”是人们在被别人纠正之后经常写的一句话。
同样，AI 模型会继承嵌在训练文本里的任何成见。如果一个模型读了大量关于比如说医师的内容，而这些文本大多提到的是男医生，那么它的回答就会假设大多数医生是男性。
尽管有些研究者认为幻觉是一个固有的问题，我并不同意。我乐观地认为，随着时间推移，AI 模型可以被教会分辨事实与虚构。比如说，OpenAI 就在这条战线上做着很有希望的工作。
其他一些组织，包括艾伦·图灵研究所和美国国家标准与技术研究院（National Institute of Standards and Technology），正在着手解决偏见问题。一种思路是把人类价值观和更高层次的推理构建进 AI 里。这类似于一个有自我意识的人的运作方式：也许你假设大多数医生是男性，但你对这个假设有足够的意识，知道自己必须刻意去对抗它。AI 也可以用类似的方式运作，尤其是如果这些模型是由来自不同背景的人设计的。
最后，每一个使用 AI 的人都需要意识到偏见问题，成为一个知情的用户。你让 AI 起草的那篇文章，里面充斥的成见，可能和事实错误一样多。你需要检查你的 AI 的偏见，也检查你自己的偏见。
学生学不会写作，因为 AI 会替他们把活干了。
许多老师担心，AI 会以种种方式损害他们和学生一起做的这件事。在一个任何能上网的人都可以用 AI 写出一份像样的文章初稿的时代，有什么能拦住学生把它当成自己的作业交上去呢？
已经有一些 AI 工具正在学习分辨一样东西是人写的还是电脑写的，所以老师能看出学生什么时候没在做自己的作业。但有些老师并不想阻止学生在写作里用 AI——他们实际上是在鼓励这样做。
一月，一位名叫谢里·希尔兹（Cherie Shields）的资深英语老师写了一篇发表在《教育周刊》（Education Week）上的文章，讲她如何在自己的课堂上使用 ChatGPT。它在方方面面都帮到了她的学生：从着手开始写一篇文章，到写提纲，甚至到给他们的作业提供反馈。
“老师将不得不接纳 AI 技术，把它当作学生能够接触到的又一种工具。”她写道。“就像我们曾经教学生怎样做一次像样的 Google 搜索一样，老师应该围绕 ChatGPT 这个 bot 如何能协助文章写作，设计清晰的课程。承认 AI 的存在，并帮助学生和它一起工作，可能会彻底改变我们的教学方式。”不是每个老师都有时间去学习和使用一件新工具，但像谢里·希尔兹这样的教育工作者说得很有道理：那些有时间的人会受益很多。
这让我想起 1970 和 1980 年代电子计算器普及开来的时候。有些数学老师担心学生会不再学怎样做基本的算术，但另一些老师接纳了这项新技术，把重点放在了算术背后的思维能力上。
AI 还能以另一种方式帮上写作和批判性思维的忙。尤其是在眼下这个早期阶段，幻觉和偏见还是个问题，教育工作者可以让 AI 生成文章，然后带着学生一起去核查其中的事实。像可汗学院和 OER Project 这样的教育类非营利组织——我资助的——向老师和学生提供免费的在线工具，这些工具非常强调对论断的检验。很少有哪种技能比懂得怎样分辨真假更重要。
我们确实需要确保教育软件有助于缩小学业成绩差距，而不是让它变得更糟。今天的软件大多是面向那些本来就有学习动力的学生的。它可以为你制定一份学习计划，为你指出好的资源，还可以测试你的知识掌握情况。但它还不知道该怎样把你带进一门你本来并不感兴趣的学科。这是开发者需要解决的一个问题，这样各种类型的学生才都能从 AI 中获益。
接下来会怎样？
我相信，我们能够在把 AI 的好处最大化的同时管住它的风险，对此抱乐观态度的理由多于不乐观的理由。但我们需要快速行动。
各国政府需要积累起人工智能方面的专业能力，这样才能制定出有见识、能回应这项新技术的法律和法规。它们要费力应对的将包括不实信息和深度伪造、安全威胁、就业市场的变化，以及对教育的影响。只举一个例子：法律需要讲清楚，深度伪造的哪些用途是合法的，以及深度伪造应该如何标注，好让每个人都明白自己看到或听到的东西什么时候不是真的
政界领导人需要有所准备，才能与自己的选民展开有见识、经过思考的对话。他们还需要决定，在这些问题上与其他国家合作到什么程度，还是自己单干。
在私营部门，AI 公司需要安全、负责任地推进自己的工作。这包括保护人们的隐私，确保自己的 AI 模型体现基本的人类价值观，把偏见降到最低，让好处惠及尽可能多的人，以及防止这项技术被罪犯或恐怖分子利用。经济中许多领域的公司都需要帮助自己的员工完成过渡，适应一个以 AI 为中心的工作场所，好让没有一个人被落下。而且客户应当始终知道，自己什么时候是在跟 AI 而不是跟人打交道。
最后，我鼓励每个人尽可能地关注 AI 的进展。这是我们任何人一生中都会看到的最具变革性的创新，而一场健康的公共讨论，将取决于每个人都了解这项技术、它的好处和它的风险。好处将是巨大的，而相信我们能管住这些风险的最好理由，就是我们以前做到过。