为什么比尔盖茨不太担心人工智能带来的风险

比尔·盖茨在周二的博客文章中阐述了他对人工智能（AI）风险的看法。尽管盖茨对 AI 可能带来的好处感到兴奋，但他分享了人们最常关注的风险领域。

在题为《The risks of AI are real but manageable（AI 的风险是真实存在但可控制的）》的文章中，盖茨特别讨论了 AI 带来的五个风险。首先，AI 生成的虚假信息和深度伪造技术可能被用于欺骗人们，甚至影响选举结果。其次，AI 可能自动化搜索计算机系统的漏洞，极大增加了网络攻击的风险。第三，AI 可能取代人们的工作。第四，已经发现 AI 系统伪造信息和存在偏见的问题。最后，使用 AI 工具可能意味着学生不会学到必要的技能，比如写作，同时也可能加大教育成绩差距。

尽管盖茨确实讨论了 AI「反映或甚至加剧现有偏见」的风险，但他并未讨论与 AI 系统开发相关的不平等问题。例如，肯尼亚的 OpenAI 员工面临着艰难的工作条件，报酬低于每小时 2 美元。他也没有讨论使用大量互联网数据开发系统的 AI 开发者面临的法律问题。喜剧演员Sarah Silverman 和另外两位作者最近对 Meta 和 OpenAI 提起了版权侵权诉讼，指控这些公司未经他们同意使用他们的书籍来训练 AI 系统。

盖茨对 AI 的未来寄予了很大期望。作为联合创始人并持有股份的科技巨头微软是 OpenAI 的最大投资者之一，OpenAI 是推动 AI 发展的公司之一，也是 ChatGPT 的创造者。

尽管盖茨承认「没有人知道所有的答案」，但他仍然乐观地认为人类可以管理这些风险。他写道：「AI 的未来既不像某些人认为的那么严峻，也不像其他人认为的那么美好。」

以下是比尔·盖茨博文要点：

历史表明解决新技术带来的挑战是可能的

盖茨指出，过去政府、公司和个人的行动已经使我们能够减轻新技术带来的风险，他相信这在 AI 方面也会是如此。

这不是社会第一次被强大的新技术重塑，盖茨举了几个我们如何适应和处理技术发展的例子。人们已经学会对「有人冒充尼日利亚王子，承诺分享信用卡号码以换取丰厚回报」的「诈骗」保持更多的怀疑。他认为，人们也将培养对 AI 生成的虚假信息具有同样警惕性的直觉。尽管有人担心开发人工智能网络武器的努力可能会演变成军备竞赛，但盖茨写道，各国过去曾协调防止军备竞赛。他指出，同样，新技术让一些人失业，但也创造了新的就业机会。

关注短期到中期的风险

在博文中，盖茨只讨论了「已经存在或即将出现的风险」，而没有讨论长期风险，比如极其强大的 AI 系统发展出自己的目标，可能与人类的目标相冲突。这并不意味着盖茨不认真对待这些风险。今年早些时候，盖茨与其他科技领袖一起签署了一份公开声明，警告说「减轻 AI 带来的灭绝风险应该是与大流行病和核战争等社会规模风险一样的全球优先事项」。但和其他 AI 思想家一样，比如 Margaret Mitchell，盖茨认为「思考这些长期风险不应该以牺牲更直接的风险为代价」。

人工智能可能会为其产生的问题提供解决方案

盖茨表示，AI 可能最终提供解决其所带来问题的解决方案。AI 驱动的深度伪造技术检测器可以对抗 AI 生成的虚假信息。AI 可以检测网络安全漏洞并在被人工智能驱动的网络攻击利用之前修复它们。

正是因为对社会管理技术变革的能力以及技术变革带来的好处的信心，解释了盖茨对人工智能的谨慎乐观态度，以及他呼吁进一步发展而不是暂停的原因。在这方面，他的思考更符合开发 AI 系统的人们的思路。

例如，OpenAI 最近宣布推出一个「超级对齐」团队，旨在开发能够「比人类更聪明地引导和控制 AI 系统」的 AI 系统。

比尔·盖茨博客原文：

https://www.gatesnotes.com/The-risks-of-AI-are-real-but-manageable