比尔·盖茨再次发出警告：AI 足以造成 10 亿人死亡

10 月 11 日，比尔·盖茨再次警告，未来一年最需要警惕的 AI 风险，是网络攻击。

他认为，眼下真正危险的，不是 AI 自己突然失控，而是坏人利用越来越强的 AI 去发动攻击。

除了网络攻击，他还特别提到另一项高风险用途——生物恐怖主义。

不久前接受另一个采访时，盖茨甚至表示，AI 已经强大到可能推动一场造成十亿人死亡的灾难。

AI 真正改变的是「能力门槛」

盖茨担心的核心，是 AI 会把过去只有政府、大型机构或顶尖技术团队才能完成的事情，变得更容易。

比如网络攻击，过去攻击大型金融机构、电网或政府系统，需要相当专业的团队；AI 则可能帮助攻击者寻找漏洞、编写代码、自动执行任务。

同样的问题也可能出现在生物学领域。今年早些时候，盖茨曾公开表示，与自然发生的大流行相比，如今更值得警惕的一种风险，是非政府组织利用开源 AI 工具，设计生物恐怖主义武器。

图源：视频截图

他担心的并不是「AI 按一下按钮就能制造病毒」，而是 AI 会显著缩短学习和试错过程。

过去，一个人如果想完成复杂的生物实验，需要掌握分子生物学、病毒学、蛋白质设计、基因工程等大量知识。现在，AI 已经开始参与蛋白质结构预测、蛋白质设计、基因组分析、文献检索、实验方案设计和数据分析。

这些能力本身都可以用于正常科研。

图源：视频截图

问题在于，它们同样具有「双重用途」。一个模型如果越来越擅长理解蛋白质结构和功能，既可以帮助研究人员寻找新药，也可能被恶意用于研究危险生物系统。

真正需要关注的问题并不是 AI 知不知道危险知识，而是 AI 能不能把一个原本没有能力完成某件事的人，提升到足以实施的水平。

面对这种风险，主持人问到一个常见设想，如果 AI 失控，能不能设置一个 紧急开关，直接把它关掉？

图源：视频截图

盖茨回答：「只有一个紧急开关 是不够的。」

因为风险未必来自某一个中央 AI 系统。一旦模型被大量复制、部署到不同机构和个人手里，就很难再靠一个统一开关解决问题。

因此，他主张在危险能力广泛扩散前，就建立强制性的安全测试、监控和监管机制。他还明确表示，仅靠 AI 企业自我监管并不够，政府、立法者和执法机构都需要参与制定规则。

同一种能力，能救人也可能被滥用

盖茨并没有因此反对 AI 医疗，相反，他仍在大规模推动 AI 进入医疗。

2026 年 9 月，盖茨基金会宣布，未来两年将投入至少 10 亿美元推动 AI 应用，其中约 40% 用于医疗健康。重点方向包括 AI 辅助诊断、基层医务人员临床决策支持、孕产妇和新生儿健康，以及新药和疫苗研发。

图源：gatesfoundation.org

今年 5 月，盖茨基金会还宣布与 Anthropic 开展多年合作，希望把 AI 用于全球健康、教育和农业。

图源：gatesfoundation.org

这形成了一个很明显的反差，一边担心 AI 降低生物武器门槛，一边又希望 AI 加速药物、疫苗和医疗服务。但这其实正是 AI 生物医学目前最难解决的问题。

AI 在生命科学中的很多能力，本身很难简单分成「安全」和「危险」。蛋白质设计可以用于开发新药，基因组分析可以用于研究疾病，实验规划可以提高科研效率。但这些能力如果被恶意使用，也可能帮助人更快理解和改造生物系统。

所以盖茨真正担心的，并不是 AI 医疗本身。当 AI 已经开始真正参与生物科研时，如何在不阻碍药物和疫苗研发的同时，限制那些可能显著提高生物攻击能力的用途。

这才是「AI 可能导致十亿人死亡」背后，与生物医药最直接的风险。