比尔·盖茨罕见发文警告人类注意 AI

近日，比尔·盖茨发表长文，讨论 AI 带来的机会与风险。

在医疗领域，AI 取代部分医生工作，可能只是最先显现的问题。

盖茨警告，随着 AI 同时进入医生工作、医院系统和生物医药研发，其风险也正在从就业冲击，进一步延伸到网络安全和生物安全。

很多工作将「永久消失」，医学也在其中

谈到 AI 对就业的影响，盖茨直接写道：「很多工作将永久消失。」

而医学，也被他明确列入可能受到冲击的领域。

与过去机器主要替代体力劳动不同，AI 正在进入分析、判断和信息处理等认知型工作。盖茨认为，这种变化可能在未来十年左右快速发生，新的岗位虽然仍会出现，但部分现有工作也可能因此消失。

在医疗领域，他举出的一个具体例子是患者分诊。

目前，判断患者病情轻重、决定就诊优先级，仍需要专业人员参与。但盖茨认为，当 AI 的错误率低到不再需要人工逐一复核时，医院和企业就会有更强的经济动力，把这些任务直接交给 AI。

图源：视频截图

不过，这并不意味着医生会整体消失。盖茨同时提出「人类储备」的概念：有些工作即使机器能够完成，也应该保留给人类。

例如，如果患者被诊断出无法治愈的疾病，机器人技术上可以告知结果，但盖茨认为，这类沟通不应该完全交给机器。

因此，未来真正发生的可能不是医生整体被取代，而是部分医疗工作逐渐自动化，人的角色也随之重新划分。

AI 能帮医院找漏洞，也能帮攻击者利用漏洞

第二个风险来自网络安全。

这里存在一个直接的矛盾：同一个 AI，既可以帮助医院发现系统漏洞，也可以帮助攻击者寻找并利用这些漏洞。

盖茨提到，一些顶尖网络安全专家担心，未来几年，攻击者获得新能力的速度，可能比防守者修补漏洞的速度更快。

与此同时，AI 还可能降低发动网络攻击的技术门槛。过去需要专业黑客才能完成的攻击，未来可能借助 AI 被部分自动化。

图源：视频截图

而在盖茨列出的脆弱基础设施中，医院就在其中。

现代医院已经高度依赖数字系统。电子病历、检验结果、影像资料、处方和药品管理，都与信息系统深度绑定。

一旦遭到攻击，风险不只是患者数据泄露。系统瘫痪、无法调取病历和检查结果，都可能直接影响正常诊疗。

因此，当 AI 同时增强攻防两端的能力，医院网络安全也越来越直接地关系到患者安全。

AI 能研发救命药物，也可能帮助制造生物武器

第三个风险来自 AI 与生物技术的结合。

盖茨写道，AI 会带来挽救生命的药物和疫苗进步，但也会让「设计一种致命的新疾病」变得更加容易。

他认为，相比自然发生的大流行，未来一个更大的风险，是非政府组织利用开源 AI 工具设计生物恐怖主义武器。

图源：视频截图

这并不是因为 AI 只会带来危险。恰恰相反，盖茨一直看好 AI 在生物医药领域的潜力。

AI 可以帮助研究人员理解复杂的生物学问题，加速药物和疫苗研发。但他同时警告，AI 在带来救命药物和疫苗的同时，也会让「设计一种致命的新疾病」变得更加容易。

问题就在于，这两种能力很难完全分开。一个能够理解病毒、蛋白质和分子相互作用，帮助研究人员设计药物的模型，同样可能被用于理解如何改造病原体。

也就是说，研发新药和制造生物威胁，可能依赖的是同一套底层能力。

过去，这些复杂的生物学能力主要掌握在经过长期专业训练的研究人员手中。随着 AI 开始承担文献检索、数据分析、实验设计甚至分子设计，一部分专业门槛正在下降。

图源：视频截图

对医药研发来说，这意味着创新可能更快。但对生物安全来说，也意味着制造危险的门槛可能同时降低。

盖茨并不反对医疗 AI。相反，他仍然认为 AI 能够提高医疗效率、扩大医疗服务的可及性。

真正的矛盾在于同一项技术正在同时降低医疗服务、新药研发和危险能力的门槛。

因此，「AI 会不会取代医生」可能只是其中一个问题。更难回答的是，当 AI 同时进入医生工作、医院系统和生物医药研发，哪些能力可以交给它，哪些能力必须被限制？