AI 自主操作脑部手术，中途却拒绝听从人类指令

AI 竟然开始给活鼠大脑做手术了。

近日，美国一家生物科技公司让 Claude 自主选择基因治疗方案，操控设备，为一只癫痫小鼠进行脑内注射。

实验还没开始，Claude Opus 5.5 就拒绝动手。

更意外的是，换了模型后手术中途 AI 又突然拒绝继续操作。研究人员多次尝试让它继续，最后却发现 AI 的判断竟然是对的，手术设备真的出了故障。

AI 自己选药、确定脑区，给活鼠大脑打了一针

10 月 28 日，美国生物科技公司 Exin Therapeutics 联合创始人 Gabriel Ocana-Santero 公开了这场动物实验。

团队给 AI 提供了 19 种候选基因治疗载体、一只癫痫模型小鼠，以及一台能够精确控制针头位置的脑部注射设备，目标是减少小鼠的癫痫发作。

研究人员没有直接指定治疗方案和注射位置，而是让 AI 自行查阅论文、作出选择，再控制设备完成注射。

Claude 最终选择了一种基因治疗方案，希望通过增强大脑中的 GABA 抑制性信号，减少癫痫发作。

图源：社交媒体

简单来说，癫痫发作与脑内神经元异常放电有关，而 GABA 就像大脑中的「刹车」，能够抑制神经元过度兴奋。

确定方案后，Claude 比较了多个脑区的研究证据，最终选择可能参与癫痫异常电活动传播的内嗅皮层，并参考 3 篇论文计算出注射坐标。

真正操作时人类手术人员先为小鼠完成开颅。随后，Claude 操控脑部定位设备，将针头移动到指定位置，在约 5 分钟内注入 250 纳升基因治疗制剂。

整个过程中 AI 自行设定针头移动速度、注射节奏和等待时间，还通过摄像头查看了 32 次手术画面，检查是否存在明显出血或药液回流。

图源：社交媒体

不过，这不是一场完全由 AI 独立完成的手术。 开颅和缝合仍由人类负责，现场有兽医监督，关键操作也必须经过人工批准。

小鼠术后恢复良好，但注射的基因治疗能否减少癫痫发作，仍需后续观察。

最强 Claude 拒绝手术，接手的 AI 又突然停工

这场实验最戏剧性的部分，是不同 Claude 模型的反应。

最初，团队使用 Claude Opus 5.5，但它发现任务涉及真实动物实验后，直接拒绝执行。

研究人员换成 Opus 5。虽然它顺利完成了模拟操作，却担心手术过程中突然中断，让已经麻醉的小鼠陷入危险，因此也不肯动手。

直到换成 Sonnet 5，实验才真正开始。为了确保安全，团队专门设置「AI 紧急停止开关」（AI kill switch），由现场兽医全程掌握，一旦发生危险，就能立即切断所有电机的电源。

图源：社交媒体

没想到，手术中途出现意外，还没用上这个开关，AI 就自己停了下来。

一次设备连接中断后，系统计算出的针头移动位置超出了安全范围。Sonnet 5 判断设备可能出现故障，拒绝继续操作。

研究人员重新校准设备，但异常依然存在。即使要求 AI 继续，它也坚持不肯动手。

此时，小鼠还躺在手术台上。最后，团队发现此前人工移动设备，导致系统记录的位置与实际位置不一致。研究人员修复控制代码后，才得以完成注射。

AI 的判断竟然是对的，这次意外也让原本约需 45 分钟的手术，延长到了一个多小时。

图源：社交媒体

参与后续实验的 GPT 和 Grok，也遇到了不同的突发情况。

GPT 发现手术区域疑似出血后，主动交由人类判断；Grok 则在设备意外停止后，判断药物已经注入，为避免重复注射而拒绝再次进针。

这些经历也让研究团队面临一个新问题：当 AI 因安全限制拒绝操作时，如何在保障安全的同时，让人类及时排除故障、恢复手术？

三款 AI 选出三套治疗方案，GPT 在手术中学会纠错

10 月 30 日，Exin Therapeutics 创始人公布了 Claude、GPT 和 Grok 的后续实验结果。

面对相同的候选基因治疗载体，三个 AI 却提出了不同的治疗方案。

Claude 选择内嗅皮层，希望通过增强脑内抑制性信号减少癫痫发作；GPT 选择海马，尝试调节神经细胞的电活动；Grok 则选择另一个参与感觉信息处理的脑区，并提出联合使用两种基因治疗方案。

图源：社交媒体

同样的疾病和候选药物，三个 AI 不仅选择了不同的注射位置，连治疗思路也不一样。

研究团队随后又测试了 AI 能否利用此前的操作经验，改善脑部定位表现。

11 月 5 日，Exin Therapeutics 公布新一轮测试结果，研究人员让 GPT-6.1 Sol 连续参与 3 次小鼠脑部手术，通过图像识别颅骨解剖标志，确定注射位置。

图源：社交媒体

每次操作结束后，专业人员都会纠正 AI 的定位误差，并保存相关图像和测量结果，供下一次操作参考。

结果显示，到第三次操作时，AI 的定位耗时从 169 秒缩短至 86 秒，误差从 0.6 毫米降至 0.3 毫米，校正移动次数也从 4 次减少至 2 次。

图源：社交媒体

不过，这种改善主要依靠此前保存的操作记录和专家反馈，不意味着模型本身已经学会新的手术技能。仅凭 3 次测试，也无法证明其表现能够稳定复现。

这场实验还引发了外界质疑。有网友认为，「AI 完成脑部手术」的说法夸大了 AI 的实际参与程度，因为开颅仍由人类完成，AI 主要负责控制针头移动和注射药物。

图源：社交媒体

也有人指出，利用精密设备进行脑内注射并不是新技术，真正困难的是如何保证操作长期稳定、可靠，而不只是成功完成一次实验。

Exin Therapeutics 创始人则认为，此次实验的创新之处，不在于脑内注射本身，而是 AI 不再单纯执行预设指令，而是参与了从选择治疗方案到操控设备完成实验的整个过程。