当AI学会"心软"：一位英国情报首脑的伦理转弯，和他没说的那些话

---

凌晨三点，在某个远离战场的控制室里，一个年轻士兵正盯着屏幕。他的手指悬在键盘上方，面前是两架正在接近居民区的无人机。屏幕上跳动着算法生成的风险评估：平民伤亡概率12.7%，军事价值评估"中等"。他的手在发抖——不是因为恐惧，而是因为疲惫。

这一刻，一位前英国情报高官说，也许我们该把决定权交给机器。

这不是天方夜谭。上周，前GCHQ（英国政府通讯总部）主管大卫·奥曼德（David Omand）在《卫报》发表了他职业生涯中最具争议的论断：AI驱动的软件，在高压战场环境下做伦理决策时，可能比人类表现更好。

十年前，他可不是这么说的。

一位情报老兵的"认知地震"

要理解奥曼德这番话的分量，得先知道他是谁。

大卫·奥曼德在2002年至2005年间执掌GCHQ，这是英国最具权势的情报机构之一，负责电子监听和网络安全。离任后，他曾担任布莱尔政府的国家安全顾问，随后转入学术界，现在是伦敦国王大学的客座教授。这样一位在英国情报系统摸爬滚打数十年的人，说出"我错了"三个字，本身就值得细品。

有意思的是，早在2011年前后，奥曼德就曾公开表态：他认为自主无人机无法符合国际人道法的要求。那时的核心逻辑是，国际人道法里那些"比例原则"——军事必要性与平民伤害之间的权衡——太过复杂，机器根本无法处理。

但现在，他的立场发生了根本性转变。在今年6月的这次采访中，他明确表示自己"改变了想法"（changed his mind），认为在某些特定场景下，AI实际上可能做出"道德上更优的决策"。

我注意到他在措辞上非常谨慎。他说的是"某些场景"（certain scenarios），而不是全面替代。这里面的门道很深。

战场上的"算法疲劳"：人类决策的真实困境

奥曼德立场的转变，折射出一个被外界忽视的现实：现代战场上，人类决策者正在承受前所未有的认知压力。

根据兰德公司（RAND Corporation）2024年发布的一份报告，在伊拉克和阿富汗战争期间，美军无人机操作员报告的PTSD（创伤后应激障碍）发病率，与前线作战士兵基本持平，甚至在某些群体中更高。这些操作员每天对着屏幕8到12小时，在击杀目标的快感与任务后的道德愧疚之间反复横跳。

更关键的是人类的"决策疲劳"问题。当一个士兵连续作战18个小时，他的大脑前额叶皮质——负责理性判断的核心区域——功能会显著下降。心理学研究表明，连续决策超过4小时后，人类做出复杂道德判断的准确率会下降40%到60%。

相比之下，AI系统不存在疲劳、恐惧或情绪波动。奥曼德提到的那个核心论点正在于此：在那些"高风险、高速度、低信息量"的决策节点上，算法可能比一个精疲力竭的人类更可靠。

这让我想起2020年纳卡冲突中阿塞拜疆使用土耳其Bayraktar无人机的战例。尽管这些无人机仍由人类操作员控制，但AI辅助瞄准系统已经可以在毫秒级时间内识别和锁定目标。人类角色逐渐从"决策者"变成"审批者"。这个趋势，只会加速。

道德可以被编程吗？

但这里才是真正的雷区。

奥曼德的逻辑链条听起来无懈可击：人类会犯错，会疲劳，会有偏见，所以让更"冷静"的AI来做决策。但这个逻辑忽略了一个根本性问题——道德判断的本质是什么。

国际人道法中的"比例原则"要求：攻击造成的平民伤害不得与预期的军事利益明显不成比例。这听起来像是个数学问题，但实际操作中，每一起案例都涉及对"平民"、"军事目标"、"不成比例"等概念的复杂解读。

2009年，美国军方曾评估过DARPA（美国国防高级研究计划局）的一个项目，该项目试图将比例原则编码为可计算的规则。结果呢？研究人员发现，单是"可避免的平民伤害"与"不可避免的附带损伤"之间的界定，就需要对具体文化、法律传统、行为动机进行深度理解——这些恰恰是当前AI最难突破的领域。

更棘手的是"责任归属"问题。如果一个AI系统做出了错误的攻击决策，导致平民伤亡，谁来负责？研发者？军方指挥官？还是那个签署部署命令的政客？国际人道法框架是围绕"人"构建的，目前没有答案。

说实话，当我读到奥曼德的采访原文时，我注意到他刻意回避了这个核心问题。他说AI"可能"做出更好决策，但他没有说由谁来承担后果。这不是他的疏忽，我认为他是在用一种外交式的模糊来绕开最敏感的部分。

正在改写的战争规则

奥曼德的言论之所以引发关注，还因为它与一个正在联合国日内瓦谈判桌上激烈交锋的话题高度重合：致命性自主武器系统（LAWS，Lethal Autonomous Weapons Systems）。

从2014年开始，《特定常规武器公约》（CCW）缔约国就在讨论是否需要对LAWS进行国际管制。2023年11月，联合国秘书长古特雷斯再次呼吁各主要军事大国"在2026年前达成具有法律约束力的协议"。但截至2026年，这个协议仍然悬而未决。美国、俄罗斯、以色列等国对"全面禁止"持保留态度，而NGO组织"阻止杀人机器人运动"（Campaign to Stop Killer Robots）则在持续施压。

在这场博弈中，中国的态度值得关注。2023年，中国代表团在日内瓦曾提交一份立场文件，提出对LAWS进行"分级管控"，而非一刀切禁止。这个模糊策略实际上给国内相关研发留出了空间。

有意思的是，全球军用AI市场正在爆发式增长。根据SIPRI（斯德哥尔摩国际和平研究所）2025年年度报告，全球军用AI市场估值已超过220亿美元，预计到2030年将突破800亿。在这个背景下，任何关于"AI道德决策"的讨论，都很难脱离商业利益单独存在。

我们需要的不是机器的善心

写到最后，我想回到奥曼德那句话的深层含义。

他说的"AI可以做出道德上更优的决策"，隐含着一个危险的假设：道德是可以被量化的，是可以嵌入代码的。这让我想起哲学系的老问题：电车难题的答案，究竟是数学函数还是价值判断？

真正的困境不在于AI能否做出"更好"的决策，而在于谁来定义什么是"好"。不同的文化、法律体系、意识形态，对战争伦理有着截然不同的理解。让一个基于西方自由主义法学传统训练的AI系统，去判断中东战场上的攻击行为是否"合规"，这件事本身就充满了权力不对等的味道。

奥曼德的前同事、GCHQ另一位前主管罗伯特·汉尼根（Robert Hannigan）去年在《金融时报》的一次圆桌讨论中说了一句耐人寻味的话："我们担心AI杀人太容易，但我们更应该担心的是——让AI决定谁值得活。"

这句话戳中了要害。

我不反对在特定场景下用AI辅助决策——事实上，在反导系统、电子干扰等纯技术领域，自动化的必要性是真实的。但如果有人告诉我，AI很快就能替我们做"道德判断"，我仍然持保留态度。

人类还没想清楚战争的伦理底线在哪里，就急着把这个权力交给算法——这不叫进步，叫偷懒。

---

本文核心信息来源：The Guardian（2026年6月3日）、SIPRI 2025年度报告、RAND Corporation研究报告、联合国日内瓦裁军谈判会议官方记录。