自主武器与人类控制：军队划定的界限——以及这一界限正在何处被抹去

一名曾操作以色列“薰衣草”目标锁定系统数月的以色列国防军军官，以一种大多数政策文件都避而不谈的精准措辞描述了自己的角色：“作为一个人，我毫无价值，除了充当一个批准印章。” 据尤瓦尔·亚伯拉罕2024年在《+972杂志》上的报道，薰衣草系统的操作员平均每审查一个AI生成的目标仅需20秒——在该系统已编制出一份包含37,000名被标记为潜在哈马斯成员的名单的情况下，他们每天要批准数十次打击行动。 以色列国防军并未具体否认20秒这一数据，也未否认10%的误差率。他们质疑的是这种定性——坚称人工审查具有实质意义。

这场争论正是整个辩论的核心。2026年，联合国秘书长呼吁在年底前制定一项具有法律约束力的条约，禁止未经人类控制的致命自主武器系统——但三大军事AI开发商已投票反对制定该条约所需的框架，同时部署的系统却使条约的核心要求在定义上变得充满争议。 “杀伤链”并未将人类排除在外，而是使其决策速度更快。速度是否等同于控制，这并非哲学问题，而是关乎人工智能战争治理架构根基的法律问题，而迄今为止，没有任何拥有正式管辖权的人对此给出过经实战证据支持的答案。

在自主武器系统中，“有意义的人类控制”指什么？

“实质性人类控制”对自主武器意味着什么？

在自主武器系统中，“有效的人类控制”是指人类操作员必须对选择和攻击特定目标的决策行使实质性判断——而非仅限于形式上的授权——并拥有充足的时间、信息及对局势的理解，以满足国际人道法中关于区分、相称性和预防原则的要求。《特定常规武器公约》政府专家组

根据《ASIL Insights》（2025年1月刊）的定义，致命自主武器系统是指“能够在执行这些任务时无需人类用户干预，即可识别和/或选择并攻击目标”的系统——该定义将门槛设定在执行阶段的干预，而非规划阶段。 对于任何从事军事系统人工智能工作的政策制定者、采购官员或法律顾问而言，该定义是评估所有“人类控制”主张的基准——而诚实的评估意味着必须考量在20秒的审查周期内，究竟能做出多少实质性的判断。

当下促使这一定义变得至关重要的压力并非虚构——而是人工智能目标锁定系统已在加沙、乌克兰以及美军全球情报基础设施中部署的作战现实。 任何依赖军队自我评估——即其AI系统保留了实质性人类控制——的人，实际上是在依赖这些军队自身来定义他们声称要达成的标准。

“薰衣草”与“神鹰计划”如何重塑了杀伤链

从法律意义上讲，以色列的“薰衣草”系统并非致命自主武器。它不会自主开火，每次打击都必须由人类授权。 但根据尤瓦尔·亚伯拉罕2024年在《+972杂志》上的报道——以色列国防军对此并未提出实质性异议——"薰衣草"操作员仅花费约20秒审查每条AI生成的目标建议，且往往无法获知建议背后的推理依据，每天需处理数十次授权。 据政治、经济与社会研究基金会2025年2月发布的《致命算法》报告显示，该系统通过手机元数据、网络关联及位置模式的算法分析，将多达37,000人识别为潜在目标。 美国陆军战争学院助理教授保罗·卢申科于2025年指出，以色列使用

拉文德表示，“这不仅加速了空袭，同时也导致了大量平民伤亡”——他将这一后果直接归因于高速人工智能辅助目标锁定所导致的人为判断能力下降。

美军的“Maven计划”体现了同一结构逻辑的另一种应用。 据2025年《自动化决策研究》中援引的一位Palantir高管声明，Maven能够“仅用20人完成在伊拉克曾需2000人才能完成的打击任务”——这意味着打击决策所需人力缩减了100倍。效率提升是切实存在的。 问题在于，这一精简后的人力层级究竟在做什么：是用真正的独立判断来审查AI的建议，还是仅仅作为一种形式上的审批机制，在满足“人类控制”原则的同时却并未真正行使控制权。无论是美国还是以色列，都没有公布证据来解答这一问题，因此“薰衣草”行动操作员的实战证词，才是关于人类实际角色最真实的数据来源。

那位仅用20秒就批准空袭的人类军官，并非在控制武器系统。在如此快的决策速度下，是系统在控制军官——这是一种结构性的控制，而非阴谋论意义上的——因为系统生成的建议速度远超人类独立核查的能力，且数量之大，任何个人都无法进行实质性审查。

为何166票的联合国表决未能产生具有约束力的条约

联合国大会2024年12月对第79/62号决议的表决结果——166票赞成、3票反对、15票弃权——最精准地揭示了人工智能武器治理领域中，宣称的价值观与战略利益之间的鸿沟。 据《ASIL洞见》（2025年1月）报道，俄罗斯、白俄罗斯和朝鲜投了反对票。美国投了弃权票。据“停止杀人机器人”组织称，2025年11月的后续决议以156票赞成、5票反对通过，美国与俄罗斯一道对具有法律约束力的条款投了反对票

限制。

根据“人类愿景”组织2026年《全球和平报告》引用的ACLED数据， 2025年，共有469个非国家武装组织在17个国家的袭击行动中部署了无人机——这一数字较2010年拥有无人机能力的10个组织增长了47倍，仅2025年就有58个组织首次使用无人机。 这些组织既非联合国决议的缔约方，也不受任何要求人类控制的军事理论约束，且正从商业及国家供应商处获取性能日益强大的自主系统。扩散问题不会等到条约签署后才出现。

一个仅花20秒审阅并批准AI目标建议的人类，并非在对机器行使控制。而是机器通过人类在行使控制。投票支持具有约束力的LAWS限制的欧盟国家深谙此理——这正是它们坚持将“实质性人类控制”作为法律标准的原因。 美国和俄罗斯对此同样心知肚明，因此他们坚持通过自己制定的作战理论来界定“有效的人类控制”。各方对技术现实并无实质分歧，分歧仅在于谁拥有定义该标准的权威——而拥有最先进自主武器系统的国家，最希望这种权威保持在国家层面而非国际层面。

那些投票反对联合国关于对自主武器实施“有效人类控制”决议的国家，正是那些最希望确保该标准永远不会具有法律约束力的国家。

美国国防部第3000.09号指令是否如其名称所示提供保障？

美国国防部在第3000.09号指令中明确表示，其人工智能武器系统必须保持“对武力使用进行适当程度的人类判断”——国防部称这一要求符合国际人道法及其

制定自己的负责任人工智能原则。RobotAIGeek 质疑将这一表述套用于已部署系统，并非因为美国国防部歪曲了其军事理论，而是因为“适当程度的人为判断”是由军方自身定义的，而军方的作战效率恰恰取决于这种判断被降至最低。

在这场辩论中，国际法学者、红十字国际委员会以及大多数联合国成员国持有的首个真正立场是：国际人道法中的区分原则（将战斗人员与平民区分开来）、相称性原则（评估平民伤害与军事利益的相对关系）、 以及预防原则（采取可行措施以最大限度减少平民伤害），这些原则都需要认知参与，而20秒的目标审查无法满足这一要求。 谢菲尔德大学人工智能伦理学教授诺埃尔·沙基指出，即使是受过训练的士兵在压力下也经常误认平民——而将模式识别应用于手机元数据的人工智能系统，在数据量不可同日而语地庞大且人为干预更少的情况下，面临着同样的风险。

第二种真实立场由美军、以色列以及少数几个拥有强大AI能力的大国所持有：他们认为，AI辅助目标锁定的替代方案并非更谨慎的人工审议——而是分析人员在没有算法辅助的情况下处理相同信息时，所产生的更慢、更不准确的目标锁定。 “Maven计划”实现的100:1人力效率压缩，并不意味着人类思考减少了99%。这意味着所需人力减少了99%，而每位分析员可能需要付出同等甚至更大的个人努力。该理论认为，训练有素的人类判断与AI模式识别相结合，所产生的结果优于二者单独使用。

一个不容回避的结构性事实是：这两种立场都描述了真实的现象，但只有其中一种正在通过实战数据和实际冲突中的平民伤亡统计接受检验。国际人道法中的区分原则和

“相称性”原则的设计初衷是针对由人类作出决策的情境，而非针对算法提出建议、人类予以批准的情境。 就《+972杂志》2024年报道中记录的加沙目标定位基础设施而言，国际人道法并未对“薰衣草”系统识别出的3.7万个目标、无人质疑的10%误差率，以及那些每项决策仅耗时20秒、自诩为“审批印章”的军官追究责任。

自主武器治理并非仅靠条约条款就能解决的问题——最强大的军队早已通过实战操作将自身排除在这些条款之外；而行动最迅速的军队，目前正通过实际演示而非理论辩论来定义“人类控制”的含义。

这关联到更广泛的问题：关于人工智能决策、问责机制，以及治理框架与作战现实之间的鸿沟——本网站正通过部署、数据以及大规模物理人工智能的结构性后果，持续追踪这些议题。

这一发展进一步印证了：

• 中国的人工智能与机器人技术：北京如何将自动化转化为国家力量：中国在致命自主武器系统（LAWS）问题上的立场——即在“条件成熟时”支持谈判，同时发展自主目标锁定能力——与本文所指出的美国双重姿态如出一辙：表面支持人类控制，实则积极投资于压缩这种控制的系统。
• 乌克兰战争中机器人的作战效能：乌克兰积累了数百万小时的无人机影像用于训练AI战场决策模型，这是目前最活跃的非国家行为体

作为本文探讨的自主武器辩论的试验场——无论联合国决议有何要求，乌克兰所产生的数据都将用于训练下一代人工智能瞄准系统。

人工智能具有自我意识吗？当前系统究竟是什么样，我们距离“天网”还有多远： 关于自主武器的争论正受到与本文在“具有自我意识的人工智能”讨论中指出的那种混淆的扭曲——虚构的风险（机器自主决定杀戮）正比真实的风险（人类将瞄准判断权委托给机器，同时保留对扳机控制的正式权威）获得更多的治理关注。

那位自称“除了作为批准印章外，作为人类毫无价值”的以色列国防军军官，并非在描述未来场景。他描述的是2024年的工作实况：面对已识别出37,000个目标的系统，他每天需处理数十项授权，每项仅需20秒。 那个“盖章”是真实的，那份“批准”也是名义上的。缺失的，是国际人道法所要求的判断力——即区分敌我、遵循相称原则、采取预防措施，而这些判断速度绝不可能快于人类实际思考的速度。 据RobotAIGeek分析，关于“有效人类控制”的实质性争论不会因日内瓦当前正在进行的条约谈判而解决，因为主导该进程的军方早已在实战中给出了答案：对他们而言，“控制”意味着“授权”，而非“判断”——二者绝非同一回事。

1. 何为致命自主武器系统？致命自主武器系统（LAWS）是由武器与技术组件集成而成的系统，能够在无需人类干预的情况下识别和/或选择目标，并对其实施打击。

根据《国际法学会洞见》（2025年1月）援引的《特定常规武器公约》政府专家组滚动文本，在执行这些任务时需要人工干预。 像以色列“薰衣草”系统这样的系统处于法律灰色地带——它们要求人类授权每次打击，但通过算法生成目标建议的速度之快，使得实质性的人工审查难以实现。 2024年12月，联合国大会以166票赞成通过了第79/62号决议，要求制定具有约束力的国际规则。

2. “有意义的人类控制”对自主武器意味着什么？ 在自主武器中，“实质性人类控制”要求人类操作员对选择和攻击特定目标的决策行使实质性判断——即应用国际人道法中的区分、相称和预防原则——并拥有足够的时间和信息，使其能够独立于AI系统的建议进行决策。 据尤瓦尔·亚伯拉罕（Yuval Abraham）2024年在《+972杂志》上的报道，以色列国防军“薰衣草”系统的操作员审查每个由人工智能生成的目标大约需要20秒——法学学者认为，这一审查时间无法满足国际人道法的要求。 《特定常规武器公约》（CCW）政府专家组自2014年以来一直在制定相关定义，但尚未形成具有法律约束力的标准。

3. 以色列的“薰衣草”系统是否属于自主武器？根据现行国际定义，以色列的“薰衣草”系统不被归类为自主武器，因为它要求人类对每次打击进行授权 ——但据《+972杂志》2024年的报道（该报道未被以色列国防军实质性反驳），操作员在审查该系统识别出的多达37,000个潜在目标时，平均每个目标仅花费约20秒。 政治、经济与社会研究基金会2025年2月的报告《致命算法》指出，“薰衣草”系统可在20秒内批准目标，且通常无需实质性的人工审查。法律

学者们认为，这实际上形成了与自主目标锁定功能等同的情况，而正式的分类体系并未涵盖这一点。

4. 为何联合国尚未通过关于自主武器的具有法律约束力的条约？2024年12月，联合国大会以166票赞成、3票反对 （俄罗斯、白俄罗斯、朝鲜），要求就此展开进一步谈判——但据“停止杀人机器人”组织（2025年11月）称，美国在2025年11月呼吁制定具有法律约束力限制措施的后续决议中投了反对票。 反对意见最具分量的三个国家——美国、俄罗斯和中国——恰恰是自主武器能力最先进、且在维护国家自主制定人类控制标准方面具有最强战略利益的国家。虽然《特定常规武器公约》政府专家小组（GGE）已制定了滚动文本，但需达成共识才能具有约束力，而军事大国之间尚未形成共识。

5. 自主武器技术在国家军队之外的扩散速度有多快？根据“人类愿景”组织2026年《全球和平报告》引用的ACLED数据，2010年仅有10个非国家武装团体拥有无人机武器； 到2025年，已有469个武装团体在17个国家部署无人机发动袭击——15年间增长了47倍，仅2025年就有58个团体首次部署无人机武器。 这种扩散意味着，关于自主武器的争论已不再主要围绕主要军事大国展开——非国家行为体的自主能力获取速度已远超任何条约进程的追踪能力，且其采购价格和供应链均不受国际法约束。

6. 自主武器与半自主武器有何区别？自主武器在执行阶段无需任何人为干预即可选择并攻击目标——目前尚无任何主要军事力量正式宣称部署此类武器用于进攻性杀伤

作战行动。半自主武器在开火前需要人类授权，但会利用人工智能系统来识别和推荐目标，以色列的“薰衣草”系统和美军的“Maven计划”就属于这一类别。 据RobotAIGeek的分析，在实际应用中，决策速度正在逐渐模糊这两类武器的界限——人类审查时间被压缩到授权与判断功能上分离的程度，前者得以保留，而后者则实质上被委托给系统。