自主武器與人類控制：軍方劃下的界線——以及這條界線正在何處被抹去

一名曾操作以色列「薰衣草」鎖定系統數月的以色列國防軍（IDF）軍官，以一種多數政策文件所迴避的精準度描述了自己的角色：「作為一個人，我毫無價值，除了充當一個批准印章。」 根據尤瓦爾·亞伯拉罕（Yuval Abraham）2024年在《+972雜誌》的報導，薰衣草系統的操作員平均僅花費約20秒審查每一個由人工智慧生成的目標——在這個已彙編出37,000名被標記為潛在哈馬斯成員名單的系統上，他們每天授權數十次空襲。 以色列國防軍並未具體反駁這20秒的數字，也未反駁10%的錯誤率。他們反駁的是這種描述——堅持認為人類審查具有實質意義。

這場爭論正是整個辯論的核心。2026年，聯合國秘書長呼籲在年底前制定一項具有法律約束力的條約，禁止不受人類控制的致命自主武器系統——但三大軍事AI開發商已投票反對制定該條約所需的框架，同時部署的系統卻使條約的核心要求在定義上變得充滿爭議。 殺傷鏈並未排除人類，而是讓人類的決策速度更快。速度是否等同於控制，並非哲學問題，而是人工智慧戰爭整個治理架構所依賴的法律問題，而迄今為止，沒有任何擁有正式管轄權的人士，能提出獲得實戰證據支持的解答。

在自主武器系統中，「有意義的人類控制」究竟是什麼？

「實質人類控制」對自主武器而言意味著什麼？

在自主武器系統中，「實質性人類控制」指的是：人類操作員必須對選定及攻擊特定目標的決策行使實質性判斷——而非僅是形式上的授權——並擁有充足的時間、資訊及情勢理解，以符合國際人道法中關於區分、相稱性及謹慎原則的要求。《特定常規武器公約》政府專家組

根據《ASIL Insights》（2025年1月號）的說法，致命自主武器系統被定義為「能夠在執行這些任務時，無需人類使用者介入，即可識別和／或選定並攻擊目標」的系統——此定義將門檻設在執行階段的介入，而非規劃階段。 對於任何從事軍事系統人工智慧相關工作的政策制定者、採購官員或法律顧問而言，此定義是評估每項「人類控制」主張的基準——而誠實地進行評估，意味著必須考量在20秒的審查週期內，究竟能進行多少實質性的判斷。

當前促使這一定義至關重要的壓力並非假設性的——而是已在加薩、烏克蘭以及美軍全球情報基礎設施中部署的人工智慧目標鎖定系統所呈現的運作現實。 任何依賴軍方自我評估、認為其人工智慧系統能維持實質人類控制的人，實質上就是讓這些軍方來定義他們聲稱要達到的標準。

「薰衣草」與「獵鴿計畫」如何重新定義殺傷鏈

從法律意義上講，以色列的「薰衣草」系統並非致命自主武器。它不會自主開火，每次打擊都必須由人類授權。 但根據尤瓦爾·亞伯拉罕（Yuval Abraham）2024年在《+972雜誌》的報導——該報導內容未遭以色列國防軍實質反駁——「薰衣草」系統的操作員僅花費約20秒審查每項由人工智慧生成的目標建議，且往往無法獲取建議背後的推理依據，每天需處理數十次授權。 根據政治、經濟與社會研究基金會2025年2月發布的報告《致命演算法》，該系統透過手機元數據、網路關聯及位置模式的演算法分析，將多達37,000名個人識別為潛在目標。 美國陸軍戰爭學院助理教授保羅·盧申科於2025年指出，以色列使用

薰衣草表示：「這不僅加速了空襲行動，也導致了大量平民傷亡」——他將此歸因於高速人工智慧輔助鎖定目標所導致的人為判斷能力下降。

美軍的「Maven計畫」展現了相同結構邏輯的另一種應用。 根據《2025年自動化決策研究》中引述的一位Palantir高管聲明，Maven能「以20人執行過去在伊拉克需動用2,000人的目標鎖定任務」——這意味著目標鎖定決策所需的人力縮減了100倍。效率的提升是真實的。 問題在於，這層被壓縮的人力層面實際上在做什麼：是以真正的獨立判斷來審查AI的建議，還是僅作為一種形式上的批准機制，在滿足「人類控制」原則的同時卻未實際行使控制權？無論是美國還是以色列，都未曾公佈證據來釐清這個問題，這正是為何來自「薰衣草」行動操作員的作證，是關於人類角色實際為何的最誠實數據。

那位僅花費20秒授權空襲的人員，並非在控制武器系統。在如此迅疾的決策速度下，系統反而在控制該軍官——這是一種結構性的控制，而非陰謀論式的——因為系統產生的建議速度遠超人類獨立驗證的能力，且數量之龐大，任何個人都無法進行實質性的審查。

為何166票的聯合國表決未能產生具約束力的條約

聯合國大會於2024年12月針對第79/62號決議的表決結果——166票贊成、3票反對、15票棄權——最精確地揭示了人工智慧武器治理領域中，宣稱的價值觀與戰略利益之間的鴻溝。 根據《ASIL Insights》（2025年1月）報導，俄羅斯、白俄羅斯與北韓投下反對票。美國則選擇棄權。據「停止殺人機器人」組織指出，2025年11月的後續決議以156票贊成、5票反對通過，美國與俄羅斯一同對具法律約束力的條款投下反對票

限制。

根據《人類願景》2026年全球和平報告引用的ACLED數據， 2025年，共有469個非國家武裝團體在17個國家的攻擊行動中部署了無人機——相較於2010年僅有10個團體擁有無人機，增幅達47倍，其中僅2025年就有58個團體首次採取此類行動。 這些團體既非聯合國任何決議的締約方，亦不受任何要求人類控制的軍事條令約束，且正從商業及國家供應商處獲取日益強大的自主系統。這項擴散問題不會等待條約簽署才發生。

一名人類若僅花20秒審閱人工智慧的目標建議並予以批准，這並非對機器行使控制。而是機器透過人類來行使控制。投票支持具約束力LAWS限制的歐盟國家深諳此理——這正是他們堅持將「實質性人類控制」作為法律標準的原因。 美國與俄羅斯對此同樣心知肚明，這正是他們堅持透過自行制定的作戰條令來界定「實質性人類控制」的原因。各方對技術現實並無真正的分歧，爭議僅在於誰有權界定該標準——而擁有最先進自主武器系統的國家，最希望這項權力維持在國家層級而非國際層級。

那些投票反對聯合國決議案（該決議案要求對自主武器實施實質性人類控制）的國家，正是那些最希望確保該標準永遠不會具有法律約束力的國家。

美國國防部第3000.09號指令是否如其名稱所示提供保障？

根據《國防部第3000.09號指令》，美國國防部的公開立場是，其人工智慧驅動的武器系統必須維持「對武力使用具備適當程度的人類判斷」——國防部將此要求描述為符合國際人道法及其

制定自己的負責任人工智慧原則。RobotAIGeek 對將此定義套用於已部署系統的做法提出異議，並非因為國防部歪曲了其軍事學說，而是因為所謂「適當程度的人為判斷」，其定義竟出自那支軍隊之手——而該軍隊的作戰效率，恰恰取決於將這種判斷降至最低。

在這場辯論中，國際法學者、紅十字國際委員會以及多數聯合國成員國所持的第一種真正立場是：國際人道法中的區別原則（區分戰鬥人員與平民）、相稱性原則（評估平民傷害與軍事利益的相對關係）、 以及預防原則（採取可行措施以將平民傷害降至最低），皆需進行認知參與，而這絕非20秒的目標審查所能滿足。 謝菲爾德大學人工智慧倫理學教授諾埃爾·夏基（Noel Sharkey）指出，即使是受過訓練的士兵，在壓力下也經常誤認平民——而運用模式識別技術分析手機元數據的人工智慧系統，在處理量不可同日而語地龐大且人為干預更少的情況下，面臨著同樣的風險。

第二種真實立場由美軍、以色列以及少數具備人工智慧能力的國家所持有：他們認為，人工智慧輔助鎖定目標的替代方案並非更謹慎的人為審議——而是分析人員在缺乏演算法輔助的情況下，處理相同資訊所產生的鎖定速度更慢、準確度更低的結果。 「Maven計畫」將人力效率壓縮至100:1，並不意味著人類思考減少了99%。這意味著所需人力減少了99%，而每位分析師可能仍需投入同等甚至更多的個人心力。該理論主張，受過訓練的人類判斷與AI模式識別的結合，所產生的結果比單獨使用任何一方都要好。

嚴酷的結構性真相是：這兩種立場雖皆描述真實現象，但唯有其中一種正透過實際衝突中的作戰數據與平民傷亡統計接受檢驗。國際人道法中關於「區分原則」與

「相稱性」原則原本是為人類自行決策的情境而設計，而非為演算法提出建議、再由人類核准的情境而設。 根據《+972 Magazine》2024年報導中記載的加薩目標鎖定基礎設施，國際人道法並未就「薰衣草」系統識別出的37,000個目標、無人質疑的10%錯誤率，或是那些每項決策僅花費20秒、自稱只是「核准印章」的軍官，追究任何責任。

自主武器的治理並非僅靠條約條文就能解決的問題——因為實力最強的軍隊早已透過實際運作將自己排除在條約適用範圍之外；而行動最迅速的軍隊，目前正透過實際演示而非辯論來定義何謂「人類控制」。

這牽涉到更廣泛的議題：關於人工智慧的決策、問責機制，以及治理框架與作戰現實之間的落差——本網站正透過部署、數據，以及大規模實體人工智慧的結構性後果，持續追蹤這些議題。

這項發展進一步印證：

• 中國的AI與機器人技術：北京如何將自動化轉化為國家實力：中國對無人武裝系統（LAWS）的立場——即在「條件成熟時」支持談判，同時發展自主目標鎖定能力——與本文所指出的美國雙重姿態如出一轍：表面聲稱支持人類控制，實則積極投資於壓縮人類控制權的系統。
• 烏克蘭戰爭中的機器人效能：烏克蘭累積數百萬小時的無人機影像以訓練AI戰場決策模型，是當前最活躍的非國家行為體

作為自動武器辯論的試驗場，本文將深入探討——而烏克蘭所產生的數據，無論聯合國決議有何要求，都將用於訓練下一代人工智慧瞄準系統。

人工智慧具有自我意識嗎？現行系統的真實樣貌，以及我們距離「天網」還有多遠： 關於自主武器的辯論，正受到本文在「自我意識人工智慧」討論中指出的相同混淆所扭曲——虛構的風險（機器自主決定殺人）獲得的治理關注，竟比真實的風險（人類將瞄準判斷權委託給機器，同時保留對扳機的正式控制權）還要多。

那位自稱「除了作為批准印章外，作為人類毫無價值」的以色列國防軍軍官，並非在描述未來情境。他描述的是2024年的工作實況：面對一個已識別出37,000個目標的系統，每日需處理數十項授權，每項僅需20秒。 那枚印章是真實的。那項批准是形式上的。真正缺失的，是國際人道法所要求的判斷力——那種區分、那種相稱性、那種謹慎，這些都無法比人類實際思考的速度更快地行使。 根據RobotAIGeek的觀點，關於「有意義的人類控制」的爭論，不會透過目前在日內瓦進行的條約程序得到解決，因為主導該程序的軍方早已在實務層面給出了答案：對他們而言，「控制」意味著「授權」，而非「判斷」——而這兩者並非同一回事。

1. 何謂致命性自主武器系統？致命性自主武器系統（LAWS）是由武器與技術元件整合而成的系統，能夠在無需人類介入的情況下，識別和／或選定並攻擊目標。

根據《ASIL Insights》（2025年1月）引述的《特定常規武器公約》政府專家小組滾動文本，在執行這些任務時需有人類使用者參與。 像以色列的「薰衣草」系統這類系統處於法律灰色地帶——它們雖要求人類授權每次打擊，但會以算法生成目標建議，其速度之快使得實質性的人工審查難以實現。 聯合國大會於2024年12月以166票贊成通過第79/62號決議，要求制定具約束力的國際規則。

2. 對於自主武器而言，「實質性人類控制」意味著什麼？ 在自主武器中，「實質性人類控制」要求人類操作員針對選定及攻擊特定目標的決策，行使實質性判斷——即應用國際人道法（IHL）中的區別、相稱性及預防原則——並擁有充足的時間與資訊，得以獨立於人工智慧系統的建議之外進行決策。 根據尤瓦爾·亞伯拉罕（Yuval Abraham）2024年在《+972雜誌》的報導，以色列國防軍（IDF）的「薰衣草」（Lavender）系統操作員審查每個由人工智慧生成的目標約需20秒——法律學者認為，這樣的審查時間無法滿足國際人道法的要求。 《特定常規武器公約》（CCW）政府專家組自2014年起持續研擬相關定義，但迄今尚未制定出具法律約束力的標準。

3. 以色列的「薰衣草」系統是否屬於自主武器？根據現行國際定義，以色列的「薰衣草」系統不被歸類為自主武器，因為該系統要求人類必須授權每次打擊 ——但根據《+972 Magazine》2024年的報導（以色列國防軍未對此提出實質異議），操作員在審查該系統識別出的多達37,000個潛在目標時，每個目標僅花費約20秒進行審查。 政治、經濟與社會研究基金會2025年2月的報告《致命演算法》指出，「薰衣草」系統能在20秒內批准目標，且往往未經實質的人工審查。法律

學者們認為，這實際上形成了一種自主鎖定目標的功能等效機制，而正式的分類體系並未涵蓋此點。

4. 為何聯合國尚未通過一項關於自主武器的具約束力條約？聯合國大會於2024年12月以166票贊成、3票反對 （俄羅斯、白俄羅斯、北韓），要求進行進一步協商——但根據「停止殺人機器人」組織（2025年11月）的資料，美國在2025年11月那項呼籲制定具法律約束力限制措施的後續決議案中投下反對票。 反對立場最具影響力的三個國家——美國、俄羅斯和中國——正是擁有最先進自主武器能力，且在維護國家權力以制定自身人類控制標準方面具有最強戰略利益的國家。雖然《特定常規武器公約》（CCW）政府專家小組（GGE）已有一份滾動文本，但需達成共識才能具有約束力，而軍事強國之間並未形成共識。

5. 自主武器技術在國家軍隊以外的擴散速度有多快？根據《人類願景》2026年《全球和平報告》引用的ACLED數據，2010年僅有10個非國家武裝團體擁有無人機武器； 到了2025年，已有469個武裝團體在17個國家的攻擊行動中部署無人機——15年間增長了47倍，僅2025年就有58個團體首次部署無人機武器。 這種擴散意味著，關於自主武器的辯論已不再主要圍繞主要軍事強國展開——非國家行為體獲取自主能力的速度，遠超任何條約進程所能追蹤，且其採購價格與供應鏈均處於國際法無法約束的範疇。

6. 自主武器與半自主武器有何區別？自主武器在執行階段無需任何人類干預即可選定並攻擊目標——目前尚無任何主要軍事力量正式宣稱部署此類武器用於進攻性致命行動

運作。半自主武器在開火前需經人類授權，但會利用人工智慧系統來識別並推薦目標，以色列的「薰衣草」（Lavender）與美國軍方的「梅文計畫」（Project Maven）即屬此類。 根據 RobotAIGeek 的分析，在實際應用中，這兩類武器的區別正因「決策速度」而逐漸模糊——人類審查時間被壓縮至某種程度，導致授權與判斷在功能上被分離，前者仍由人類掌控，後者則實質上交由系統執行。