9月8日,美國國家廣播公司新聞(NBC News)與英國天空新聞(Sky News)合製的國際時事節目播出一段訪談,主持人恩格爾(Richard Engel)專訪前 Google 執行長施密特(Eric Schmidt)。施密特描述的烏克蘭前線令人不安,士兵只要爬出掩體,大約三分鐘內就會被無人機發現並擊殺。俄軍在「見證者」(Shahed)自殺無人機裝上部分來自中國的微型噴射引擎,他在網路上查到的售價約五千美元,速度已經快過烏克蘭現役的攔截無人機。
隔天他在《華盛頓郵報》投書,強調造得出幾百架的頂尖無人機固然引人注目,能量產數十萬架的堪用無人機才能扭轉戰局,西方應該把烏克蘭國防工業當成自身的延伸,直接投資聯合生產。
他對戰場的觀察值得認真聽,他開出的治理處方卻必須有所保留。理由在於他的位置、他五年來反覆使用的那一套論證,以及他對演算法威懾的一廂情願。
警告者的另一張名片
2025 年 7 月 3 日,施密特以 Swift Beat 執行長身分,在丹麥與烏克蘭國防部簽署長期戰略夥伴備忘錄,烏克蘭總統澤倫斯基在場見證,約定以成本價優先供應攔截與打擊無人機。三週後,《基輔郵報》引述烏克蘭軍方匿名消息,稱 Swift Beat 的三款機型占攔截無人機擊落見證者數量的九成左右。恩格爾在訪談中當面問起這個數字,施密特以不談戰爭細節帶過。
在《華盛頓郵報》那篇投書裡,作者簡介只寫他是 Google 前執行長暨董事長、特別競爭研究計畫(Special Competitive Studies Project, SCSP)主席。內文提到他多次赴烏、協助烏軍開發尖端戰場技術,但對 Swift Beat 這家與烏克蘭國防部簽約的公司,則一字未提。美國無人機產業媒體 DroneXL 總編輯凱斯特洛(Haye Kesteloo)指出,施密特要求西方出錢擴建的那些工廠,他的公司正是其中一家。
一位身兼武器供應商的前科技公司主管,在國際主流媒體上呼籲擴大軍工投資,又在電視上判斷人類控制的界線該畫在哪裡,讀者有權在看得見他位置的前提下閱讀這些判斷。但他顯然跳過了最關鍵的利益揭露。
同一個理由,用了五年
2021 年,施密特主持的美國人工智慧國家安全委員會(National Security Commission on Artificial Intelligence, NSCAI)提交最終報告,明白表示不支持全球禁止 AI 驅動與自主武器系統,理由之一是俄羅斯與中國的承諾很可能流於空話。五年後,在這場訪談裡,他說美國自身的規則已容許在情資可靠、有人類監看的前提下讓武器系統自動攻擊,也就是從「人在迴路中」(human-in-the-loop)退到「人在迴路上」(human-on-the-loop),並自述他當年在五角大廈任職時參與撰寫這條規則。至於俄中兩國,他強烈懷疑它們會遵守同樣的限制。
他的論證結構,五年來沒變:對手不會守規矩,所以我們不能把自己綁太緊。歐洲研究計畫 AutoNorms 當年就反駁過,國際法早已規範許多難以定義、難以查核、也未被普遍視為禁忌的武器,核武與致盲雷射武器都是例子。若以預判最不守法的一方作為行為基準,規範的下限就交由莫斯科與北京決定,民主國家等於主動讓出自己最有道德高度的說服力,也就是自律。
電腦視覺與 AI 之間
訪談中,恩格爾引述《紐約時報》報導,指一架俄軍無人機搭載輝達晶片,末端攻擊由 AI 控制。施密特的回應值得細讀。他說那只是電腦視覺,和手機辨識人臉屬於同一類技術,已經存在約二十年,稱不上 AI,真正的 AI 關乎學習與預測。他也承認,讓武器自動分辨人與動物、坦克與轎車並不困難,未經人類介入就對人使用,違反戰爭法。
就技術分類而言,他說得沒錯。從傳播研究的角度看,定義本身就在分配注意力。自動鎖定一旦被歸類為舊技術,關於 AI 武器的倫理爭議就被推往未來的學習型系統,而此刻就在戰場上殺人的自動鎖定,反倒變成不需特別規範的既有技術的範圍。對地面上被鎖定的人而言,演算法屬於哪一代無關緊要,要緊的是那一刻有沒有有人為這個決定負責。
下一階段的戰爭想像
訪談裡最令我不安的一段,是他對下一階段的想像。人類無法指揮上千架無人機組成的蜂群,電腦可以,雙方會用強化學習(reinforcement learning)發展攻擊戰術,相關演算法都將被嚴密保護。他期待雙方都擁有這種能力之後,因為無法得知對方演算法會如何反應,誰都不敢先動手,形成 AI 版本的相互威懾。但他也特別說明,那只是一個希望。
冷戰核威懾之所以能運作,靠的是對手看得懂的東西。飛彈數量可以用衛星清點,第二擊能力可以評估,熱線與查核機制讓誤會有機會澄清。強化學習訓練出來的蜂群戰術,連設計者都難以完整預測,敵方更無從判讀。兩套互相看不透的系統,比較可能帶來誤判,很難帶來節制。施密特在同一段談話裡也承認,萬一有一方自認握有隱藏優勢,就可能冒險出手,釀成災難。NSCAI 報告同樣警告過,自主武器不受約束的全球使用,會提高非預期衝突升級的風險。把和平寄託在對方的黑箱上,等於把穩定押在運氣上。
在即將到來的11月16日至20日,《特定常規武器公約》(Convention on Certain Conventional Weapons, CCW)第七次檢討會議將在日內瓦召開。9月初最後一輪政府專家小組會議上,巴西代表 47 國發表聯合聲明,認為主席的滾動文本(rolling text)已足以作為談判的正式文書。若談判成功,可能形成一項CCW第六號議定書,用以規範與限制自主武器系統。但公約採共識決,也就是任何一個締約國都能擋下談判授權。
施密特說對了一件事,烏克蘭戰場的技術更新速度遠快過任何條約談判。但正因為如此,規則更該趁現在寫下來,底線是每一次致命決定都要有人負責。