人工智能技術(shù)的軍事應(yīng)用風(fēng)險思考

人工智能正在國家安全領(lǐng)域占據(jù)一席之地。雖然公眾可能仍將軍事領(lǐng)域中的人工

智能與《終結(jié)者》中的人形機器人等同起來，但有關(guān)人工智能對國家安全的影響

的討論有了顯著增長。這些討論涵蓋了學(xué)術(shù)界、商界和政府，從牛津大學(xué)哲學(xué)家

尼克·博斯特倫有關(guān)人工智能對人類生存風(fēng)險的擔(dān)憂，到特斯拉創(chuàng)始人埃隆·馬

斯克擔(dān)心人工智能可能引發(fā)第三次世界大戰(zhàn)，再到弗拉基米爾·普京聲明：在 21

世界，誰能領(lǐng)導(dǎo)人工智能技術(shù)，誰就能主宰世界。

在人們擯棄“革命性變革”的這種空話，去思考人工智能應(yīng)用于軍事領(lǐng)域?qū)⒔o世

界帶來的切實影響，這究竟意味著什么？人工智能不是武器。相反，從軍事層面

來看，人工智能和電力、內(nèi)燃機一樣，都是一種助力。因此，人工智能對軍事力

量和國際沖突的影響，取決于軍隊和決策者對人工智能的具體應(yīng)用。那么，關(guān)于

人工智能應(yīng)用于軍事領(lǐng)域的影響，其核心問題包括：評估什么是“人工智能”的

原則；人工智能與以往技術(shù)革新的不同；軍事領(lǐng)域應(yīng)用人工智能的目的；人工智

能應(yīng)用的潛在限制以及軍事領(lǐng)域人工智能應(yīng)用對國際政治的影響。

人工智能的前景——包括提高從后勤服務(wù)到戰(zhàn)場規(guī)劃等事務(wù)的速度與精準(zhǔn)度以

及提高人類決策能力——正在驅(qū)使世界各國軍隊加速對人工智能應(yīng)用的研究與

開發(fā)。對美國軍方而言，人工智能提供了一種新路徑來保持其軍事優(yōu)勢，同時無

形中削減開支、降低士兵面臨的風(fēng)險。對其他國家，尤其是俄羅斯和中國來說，

人工智能提供了更有價值的東西——即破壞美國軍事優(yōu)勢的能力。國家之間對于

人工智能主導(dǎo)權(quán)的競爭，與經(jīng)濟或其他領(lǐng)域的競爭并無二致，但其潛在的軍事也

是顯而易見的。人工智能研究的速度和軌跡的不確定性，意味著人工智能的前景

極不明朗。此外，安全和可靠性方面的考量可能會限制軍方選擇使用人工智能的

方式。

什么是人工智能？人工智能是指，賦予機器或電腦模擬人類智能行為的能力。研

究者、公司和政府應(yīng)用了多種人工智能方法，包括機器學(xué)習(xí)和神經(jīng)網(wǎng)絡(luò)等。當(dāng)前

有關(guān)人工智能技術(shù)發(fā)展軌跡的研究表明，即便是在人工智能研究者之中，也有很

多人認為人工智能未來發(fā)展速度有很大的不確定性。有部分研究者認為通用人工

智能（AGI）能在數(shù)年內(nèi)實現(xiàn)突破，但也有人認為，突破的實現(xiàn)可能需要幾十年

甚至更久。因此，本文著重探討“狹義”人工智能，或人工智能應(yīng)用于具體問題

的解決，例如 AlphaGo Zero——一個被設(shè)計用以贏得圍棋比賽的人工智能系統(tǒng)。

從歷史的角度看，如果對科技發(fā)展持樂觀態(tài)度的人是正確的，那么依據(jù)創(chuàng)新的速

度，人工智能將擁有對經(jīng)濟和社會產(chǎn)生廣泛影響的潛力。與火箭或飛機等離散設(shè)

備有所不同人工智能可以融入各種事物。因此，就軍事目的來說，人工智能是很

好的助推器。

對于軍事領(lǐng)域來說人工智能的意義是什么？軍事領(lǐng)域如何應(yīng)用人工智能，而且為

什么這對于國際政治來說十分重要？從另一個角度看，軍方相信人工智能可以幫

助解決哪些現(xiàn)代戰(zhàn)爭面臨的挑戰(zhàn)？以下三個人工智能潛在應(yīng)用領(lǐng)域詮釋了為何

軍方會對此感興趣。

首先，現(xiàn)代軍隊在數(shù)據(jù)方面面臨的挑戰(zhàn)與公司或政府類似——數(shù)據(jù)量大、難以快

速處理。狹義的信息處理人工智能應(yīng)用程序能加速數(shù)據(jù)解析，方便于向更高層次

任務(wù)投放人力。例如，美軍的 Maven 項目力求使用運算法則更快速地解析無人機

監(jiān)控反饋的圖像。這類軍用狹義人工智能應(yīng)用在商業(yè)領(lǐng)域也有明確的應(yīng)用，并且

不單只有圖像識別功能。從圖像識別到公開或機密的信息數(shù)據(jù)庫處理，人工智能

處理應(yīng)用能幫助軍方更準(zhǔn)確快速地解析信息，從而更好地做出決策。

其次，從高超音速到網(wǎng)絡(luò)攻擊，高級軍方和領(lǐng)導(dǎo)人都認為戰(zhàn)爭的速度正在加快。

無論你采取的是 OODA(觀察、適應(yīng)、決定、行動)循環(huán)方式，還是簡單地準(zhǔn)備在敵

方未發(fā)現(xiàn)自己已經(jīng)到達的情況下進行打擊，速度在現(xiàn)代戰(zhàn)爭中都是優(yōu)勢。速度不

僅僅是指戰(zhàn)機或軍需品迅速到位，它還關(guān)乎決策。就像遙控系統(tǒng)一樣，飛機由人

工智能控制，擺脫了要保護人類飛行員的限制，雖然抵消了駕駛艙中人類飛行員

的諸多優(yōu)點，但提高了駕駛性能和可操控性。比如在防空領(lǐng)域，與人類的操作相

比，以機器速度運行能夠讓系統(tǒng)在面對導(dǎo)彈飽和攻擊時，更高效地保護軍事基地

或城市。人類的反應(yīng)速度此時可能不堪一擊，無論他/她多能干。這已經(jīng)是以色

列 Iron Dome（鐵穹）系統(tǒng)所遵守的一個原則。

第三點，人工智能可以在戰(zhàn)場上實施各種新的軍事行動理念，比如常說的“忠誠

僚機”概念，人類飛機或坦克駕駛員也能夠因此具備協(xié)調(diào)無人機的能力。戰(zhàn)爭空

間越復(fù)雜，“僚機”的運算法則越有用，這種算法能夠幫助它們在人類協(xié)調(diào)控制

員無法直接引導(dǎo)飛機的情況下做出反應(yīng)。同樣的道理，機群也需要人工智能來協(xié)

作。

顯然，軍方有動機去研究可以提升軍隊效率的潛在人工智能應(yīng)用。這些動機不僅

僅來自于別國軍隊的競爭壓力，還有國內(nèi)政治和官方的原因，推動著國家朝著擁

有自主武器系統(tǒng)的方向邁進。對于美國這樣的民主政體來說，自主武器系統(tǒng)在理

論上為人類能夠低成本、低風(fēng)險地完成任務(wù)提供了潛在可能性。比如，美陸軍

2017 年發(fā)布的“機器人與自主系統(tǒng)戰(zhàn)略”，特別提到了自主系統(tǒng)可以在低成本、

低風(fēng)險的情況下提升效率。

對于俄羅斯和中國這些國家來說，人工智能意味著控制。人工智能系統(tǒng)可以讓國

家減少對民眾的依賴，他們可以依靠更少、更忠誠的人來管理軍隊。

與聯(lián)合國《特定常規(guī)武器公約》多年來討論的“致命自主武器系統(tǒng)”相比，關(guān)于

人工智能在軍事領(lǐng)域應(yīng)用的探討更為廣泛。創(chuàng)造可使用致命武器的自主系統(tǒng)可能

就是人工智能在軍事領(lǐng)域的應(yīng)用之一，當(dāng)然還有許多其他應(yīng)用。

有效使用人工智能面臨的障礙。軍用人工智能面臨著技術(shù)和組織的雙重挑戰(zhàn)，有

些主要是關(guān)于安全性和可靠性的擔(dān)憂，因為這可能會對企業(yè)造成傷害，所以自詡

為以人工智能為基礎(chǔ)的現(xiàn)代軍隊轉(zhuǎn)型從未真正實現(xiàn)。這些技術(shù)挑戰(zhàn)分為兩大類：

內(nèi)在可靠性和外部開發(fā)。

狹義人工智能系統(tǒng)的特點意味著它們經(jīng)過訓(xùn)練用以執(zhí)行特殊任務(wù)，不論是下國際

象棋還是解析圖片。在戰(zhàn)爭中，根據(jù) Clausewitz（克勞塞維茨）著名的論斷，由

于迷霧和摩擦，環(huán)境會迅速地轉(zhuǎn)換。如果既定人工智能系統(tǒng)應(yīng)用環(huán)境發(fā)生改變，

系統(tǒng)可能會不適應(yīng)。這種脆弱性因此成為了系統(tǒng)可靠性的威脅。在戰(zhàn)場上對抗雙

方部署的人工智能系統(tǒng)會使環(huán)境復(fù)雜化，超出一個或多個系統(tǒng)的解析力，進一步

加劇了系統(tǒng)的脆弱性，并增加了事故和失誤的可能性。

人工智能由機器決定最佳方案并執(zhí)行的特性，可能會增加預(yù)測 AI 系統(tǒng)行為的難

度。例如，在 AlphaGo 對陣圍棋世界冠軍李世石的第二場比賽中，AlphaGo 出其

不意的一招，讓李世石離開賽場，并花了 15 分鐘研究這招。這證明這一步是一

個人類頂級賽手不會想到的，但機器已經(jīng)算出來了。這顯示出人工智能改善決策

處理上的巨大潛力。軍隊的運作建立在可靠和信任的基礎(chǔ)上——無論是在指揮中

心還是戰(zhàn)場上，如果人類操作者不確定人工智能在特定環(huán)境下具體會做什么，那

可能會使計劃更復(fù)雜、操作更困難并且事故更可能發(fā)生。

針對可能發(fā)生的意外進行人工智能系統(tǒng)編程，這種挑戰(zhàn)也會逐步削弱其可靠性。

比如一個經(jīng)編程可以玩俄羅斯方塊的人工智能系統(tǒng)，研發(fā)人員發(fā)現(xiàn)，人工智能已

經(jīng)能夠在快要輸?shù)臅r候暫停游戲，以保證走好每一步，使成功的可能性最大化，

從而完成指令。這種改編，反映出人工智能系統(tǒng)行為的不確定性，超出了多數(shù)軍

隊能夠容忍的范圍。偏見和對數(shù)據(jù)的改編會讓其可靠性的實現(xiàn)更加困難?？山忉?/p>

性是人工智能系統(tǒng)面臨的又一挑戰(zhàn)。對于一個系統(tǒng)而言，重要的不僅僅是可靠性，

同時也必須具有能使他人信任的可解釋性。如果一個人工智能系統(tǒng)以特定的方式

將圖像分類或躲避敵方雷達，但不能說明為什么會做出這樣特別的選擇，那么人

類不太可能相信它。

可靠性不僅僅是人工智能系統(tǒng)設(shè)計的問題。戰(zhàn)爭是競爭性行為，當(dāng)今軍隊和情報

機構(gòu)試圖在和平時期及戰(zhàn)時入侵并破壞潛在敵人的行動，不管這些系統(tǒng)是在堪薩

斯州后臺運行還是應(yīng)用在戰(zhàn)場上，有一點是不變的——這是一個人工智能系統(tǒng)的

世界。研究者們已經(jīng)指出，圖像識別算法在導(dǎo)致分類問題的像素級中毒數(shù)據(jù)面前

很脆弱。以開源數(shù)據(jù)為基礎(chǔ)的算法此時可能不堪一擊，因為敵方試圖“毒化”此

數(shù)據(jù)，以防止別國合理使用——編制運算法則用于軍事目的。這一敵方數(shù)據(jù)問題

很重要。黑客攻擊也可能導(dǎo)致在更安全的網(wǎng)絡(luò)中編制并運行運算法則，這也說明

了在國家安全范疇內(nèi)，網(wǎng)絡(luò)安全和人工智能有著重要的交互作用。

軍隊何時啟用人工智能？在有關(guān)人工智能和武器的公開討論中，常常忽視的一個

關(guān)鍵問題是，軍方一般不會愿意使用以人工智能為基礎(chǔ)的系統(tǒng)，除非它們在完成

某一特定任務(wù)方面（無論是解釋圖像、轟炸目標(biāo)還是策劃一場戰(zhàn)斗）明顯優(yōu)于現(xiàn)

有的系統(tǒng)。

這些安全性和可靠性方面的問題，在敵對雙方試圖破壞對方的系統(tǒng)的競爭環(huán)境中

凸顯，那么人工智能在軍事領(lǐng)域還有什么前景？盡管軍方不太可能僅僅因為這些

安全因素就停止對人工智能應(yīng)用的研究，但這些安全性和可靠性問題會影響人工

智能系統(tǒng)的類型，也會影響它們?nèi)谌搿俺Ｒ?guī)”軍事行動計劃。

軍事技術(shù)整合有三個層次——開發(fā)、部署及使用。每個階段中，人工智能能夠提

升效率、降低人類士兵危險以及成本的前景都要與其面臨的安全性和影響軍隊行

為的可靠性的挑戰(zhàn)相抗衡。

軍事層面的人工智能研究是在競爭的環(huán)境中進行的。中國大刀闊斧地全面推進人

工智能研究引發(fā)了美國極大的擔(dān)憂，比如，中國在人工智能領(lǐng)域會超越美國。鑒

于人工智能融合的優(yōu)勢，很多美國軍人擔(dān)心其他參與者能力出眾，自己因此而落

后。任何國家都不希望自己的戰(zhàn)士、艦艇以及坦克受到敵軍的威脅，也沒有國家

希望敵方系統(tǒng)能夠在戰(zhàn)斗環(huán)境中做出反應(yīng)并快速回擊。

在軍用系統(tǒng)中融合人工智能，我們才剛剛開始。人類和自動化實驗室主任 Missy

Cummings 認為，盡管全球軍隊自主系統(tǒng)的研究和發(fā)展在增加，但過程是“漸進

的”，各組織機構(gòu)仍“努力實現(xiàn)從開發(fā)到應(yīng)用的跨越式進步?！?/p>

在開發(fā)階段，測試和整合活動應(yīng)揭示潛在的安全和可靠性挑戰(zhàn)，并使其成為人工

智能軍事應(yīng)用的一個關(guān)鍵投資領(lǐng)域?，F(xiàn)在，軍方可能認為，在某些情況下，這些

風(fēng)險是可以接受的，因為它們有落后的風(fēng)險，并且相信它們能夠及時糾正編程上

的挑戰(zhàn)。從本質(zhì)上講，軍方將權(quán)衡人工智能領(lǐng)域可靠性和能力之間的權(quán)衡，人工

智能系統(tǒng)可能提供更大的能力，但也存在可靠性風(fēng)險。

在部署或使用人工智能系統(tǒng)時，軍方可能會特別考慮某一特定沖突。隨著沖突風(fēng)

險升級，如果軍方判定失敗的可能性更大，那么自然會接受部署優(yōu)勢技術(shù)帶來的

風(fēng)險，但也會考慮可靠性的問題。反之，沖突風(fēng)險降低，軍方認為自己能夠在降

低技術(shù)風(fēng)險情況下取勝，那么人工智能系統(tǒng)的部署就會延遲，直至軍方認定其可

靠，或是比現(xiàn)有系統(tǒng)可靠。

軍事和商業(yè)技術(shù)發(fā)展歷史說明，軍事和商業(yè)技術(shù)發(fā)展的歷史表明，既要謹(jǐn)慎，也

要有理由相信，安全和可靠性問題不會也不應(yīng)該導(dǎo)致軍事融合的停滯。1886 年，

Karl Benz 發(fā)明了第一輛汽油發(fā)動機汽車。然而在經(jīng)過了一代人的時間后，汽油

內(nèi)燃發(fā)動機才申請到第一批專利，而奔馳的汽車超越馬車，在交通上占據(jù)霸主地

位，又花了一代人的時間。為什么這個過程如此漫長？答案是出于對安全和可靠

的考量。早期內(nèi)燃機面臨問題是可靠性、成本、機器缺乏標(biāo)準(zhǔn)、生產(chǎn)缺乏一致性

以及內(nèi)燃機驅(qū)動汽車的復(fù)雜性導(dǎo)致故障頻發(fā)。

每當(dāng)新技術(shù)誕生，這個熟悉的故事就會不斷重演。它們在當(dāng)時能賦予人們更大的

能力，但同時也有極大的安全和可靠方面的問題。有時候，像內(nèi)燃機或飛機一樣，

這類問題可以解決。也有些時候，像軍事用途的飛船或飛艇，安全問題如此之大，

技術(shù)永遠不可能像替代方案一樣可靠、有效。

AI 和戰(zhàn)爭的未來。AI 對世界的影響將遠勝于軍事力量和戰(zhàn)爭未來帶來的影響。

自動化在未來工作中的作用會帶來巨大的經(jīng)濟和社會效應(yīng)，無論是否開發(fā)軍事領(lǐng)

域?qū)Ｓ?AI 應(yīng)用，AI 都將是軍方必然的選擇。法國總統(tǒng) Emmanuel Macron 最近指

出，AI 將會打破現(xiàn)有商業(yè)與工作模式，其規(guī)模之大，法國因此急需制定新的 AI

戰(zhàn)略以確保其 AI 研發(fā)領(lǐng)導(dǎo)地位。盡管他向一個可能的實現(xiàn)的 AI 軍事應(yīng)用發(fā)出警

告，聲稱他“堅決反對”將 AI 投放戰(zhàn)場用以殺敵。然而，法國情報部門卻已經(jīng)

在用 AI 來提高數(shù)據(jù)處理速度、提升數(shù)據(jù)可靠性了，他們認為這有助于法國軍隊

在戰(zhàn)場上提高自身能力。

AI 的優(yōu)點是，盡管存在安全性和可靠性問題，但在引領(lǐng)全球軍隊時，也能預(yù)見坐

以待斃的風(fēng)險。從數(shù)據(jù)處理到蜂群概念再到戰(zhàn)場管理，AI 能夠幫助軍隊快速、準(zhǔn)

確行動，同時使更少數(shù)人置身于危險之中。也或者并非如此。當(dāng)前機器學(xué)習(xí)和神

經(jīng)網(wǎng)絡(luò)方法特有的安全性和可靠性問題，也意味著對抗性數(shù)據(jù)等問題，對于許多

軍用 AI 來說是挑戰(zhàn)。

美國國家安全機構(gòu)的最高領(lǐng)導(dǎo)者似乎非常清楚，美國在技術(shù)變革時代所面臨的風(fēng)

險。國防部長 James Mattis 最近就指出，部署 AI“為時尚早”，但他現(xiàn)在開始

質(zhì)疑 AI 是否能改變“戰(zhàn)爭的基本性質(zhì)”。然而同中國相比，美國 AI 的投資相對

較小，中國 AI 國家戰(zhàn)略正快速吸引學(xué)術(shù)界、商界和軍方的投資。美國可能比一

個世紀(jì)前的英國更清醒，即廣泛科技改革會影響其軍事優(yōu)勢，但不足以保證其勝

利。當(dāng)人們認為，所有科技，其核心都是民眾和組織機構(gòu)如何加以使用時，尤為

如此。從打敗了騎士的長弓到終結(jié)了戰(zhàn)艦獨大的時代的海軍航空力量，強權(quán)國家

認為自己仍處于領(lǐng)導(dǎo)地位，直到一次主場戰(zhàn)敗，歷史從此顛覆。

我們不知道 AI 用于軍事用途，其結(jié)果是否也會如此。AI 研究機構(gòu)內(nèi)部對于 AI 發(fā)

展前景及安全性和可靠性，在某種程度上，也不太確定。可能未來 20 年，國家

安全研究者們會重啟 AI“時尚”。考慮到技術(shù)的廣度與特定技術(shù)，如定向能相

比，以及 AI 商業(yè)能源及投資的程度，極可能發(fā)生的是，人工智能時代的出現(xiàn)，

在某種程度上會重塑未來全球軍事。