導(dǎo)語：2025年7月，蘭德公司發(fā)布報(bào)告《人工智能與未來戰(zhàn)爭：六種潛在沖突路徑及其制約因素》（Six ways AI could cause the next big war, and why it probably won’t），深入探討了人工智能技術(shù)對國際安全格局的潛在影響。文章系統(tǒng)分析了人工智能可能導(dǎo)致大國沖突的六種主要路徑，并評(píng)估了這些情景發(fā)生的可能性，同時(shí)強(qiáng)調(diào)審慎的政府政策在規(guī)避風(fēng)險(xiǎn)方面的關(guān)鍵作用。啟元洞見編譯整理了其中的核心內(nèi)容，幫助讀者理解人工智能對國際安全的復(fù)雜影響及其風(fēng)險(xiǎn)管控路徑。

PART1

引言

除了核武器等技術(shù)能顯著改變大國戰(zhàn)爭風(fēng)險(xiǎn)外，先進(jìn)人工智能也可能帶來深遠(yuǎn)變革，成為另一項(xiàng)對國際安全具有重要影響的特殊技術(shù)。本文探討了人工智能可能增加大規(guī)模國家間戰(zhàn)爭的六種假設(shè)，這些假設(shè)分析了人工智能如何影響軍事、經(jīng)濟(jì)和社會(huì)，從而破壞國際穩(wěn)定。同時(shí)，評(píng)估了這些假設(shè)成立的關(guān)鍵條件，并研究了這些條件如何聚合可能增加沖突風(fēng)險(xiǎn)。

PART2

人工智能是否會(huì)打破力量平衡

并創(chuàng)造新的侵略機(jī)會(huì)？

如果人工智能賦能的軍事能力改變了力量平衡，使決策者認(rèn)為可以實(shí)現(xiàn)原本無法實(shí)現(xiàn)的目標(biāo)，人工智能的進(jìn)步可能會(huì)引發(fā)戰(zhàn)爭。影響這一情景發(fā)生的關(guān)鍵條件同時(shí)滿足的可能性相對較低。

首先，這需要人工智能賦能顯著的軍事優(yōu)勢，這種優(yōu)勢可能源于某項(xiàng)突破性進(jìn)展，或人工智能在多軍事任務(wù)中的廣泛應(yīng)用。為實(shí)現(xiàn)不對稱優(yōu)勢，國家需在人工智能創(chuàng)新和采用上先發(fā)制人。

其次，優(yōu)勢具有暫時(shí)性。若軍事優(yōu)勢短暫，領(lǐng)導(dǎo)人可能產(chǎn)生“機(jī)會(huì)之窗”（Fleeting Windows）觀念，促使其在優(yōu)勢消失前采取行動(dòng)。

再次，優(yōu)勢程度適中。這種優(yōu)勢不能過強(qiáng)到弱國為避免代價(jià)高昂的失敗而尋求政治解決方案并作出讓步。若雙方均明確認(rèn)為人工智能已決定性地改變力量平衡，可能降低戰(zhàn)爭風(fēng)險(xiǎn)。

最后，存在戰(zhàn)爭目標(biāo)。擁有優(yōu)勢的國家需有值得開戰(zhàn)的目標(biāo)，如果該國家維持現(xiàn)狀會(huì)從人工智能中受益更多，保持和平的穩(wěn)定性可能增加。

PART3

對敵方人工智能發(fā)展的擔(dān)憂

是否會(huì)導(dǎo)致預(yù)防性戰(zhàn)爭？

該假設(shè)的結(jié)果是，各國可能訴諸戰(zhàn)爭以阻止對手獲得先進(jìn)人工智能能力。如果領(lǐng)導(dǎo)人認(rèn)為人工智能將帶來爆炸性經(jīng)濟(jì)增長和決定性軍事優(yōu)勢，他們可能擔(dān)心對手率先獲得先進(jìn)人工智能會(huì)使自己未來受到脅迫或攻擊，從而通過預(yù)防性打擊減緩對手人工智能發(fā)展。

有幾個(gè)條件可能會(huì)加劇這些風(fēng)險(xiǎn)，但它們同時(shí)成立的可能性不大。

首先，領(lǐng)導(dǎo)人需要預(yù)期先進(jìn)人工智能會(huì)導(dǎo)致力量平衡發(fā)生重大轉(zhuǎn)變。這一點(diǎn)有可能成立，因?yàn)轭I(lǐng)導(dǎo)人可能會(huì)認(rèn)同人工智能帶來變革性愿景的潛力。但對于人工智能未來究竟會(huì)是什么樣子、何種水平的先進(jìn)人工智能會(huì)引發(fā)重大危機(jī)，領(lǐng)導(dǎo)人仍將面臨巨大的不確定性。

其次，領(lǐng)導(dǎo)人需要預(yù)期人工智能具有巨大的先發(fā)優(yōu)勢，以至于自己很難追趕。但從歷史來看，成為快速追隨者、更有效或更高效地采用新技術(shù)，往往比率先創(chuàng)新更重要。

再次，領(lǐng)導(dǎo)人需要預(yù)期預(yù)防性軍事打擊能顯著減緩對手的人工智能發(fā)展。

最后，領(lǐng)導(dǎo)人需要認(rèn)為攻擊的成本和風(fēng)險(xiǎn)值得其所帶來的收益。

此假設(shè)的一種變體是，一國在先進(jìn)人工智能方面取得突破后，可能使用武力來維持其壟斷。這種更強(qiáng)烈的動(dòng)機(jī)，加上人工智能賦能的軍事優(yōu)勢，可能使領(lǐng)導(dǎo)人更傾向于使用預(yù)防性攻擊來維持壟斷。然而，即使對有能力的對手發(fā)起有限的預(yù)防性攻擊，也可能帶來嚴(yán)重的升級(jí)風(fēng)險(xiǎn)或其他政治代價(jià)。

PART4

人工智能會(huì)降低參戰(zhàn)的預(yù)期成本嗎？

此假設(shè)認(rèn)為，人工智能能顯著減輕或消除戰(zhàn)爭中的傳統(tǒng)高昂因素。擁有先進(jìn)人工智能賦能軍隊(duì)的國家或許會(huì)更愿意動(dòng)用武力來追求政治目標(biāo)。

要此假設(shè)成立，需滿足幾個(gè)條件。

首先，人工智能賦能的無人機(jī)和機(jī)器人需大量取代人類士兵的危險(xiǎn)角色，大幅降低戰(zhàn)爭預(yù)期傷亡。

其次，依賴人工智能賦能系統(tǒng)需比依賴人類更廉價(jià)。人工智能需與機(jī)器人技術(shù)結(jié)合從而具備物理能力。雖然無人機(jī)和機(jī)器人相比載人系統(tǒng)確實(shí)具有顯著的成本優(yōu)勢，但相對而言并不便宜。如果人工智能賦能的軍事能力能縮短戰(zhàn)爭時(shí)間而非導(dǎo)致持久沖突，則可能降低人力物力成本。但人工智能增強(qiáng)的自動(dòng)化生產(chǎn)能力可能提高國家部署新部隊(duì)以維持長期戰(zhàn)爭的能力，累積成本隨之增加。

一個(gè)突出案例是先進(jìn)人工智能削弱核威懾。核威懾為國際體系注入穩(wěn)定力量，人工智能不太可能消除這種力量。人工智能可能增強(qiáng)對敵方核武庫的進(jìn)攻能力，但也能提高防御方的生存能力。同樣，人工智能雖能使防空和導(dǎo)彈防御系統(tǒng)的效能提升，但不太可能讓國家完全免受大國的核報(bào)復(fù)——這需要攔截所有而非僅僅大部分來襲核打擊，而這些手段的設(shè)計(jì)初衷正是為了穿透人工智能增強(qiáng)的防御系統(tǒng)。最后，盡管有人擔(dān)心人工智能可能會(huì)助力網(wǎng)絡(luò)攻擊，通過癱瘓指揮控制系統(tǒng)來瓦解敵方核武庫，但考慮到核大國對這些系統(tǒng)安全性的高度重視，這種情況出現(xiàn)的可能性極低。

PART5

人工智能會(huì)引發(fā)社會(huì)混亂

從而導(dǎo)致戰(zhàn)爭嗎？

一條潛在的沖突路徑可能源于國內(nèi)動(dòng)蕩。有人擔(dān)心，先進(jìn)人工智能融入國家經(jīng)濟(jì)可能導(dǎo)致大規(guī)模失業(yè)，從而破壞社會(huì)穩(wěn)定。理論上，領(lǐng)導(dǎo)人或許會(huì)通過攻擊外國敵人以轉(zhuǎn)移民眾注意力，鼓勵(lì)他們支持政府。盡管人工智能似乎很可能造成重大經(jīng)濟(jì)影響，但這種通過“轉(zhuǎn)移視線型戰(zhàn)爭”引發(fā)沖突的路徑卻尤其不可能。領(lǐng)導(dǎo)人可能試圖將公眾憤怒轉(zhuǎn)向外部而非自身。

發(fā)動(dòng)全面戰(zhàn)爭可能加劇而非緩解國內(nèi)政治問題，尤其當(dāng)其是蓄意危機(jī)而非真實(shí)威脅時(shí)。相反，國內(nèi)動(dòng)蕩常促使領(lǐng)導(dǎo)人轉(zhuǎn)向國內(nèi)改革或政治鎮(zhèn)壓。

此假設(shè)的一種變體是，人工智能可能促使社會(huì)更具侵略性和帝國主義傾向。如果人工智能導(dǎo)致爆炸性經(jīng)濟(jì)增長，公眾可能要求利用這些利益獲取地緣政治優(yōu)勢或領(lǐng)土擴(kuò)張。然而，軍事侵略并非宣示更高地位的唯一途徑，這些經(jīng)濟(jì)優(yōu)勢是否會(huì)創(chuàng)造新的侵略機(jī)會(huì)之窗，取決于人工智能是否打破力量平衡。此外，人工智能賦能的經(jīng)濟(jì)增長可能更傾向于穩(wěn)定而非破壞穩(wěn)定。如果社會(huì)對資源短缺的擔(dān)憂減少，經(jīng)濟(jì)自給能力增強(qiáng)，則對國際競爭和沖突的興趣可能降低。

或者，人工智能可能通過加劇公共話語中的病態(tài)而非經(jīng)濟(jì)影響，使社會(huì)更具侵略性。人工智能對社會(huì)的最終影響取決于對該技術(shù)的諸多假設(shè)、其被采用的方式，以及政府對轉(zhuǎn)型過程的管理。人工智能將如何重塑社會(huì)偏好仍存在極大不確定性，因此這一假設(shè)變體的成立與否也同樣存疑。

PART6

人工智能會(huì)自行采取行動(dòng)

引發(fā)戰(zhàn)爭嗎？

在電影中，人工智能常因領(lǐng)導(dǎo)人將軍事控制權(quán)委托給機(jī)器而引發(fā)戰(zhàn)爭。更合理的假設(shè)是，人工智能可能通過意外或未經(jīng)授權(quán)的行動(dòng)引發(fā)戰(zhàn)爭。人工智能體可能對自主軍事系統(tǒng)等擁有足夠控制權(quán)，危機(jī)期間的失控事件可能導(dǎo)致沖突升級(jí)。

但支持此假設(shè)的條件不太可能出現(xiàn)。

首先，人工智能技術(shù)需比非人工智能傳統(tǒng)技術(shù)事故率高。這一點(diǎn)有可能成立，因?yàn)槿斯ぶ悄茉黾恿讼到y(tǒng)復(fù)雜性，而復(fù)雜性越高，意外風(fēng)險(xiǎn)就越大。但與人類操作或當(dāng)今的自動(dòng)化水平相比，足夠先進(jìn)的人工智能或許能提高可靠性和安全性。

其次，事故類型需能夠引發(fā)戰(zhàn)爭。歷史上多數(shù)軍事事故由友軍承擔(dān)，對對手的意外攻擊多為局部事件，事故升級(jí)為戰(zhàn)爭潛力有限。

最后，在發(fā)生嚴(yán)重?fù)p害他國利益的意外事件后，領(lǐng)導(dǎo)人必須未能找到緩解緊張局勢的方法。歷史上幾乎沒有證據(jù)表明領(lǐng)導(dǎo)人會(huì)意外卷入戰(zhàn)爭，部分原因在于，當(dāng)戰(zhàn)爭不符合自身利益時(shí)，他們通常能夠有效緩和危機(jī)。

PART7

人工智能會(huì)以何種方式

影響領(lǐng)導(dǎo)人決策，增加沖突的可能性？

人工智能可能通過影響人類領(lǐng)導(dǎo)人的戰(zhàn)略決策，從而導(dǎo)致沖突，而非直接引發(fā)戰(zhàn)爭。過度依賴人工智能獲取情報(bào)信息和決策支持的領(lǐng)導(dǎo)人，可能會(huì)為人工智能加劇誤解、助長不穩(wěn)定創(chuàng)造條件。

要讓這一影響路徑最終引發(fā)戰(zhàn)爭，最關(guān)鍵的前提是：人工智能提供的戰(zhàn)略評(píng)估或建議會(huì)增加激進(jìn)行為或誤判的可能性。我們沒有理由相信先進(jìn)人工智能體比人類更具沖突偏好。但這些支持工具可能因“幻覺”無意中加劇誤判，或?qū)η闆r和對手行為做出錯(cuò)誤推斷。領(lǐng)導(dǎo)人可能表現(xiàn)出“自動(dòng)化偏見”，即過度信任人工智能輸出，默認(rèn)其具有客觀性和準(zhǔn)確性。奧漢?。∣’Hanlon）提到：人類或許不會(huì)充分考慮到，人工智能的偏見和謬誤可能會(huì)在無意中促使他們采取更強(qiáng)硬的政策或承擔(dān)更大的風(fēng)險(xiǎn)。這可能導(dǎo)致他們對一系列核心威懾因素產(chǎn)生不必要的信心。

此外，人工智能系統(tǒng)可能會(huì)被有意或無意地定制為強(qiáng)化領(lǐng)導(dǎo)人已有的偏見。即便在現(xiàn)實(shí)中缺乏依據(jù)，人工智能系統(tǒng)仍可能證實(shí)領(lǐng)導(dǎo)人預(yù)先存在的信念，如印證領(lǐng)導(dǎo)人存在可有效利用的“機(jī)會(huì)之窗”這一固有信念。除了偏見問題，如果領(lǐng)導(dǎo)人擔(dān)心對手會(huì)利用人工智能工具更快地做出決策和采取行動(dòng)，他們可能會(huì)感到更大的時(shí)間壓力。信息內(nèi)容和決策時(shí)間線息息相關(guān)：領(lǐng)導(dǎo)人越感到需要快速?zèng)Q策，就越不可能批判性審查人工智能系統(tǒng)提供的信息。

另一方面，人類具有眾所周知的心理偏見，會(huì)扭曲其決策，增加沖突的可能性。通過適當(dāng)設(shè)計(jì)和訓(xùn)練數(shù)據(jù)設(shè)置預(yù)防措施，人工智能可能有助于改善而非加劇偏見。足夠先進(jìn)的人工智能可通過更準(zhǔn)確、快速地整合信息幫助領(lǐng)導(dǎo)人理解快速變化的危機(jī)。在信息模糊時(shí)，更好地傳達(dá)關(guān)鍵的不確定性和多種解讀；以及找出無需使用武力即可實(shí)現(xiàn)目標(biāo)的方法。

人工智能決策支持工具會(huì)產(chǎn)生總體穩(wěn)定還是破壞性的影響取決于一系列因素，但這種假設(shè)提出了一個(gè)可信且令人擔(dān)憂的觀點(diǎn)，即人工智能可能增加戰(zhàn)爭風(fēng)險(xiǎn)，特別是考慮到政府可能拙劣地實(shí)施這項(xiàng)技術(shù)的情形。當(dāng)人類以正確的心態(tài)和操作使用人工智能工具時(shí)，他們可能做出更好的決策，但如果系統(tǒng)設(shè)計(jì)和使用不當(dāng)，他們可能做出更糟糕的決策。

PART8

局限性與啟示

綜合對這六個(gè)假設(shè)的評(píng)估可以看出，人工智能引發(fā)新一輪國際沖突的風(fēng)險(xiǎn)被夸大。發(fā)動(dòng)戰(zhàn)爭的決策本質(zhì)上與政治相關(guān)，而非技術(shù)。人工智能可能在未來沖突中發(fā)揮作用，但它本身不太可能成為決定性的因果因素。盡管如此，人工智能有火上澆油的潛在風(fēng)險(xiǎn)，這就是各國政府采取預(yù)防性政策，規(guī)范人工智能使用時(shí)機(jī)與方式的原因所在。

由于人工智能仍是新興技術(shù)，上述結(jié)論存在幾點(diǎn)局限：

首先，預(yù)測未來本就極具難度，而對于人工智能，這種預(yù)測更是難上加難。盡管本文分析側(cè)重于大規(guī)模國家間沖突，但人工智能可能通過在國家能力薄弱的地區(qū)引發(fā)社會(huì)和經(jīng)濟(jì)動(dòng)蕩，對內(nèi)戰(zhàn)構(gòu)成更顯著風(fēng)險(xiǎn)。

此外，本文探討了人工智能可能破壞穩(wěn)定的方式，但值得注意的是，人工智能的影響可能傾向于加強(qiáng)而非削弱國際穩(wěn)定。研究人員可將同一分析框架應(yīng)用于探究其積極方面：人工智能如何促進(jìn)穩(wěn)定與和平？實(shí)現(xiàn)此愿景需哪些條件配合？

各國政府可通過審慎政策管控多數(shù)人工智能風(fēng)險(xiǎn)。研究人員應(yīng)特別關(guān)注兩大最具挑戰(zhàn)性的假設(shè)：人工智能可能導(dǎo)致力量平衡破壞性轉(zhuǎn)變的這一傳統(tǒng)風(fēng)險(xiǎn)，以及人工智能可能扭曲人類戰(zhàn)略判斷這一新風(fēng)險(xiǎn)。

為防范軍事平衡變化使決策者對自身獲勝能力產(chǎn)生新的或被夸大的信心，各國政府首先應(yīng)避免技術(shù)突襲，還應(yīng)考慮可抵消對手人工智能賦能能力的反制措施。決策者還需制定政策，防范人工智能加劇誤判和助長沖突升級(jí)的風(fēng)險(xiǎn)。個(gè)人層面，領(lǐng)導(dǎo)人需以對待人類顧問評(píng)估時(shí)應(yīng)有的謹(jǐn)慎和懷疑對待人工智能生成信息；機(jī)構(gòu)層面，政府可設(shè)計(jì)人工智能系統(tǒng)管理這些風(fēng)險(xiǎn)。此外，加強(qiáng)溝通措施同樣重要。

（本文內(nèi)容系“啟元洞見”公眾號(hào)原創(chuàng)編譯，轉(zhuǎn)載時(shí)請務(wù)必標(biāo)明來源及作者