2025年九三閱兵期間,中國(guó)拿出了大量的高精尖無人武器,不僅讓中國(guó)人震驚了,而且讓全世界都震驚了。
別的不多說,就那個(gè)所謂的班組支援車,帶機(jī)槍帶反坦克導(dǎo)彈。
這不就是個(gè)無人坦克,雖然在中國(guó)只叫“班組支援車”,聽起來土土的,但要是換成歐美肯定給起一個(gè)狂霸酷炫拽的名字。
而這么科幻的無人坦克,只是中國(guó)龐大無人武器集群的一小部分。
雖然無人武器很厲害,但發(fā)展無人武器實(shí)際上是有道德枷鎖的。
因?yàn)闊o人武器的本質(zhì)是殺手機(jī)器人,而全世界絕大部分國(guó)家都是強(qiáng)烈反對(duì)殺手機(jī)器人的。
早在一個(gè)世紀(jì)以前,全人類就在憂慮殺手機(jī)器人出現(xiàn)后被顛覆的世界規(guī)則,美國(guó)科幻小說作家阿西莫夫在1941年就提出了機(jī)器人三定律,享譽(yù)世界并得到了普遍認(rèn)可。
第一定律:機(jī)器人不得傷害人類個(gè)體,或者目睹人類個(gè)體將遭受危險(xiǎn)而袖手不管。
第二定律:機(jī)器人必須服從人給予它的命令,當(dāng)該命令與第一定律沖突時(shí)例外。
第三定律:機(jī)器人在不違反第一、第二定律的情況下要盡可能保護(hù)自己的生存。
根據(jù)阿西莫夫的設(shè)想,機(jī)器人三定律應(yīng)該被寫死在機(jī)器人的底層邏輯中,任何情況下不得違反。
而殺手機(jī)器人以擊殺人類為目標(biāo),很明顯的違反了阿西莫夫的機(jī)器人三定律。
自2014年開始,聯(lián)合國(guó)就開始普遍討論殺手機(jī)器人(全稱致命性自主武器系統(tǒng),即LAWS)的危害,并有大量國(guó)家推動(dòng)徹底封殺人類對(duì)LAWS的發(fā)展,因?yàn)榇藭r(shí)人類部分國(guó)家研發(fā)的LAWS已經(jīng)看到了成功的曙光。
反對(duì)LAWS的國(guó)家很多很多,而且提出了很多的正當(dāng)理由。
反對(duì)者認(rèn)為,殺手機(jī)器人將"決定生死"的權(quán)力交由算法,違背了"人類生命神圣性"的基本倫理原則。
《日內(nèi)瓦公約》明確約定要對(duì)平民和士兵進(jìn)行區(qū)分,但殺手機(jī)器人在戰(zhàn)場(chǎng)上識(shí)別目標(biāo)可能因數(shù)據(jù)偏差誤傷平民,而算法只考慮戰(zhàn)爭(zhēng)利弊,無法像人類一樣進(jìn)行道德權(quán)衡。
同時(shí)歐美的康德倫理學(xué)強(qiáng)調(diào)"人不能作為工具",而殺手機(jī)器人卻將人類生命變?yōu)樗惴ㄝ敵龅慕Y(jié)果。
同時(shí)殺手機(jī)器人責(zé)任歸屬模糊,一旦殺手機(jī)器人在戰(zhàn)場(chǎng)上造成了誤殺,那么無法進(jìn)行追責(zé),因?yàn)闅⑹謾C(jī)器人無法承擔(dān)法律責(zé)任,而開發(fā)者、指揮官和算法設(shè)計(jì)師都是無責(zé)的,責(zé)任具體歸屬于誰,認(rèn)定是很困難的。
同時(shí)殺手機(jī)器人的出現(xiàn)還會(huì)降低戰(zhàn)爭(zhēng)的門檻,導(dǎo)致戰(zhàn)爭(zhēng)決策可能更輕率。2016年美國(guó)哈佛大學(xué)的研究結(jié)果顯示,擁有LAWS的國(guó)家更易發(fā)動(dòng)先發(fā)制人打擊,因?yàn)闊o需承擔(dān)士兵傷亡的政治代價(jià)。
而以色列哲學(xué)家尤瓦爾·赫拉利則明確指出:"用機(jī)器殺人會(huì)剝離戰(zhàn)爭(zhēng)的道德重量,使暴力行為像電子游戲一樣被輕描淡寫。"
2017年,美國(guó)媒體曾報(bào)道說美軍操作員向記者透露,說無人機(jī)襲擊后"下班接孩子"的割裂感加劇了道德麻木。
總之,大力發(fā)展殺手機(jī)器人是被大量國(guó)家廣泛認(rèn)為不道德的,其中美國(guó)和以色列為此提供了大量的理論支撐,隨時(shí)準(zhǔn)備批判發(fā)展殺手機(jī)器人的國(guó)家。
對(duì)于美國(guó)和以色列的態(tài)度,中國(guó)表示完全理解并強(qiáng)烈支持。
2021年,中國(guó)在《特定常規(guī)武器公約》(CCW)第六次審議大會(huì)上,明確提出對(duì)殺手機(jī)器人(致命性自主武器系統(tǒng),LAWS)的禁止立場(chǎng),并提出了五大禁止理由。
第一,中國(guó)認(rèn)為殺手機(jī)器人違反國(guó)際人道法基本原則。
中國(guó)援引了《日內(nèi)瓦公約》及其附加議定書,強(qiáng)調(diào)自主武器系統(tǒng)存在三大法律缺陷:
比如自主武器系統(tǒng)無法可靠區(qū)分戰(zhàn)斗人員與平民,在依賴圖像識(shí)別的自主武器在復(fù)雜戰(zhàn)場(chǎng)環(huán)境(如城市巷戰(zhàn))中,可能因算法漏洞誤判平民目標(biāo)。
比如自主武器系統(tǒng)難以評(píng)估攻擊的"比例性",機(jī)器無法像人類指揮官一樣權(quán)衡軍事必要性與附帶損害(如醫(yī)院、學(xué)校等受保護(hù)場(chǎng)所的識(shí)別)。
比如自主武器系統(tǒng)缺乏"人性化判斷"的倫理能力。
中國(guó)代表團(tuán)特別指出,算法無法理解“惻隱之心”,而這是戰(zhàn)爭(zhēng)法的精神內(nèi)核。(中國(guó)大使李松發(fā)言原文)。
第二,中國(guó)認(rèn)為殺手機(jī)器人破壞全球戰(zhàn)略穩(wěn)定。
殺手機(jī)器人的誕生會(huì)顯著降低戰(zhàn)爭(zhēng)門檻,中國(guó)提交的工作文件列舉了大量的證據(jù),警告世界各國(guó)自主武器可能誘發(fā)"先發(fā)制人"的軍事冒險(xiǎn)行為,尤其在小國(guó)與軍事強(qiáng)國(guó)之間制造安全困境。
中國(guó)還特別拿美國(guó)"無人機(jī)蜂群"和俄羅斯"鈾-9"無人戰(zhàn)車舉例子,指出技術(shù)擴(kuò)散將迫使各國(guó)卷入"自主武器競(jìng)賽",重現(xiàn)核軍控困境。
第三,中國(guó)認(rèn)為殺手機(jī)器人存在技術(shù)失控的現(xiàn)實(shí)風(fēng)險(xiǎn)
中國(guó)從工程學(xué)角度提出了三項(xiàng)質(zhì)疑。
首先,殺手機(jī)器人的算法存在不可靠性,其深度學(xué)習(xí)存在“黑箱問題”,訓(xùn)練數(shù)據(jù)的偏差(如數(shù)據(jù)集過度偏向特定人種)可能導(dǎo)致系統(tǒng)性誤殺。
然后,殺手機(jī)器人存在網(wǎng)絡(luò)安全隱患,自主武器系統(tǒng)可能被黑客劫持,甚至被恐怖組織逆向破解奪取控制權(quán),然后引發(fā)不可控的災(zāi)難。
最后,殺手機(jī)器人存在戰(zhàn)爭(zhēng)適應(yīng)性缺陷,無法應(yīng)對(duì)復(fù)雜電磁環(huán)境或欺騙性戰(zhàn)術(shù),在偽裝目標(biāo)以及電子干擾下,可能出現(xiàn)不可預(yù)知的情況。
第四,中國(guó)認(rèn)為殺手機(jī)器人存在責(zé)任機(jī)制真空。
中國(guó)強(qiáng)調(diào)現(xiàn)有國(guó)際法無法解決追責(zé)主體缺失的問題,當(dāng)自主武器誤傷平民時(shí),程序員、制造商、指揮官的法律責(zé)任難以界定,現(xiàn)行戰(zhàn)爭(zhēng)罪條款(如《羅馬規(guī)約》)未涵蓋機(jī)器自主決策場(chǎng)景。
第五,中國(guó)認(rèn)為殺手機(jī)器人違背了人類倫理和技術(shù)發(fā)展初心。
中國(guó)以歐美的康德倫理學(xué)為證據(jù),認(rèn)為將人命交由算法決定等同于物化人類。
而游戲化的界面將大幅降低殺戮的心理負(fù)擔(dān),這可能導(dǎo)致社會(huì)認(rèn)知扭曲,引發(fā)嚴(yán)重人道主義災(zāi)難。
中國(guó)站在道德的角度,站在以仁心治世的角度,以上面這五大原則為核心,列舉了大量的證據(jù),整理成了厚厚的文件提交給了聯(lián)合國(guó),并經(jīng)過溝通和協(xié)調(diào),得到了125個(gè)成員國(guó)的贊成票支持。
眼看著禁止發(fā)展殺手機(jī)器人的提案就要通過,反對(duì)者出手了。
在這場(chǎng)投票上,美國(guó)、俄羅斯、以色列和印度等國(guó)家投出了反對(duì)票,否決了中國(guó)提出的在全球禁止發(fā)展殺手機(jī)器人的提案。
美國(guó)和以色列的代表先后發(fā)言,認(rèn)為使用“殺手機(jī)器人”可以減少的士兵的傷亡,可以減少戰(zhàn)爭(zhēng)的慘烈,是“人道主義”的體現(xiàn),反而禁止發(fā)展殺手機(jī)器人,非逼著人類上戰(zhàn)場(chǎng)才是不人道,不道德的行為,所以道德的美國(guó)和以色列投票反對(duì)。
對(duì)于美國(guó)和以色列的發(fā)言,英國(guó)、俄羅斯和印度等國(guó)認(rèn)為說得對(duì),發(fā)展殺手機(jī)器人,避免人類上血腥的戰(zhàn)場(chǎng)才是道德的人道主義行為。
美國(guó)、英國(guó)和俄羅斯是聯(lián)合國(guó)的五大常任理事國(guó),都有一票否決權(quán)。
這三個(gè)國(guó)家表態(tài)反對(duì),那這個(gè)提案肯定是通不過的,提案要求的全球禁令注定無法實(shí)施。
因?yàn)檫@一些國(guó)家的反對(duì),全球范圍內(nèi)禁止發(fā)展殺手機(jī)器人的國(guó)際立法進(jìn)程受阻,中國(guó)的提案被作廢。
面對(duì)這一現(xiàn)實(shí),中國(guó)表示非常遺憾。
然后中國(guó)表示既然木已成舟,那為了維護(hù)國(guó)家安全,中國(guó)將不得不加強(qiáng)在人工智能軍事應(yīng)用領(lǐng)域的研究,以確保自身防御能力,同時(shí)中國(guó)再次強(qiáng)調(diào)國(guó)際社會(huì)應(yīng)共同規(guī)范人工智能的軍事應(yīng)用。
2024年,中國(guó)解放軍全球“遛”機(jī)器狗,美國(guó)眾議院議員在國(guó)會(huì)發(fā)言,聲稱無法接受解放軍裝備武裝機(jī)器狗。
2025年9月3日,中國(guó)大批無人軍事武器亮相,數(shù)量和種類都太多太多,美國(guó)議員連發(fā)言稱“無法接受”的心情都沒了。
但連道德譴責(zé)都沒辦法做,因?yàn)橹袊?guó)已經(jīng)搞足了程序正義。
嚴(yán)格來說,中國(guó)九三閱兵所展示的大批無人武器,都是按照美國(guó)的要求進(jìn)行發(fā)展的。
因?yàn)橹袊?guó)已經(jīng)帶頭反對(duì)了,還要求全球范圍內(nèi)嚴(yán)格禁止,還溝通拉攏了全球125個(gè)國(guó)家投贊成票,只是相關(guān)提案被美國(guó)帶頭否決了而已。
主頁右上角設(shè)置加星標(biāo)及多互動(dòng),可增大收到文章推送的概率
作者:遠(yuǎn)方青木(公號(hào)ID:YFqingmu )
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.