谷歌更新后的公共人工智能道德政策取消了它不會(huì)使用該技術(shù)來尋求武器和監(jiān)控應(yīng)用的承諾。

在互聯(lián)網(wǎng)檔案Wayback Machine 上看到的原則的先前版本中，該公司包括了它不會(huì)追求的應(yīng)用程序。其中一類是旨在傷害人的武器或其他技術(shù)。另一個(gè)是用于超越國(guó)際規(guī)范的監(jiān)控技術(shù)。

谷歌刪除禁止AI武器化禁令

現(xiàn)在，這樣的限制承諾在更新的原則頁面上已經(jīng)被刪除了。

谷歌于2018年首次發(fā)布其AI原則，比該技術(shù)幾乎無處不在早了幾年。Google的更新與最初發(fā)布的原則的價(jià)值觀截然相反。

2018年，谷歌放棄了對(duì)云計(jì)算五角大樓合同的100億美元出價(jià)，當(dāng)時(shí)表示“我們無法保證它會(huì)符合我們的AI原則”。當(dāng)年，有4000多名員工簽署了一份請(qǐng)?jiān)笗?，要求“制定一?xiàng)明確的政策，聲明谷歌及其承包商都不會(huì)開發(fā)戰(zhàn)爭(zhēng)技術(shù)”，大約有十幾名員工辭職以示抗議。

谷歌致力于“直接部署可以殺死人的技術(shù)”

谷歌已經(jīng)對(duì)其人工智能原則進(jìn)行了重大修改，取消了之前對(duì)使用該技術(shù)開發(fā)武器和監(jiān)控工具的限制。周二宣布的這一更新改變了該公司之前對(duì)可能造成 “整體傷害” 的應(yīng)用程序的立場(chǎng)。

2018年，谷歌制定了一套人工智能原則，以回應(yīng)對(duì)其參與軍事活動(dòng)的批評(píng)，最初的指導(dǎo)方針明確指出，谷歌不會(huì)設(shè)計(jì)或部署人工智能，用于造成或直接促進(jìn)人員受傷的武器或技術(shù)，或違反國(guó)際公認(rèn)的規(guī)范的監(jiān)控。

然而，最新版本的Google AI原則已經(jīng)刪除了這些要點(diǎn)。相反，Google DeepMind首席執(zhí)行官Demis Hassabis和技術(shù)和社會(huì)高級(jí)主管James Manyika發(fā)布了一份關(guān)于使用AI的科技巨頭“核心租戶”的新名單。其中包括關(guān)注創(chuàng)新和協(xié)作，以及“民主國(guó)家應(yīng)在自由、平等和尊重人權(quán)等核心價(jià)值觀的指導(dǎo)下引領(lǐng)人工智能發(fā)展”的聲明。

曾共同領(lǐng)導(dǎo)谷歌道德人工智能團(tuán)隊(duì)的瑪格麗特·米切爾（Margaret Mitchell）告訴彭博社，取消“傷害”條款，可能意味著該公司現(xiàn)在將致力于“直接部署可以殺死人的技術(shù)”。

據(jù)《華盛頓郵報(bào)》報(bào)道，這家科技巨頭自加沙戰(zhàn)爭(zhēng)初期以來就與以色列軍方合作，與亞馬遜競(jìng)爭(zhēng)提供人工智能服務(wù)。該報(bào)上個(gè)月援引公司內(nèi)部文件報(bào)道，在2023年10月哈馬斯對(duì)以色列發(fā)動(dòng)襲擊后不久，谷歌的云部門努力允許以色列國(guó)防軍使用人工智能工具，盡管該公司公開聲稱將參與限制在政府文職部門。

谷歌改變其政策之際，人們對(duì)人工智能對(duì)人類構(gòu)成的危險(xiǎn)持續(xù)擔(dān)憂。人工智能領(lǐng)域的先驅(qū)人物、2024年諾貝爾物理學(xué)獎(jiǎng)獲得者杰弗里·辛頓（Geoffrey Hinton）去年年底警告說，這項(xiàng)技術(shù)可能會(huì)在未來三十年內(nèi)導(dǎo)致人類滅絕，他認(rèn)為這一可能性高達(dá) 20%。

辛頓警告說，人工智能系統(tǒng)最終可能會(huì)超越人類智能，逃脫人類控制，并可能對(duì)人類造成災(zāi)難性的傷害。他敦促為AI安全和合乎道德地使用該技術(shù)分配大量資源，并制定積極措施。

AI武器化將引發(fā)閃電戰(zhàn)，并快速升級(jí)為大規(guī)模戰(zhàn)爭(zhēng)，且無法停止

一位領(lǐng)先的獨(dú)立網(wǎng)絡(luò)安全專家告訴我們，為什么谷歌的此舉充滿了嚴(yán)重風(fēng)險(xiǎn)。

“AI系統(tǒng)可能會(huì)以不可預(yù)測(cè)的方式與其他網(wǎng)絡(luò)連接的基礎(chǔ)設(shè)施交互，”資深獨(dú)立網(wǎng)絡(luò)安全專家和數(shù)字戰(zhàn)略專家希爾斯（Lars Hilse）解釋說。

希爾斯說，這種不可預(yù)測(cè)性可能會(huì)引發(fā)閃電戰(zhàn)，這種戰(zhàn)爭(zhēng)升級(jí)得太快，以至于人類大腦無法理解，人類無法干預(yù)”，并強(qiáng)調(diào)了將國(guó)防相關(guān)問題交給AI管理的巨大風(fēng)險(xiǎn)。

希爾斯說，人類才剛剛開始了解與人工智能武器化相關(guān)的危險(xiǎn)和“未知風(fēng)險(xiǎn)”?！疤貏e是在全球沖突迫在眉睫的時(shí)期，我們可能想暫時(shí)把那個(gè)精靈留在瓶子里，”他敦促道。

谷歌為什么要這樣做？

但觀察家們對(duì)谷歌的政策轉(zhuǎn)變并不感到驚訝，因?yàn)樾枰c市場(chǎng)現(xiàn)實(shí)和地緣政治需求保持一致，以及國(guó)防市場(chǎng)“利潤(rùn)豐厚”的性質(zhì)決定了谷歌重新修改了自己的標(biāo)準(zhǔn)。

自O(shè)penAI于2022年推出聊天機(jī)器人ChatGPT以來，人工智能競(jìng)賽以令人眼花繚亂的速度發(fā)展。雖然人工智能的使用蓬勃發(fā)展，但關(guān)于AI透明度和道德的立法和法規(guī)尚未跟上——現(xiàn)在谷歌似乎已經(jīng)放松了自我施加的限制。

希爾斯說，谷歌的新政策意味著它將能夠參與這些“利潤(rùn)豐厚的國(guó)防合同和政府監(jiān)控項(xiàng)目，并加強(qiáng)其在人工智能競(jìng)賽中的地位，特別是與中國(guó)競(jìng)爭(zhēng)對(duì)手的競(jìng)爭(zhēng)”。

“政策轉(zhuǎn)變表明，硅谷與國(guó)防愿景進(jìn)行了更廣泛的重新調(diào)整，甚至可能表明，在全行業(yè)范圍內(nèi)正在系統(tǒng)地消除以前軍事人工智能開發(fā)的道德障礙，以便在這個(gè) 極其有利可圖且以前未開發(fā)過的商業(yè)領(lǐng)域中，更快地對(duì)市場(chǎng)變化做出反應(yīng)，”這位專家總結(jié)道。