隨著人工智能（AI）以驚人的速度重塑世界，經(jīng)濟(jì)學(xué)家對(duì)女性可能被拋在后面表示擔(dān)憂。女性在訓(xùn)練AI系統(tǒng)的數(shù)據(jù)集中既被代表不足，又被錯(cuò)誤代表，而參與設(shè)計(jì)這些系統(tǒng)的女性更是寥寥無(wú)幾。女性代表性的缺失必然會(huì)導(dǎo)致AI本身的性別偏見(jiàn)，進(jìn)而在社會(huì)環(huán)境中加劇AI造成的性別不平等。這被稱為“性別數(shù)字鴻溝”。為彌合AI領(lǐng)域的“性別數(shù)字鴻溝”，聯(lián)合國(guó)婦女署（UN Women）啟動(dòng)了一所“AI學(xué)?！保屌灾胤嫡n堂。這一在線項(xiàng)目旨在幫助亞洲和太平洋地區(qū)的企業(yè)家、學(xué)者、女性主義者、氣候正義活動(dòng)家及其他專業(yè)人士學(xué)習(xí)如何利用AI推動(dòng)社會(huì)變革、倡導(dǎo)和決策。

聯(lián)合國(guó)婦女署的AI學(xué)校

聯(lián)合國(guó)國(guó)際勞工組織（ILO）與波蘭數(shù)字事務(wù)部下屬國(guó)家研究所（NASK）今年早些時(shí)候發(fā)布的一份報(bào)告發(fā)現(xiàn)，在高收入國(guó)家，AI可能取代女性主導(dǎo)崗位中將近10%的職位，而對(duì)男性來(lái)說(shuō)，這一比例僅為3.5%。專家呼吁各國(guó)政府、雇主和工人組織制定“包容性戰(zhàn)略”，以幫助在受威脅的領(lǐng)域保護(hù)工作質(zhì)量和生產(chǎn)力?！癆I學(xué)校正是源于這種緊迫的需求……需要對(duì)AI的發(fā)展采取行動(dòng)，并確保女性和女孩不會(huì)被落下?！盇I學(xué)校的創(chuàng)始人埃馬德·卡里姆（Emad Karim）表示。

AI學(xué)校的課程涵蓋從AI基礎(chǔ)到倫理，以及諸如提示工程等實(shí)用主題。卡里姆表示，該項(xiàng)目的目標(biāo)還在于幫助女性為不斷變化的就業(yè)市場(chǎng)做好準(zhǔn)備，在未來(lái)，AI將取代或消除某些工作，同時(shí)在其他領(lǐng)域發(fā)揮更大的作用。“AI的未來(lái)取決于我們，取決于我們是否為平等、公正和尊嚴(yán)而設(shè)計(jì)它，還是任由它擴(kuò)大我們?cè)噲D彌合的差距?！彼f(shuō)?？ɡ锬方ㄗh女性應(yīng)當(dāng)具備“AI素養(yǎng)”?！斑@是一種新的素養(yǎng)。要了解模型、優(yōu)勢(shì)與風(fēng)險(xiǎn)。我們既不應(yīng)盲目信任AI，也不應(yīng)全盤否定它?！?/p>

此外，盡管全球范圍內(nèi)每年都有更多女性接入互聯(lián)網(wǎng)，但在低收入國(guó)家，只有20%的女性能上網(wǎng)。性別數(shù)字鴻溝造成的數(shù)據(jù)缺口反映在AI的性別偏見(jiàn)之中。加州大學(xué)伯克利分校哈斯公平、性別與領(lǐng)導(dǎo)力中心（Berkeley Haas Center for Equity, Gender and Leadership）對(duì)不同行業(yè)的133個(gè)AI系統(tǒng)進(jìn)行分析，發(fā)現(xiàn)其中約44%表現(xiàn)出性別偏見(jiàn)，25%同時(shí)表現(xiàn)出性別和種族偏見(jiàn)。AI的性別偏見(jiàn)因訓(xùn)練數(shù)據(jù)以及“詞嵌入”（word embedding）產(chǎn)生。“詞嵌入”指在機(jī)器學(xué)習(xí)中對(duì)某些詞的編碼方式，用于反映其意義及與其他詞的關(guān)聯(lián)。如果AI在訓(xùn)練數(shù)據(jù)中學(xué)習(xí)到“男性”和“女性”與特定技能或興趣相關(guān)聯(lián)，它就會(huì)生成反映這種偏見(jiàn)的內(nèi)容。誰(shuí)來(lái)開(kāi)發(fā)AI，以及它所使用的數(shù)據(jù)類型，對(duì)AI驅(qū)動(dòng)的解決方案有著性別層面的影響。

AI性別偏見(jiàn)不僅僅會(huì)造成AI在應(yīng)用過(guò)程中使用“錯(cuò)誤的語(yǔ)言”，盧旺達(dá)的學(xué)生娜塔查·桑瓜（Natacha Sangwa）親眼看到這種情況如何影響女性使用技術(shù)的體驗(yàn)?！爱?dāng)女性使用一些AI驅(qū)動(dòng)的系統(tǒng)來(lái)診斷疾病時(shí)，常常會(huì)得到不準(zhǔn)確的答案，因?yàn)锳I不了解女性可能呈現(xiàn)出的不同癥狀?！鄙９媳硎尽Ｈ绻?dāng)前趨勢(shì)持續(xù)下去，AI驅(qū)動(dòng)的技術(shù)和服務(wù)將繼續(xù)缺乏多樣化的性別和種族視角，這種缺口將導(dǎo)致服務(wù)質(zhì)量下降，以及在就業(yè)、信貸、醫(yī)療等領(lǐng)域做出帶有偏見(jiàn)的決策。婦女署的AI學(xué)校正試圖從根源上解決這些問(wèn)題。

如何解決AI性別偏見(jiàn)？

消除AI中的性別偏見(jiàn)，必須從在AI系統(tǒng)構(gòu)思和構(gòu)建階段優(yōu)先考慮性別平等開(kāi)始。這包括評(píng)估數(shù)據(jù)中是否存在錯(cuò)誤表征，提供能夠反映多元性別和種族經(jīng)驗(yàn)的數(shù)據(jù)，并重塑AI開(kāi)發(fā)團(tuán)隊(duì)，使其更加多元和包容。根據(jù)2023年《全球性別差距報(bào)告》（Global Gender Gap Report），目前只有30%的AI從業(yè)人員是女性?！爱?dāng)技術(shù)僅由單一視角開(kāi)發(fā)時(shí)，就像是用半只眼睛看世界?！彼虼拇髮W(xué)量子計(jì)算研究員索拉·馬福茲（Sola Mahfouz）表示。她目前正致力于開(kāi)發(fā)一個(gè)AI驅(qū)動(dòng)的平臺(tái)，用來(lái)連接阿富汗女性。

馬福茲對(duì)AI充滿期待，但也心存擔(dān)憂。她思考道：“它是否公平？它在多大程度上反映了社會(huì)的父權(quán)結(jié)構(gòu)以及主要由男性創(chuàng)造者帶來(lái)的內(nèi)在偏見(jiàn)？”馬福茲出生在阿富汗，當(dāng)塔利班來(lái)到她家并威脅其家人時(shí)，她被迫輟學(xué)。她最終逃離阿富汗，并于2016年移民美國(guó)接受大學(xué)教育?！斑@一領(lǐng)域需要更多女性研究人員。女性獨(dú)特的生活經(jīng)驗(yàn)?zāi)軌蛏羁逃绊懠夹g(shù)的理論基礎(chǔ)，也能開(kāi)啟技術(shù)新的應(yīng)用方向。”她補(bǔ)充道。

在開(kāi)發(fā)AI時(shí)，迫切需要借鑒多元領(lǐng)域的專業(yè)知識(shí)，包括性別方面的專業(yè)知識(shí)，以便讓機(jī)器學(xué)習(xí)系統(tǒng)更好地服務(wù)于人類，并支持建設(shè)一個(gè)更加平等和可持續(xù)的世界。在快速發(fā)展的AI產(chǎn)業(yè)中，缺乏性別視角、數(shù)據(jù)和決策可能會(huì)在未來(lái)多年延續(xù)深刻的不平等。AI領(lǐng)域需要更多女性，而這要求提升并擴(kuò)大女孩和女性在STEM（科學(xué)、技術(shù)、工程和數(shù)學(xué)）及信息通信技術(shù)（ICT）教育和職業(yè)中的參與和領(lǐng)導(dǎo)力。

AI可以用來(lái)促進(jìn)平等嗎？

然而一個(gè)壞消息是：AI實(shí)際上正在帶來(lái)更廣泛的不平等。今年8月，在瑞典一處湖畔會(huì)場(chǎng)，來(lái)自O(shè)penAI、Google DeepMind、英國(guó)AI安全研究所（AI Security Institute）、經(jīng)濟(jì)合作與發(fā)展組織（OECD）等機(jī)構(gòu)的專家峰會(huì)描繪了一幅AI缺乏政府和社會(huì)重大干預(yù)時(shí)可能出現(xiàn)的黯淡前景：AI在缺乏治理的情況下，將帶來(lái)包括性別不平等在內(nèi)更廣泛的不平等。根據(jù)峰會(huì)聲明的說(shuō)法：AI可能加劇國(guó)內(nèi)財(cái)富與收入不平等，惡化許多工薪階層和中產(chǎn)階級(jí)家庭的經(jīng)濟(jì)狀況。AI將加大有AI基礎(chǔ)設(shè)施國(guó)家與無(wú)此條件國(guó)家之間的不平等——既體現(xiàn)在受益機(jī)會(huì)方面，也體現(xiàn)在應(yīng)對(duì)沖擊的能力上。若不加干預(yù)，AI引發(fā)的不平等可能導(dǎo)致富裕個(gè)人和企業(yè)的政治主導(dǎo)地位，侵蝕民主制度并加劇政治不滿。AI系統(tǒng)的滲透與勞動(dòng)價(jià)值的流失可能使大多數(shù)人日益失去權(quán)利，導(dǎo)致個(gè)人福祉與人生意義的退化。

為了盡可能對(duì)沖AI帶來(lái)的不平等，人類社會(huì)需要更負(fù)責(zé)任的AI。它的原則是AI應(yīng)該是道德的、安全的、公正的、透明的和可問(wèn)責(zé)的。這意味著要特別小心AI對(duì)已經(jīng)被邊緣化的群體和弱勢(shì)群體生活的影響。這需要政府、企業(yè)、社會(huì)共同的努力。公司應(yīng)當(dāng)將因AI效率提升而節(jié)省下的一部分資金，用于培訓(xùn)和提升那些面臨失業(yè)風(fēng)險(xiǎn)的工人。公平起見(jiàn)，他們也應(yīng)該獲得新的機(jī)會(huì)。政府也必須承擔(dān)一部分責(zé)任。他們需要鼓勵(lì)和獎(jiǎng)勵(lì)符合道德、負(fù)責(zé)任的AI開(kāi)發(fā)，同時(shí)設(shè)立監(jiān)管框架來(lái)限制AI的有害影響。他們還需要推動(dòng)對(duì)服務(wù)不足地區(qū)的基礎(chǔ)設(shè)施投資，并提升弱勢(shì)群體的AI素養(yǎng)。最終，要確保AI用來(lái)改善平等而不是損害平等。

在全球不平等加劇的今天，促成負(fù)責(zé)任的AI仍然存在全球治理缺口?！澳壳?，還沒(méi)有機(jī)制來(lái)限制開(kāi)發(fā)者在AI系統(tǒng)尚未成熟和安全之前就發(fā)布。我們需要一個(gè)全球多方參與的治理模式，來(lái)防止并糾正AI系統(tǒng)表現(xiàn)出性別或種族偏見(jiàn)、強(qiáng)化有害刻板印象，或不符合隱私和安全標(biāo)準(zhǔn)的情況。”聯(lián)合國(guó)婦女署數(shù)字性別平等合作顧問(wèn)海倫娜·莫利尼耶（Helene Molinier）表示。

圖片來(lái)源于網(wǎng)絡(luò)

iWeekly周末畫報(bào)獨(dú)家稿件，未經(jīng)許可，請(qǐng)勿轉(zhuǎn)載