2024年10月，美國企業(yè)公共政策研究所[1]（AEI）研究員布朗溫·豪厄爾（Bronwyn Howell）發(fā)布了題為《在充滿不確定性的世界中監(jiān)管人工智能》（Regulating Artificial Intelligence in a World of Uncertainty）的報(bào)告。美國企業(yè)研究所是美國著名的保守派政策研究機(jī)構(gòu)，以倡導(dǎo)自由市場理念和影響政府政策制定而聞名。作者認(rèn)為在高度不確定性下，傳統(tǒng)風(fēng)險(xiǎn)管理方法難以有效監(jiān)管生成式人工智能（GAI），并提出應(yīng)通過保險(xiǎn)機(jī)制、謙卑監(jiān)管和多方協(xié)同治理等新思路，以平衡人工智能創(chuàng)新發(fā)展與社會風(fēng)險(xiǎn)防控。

一、引言

2022年11月，OpenAI發(fā)布ChatGPT引發(fā)了公眾對人工智能的廣泛關(guān)注。人工智能技術(shù)既帶來效率提升和創(chuàng)新潛力，也引發(fā)了對失業(yè)、偏見、錯誤輸出和潛在社會危害的擔(dān)憂。歐盟和美國都在探索如何通過風(fēng)險(xiǎn)管理來監(jiān)管人工智能，以確保其安全性和可靠性。

歐盟于2024年3月通過了《人工智能法案》，并于8月生效，計(jì)劃到2026年全面實(shí)施。該法案基于風(fēng)險(xiǎn)分級，對高風(fēng)險(xiǎn)人工智能系統(tǒng)設(shè)定了嚴(yán)格要求。美國則通過美國國家標(biāo)準(zhǔn)與技術(shù)研究院（NIST）的風(fēng)險(xiǎn)管理框架和行政命令，推動自愿遵守行業(yè)標(biāo)準(zhǔn)而非強(qiáng)制立法（但個別州，如科羅拉多州和加利福尼亞州通過相關(guān)法案要求對高風(fēng)險(xiǎn)人工智能應(yīng)用進(jìn)行風(fēng)險(xiǎn)評估和披露）。

這些監(jiān)管措施的核心是風(fēng)險(xiǎn)管理，要求開發(fā)者識別和管理潛在風(fēng)險(xiǎn)，以保護(hù)消費(fèi)者和社會免受傷害。然而，對于生成式人工智能，這種基于風(fēng)險(xiǎn)的管理方法可能并不適用。生成式人工智能的設(shè)計(jì)目標(biāo)是生成無限多樣化的輸出，而不是像傳統(tǒng)人工智能那樣追求精確性和可解釋性。因此，開發(fā)者可能無法預(yù)見所有可能的有害輸出，從而導(dǎo)致傳統(tǒng)風(fēng)險(xiǎn)管理策略的局限性。

風(fēng)險(xiǎn)與不確定性之間存在根本區(qū)別。風(fēng)險(xiǎn)是可以量化和管理的，而不確定性則是不可預(yù)見的。對于生成式人工智能，由于其復(fù)雜性和動態(tài)性，傳統(tǒng)的風(fēng)險(xiǎn)管理框架可能無法有效應(yīng)對。因此，需要探索新的監(jiān)管方法，例如通過保險(xiǎn)機(jī)制來分擔(dān)意外傷害的成本，而不是僅僅依賴于開發(fā)者的風(fēng)險(xiǎn)管理。

二、風(fēng)險(xiǎn)與不確定性

對于人工智能的監(jiān)管首先需要厘清“風(fēng)險(xiǎn)”與“不確定性”這兩個核心概念。1921年，經(jīng)濟(jì)學(xué)家弗蘭克·奈特（Frank Knight）首次系統(tǒng)地區(qū)分了這兩者。他指出，風(fēng)險(xiǎn)是指那些雖然結(jié)果未知，但其發(fā)生的概率和后果可以被測量或估算的情境；而不確定性（Uncertainty）則是指那些不僅結(jié)果未知，而且其發(fā)生的概率和后果也無法被事先識別或量化的情境，即“未知的未知”（Unknown Unknowns）。

奈特認(rèn)為，風(fēng)險(xiǎn)是可以通過概率模型進(jìn)行理性分析和管理的，而不確定性則超出了人類認(rèn)知的范圍，難以通過傳統(tǒng)的科學(xué)方法進(jìn)行預(yù)測和控制。在人工智能領(lǐng)域，尤其是生成式人工智能的開發(fā)和應(yīng)用中，這種不確定性表現(xiàn)得尤為突出。

人工智能系統(tǒng)通常部署在復(fù)雜的社會技術(shù)系統(tǒng)中，這些系統(tǒng)具有高度的動態(tài)性、非線性和涌現(xiàn)性。復(fù)雜系統(tǒng)的特征在于其組成要素之間的相互作用不斷變化，導(dǎo)致系統(tǒng)的整體行為難以預(yù)測。人工智能系統(tǒng)本身也具有學(xué)習(xí)能力，能夠根據(jù)輸入數(shù)據(jù)不斷調(diào)整自身行為，這進(jìn)一步增加了系統(tǒng)的不確定性。為了更清晰地理解不同情境下的不確定性，我們可以借助Cynefin框架，該框架將問題情境劃分為四類：

1.清晰（Clear）：因果關(guān)系明確，結(jié)果可預(yù)測，適用于標(biāo)準(zhǔn)化流程和規(guī)則。

2.主觀性復(fù)雜（Complicated）：因果關(guān)系需要專業(yè)知識才能理解，結(jié)果可預(yù)測，但需要分析。

3.系統(tǒng)性復(fù)雜（Complex）：因果關(guān)系不明確，系統(tǒng)行為具有涌現(xiàn)性，結(jié)果難以預(yù)測。

4.混亂（Chaotic）：無明確的因果關(guān)系，系統(tǒng)處于無序狀態(tài)，需要快速響應(yīng)以恢復(fù)秩序。

傳統(tǒng)的風(fēng)險(xiǎn)管理方法適用于“清晰”和“主觀性復(fù)雜”情境，但在“系統(tǒng)性復(fù)雜”和“混亂”情境中則顯得力不從心。生成式人工智能的運(yùn)行環(huán)境往往屬于“系統(tǒng)性復(fù)雜”甚至“混亂”的范疇，因此，傳統(tǒng)的風(fēng)險(xiǎn)管理方法難以有效應(yīng)對其帶來的不確定性。

在面對不確定性時(shí)，人類的決策行為往往受到認(rèn)知偏差的影響。諾貝爾經(jīng)濟(jì)學(xué)獎得主丹尼爾·卡尼曼（Daniel Kahneman）及其合作者阿莫斯·特沃斯基（Amos Tversky）的研究表明，人類在決策時(shí)存在系統(tǒng)性偏差，例如：

1.損失厭惡（Loss Aversion）：人們對損失的厭惡程度高于對同等收益的喜愛。

2.可得性啟發(fā)（Availability Heuristic）：人們傾向于根據(jù)容易回憶的信息來評估事件的概率。

3.代表性啟發(fā)（Representativeness Heuristic）：人們傾向于根據(jù)事件的相似性來判斷其概率，而忽視基礎(chǔ)概率。

4.過度自信（Overconfidence）：人們往往高估自己對未來的預(yù)測能力。

這些偏差在監(jiān)管決策中同樣存在。例如，在人工智能監(jiān)管中，政策制定者可能會過度關(guān)注那些高影響、低概率的風(fēng)險(xiǎn)事件，而忽視那些更常見但影響較小的風(fēng)險(xiǎn)。這種偏差可能導(dǎo)致監(jiān)管資源的錯配，甚至抑制技術(shù)創(chuàng)新。

這些不確定性對監(jiān)管提出了嚴(yán)峻挑戰(zhàn)。傳統(tǒng)的監(jiān)管方法通?；凇邦A(yù)防原則”（Precautionary Principle），即在科學(xué)證據(jù)不充分的情況下，采取預(yù)防措施以避免潛在的重大傷害。然而，這一原則在人工智能領(lǐng)域可能并不適用，因?yàn)槿斯ぶ悄芟到y(tǒng)的潛在風(fēng)險(xiǎn)和收益往往難以事先評估。此外，人工智能系統(tǒng)的快速迭代和廣泛應(yīng)用使得監(jiān)管機(jī)構(gòu)難以及時(shí)更新監(jiān)管框架。監(jiān)管滯后可能導(dǎo)致監(jiān)管空白，而過度的預(yù)防性監(jiān)管則可能抑制技術(shù)創(chuàng)新。因此，監(jiān)管機(jī)構(gòu)需要在保護(hù)公眾利益與促進(jìn)技術(shù)創(chuàng)新之間找到平衡。

為此，面對不確定性，監(jiān)管機(jī)構(gòu)可以采取以下策略：

• 增強(qiáng)透明度和信息披露：要求人工智能開發(fā)者公開其系統(tǒng)的訓(xùn)練數(shù)據(jù)、算法邏輯和潛在風(fēng)險(xiǎn)，以便公眾和監(jiān)管機(jī)構(gòu)進(jìn)行監(jiān)督。

• 建立適應(yīng)性監(jiān)管框架：監(jiān)管框架應(yīng)具備靈活性，能夠根據(jù)技術(shù)發(fā)展和新出現(xiàn)的風(fēng)險(xiǎn)進(jìn)行調(diào)整。

• 促進(jìn)多方參與：鼓勵政府、企業(yè)、學(xué)術(shù)界和公眾共同參與人工智能治理，形成多元化的監(jiān)管體系。

• 探索保險(xiǎn)機(jī)制：通過建立保險(xiǎn)基金，分散人工智能系統(tǒng)可能帶來的意外傷害風(fēng)險(xiǎn)，減輕開發(fā)者負(fù)擔(dān)。

三、歐盟和美國的人工智能治理方法

在人工智能治理方面，歐盟和美國采取了不同的路徑。歐盟傾向于通過立法建立統(tǒng)一的監(jiān)管框架，而美國則更多依賴于行業(yè)自律和自愿性指導(dǎo)原則。本部分將分析歐盟和美國的治理方法，探討兩者在應(yīng)對人工智能風(fēng)險(xiǎn)方面的異同及其有效性。

（一）歐盟的人工智能治理方法

歐盟法案采用基于風(fēng)險(xiǎn)的分級管理方法，將人工智能系統(tǒng)分為四個風(fēng)險(xiǎn)等級：

1.不可接受風(fēng)險(xiǎn)（Unacceptable Risk）：禁止使用的人工智能系統(tǒng)，如利用潛意識技術(shù)操控人類行為、實(shí)時(shí)生物識別監(jiān)控等。

2.高風(fēng)險(xiǎn)（High Risk）：需嚴(yán)格監(jiān)管的系統(tǒng)，如用于關(guān)鍵基礎(chǔ)設(shè)施、教育、就業(yè)、執(zhí)法等領(lǐng)域的人工智能系統(tǒng)。開發(fā)者需進(jìn)行風(fēng)險(xiǎn)評估、數(shù)據(jù)治理、透明披露等。

3.有限風(fēng)險(xiǎn)（Limited Risk）：需履行透明度義務(wù)的系統(tǒng)，如聊天機(jī)器人、深度偽造（Deepfake）內(nèi)容生成器等。

4.最小風(fēng)險(xiǎn)（Minimal Risk）：基本無監(jiān)管要求的系統(tǒng)，如人工智能驅(qū)動的視頻游戲、垃圾郵件過濾器等。

對于生成式人工智能，歐盟法案設(shè)定了特殊條款。若模型訓(xùn)練計(jì)算量超過102? FLOPs，或歐盟委員會評估認(rèn)為其具有“系統(tǒng)性風(fēng)險(xiǎn)”，則需承擔(dān)額外義務(wù)，包括模型評估、測試、文檔記錄、報(bào)告等。開源模型在非商業(yè)用途下可豁免部分義務(wù)。

此外，歐盟還設(shè)立人工智能辦公室（AI Office）負(fù)責(zé)監(jiān)督實(shí)施，各成員國需設(shè)立監(jiān)管機(jī)構(gòu)，建立監(jiān)管沙盒（Regulatory Sandboxes）供企業(yè)測試人工智能系統(tǒng)。高風(fēng)險(xiǎn)人工智能系統(tǒng)需通過第三方評估并獲得CE認(rèn)證標(biāo)志后方可上市。同時(shí)，歐盟還配套出臺了《人工智能責(zé)任指令》（AI Liability Directive），明確了人工智能系統(tǒng)造成損害時(shí)的責(zé)任歸屬，采用嚴(yán)格責(zé)任原則，即開發(fā)者需證明其無過錯方可免責(zé)。

（二）美國的人工智能治理方法

與歐盟不同，美國聯(lián)邦層面尚未出臺專門的人工智能法律（截至2024年10月），而是通過行政命令、行業(yè)指南和自愿性標(biāo)準(zhǔn)進(jìn)行治理。2023年10月，拜登政府發(fā)布《關(guān)于安全、可靠和可信人工智能開發(fā)和使用的行政命令》，要求聯(lián)邦機(jī)構(gòu)在使用人工智能時(shí)遵循NIST的風(fēng)險(xiǎn)管理框架。

NIST于2023年1月發(fā)布《人工智能風(fēng)險(xiǎn)管理框架》（AI RMF 1.0），強(qiáng)調(diào)自愿性、靈活性和適應(yīng)性。該框架包括四個核心功能：

1.治理（Govern）：建立風(fēng)險(xiǎn)管理文化和治理結(jié)構(gòu)。

2.映射（Map）：識別人工智能系統(tǒng)的背景、功能和風(fēng)險(xiǎn)。

3.測量（Measure）：評估人工智能系統(tǒng)的風(fēng)險(xiǎn)水平和性能。

4.管理（Manage）：根據(jù)風(fēng)險(xiǎn)評估結(jié)果，采取風(fēng)險(xiǎn)緩解措施。

此外，NIST還發(fā)布了針對生成式人工智能的專門指南，識別了214項(xiàng)具體風(fēng)險(xiǎn)，并提出了相應(yīng)的管理建議。

美國政府鼓勵行業(yè)自律，支持企業(yè)、學(xué)術(shù)界和民間組織制定人工智能治理標(biāo)準(zhǔn)。例如，人工智能聯(lián)盟（AI Alliance）和人工智能治理聯(lián)盟（AI Governance Alliance）等組織積極參與標(biāo)準(zhǔn)制定。政府還強(qiáng)調(diào)人工智能系統(tǒng)的透明度和可審計(jì)性，要求企業(yè)披露訓(xùn)練數(shù)據(jù)來源、模型性能等信息。盡管聯(lián)邦層面未出臺強(qiáng)制性法律，但一些州已開始行動。例如，科羅拉多州通過了SB24-205法案，要求高風(fēng)險(xiǎn)人工智能系統(tǒng)進(jìn)行風(fēng)險(xiǎn)評估和披露。加利福尼亞州也提出了多項(xiàng)人工智能監(jiān)管法案，涵蓋透明度、算法歧視、數(shù)據(jù)隱私等方面，但部分法案被州長否決。

歐盟和美國在人工智能治理上采取了不同的策略，反映了各自的政策目標(biāo)、法律文化和產(chǎn)業(yè)利益。歐盟的強(qiáng)制性立法有助于建立統(tǒng)一的監(jiān)管標(biāo)準(zhǔn)，但可能對創(chuàng)新產(chǎn)生一定抑制；美國的自愿性指南則鼓勵創(chuàng)新，但需加強(qiáng)監(jiān)管協(xié)調(diào)和用戶保護(hù)。

四、結(jié)論

面對生成式人工智能帶來的高度不確定性，傳統(tǒng)的風(fēng)險(xiǎn)管理方法和現(xiàn)有監(jiān)管框架已難以有效應(yīng)對。監(jiān)管機(jī)構(gòu)首先應(yīng)保持謙卑，認(rèn)識到自身能力的局限，避免給公眾造成“絕對安全”的錯覺，同時(shí)加強(qiáng)對公眾的教育，提高社會對人工智能技術(shù)的理性認(rèn)知。此外，應(yīng)建立合理的風(fēng)險(xiǎn)分擔(dān)機(jī)制，借鑒汽車保險(xiǎn)、地震保險(xiǎn)等領(lǐng)域的經(jīng)驗(yàn)，設(shè)立人工智能保險(xiǎn)基金，由開發(fā)者、用戶和政府共同出資，用于賠償開發(fā)者已盡合理注意義務(wù)但仍無法預(yù)見的意外傷害，從而激勵技術(shù)創(chuàng)新并保障受害者權(quán)益。同時(shí)，應(yīng)引入大學(xué)、研究機(jī)構(gòu)等第三方獨(dú)立評估機(jī)構(gòu)，對人工智能系統(tǒng)進(jìn)行客觀評估，并推動開發(fā)者提高系統(tǒng)透明度，主動披露訓(xùn)練數(shù)據(jù)、算法邏輯和風(fēng)險(xiǎn)管理措施。國際社會還應(yīng)共同制定統(tǒng)一的人工智能評估標(biāo)準(zhǔn)，明確責(zé)任歸屬，合理設(shè)置責(zé)任標(biāo)準(zhǔn)，避免責(zé)任過度集中于開發(fā)者。最后，人工智能治理需要政府、企業(yè)、學(xué)術(shù)界和公眾的共同參與，建立國際合作機(jī)制，形成多元共治格局，在保障社會安全的同時(shí)，促進(jìn)人工智能技術(shù)的健康發(fā)展，實(shí)現(xiàn)技術(shù)進(jìn)步與社會福祉的良性互動。

免責(zé)聲明：本文轉(zhuǎn)自啟元洞見。文章內(nèi)容系原作者個人觀點(diǎn)，本公眾號編譯/轉(zhuǎn)載僅為分享、傳達(dá)不同觀點(diǎn)，如有任何異議，歡迎聯(lián)系我們！

轉(zhuǎn)自丨啟元洞見

研究所簡介

國際技術(shù)經(jīng)濟(jì)研究所（IITE）成立于1985年11月，是隸屬于國務(wù)院發(fā)展研究中心的非營利性研究機(jī)構(gòu)，主要職能是研究我國經(jīng)濟(jì)、科技社會發(fā)展中的重大政策性、戰(zhàn)略性、前瞻性問題，跟蹤和分析世界科技、經(jīng)濟(jì)發(fā)展態(tài)勢，為中央和有關(guān)部委提供決策咨詢服務(wù)。“全球技術(shù)地圖”為國際技術(shù)經(jīng)濟(jì)研究所官方微信賬號，致力于向公眾傳遞前沿技術(shù)資訊和科技創(chuàng)新洞見。

地址：北京市海淀區(qū)小南莊20號樓A座

電話：010-82635522

微信：iite_er