文/觀察者網(wǎng)專欄作者 熊節(jié)

2025年5月13日，一家美國(guó)聯(lián)邦法院發(fā)出了一項(xiàng)令人震驚的命令。該命令要求OpenAI“保存并隔離所有用戶活動(dòng)記錄”，即使用戶或企業(yè)希望刪除這些記錄。這項(xiàng)命令意味著，從那天起，全球超過3億用戶每天發(fā)送的超過10億條與ChatGPT的對(duì)話，正在被無限期保存——即使用戶點(diǎn)擊了“刪除”。

該命令源于《紐約時(shí)報(bào)》對(duì)OpenAI提起的一起版權(quán)訴訟。但法院的理由令人不安：“刪除數(shù)據(jù)的用戶很可能是試圖抹去痕跡的版權(quán)侵權(quán)者。”換言之，行使刪除權(quán)——一項(xiàng)基本的隱私保護(hù)——正被法院視為犯罪嫌疑的證據(jù)。

OpenAI首席執(zhí)行官薩姆·奧爾特曼（Sam Altman）在社交媒體上警告稱，這一決定“損害了用戶隱私”并“開創(chuàng)了一個(gè)糟糕的先例”。但更令人不安的問題是：這些被強(qiáng)制保存的對(duì)話中包含什么？用戶向ChatGPT傾訴的醫(yī)療癥狀、財(cái)務(wù)困難、職業(yè)規(guī)劃、個(gè)人秘密——所有這些“都可能被出售或贈(zèng)與，被黑客侵入，或泄露給執(zhí)法部門”。

OpenAI首席執(zhí)行官薩姆·奧爾特曼（Sam Altman）在社交媒體上的回應(yīng)

這并非假設(shè)性的威脅。2023年，三星員工通過ChatGPT泄露了公司的機(jī)密源代碼。這家韓國(guó)公司的律師警告說，這些數(shù)據(jù)“無法恢復(fù)，因?yàn)樗鼈儸F(xiàn)在存儲(chǔ)在屬于OpenAI的服務(wù)器上”。蘋果、亞馬遜、摩根大通、高盛、德意志銀行……從科技到金融，從健康到法律，一長(zhǎng)串名單揭示了：全球最大、裝備最精良的公司都在限制員工使用ChatGPT。研究顯示，近70%的公司為保護(hù)機(jī)密信息而阻止使用此工具。

如果連這些擁有最先進(jìn)網(wǎng)絡(luò)安全團(tuán)隊(duì)的跨國(guó)公司都無法安全使用ChatGPT，全球南方的政府和企業(yè)又怎能做到呢？

企業(yè)監(jiān)控僅僅是冰山一角。當(dāng)愛德華·斯諾登（Edward Snowden）——這位揭露美國(guó)大規(guī)模監(jiān)控計(jì)劃“棱鏡”（PRISM）的舉報(bào)人——發(fā)出警報(bào)時(shí)，我們必須意識(shí)到，問題遠(yuǎn)比企業(yè)數(shù)據(jù)泄露嚴(yán)重得多。

愛德華·斯諾登

01.從“棱鏡”到ChatGPT：監(jiān)控的升級(jí)

2024年6月，OpenAI任命美國(guó)國(guó)家安全局（NSA）前局長(zhǎng)保羅·中曾根（Paul Nakasone）將軍為其董事會(huì)成員。愛德華·斯諾登在社交媒體上發(fā)布了自被迫流亡以來最嚴(yán)厲的警告之一：“他們已經(jīng)徹底撕下了面具：永遠(yuǎn)不要信任OpenAI或其產(chǎn)品。這是對(duì)地球上每個(gè)人權(quán)利的有意識(shí)的、精心策劃的背叛。你們已經(jīng)被警告了?！?/p>

“棱鏡門”披露者斯諾登警告：OpenAI已經(jīng)卸下偽裝……

斯諾登并非空穴來風(fēng)。2013年，他冒著巨大的個(gè)人自由風(fēng)險(xiǎn)，揭露了NSA的“棱鏡”計(jì)劃——一個(gè)直接從谷歌、Facebook和蘋果等科技巨頭收集數(shù)據(jù)、在沒有司法授權(quán)的情況下進(jìn)行大規(guī)模監(jiān)控的計(jì)劃?！袄忡R”丑聞引發(fā)了全球震蕩，導(dǎo)致許多國(guó)家加強(qiáng)了隱私保護(hù)法律，歐盟也推出了《通用數(shù)據(jù)保護(hù)條例》（GDPR）。

斯諾登現(xiàn)在警告說，ChatGPT是一個(gè)比“棱鏡”更強(qiáng)大的監(jiān)控工具。為什么？“棱鏡”是被動(dòng)地收集通信數(shù)據(jù)；ChatGPT則讓用戶主動(dòng)提供他們最私密的想法。“棱鏡”主要收集元數(shù)據(jù)（誰聯(lián)系了誰）；ChatGPT收集完整內(nèi)容——人們的思想、計(jì)劃、擔(dān)憂、秘密?！袄忡R”涉及數(shù)百萬用戶；ChatGPT擁有超過3億用戶，每天處理超過10億條信息。更關(guān)鍵的是，“棱鏡”的曝光引發(fā)了抵抗和法律改革；而ChatGPT的監(jiān)控行為已被公之于眾，卻繼續(xù)被廣泛接受和使用。

一些評(píng)論家甚至稱ChatGPT為“有史以來最大的監(jiān)控?cái)?shù)據(jù)庫(kù)——NSA夢(mèng)寐以求的數(shù)據(jù)庫(kù)”。

02.OpenAI承認(rèn)其在監(jiān)視用戶

斯諾登的警告并非基于猜測(cè)，而是基于他對(duì)監(jiān)控機(jī)器如何運(yùn)作的深刻理解。更令人不安的是，我們甚至不需要舉報(bào)人來證明OpenAI在監(jiān)控用戶。OpenAI自己的報(bào)告就已經(jīng)承認(rèn)了這一點(diǎn)。

2025年10月，該公司發(fā)布了一份題為《打擊惡意使用AI”的報(bào)告》。該文件自豪地宣布，自2024年2月以來，它“阻止并報(bào)告了”超過40個(gè)違反其使用政策的網(wǎng)絡(luò)。報(bào)告詳細(xì)披露，與中國(guó)政府有關(guān)的賬戶會(huì)使用ChatGPT起草大規(guī)模社交媒體監(jiān)控系統(tǒng)的提案。據(jù)稱，俄羅斯組織試圖優(yōu)化入侵病毒，以遠(yuǎn)程訪問系統(tǒng)并竊取特權(quán)用戶的憑證。據(jù)稱，朝鮮黑客創(chuàng)建了旨在攻擊韓國(guó)的入侵內(nèi)容。

OpenAI的聲明以及該報(bào)告的目錄頁

OpenAI將這些披露描述為打擊“惡意使用”的成就。但該報(bào)告無意中揭示了一個(gè)更深層次的真相：為了識(shí)別這些特定的“惡意使用”案例，OpenAI必須擁有并使用其常規(guī)監(jiān)控所有用戶對(duì)話的能力。

思考其技術(shù)邏輯：為了發(fā)現(xiàn)一個(gè)據(jù)稱正在開發(fā)維吾爾人監(jiān)控系統(tǒng)的中國(guó)用戶，OpenAI需要訪問和分析該用戶的所有對(duì)話內(nèi)容；部署實(shí)時(shí)或近實(shí)時(shí)的監(jiān)控系統(tǒng)；能夠分析內(nèi)容并識(shí)別模式；能夠?qū)⒂脩襞c特定國(guó)家或組織關(guān)聯(lián)；然后主動(dòng)選擇披露哪些案例。

最關(guān)鍵的問題是：OpenAI只披露其認(rèn)為是“敵對(duì)國(guó)家”（中國(guó)、俄羅斯、伊朗、朝鮮）的案例。那么西方國(guó)家呢？美國(guó)的盟友呢？該報(bào)告保持沉默。這種選擇性披露恰恰證明，OpenAI可以監(jiān)控所有國(guó)家，但只選擇披露符合美國(guó)地緣政治利益的部分。如果他們能監(jiān)控中國(guó)和俄羅斯，他們就能監(jiān)控巴西、印度、南非——以及全球南方的所有國(guó)家。

2025年8月，OpenAI在一篇官方博文中公開承認(rèn)，該公司正在掃描ChatGPT上的用戶對(duì)話，并向警方報(bào)告內(nèi)容。具體機(jī)制是：用戶“計(jì)劃對(duì)他人造成傷害”的對(duì)話會(huì)被轉(zhuǎn)到專門的審查渠道，由經(jīng)過培訓(xùn)的人工審核員進(jìn)行審查。如果審核員確定某個(gè)案例涉及“對(duì)他人構(gòu)成迫在眉睫的嚴(yán)重身體傷害威脅”，該案例將被轉(zhuǎn)交給執(zhí)法部門。

但標(biāo)準(zhǔn)何在？“對(duì)他人造成傷害”意味著什么？由誰來定義？這些標(biāo)準(zhǔn)會(huì)隨著政治環(huán)境而改變嗎？今天是“迫在眉睫的暴力威脅”。明天是否會(huì)涵蓋政治異見、墮胎咨詢、關(guān)于性取向的討論？

03.言辭與實(shí)踐之間的驚人鴻溝

OpenAI的“官方執(zhí)法部門用戶數(shù)據(jù)請(qǐng)求政策”明確聲明：只有在收到合法的搜查令后，才會(huì)披露用戶的對(duì)話內(nèi)容。 但現(xiàn)實(shí)如何？OpenAI主動(dòng)監(jiān)控所有用戶對(duì)話（上文引用的報(bào)告已證明了這一點(diǎn)）；自行判斷什么構(gòu)成“惡意使用”，主動(dòng)向執(zhí)法部門報(bào)告（而不僅僅是響應(yīng)請(qǐng)求），并發(fā)布威脅情報(bào)報(bào)告公開披露用戶行為——所有這一切都無需任何法律程序。

歐洲監(jiān)管機(jī)構(gòu)已意識(shí)到這一點(diǎn)。2024年12月，意大利數(shù)據(jù)保護(hù)局以“在沒有適當(dāng)法律依據(jù)的情況下處理個(gè)人信息”和“違反透明度原則”等理由，對(duì)OpenAI處以1500萬歐元的罰款。 隱私研究員Lukasz Olejnik在向波蘭數(shù)據(jù)保護(hù)局提交的17頁投訴中更為直接：“OpenAI似乎承認(rèn)，ChatGPT工具模型的開發(fā)方式，在根本上不符合歐盟《通用數(shù)據(jù)保護(hù)條例》（GDPR）的要求”。

歐盟《通用數(shù)據(jù)保護(hù)條例》（GDPR）

這不是OpenAI的疏忽，而是其商業(yè)模式的根本問題。OpenAI對(duì)意大利罰款的回應(yīng)暴露了其邏輯：罰款“幾乎是（在該國(guó)）收入的20倍”——這意味著該公司在該國(guó)賺的錢很少，但數(shù)據(jù)收集的價(jià)值是巨大的。罰款僅僅是收集數(shù)據(jù)的“成本”。

04.與美國(guó)政府的戰(zhàn)略融合

OpenAI與美國(guó)政府的關(guān)系遠(yuǎn)遠(yuǎn)超出了普通的商業(yè)合作。從人事角度看，OpenAI董事會(huì)成員保羅·中曾根是美國(guó)國(guó)家安全局的前局長(zhǎng)，負(fù)責(zé)美國(guó)的情報(bào)和網(wǎng)絡(luò)戰(zhàn)行動(dòng)。另一位董事會(huì)成員威爾·赫德（Will Hurd）曾是中情局（CIA）的官員，并任職于In-Q-Tel（中情局的主要投資部門）的董事會(huì)。

保羅·中曾根，OpenAI董事會(huì)成員，日裔美國(guó)人，曾任美國(guó)國(guó)家安全局（NSA）局長(zhǎng)，也是在任時(shí)間最長(zhǎng)的美國(guó)網(wǎng)絡(luò)司令部司令和中央安全局（CSS）局長(zhǎng)。

威爾·赫德，OpenAI前董事，美國(guó)共和黨總統(tǒng)參選人，美國(guó)得克薩斯州國(guó)會(huì)議員。

從商業(yè)合作角度看，OpenAI推出了ChatGPT Gov，這是專為美國(guó)政府機(jī)構(gòu)設(shè)計(jì)的服務(wù)。令人震驚的細(xì)節(jié)包括與美國(guó)總務(wù)管理局的一項(xiàng)協(xié)議。該協(xié)議為這些機(jī)構(gòu)提供ChatGPT企業(yè)版，每年每家機(jī)構(gòu)僅需1美元。這實(shí)質(zhì)上是一種捐贈(zèng)。

從技術(shù)整合的角度看，ChatGPT Gov允許美國(guó)政府機(jī)構(gòu)將“敏感的非公開數(shù)據(jù)”輸入OpenAI的模型，進(jìn)行絕密數(shù)據(jù)處理。OpenAI的GPT-4o通過微軟Azure集成到美國(guó)政府云中。這意味著承擔(dān)秘密工作職責(zé)的聯(lián)邦機(jī)構(gòu)，包括國(guó)防部，可以使用GPT-4o執(zhí)行不向公眾披露的任務(wù)。

一個(gè)揭示性的雙重標(biāo)準(zhǔn)：OpenAI堅(jiān)稱不會(huì)使用美國(guó)聯(lián)邦雇員輸入的數(shù)據(jù)來訓(xùn)練其模型，這為美國(guó)政府提供了“數(shù)據(jù)防火墻”。但在其他國(guó)家的用戶卻沒有這樣的保護(hù)。

每年1美元的價(jià)格不是商業(yè)交易，而是戰(zhàn)略合作。這9萬名政府用戶的1800萬條信息中包含什么內(nèi)容？這些信息是如何被使用的？與此同時(shí)，中情局（CIA）也在開發(fā)自己版本的ChatGPT，名為Osiris，供美國(guó)18家監(jiān)視機(jī)構(gòu)的數(shù)千名分析師使用。 大型語言模型（LLM）與間諜活動(dòng)之間的界限正在消失。

05.“大規(guī)模監(jiān)視”到“大規(guī)模窺探”

安全專家布魯斯·施奈爾（Bruce Schneier）警告說，AI使得監(jiān)控發(fā)生了質(zhì)變——從“大規(guī)模監(jiān)視”轉(zhuǎn)向“大規(guī)模窺探”。 區(qū)別在于：監(jiān)視是收集和存儲(chǔ)；窺探是理解和利用。傳統(tǒng)監(jiān)視只能進(jìn)行關(guān)鍵詞搜索；AI可以“理解”上下文和隱含意義，同時(shí)分析數(shù)十億次對(duì)話并識(shí)別復(fù)雜的模式。美國(guó)公民自由聯(lián)盟（ACLU）指出，大型語言模型使得“被有效監(jiān)控的通信數(shù)量將大幅增加”。

一個(gè)更隱蔽的威脅是訓(xùn)練數(shù)據(jù)的污染。亞馬遜員工稱曾看到ChatGPT“模仿”了公司內(nèi)部數(shù)據(jù)，雖然沒有完全復(fù)制——但“足夠令人信服”。 這意味著：即使你沒有直接輸入信息，ChatGPT也可以通過聚合他人的輸入來重建敏感信息。在全球南方國(guó)家，即使政府禁止員工使用OpenAI的系統(tǒng)，只要第三方（外國(guó)情報(bào)機(jī)構(gòu)、跨國(guó)公司）使用它，ChatGPT就可能“學(xué)會(huì)”他們的國(guó)家機(jī)密。

外媒關(guān)于此事件的報(bào)道

06.全球南方的數(shù)字主權(quán)危機(jī)

中國(guó)已完全禁止ChatGPT。2025年1月29日，印度財(cái)政部發(fā)布通知，限制政府雇員在公務(wù)工作中使用ChatGPT和DeepSeek等AI工具，理由是這些工具依賴海外服務(wù)器存儲(chǔ)和處理數(shù)據(jù)，導(dǎo)致政府無法控制敏感信息的使用。 巴西研究人員已向數(shù)據(jù)保護(hù)局請(qǐng)?jiān)?，要求調(diào)查ChatGPT違反巴西《通用數(shù)據(jù)保護(hù)法》（LGPD）的行為，指出OpenAI甚至?xí)峁┌臀鞴娙宋锏膫€(gè)人稅號(hào)（CPF）。

但警惕不等于應(yīng)對(duì)能力。聯(lián)合國(guó)貿(mào)易和發(fā)展會(huì)議（UNCTAD）指出，全球南方國(guó)家正面臨“新一輪的數(shù)字殖民主義”。一個(gè)三重困境：數(shù)據(jù)主權(quán)喪失、技術(shù)依賴（芯片、模型、云服務(wù)均由少數(shù)公司控制）以及價(jià)值觀被強(qiáng)加（硅谷價(jià)值觀通過AI在全球范圍內(nèi)植入）。 構(gòu)建新的人工智能極其昂貴，而芯片的獲取受到嚴(yán)格控制。即使投入巨資，“你仍然無法消除對(duì)外國(guó)的依賴”。

07.一個(gè)關(guān)于殖民主義的警示

AI時(shí)代權(quán)力不平等再現(xiàn)了歷史上的殖民模式：全球南方國(guó)家提供數(shù)據(jù)（原材料）。這些數(shù)據(jù)流入美國(guó)的服務(wù)器進(jìn)行處理和利用。北方控制著處理能力，然后向南方出售AI服務(wù)（成品）。利潤(rùn)和控制權(quán)仍留在北方。這不是比喻，而是經(jīng)濟(jì)現(xiàn)實(shí)。作者的研究表明，僅谷歌一家，在2024年為其資產(chǎn)增加了價(jià)值360億美元的用戶數(shù)據(jù)。然而，關(guān)于數(shù)據(jù)價(jià)值的核算、權(quán)利的確定和利益的分配的國(guó)際討論幾乎不存在。

最深層的殖民主義是意識(shí)形態(tài)。定量分析表明，即使是本土的大型模型也表現(xiàn)出中等到高度的西方意識(shí)形態(tài)偏見——因?yàn)橛?xùn)練數(shù)據(jù)集嚴(yán)重依賴英語內(nèi)容，西方控制的信息源獲得了過高的權(quán)重。

08.另一條道路：與中國(guó)的主權(quán)合作

全球南方國(guó)家通過自力更生獨(dú)立構(gòu)建完整的信息通信技術(shù)體系的歷史窗口已經(jīng)關(guān)閉?，F(xiàn)實(shí)是：中國(guó)和美國(guó)在AI研發(fā)上的投入達(dá)萬億美元級(jí)別，而印度的IndianAI項(xiàng)目?jī)H為12.5億美元。 但這并不意味著絕望。全球南方有兩個(gè)選擇：要么繼續(xù)使用美國(guó)的基礎(chǔ)設(shè)施，忍受數(shù)據(jù)攫取、意識(shí)形態(tài)灌輸和安全威脅；要么在維持和加強(qiáng)數(shù)字主權(quán)的條件下，與中國(guó)建立技術(shù)合作。

根據(jù)數(shù)字主權(quán)指數(shù)（DSI）的評(píng)估，中國(guó)是除美國(guó)之外唯一擁有完全數(shù)字主權(quán)的國(guó)家，DSI得分為4.25。 具體的合作路徑包括：第一，通過BOT（建設(shè)-運(yùn)營(yíng)-移交）等模式共建數(shù)字基礎(chǔ)設(shè)施；第二，合作開發(fā)數(shù)據(jù)要素，量化數(shù)據(jù)資產(chǎn)價(jià)值并談判互惠互利的機(jī)制；第三，互鑒治理經(jīng)驗(yàn)；第四，聯(lián)合培養(yǎng)人才，包含技術(shù)轉(zhuǎn)讓和能力建設(shè)。

09.行動(dòng)時(shí)刻已到

2025年5月，一家美國(guó)法院命令OpenAI無限期保存所有用戶對(duì)話。全球超過3億的用戶中，很少有人意識(shí)到他們的醫(yī)療咨詢、財(cái)務(wù)規(guī)劃、職業(yè)焦慮、個(gè)人秘密，現(xiàn)在被強(qiáng)制存儲(chǔ)在OpenAI的服務(wù)器上，可能“被出售或贈(zèng)與，被黑客侵入或泄露給執(zhí)法部門”。

2023年，當(dāng)一位三星工程師打開ChatGPT尋求代碼幫助時(shí)，他以為只是在使用一個(gè)便捷的工具。他沒有意識(shí)到，他公司的秘密“現(xiàn)在技術(shù)上已掌握在OpenAI手中”并且“無法恢復(fù)”。三星可以禁止ChatGPT，蘋果可以開發(fā)自己的AI工具，高盛可以阻止這項(xiàng)服務(wù)。但全球南方的小企業(yè)呢？他們的政府部門呢？研究機(jī)構(gòu)呢？他們有三星的資源嗎？有蘋果的技術(shù)能力嗎？

當(dāng)愛德華·斯諾登說OpenAI是“對(duì)地球上每個(gè)人權(quán)利的有意識(shí)的背叛”時(shí)，他并非危言聳聽。他是基于對(duì)美國(guó)監(jiān)控機(jī)器的深刻理解發(fā)出這一警告。當(dāng)安全專家布魯斯·施奈爾說我們正從“大規(guī)模監(jiān)視”轉(zhuǎn)向“大規(guī)模窺探”時(shí)，他揭示了監(jiān)視性質(zhì)的轉(zhuǎn)變：不僅僅是收集數(shù)據(jù)，而是理解、處理和利用數(shù)據(jù)。

對(duì)于全球南方國(guó)家而言，這不僅是隱私問題，更是主權(quán)問題。數(shù)據(jù)是新石油，AI是新基建。將數(shù)據(jù)和AI的控制權(quán)交給美國(guó)公司，就像歷史上將自然資源和基礎(chǔ)設(shè)施的控制權(quán)交給殖民者一樣。

2025年7月，金磚國(guó)家領(lǐng)導(dǎo)人通過人工智能全球治理宣言

歷史的窗口可能已經(jīng)關(guān)閉，但選擇的窗口依然敞開。全球南方國(guó)家可以選擇繼續(xù)被動(dòng)接受美國(guó)的數(shù)字殖民主義，也可以選擇與中國(guó)等國(guó)家合作，在采用先進(jìn)技術(shù)的同時(shí)，維持和加強(qiáng)自身的數(shù)字主權(quán)。數(shù)字主權(quán)指數(shù)（DSI）框架提供了評(píng)估和跟蹤的工具。四項(xiàng)具體建議提供了一條行動(dòng)路徑。所缺乏的不是方案，而是決心。

當(dāng)政府雇員使用ChatGPT起草官方文件時(shí)；當(dāng)企業(yè)使用ChatGPT進(jìn)行商業(yè)規(guī)劃時(shí)；當(dāng)研究人員使用它進(jìn)行調(diào)查研究時(shí)，必須意識(shí)到：這些對(duì)話可能正在被OpenAI監(jiān)控、分析，并與美國(guó)情報(bào)機(jī)構(gòu)共享。

2025年5月法院命令的教訓(xùn)是：即使你點(diǎn)擊“刪除”，數(shù)據(jù)仍可能被強(qiáng)制保存。三星案例的教訓(xùn)是：一旦上傳，數(shù)據(jù)就“無法恢復(fù)”。對(duì)全球南方國(guó)家的教訓(xùn)應(yīng)該是：數(shù)字主權(quán)一旦喪失，就難以挽回。