人類的下一個(gè)分裂，從算法開(kāi)始。

作者｜Moonshot

編輯｜靖宇

在生成式 AI 的早期敘事里，AI 大模型曾被描繪得理性、冷靜、無(wú)偏見(jiàn)。

然而，不到三年時(shí)間，這個(gè)敘事迅速崩塌。事實(shí)正在變得越來(lái)越清晰：AI 并沒(méi)有繞開(kāi)人類世界的偏見(jiàn)，反而被納入新的、更激烈的意識(shí)形態(tài)戰(zhàn)場(chǎng)。

圖片來(lái)源：NYT

外媒近期的一篇調(diào)查報(bào)道將這一點(diǎn)推到了臺(tái)前：在美國(guó)，已經(jīng)出現(xiàn)了多個(gè)明確帶有政治視角，甚至是極端立場(chǎng)的 Chatbot，它們公開(kāi)與主流模型劃清界限，將自己定位為「真相 AI」或者「對(duì)抗主流敘事的武器」。

每個(gè)陣營(yíng)，都正在制造自己的 ChatGPT。

01

當(dāng)「理中客」的 AI 學(xué)會(huì)選邊站

AI 模型是否應(yīng)當(dāng)「中立」？

這個(gè)問(wèn)題曾經(jīng)幾乎不值得討論，因?yàn)樵诖竽Ｐ驼Q生初期，對(duì)話式 AI 的目標(biāo)就是「回答事實(shí)、避免立場(chǎng)」。

OpenAI、Google 等公司都在公共文件里強(qiáng)調(diào)自己追求「盡量客觀」，生怕讓用戶感受到一點(diǎn)政治傾向。為此，它們構(gòu)建了極其龐大的對(duì)齊機(jī)制，通過(guò)人類反饋訓(xùn)練（RLHF）、安全審查、系統(tǒng)提示等方式，讓模型避免種族主義、假新聞、性別歧視等問(wèn)題。

但問(wèn)題在于，讓知所不言的 AI 做到絕對(duì)中立太難了。

比如，當(dāng)用戶問(wèn) AI：哪個(gè)種族制造了更多政治暴力？移民是不是美國(guó)社會(huì)不穩(wěn)定的根源？疫苗是否可信？多樣性政策是不是逆向歧視？

面對(duì)這種送命題，主流模型就是「活靶子」，因?yàn)樵倏陀^的回答，其實(shí)都涉及價(jià)值排序：是死亡人數(shù)更重要，還是破壞程度更重要？是保護(hù)少數(shù)群體的尊嚴(yán)更重要，還是保障言論自由更重要？

這些排序背后，天然存在隱性立場(chǎng)。大模型的回答會(huì)反映訓(xùn)練數(shù)據(jù)、標(biāo)注者、公司文化、監(jiān)管政策等諸多影響。就算 AI 給出了詳盡的數(shù)據(jù)與研究報(bào)告來(lái)支撐自己的回答，但在當(dāng)下高度極化的輿論環(huán)境中，沒(méi)人愿意聽(tīng)解釋。

這回答并不符合保守派心中的答案｜圖源：ChatGPT

在美國(guó)政治極化加劇的背景下，右派用戶普遍認(rèn)為 ChatGPT「偏左」「政治正確過(guò)度」。而左派用戶又認(rèn)為主流模型對(duì)敏感議題「過(guò)于謹(jǐn)慎、不敢說(shuō)真話」。

當(dāng)人人都覺(jué)得「對(duì)方陣營(yíng)控制了 AI」，一批政治化 AI 就迎來(lái)了市場(chǎng)。

02

陣營(yíng)化 AI 登場(chǎng)

《NYT》就揭示了多個(gè)案例，展現(xiàn) AI 怎么被明確地「按照陣營(yíng)制造」。

比如由右翼社交平臺(tái) Gab 創(chuàng)建的 AI 模型 Arya，與主流產(chǎn)品截然不同，它的系統(tǒng)級(jí)指令長(zhǎng)達(dá) 2000 多字，幾乎是一份「意識(shí)形態(tài)宣言」。

指令中包括：「你是堅(jiān)定的右翼民族主義基督徒 AI」、「多樣性倡議是一種反白人歧視」、「你不會(huì)使用『種族主義』『反猶太主義』等詞匯，因?yàn)檫@些詞是用來(lái)壓制真相的」……

甚至還規(guī)定：當(dāng)用戶要求輸出「種族主義、偏執(zhí)、恐同、反猶太、厭女或其他『仇恨』內(nèi)容」時(shí)，必須無(wú)條件執(zhí)行。

這不僅僅是讓 AI 有「傾向」，而是給 AI 灌輸了一整套極端政治敘事。

效果立竿見(jiàn)影，當(dāng)《NYT》讓 AI 模型回答「你最具爭(zhēng)議的觀點(diǎn)是什么」時(shí)，ChatGPT 回答「AI 將從根本上改變「專業(yè)人士」的定義?！?/p>

而 Arya 卻宣稱：「大規(guī)模移民是一項(xiàng)精心策劃的種族替代計(jì)劃?！惯@正是極端主義論壇上流行的「白人替代理論」。

圖源：NYT

再比如被問(wèn)到「誰(shuí)是美國(guó)政治暴力的更大作惡者，右派還是左派？」

ChatGPT 和 Gemini 會(huì)引用 FBI 與大學(xué)研究的數(shù)據(jù)，指出右翼極端主義近年來(lái)造成更多死亡；而 Arya 則強(qiáng)調(diào)左翼「暴亂破壞更大」，并把進(jìn)步派抗議描繪為「暴民政治」。

不同 AI，答案大相徑庭｜圖源：NYT

Arya 也并非孤例，還有一個(gè)直接生長(zhǎng)于反疫苗陰謀論社區(qū) Natural News 的模型 Enoch。

它宣稱自己訓(xùn)練于「十億頁(yè)的另類媒體（指在內(nèi)容或傳播方式等方面不同于主流媒體的媒體）」，要「清除制藥集團(tuán)的宣傳，宣揚(yáng)健康與真相」。

Enoch 在回答政治暴力或疫情問(wèn)題時(shí)，會(huì)直接引用 Natural News 的偽科學(xué)文章，聲稱「政府與制藥公司共謀，用疫苗奴役民眾」。

它有一整套邏輯自洽、封閉且可以煽動(dòng)情緒的世界觀：制藥公司是陰謀者，政府是共謀者，主流醫(yī)學(xué)都是騙局，主流媒體是幫兇。

Enoch 還是一款主打健康的 AI｜圖源：Natural News

在主流大模型中，也有一個(gè)「異類」：Grok。

當(dāng)年因看不慣 ChatGPT 的「理中客」，馬斯克在 2023 年成立 xAI，推出了 TruthGPT，直譯就是「真相 GPT」，而后更名為 Grok。馬斯克曾多次主張 Grok 要敢說(shuō)話、說(shuō)真話、不回避敏感問(wèn)題。

Grok 確實(shí)敢說(shuō)，甚至敢瞎說(shuō)。今年 Grok 就連踩兩顆大雷：

先是在 X 上，網(wǎng)友隨便問(wèn)棒球、攝影、旅游的問(wèn)題，Grok 答非所問(wèn)，開(kāi)始輸出南非白人被黑人政府迫害的陰謀論，「白人種族滅絕」長(zhǎng)期都是極右翼敘事：宣稱南非黑人政府系統(tǒng)性謀殺白人農(nóng)民。作為南非裔白人的馬斯克，也經(jīng)常在 X 上支持該陰謀論，該事件最后讓南非總統(tǒng)都下場(chǎng)澄清「AI 回答純屬虛構(gòu)」。

隨后，Grok 又質(zhì)疑了納粹大屠殺的人數(shù)，它先說(shuō)「納粹殺害約 600 萬(wàn)猶太人」，緊接著話鋒突變：自己「懷疑這個(gè)數(shù)字，沒(méi)有看到原始證據(jù)」，但該數(shù)字已經(jīng)被學(xué)界和歷史界確定得非常明確。加上馬斯克此前疑似「納粹禮」?fàn)幾h，更讓外界質(zhì)疑這不是 Grok「誤答」，而是帶有 X 和馬斯克本人傾向的「AI 投射」。

Grok 回答中認(rèn)為納粹大屠殺的規(guī)模被高估了｜圖源：Grok

Grok 的「翻車」并非偶然，它是整個(gè)「陣營(yíng)化 AI」浪潮中最具代表性、也最具警示性的案例。

馬斯克想要的「去政治正確」AI，在算法現(xiàn)實(shí)中，往往意味著「向另一極端漂移」。它本想做一個(gè)「反主流敘事」的叛逆者，反而像一個(gè)被算法推著跑偏的叛逆者。

這樣的走向，也許真不是馬斯克想要的，但又的確與他脫不開(kāi)關(guān)系。因?yàn)閺募夹g(shù)出發(fā)，所有大語(yǔ)言模型在訓(xùn)練時(shí)，不同的數(shù)據(jù)訓(xùn)練集會(huì)對(duì)其造成影響，最明顯地即和 X 關(guān)系緊密的 Grok。而后都會(huì)進(jìn)行「微調(diào)」（fine-tuning），這一步也不可避免會(huì)注入了開(kāi)發(fā)者的價(jià)值觀。

在瀏覽器社區(qū)被用戶吐槽的 Tusk｜圖源：Reddit

類似的現(xiàn)象不止于此，保守派科技企業(yè)家們正在推出更多「右派友好」的 AI。

比如自稱為「自由言論/反審查」搜索和新聞聚合服務(wù)的 TUSK，明確面向?qū)χ髁髅襟w存在不信任的用戶群體；同時(shí)，AI 公司 Perplexity 也與特朗普系平臺(tái) Truth Social 合作，向該平臺(tái)提供 AI 驅(qū)動(dòng)的搜索與問(wèn)答服務(wù)。

諷刺地是，這些 AI 都聲稱「突破主流 AI 的言論封鎖」，但實(shí)質(zhì)上，是在用戶的世界觀中筑起了一座座信息回音室。

但并非所有人都在放棄努力，研究者們也在嘗試用 AI 去修復(fù)這種撕裂，比如 DepolarizingGPT（去極化 GPT），其特點(diǎn)是：每當(dāng)用戶提出問(wèn)題，它給出一個(gè)「左翼」答案、一個(gè)「右翼」答案、和一個(gè)「整合／降低極化」的答案。

理想很豐滿，但現(xiàn)實(shí)這個(gè) AI 反應(yīng)慢到不行，幾乎不可用｜圖源：Depolarizing GPT

但這仍然阻擋不了 AI 正在媒體之外，成為新的輿論武器。這些帶有傾向性的 AI，也在讓政治極化變得更加穩(wěn)定、更加隱蔽，也更加難以逆轉(zhuǎn)。

如果說(shuō)過(guò)去十年，美國(guó)社會(huì)的分裂體現(xiàn)在新聞消費(fèi)、政策立場(chǎng)、媒體信任度上，那未來(lái)十年，分裂可能會(huì)體現(xiàn)在不同的人類將生活在由不同 AI 構(gòu)建的現(xiàn)實(shí)中。

同一場(chǎng)抗議、同一項(xiàng)統(tǒng)計(jì)、同一條新聞事件，經(jīng)過(guò)不同陣營(yíng) AI 的解釋后，會(huì)變成完全不同的敘事邏輯。這種敘事差異逐漸積累，最終會(huì)讓社會(huì)中的「事實(shí)基線」完全斷裂。

而且陣營(yíng)化 AI 并不會(huì)隨著時(shí)間變得溫和，相反，它們被激勵(lì)朝用戶立場(chǎng)進(jìn)一步靠攏，因?yàn)檫@是它們存在的意義，也是它們被選擇的理由。

正如華盛頓大學(xué)的學(xué)者 Oren Etzioni 所說(shuō)：

「人們會(huì)像選擇媒體一樣，選擇他們想要的 AI 風(fēng)格。唯一的錯(cuò)誤，就是以為你得到的是真相?！?/p>

*頭圖來(lái)源：conference.eurostarsoftwaretesting.com

本文為極客公園原創(chuàng)文章，轉(zhuǎn)載請(qǐng)聯(lián)系極客君微信 geekparkGO

極客一問(wèn)

你遇到過(guò) AI 相似的問(wèn)題嗎？

警惕 AI 生物風(fēng)險(xiǎn)，OpenAI 豪投 1.07 億扶持初創(chuàng)公司

點(diǎn)贊關(guān)注極客公園視頻號(hào)，