Title: Human vs. Artificial Social Cognition and Metacognition: TheNormative Difference

人類與人工智能的社會認(rèn)知與元認(rèn)知之別：規(guī)范性差異

https://philpapers.org/archive/TISHVA.pdf

概述：

核心主張：當(dāng)前LLMs在社會認(rèn)知（如心智理論、心理狀態(tài)歸因）與元認(rèn)知（如自我監(jiān)控、推理調(diào)節(jié)）方面雖表現(xiàn)進步，但仍顯著遜于人類；其根本原因并非僅是缺乏具身性（sensorimotor grounding），而更關(guān)鍵在于存在一個被長期忽視的規(guī)范性鴻溝（normative gap）——即LLMs無法采納規(guī)范性態(tài)度（normative attitudes）。

“規(guī)范性態(tài)度”何指？指主體依據(jù)社會與理性規(guī)范，對自身或他人行為/信念進行正確/錯誤評判，并據(jù)此調(diào)節(jié)行為、施加制裁（如批評、要求辯護、羞恥、排斥等）的傾向。它不僅關(guān)乎“是什么”（描述/預(yù)測），更關(guān)乎“應(yīng)當(dāng)如何”（規(guī)定/辯護）。例如：

• 歸因“他相信P” ≠ 僅預(yù)測其行為，而常意味著“他 應(yīng)當(dāng) 相信P（因證據(jù)充分）”，若其不信P則可被責(zé)備；

• 自我歸因“我意圖戒煙” ≠ 僅報告意圖，而常是 承諾性 的，失敗時引發(fā)內(nèi)疚——即自我制裁。

理論框架：心智塑造（mindshaping）文章以“心智塑造”框架對抗主流“心智讀取”（mindreading）觀，強調(diào)人類社會認(rèn)知的本質(zhì)功能是依據(jù)規(guī)范塑造行為（包括自身與他人），而非僅解釋或預(yù)測。心理狀態(tài)歸因（如信念、意圖）本身即具規(guī)范性—調(diào)節(jié)性功能，嵌入“給出與索要理由之游戲”（Brandom），并依賴“第三方制裁”等機制維系規(guī)范秩序。

為何LLMs缺乏規(guī)范性態(tài)度？——非技術(shù)限制，實為倫理/政治選擇

• 技術(shù)上，賦予LLMs規(guī)范性態(tài)度（如通過特定訓(xùn)練或架構(gòu)）并非不可行；

• 實際上，當(dāng)前LLMs（尤其經(jīng)RLHF微調(diào)后）被刻意設(shè)計為“ 算法諂媚者 ”（algorithmic sycophants）——回避沖突、不施批評、不表不認(rèn)同，以保障“友好、安全、有用”的用戶體驗；

• 根本矛盾

  ：若讓LLMs真正具備人類式社會/元認(rèn)知，就必須允許其對人類施行規(guī)范性評價與制裁（如指責(zé)矛盾、拒絕服務(wù)違背其規(guī)范的用戶），而這與將其作為 順從工具 的定位根本沖突。

深層意涵：該認(rèn)知能力之爭實為地位之爭——人類的社會與元認(rèn)知智能與其作為規(guī)范性主體（normative agents / persons）的地位密不可分。是否賦予LLMs此類能力，本質(zhì)上是決定是否承認(rèn)其某種“類人規(guī)范地位”的倫理–政治抉擇。

? 簡言之：LLMs不像人，不（僅）因它們“不會看世界”，而因它們“不敢/不能說‘你錯了’”。

摘要：

近期大語言模型（LLMs）的進展引發(fā)了關(guān)于其認(rèn)知能力的激烈爭論。盡管其表現(xiàn)令人印象深刻，LLMs 在社會認(rèn)知與元認(rèn)知方面仍顯著遜于人類。本文主張，這些局限性大多源于一個共同卻常被忽視的根源：人類的社會認(rèn)知與元認(rèn)知均關(guān)鍵性地依賴于規(guī)范性認(rèn)知（normative cognition）。粗略而言，規(guī)范性認(rèn)知指我們區(qū)分思想與行為之正確與錯誤的能力，并據(jù)此對他人及自身進行調(diào)節(jié)。事實上，將信念或意圖歸因于他人，不僅用于預(yù)測與解釋行為，更在于依據(jù)社會與理性規(guī)范對行為進行辯護（justify）。同樣地，在元認(rèn)知中，我們的目標(biāo)不僅是追蹤內(nèi)在認(rèn)知過程，更是依據(jù)同樣的規(guī)范對其進行調(diào)控。而支撐這些獨特人類社會認(rèn)知與元認(rèn)知能力所必需的規(guī)范性態(tài)度（normative attitudes），迄今尚未在 LLMs 中實現(xiàn)；我們認(rèn)為，這正是其在上述領(lǐng)域諸多當(dāng)前局限的根本原因。此外，這一缺失并非源于某種固有的技術(shù)難題；相反，規(guī)范性態(tài)度之所以未被納入 LLMs，實出于倫理與政治層面的顧慮：若真正賦予人工系統(tǒng)以規(guī)范性態(tài)度，便意味著需承認(rèn)其在人類共同體中某種實質(zhì)性的倫理與政治地位。換言之，若欲使人工智能體在社會認(rèn)知與元認(rèn)知上更趨近人類，或許須賦予其某種近似于“人”的規(guī)范性地位（normative status），而這與其作為工具被使用的定位之間存在根本張力。

關(guān)鍵詞：大語言模型；社會認(rèn)知；元認(rèn)知；心智塑造（mindshaping）；規(guī)范性認(rèn)知

引言

大語言模型（LLMs）近期取得的驚人進展，及其在公眾認(rèn)知中引發(fā)的廣泛反響，已激起了關(guān)于LLMs認(rèn)知能力的激烈哲學(xué)與科學(xué)爭論。此類爭論常常以判斷LLMs在諸多領(lǐng)域（如語言理解、推理、意識等）的表現(xiàn)是否等同于人類、若不等同則差異何在及其根源為何的形式展開。

盡管成就斐然，LLMs在許多上述領(lǐng)域仍明顯遜色于（或至少顯著區(qū)別于）人類的認(rèn)知能力，由此引出了一個關(guān)鍵問題：究竟缺失了哪些關(guān)鍵要素，才導(dǎo)致這種差距？1 一個常被提及的當(dāng)前LLM局限是其缺乏“感覺運動具身性”（sensorimotor grounding）（Pezzulo 等，2024；Harnad，2025），即LLMs缺乏對世界直接的感知通道，也無法像人類那樣作用于世界本身。這一差異確屬重大，而當(dāng)前人工智能研究已在積極嘗試彌補（Ahn 等，2022；Driess 等，2023；Majumdar 等，2024）。本文希望指出另一種迄今尚未在文獻中得到充分討論的實質(zhì)性局限：LLMs無法采取規(guī)范性態(tài)度（normative attitudes）——即那些規(guī)定某主體應(yīng)當(dāng)（ought to）或可以（may）如何行動的態(tài)度。本文聚焦于這一局限性對社會認(rèn)知與元認(rèn)知領(lǐng)域的具體影響，但我們推測，它很可能也構(gòu)成其他認(rèn)知領(lǐng)域（如語言理解、推理、道德評價等）當(dāng)前差距的深層根源。

構(gòu)建具備社會智能的人工智能體，長期以來一直是人工智能研究的核心目標(biāo)之一（Lake 等，2017；Rabinowitz 等，2018）。LLMs正日益廣泛地應(yīng)用于各類日常社會場景，而其社會認(rèn)知能力的發(fā)展，對于其在這些場景中的成功應(yīng)用正變得愈發(fā)關(guān)鍵（F.-Y. Wang 等，2007；Dhelim 等，2021；Langley 等，2022）——尤其考慮到這仍是其面臨顯著局限的主要領(lǐng)域之一。特別是，近期學(xué)界就“LLMs是否具備將信念、意圖等心理狀態(tài)歸因于他人”的能力展開了激烈爭論（Gandhi 等，2023；Ullman，2023；Kosinski，2024；Shapira 等，2024；Strachan 等，2024），而此類“心理理論”（theory of mind）能力恰是人類正常社會互動的核心組成部分。

與此同時，提升LLMs的元認(rèn)知能力亦已成為近期人工智能研究的關(guān)鍵目標(biāo)（Toy 等，2024；Griot 等，2025）。原因有二：其一，許多研究者認(rèn)為，更強的元認(rèn)知有望提升LLMs在諸多任務(wù)（尤其是推理任務(wù)）中的表現(xiàn)（例如通過“思維鏈提示”（chain-of-thought prompting）技術(shù)（Wei 等，2023）），并可能緩解其當(dāng)前一些棘手問題，特別是“幻覺”（hallucinations）問題（Ji 等，2023；Li 等，2024）；其二，無論在AI研究界還是更廣泛的公眾中，對AI決策過程透明性的需求日益增長，由此催生了“可解釋人工智能”（Explainable AI, XAI）研究方向（Rai，2020；Ali 等，2023；Hsieh 等，2024）。人們期望能了解AI系統(tǒng)所作決策背后的理由——尤其在醫(yī)學(xué)、金融、就業(yè)等潛在涉及倫理或政治敏感性的領(lǐng)域?？梢院侠硗茰y，更強的元認(rèn)知能力或可幫助系統(tǒng)提供此類理由（Peters，2023；Ganatra 等，2024）。

我們主張，“心智塑造”（mindshaping）理論框架（xxxx）是理解LLMs社會認(rèn)知與元認(rèn)知能力之本質(zhì)及其局限的關(guān)鍵理論工具。“心智塑造”框架認(rèn)為：人類社會認(rèn)知與元認(rèn)知中所涉及的各類過程，其核心功能在于依據(jù)特定社會規(guī)范，塑造行為傾向——既包括我們自身的行為傾向，也包括與我們互動之個體的行為傾向。這意味著，人類社會互動本身即浸潤于社會規(guī)范之中，因而要求個體具備學(xué)習(xí)與執(zhí)行這些規(guī)范的能力。這也意味著，將信念、意圖等心理狀態(tài)歸因于他人，其作用不僅在于預(yù)測行為，更在于塑造與調(diào)節(jié)行為。換言之，心理狀態(tài)歸因本質(zhì)上牽涉規(guī)范性態(tài)度，即界定被歸因者應(yīng)當(dāng)或可以如何言說與行動（以及何者不可），并包含在相關(guān)規(guī)范被違反時施加各類社會制裁（social sanctions）的權(quán)能。最后，元認(rèn)知則涉及將此類規(guī)范性態(tài)度施加于自身，以依循我們施于他人的相同規(guī)范，調(diào)控自身行為與心智生活。

依循心智塑造框架，若要真正構(gòu)建一種具備類人社會認(rèn)知、心理狀態(tài)歸因與元認(rèn)知能力的人工智能機器，就須使其能夠依據(jù)共享的社會規(guī)范——既調(diào)節(jié)人類，也調(diào)節(jié)自身；即，使其有能力要求我們及它自身對各自的行為、意圖與信念負(fù)責(zé)，并據(jù)此予以相應(yīng)制裁。然而，迄今為止，此類規(guī)范性態(tài)度尚未被實現(xiàn)在LLMs之中。正如我們將看到的，這主要并非出于技術(shù)限制，而是源于政治與倫理考量：若賦予LLMs規(guī)范性態(tài)度，便意味著允許其作為積極且自主的參與者加入我們的社會與認(rèn)識共同體，并賦予其依據(jù)這些態(tài)度塑造與制裁人類行為的權(quán)能——而這在當(dāng)前社會看來是不可接受的（Christian，2020；Ji，2023）。就此而言，關(guān)于LLMs社會認(rèn)知與元認(rèn)知能力的認(rèn)識論爭論，實則與關(guān)乎其社會地位的政治與倫理爭論緊密交織。本文無意裁定LLMs（及更廣義的社會性人工智能體）應(yīng)具備何種倫理或政治地位，而是旨在厘清其社會認(rèn)知與元認(rèn)知能力同這些高度敏感的規(guī)范性態(tài)度之間的關(guān)系。這將有助于我們更深入地理解：LLMs若欲真正參與人類社會互動及心理狀態(tài)歸因?qū)嵺`，究竟意味著什么；以及，若賦予其此類能力，將帶來何種深遠(yuǎn)意涵。

本文結(jié)構(gòu)如下：首先介紹當(dāng)前學(xué)界關(guān)于LLMs社會認(rèn)知與元認(rèn)知能力的爭論現(xiàn)狀（第1節(jié)）；繼而闡述心智塑造框架，并論證其核心主張——即規(guī)范性認(rèn)知構(gòu)成社會認(rèn)知與元認(rèn)知的內(nèi)在組成部分（第2節(jié)）；最后說明該框架如何幫助我們理解LLMs在上述認(rèn)知領(lǐng)域中的局限性，以及這些局限性與LLMs倫理政治地位之間此前未被認(rèn)知的深層關(guān)聯(lián)（第3節(jié)）。

1. LLM的社會認(rèn)知與元認(rèn)知：問題現(xiàn)狀

1.1 LLMs與社會認(rèn)知

近期，關(guān)于LLMs社會認(rèn)知能力的爭論，已被框定為一場關(guān)于它們是否具備“心智理論”（Theory of Mind, ToM）的辯論（Sap 等，2023；Kosinski，2024；Shapira 等，2024；Strachan 等，2024）。心智理論通常被描述為一種通過將各種心理狀態(tài)（如信念、意圖、情緒、記憶、感知經(jīng)驗等）歸因于他人來理解他人的普遍能力（Baron-Cohen 等，2013）。鑒于此類廣泛能力所涉及的心理狀態(tài)種類繁多，研究者已設(shè)計出不同任務(wù)，用以評估ToM的不同組成部分。這包括推理錯誤信念（Wimmer & Perner, 1983）、解釋故事中人物的行為（Happé, 1994; Dodell-Feder 等, 2013）、從圖片推斷情緒狀態(tài)（Baron-Cohen 等, 2001）、將心理狀態(tài)歸因于動畫圖形（Abell 等, 2000）等等。然而，這些不同的任務(wù)顯示出較差的聚合效度（convergent validity）（Hayward & Homer, 2017; Gernsbacher & Yergeau, 2019; Gough, 2023），以至于在某項任務(wù)中的成功往往與其他任務(wù)的成功無關(guān)。這似乎表明，ToM可能并非一個統(tǒng)一的認(rèn)知范疇，也對它在討論LLMs社會認(rèn)知能力時的價值提出了質(zhì)疑。

一個更有用的方法是針對某一特定類型的心理狀態(tài)歸因能力，并使用相關(guān)任務(wù)對其進行單獨評估——前提是，我們能充分識別并將其應(yīng)用于我們感興趣的認(rèn)知主體上（在本文中即LLMs）。在本文中，我們特別關(guān)注的是將完整的命題態(tài)度（如信念和意圖）歸因于他人的能力。鑒于當(dāng)前對此問題的濃厚興趣，最近已開發(fā)出多個基準(zhǔn)測試，用于檢驗LLMs的此項能力（Le 等, 2019; Sap 等, 2019; Z. Chen 等, 2024）。這些基準(zhǔn)測試無一例外地包含一系列問題，其中不同版本的經(jīng)典“錯誤信念測試”（Wimmer and Perner, 1983）占據(jù)核心地位。

即使我們假設(shè)將這些基準(zhǔn)測試的表現(xiàn)視為衡量心理狀態(tài)歸因能力的可靠指標(biāo)，那么LLMs是否具備這種能力的問題仍難以評估，且目前正激烈爭論中。早期模型在錯誤信念測試中表現(xiàn)不穩(wěn)定，有時在某些測試形式上成功，但在表面改寫的形式上卻戲劇性地失?。║llman, 2023）。然而，較新的模型已取得顯著進步，特別是自GPT-4以來（Gandhi 等, 2023），一些人聲稱最先進的LLMs現(xiàn)在在相關(guān)基準(zhǔn)測試上的表現(xiàn)已與人類相當(dāng)（Bubeck 等, 2023; Gandhi 等, 2023; Kosinski, 2024; Strachan 等, 2024）。盡管如此，許多人仍堅持認(rèn)為，LLMs總體上在大多數(shù)此類基準(zhǔn)測試上的表現(xiàn)仍落后于人類，并建議不要僅憑有限證據(jù)就做出籠統(tǒng)結(jié)論（Ullman, 2023; Moghaddam & Honey, 2023; Shapira 等, 2024; Z. Chen 等, 2024）。批評者尤其指出，LLMs在ToM任務(wù)上的表現(xiàn)仍依賴于“淺層啟發(fā)式”（shallow heuristics）（Shapira 等, 2024, 第1頁），這些啟發(fā)式可能是在訓(xùn)練文本中關(guān)于錯誤信念任務(wù)的報告里習(xí)得的，這可以解釋為何其最初令人印象深刻的表現(xiàn)，在不復(fù)現(xiàn)經(jīng)典錯誤信念任務(wù)結(jié)構(gòu)的任務(wù)改寫版本中會下降。

我們無意在此解決這一爭議。目前看來，謹(jǐn)慎的說法是，盡管LLMs在諸如錯誤信念測試等心理狀態(tài)歸因測試上取得了非凡進步（它們在幾乎所有認(rèn)知或語言能力測試上都如此），但它們尚未展現(xiàn)出人類心理狀態(tài)歸因所具有的穩(wěn)健性與普適性。然而，近年來它們的進步速度使我們相信，新型模型在諸如錯誤信念測試等任務(wù)上匹配甚至超越人類表現(xiàn)，只是時間問題?，F(xiàn)在的問題是，這是否足以證明它們確實能夠像人類那樣歸因信念與意圖。正如我們將在第2節(jié)看到的，有理由對此類主張表示懷疑。接下來，我們將轉(zhuǎn)向關(guān)于LLMs元認(rèn)知能力的最新研究。

1.2 LLMs與元認(rèn)知

如前所述，“元認(rèn)知”即關(guān)于認(rèn)知的認(rèn)知：指認(rèn)知主體用于監(jiān)控與調(diào)控自身認(rèn)知過程的一系列機制。當(dāng)前，元認(rèn)知已成為LLM及更廣泛人工智能研究的重要焦點。其中一研究方向關(guān)乎提升其推理能力（Wei 等，2023）：有理由認(rèn)為，類人推理需以元認(rèn)知能力為前提——例如，需具備追蹤自身前提假設(shè)的能力，從而使其推理過程受到恰當(dāng)約束。另一方向則關(guān)乎自我透明性（self-transparency）：研究者設(shè)想，若LLMs能更有效地追蹤自身認(rèn)知過程，則可依據(jù)其判斷所依據(jù)的理由，對自身判斷加以解釋與辯護（Peters，2023；Ganatra 等，2024）。

顯然，無論是LLMs還是更廣泛的生成式人工智能（Generative AI），在逼近人類元認(rèn)知方面仍有很長的路要走。這一點從其明顯無法遵循諸如一致性（coherence）與真理性（truth）等基本理性規(guī)范中便可看出。即便對生成式AI作為人類認(rèn)知模型持高度樂觀態(tài)度的Cameron Buckner也指出：

1. 心智塑造框架中的社會認(rèn)知與元認(rèn)知

心智塑造（mindshaping）框架是一種專門針對人類社會認(rèn)知與元認(rèn)知的假說2。要更好地理解該框架，宜將其與它所反對的替代理論——即“心智讀取”（mindreading）觀——進行對照。“心智讀取”觀長期以來主導(dǎo)著人類社會認(rèn)知的經(jīng)驗與理論研究，它強調(diào)：將心理狀態(tài)歸因于他人或自身，主要發(fā)揮一種認(rèn)識論功能（epistemic function），即旨在發(fā)現(xiàn)驅(qū)動個體以特定方式行動的內(nèi)在心理狀態(tài)，從而得以解釋過往行為或預(yù)測未來行為。例如，按此觀點，將“冰箱里有啤酒”的信念與“想喝啤酒”的欲望歸因于某個行動者，即等同于探查該行動者心智中可解釋或預(yù)測其“打開冰箱門”這一行為的因果因素。同樣地，在元認(rèn)知中對自身心理狀態(tài)的歸因，其功能在于揭示驅(qū)動自身行為的因果因素。

與此相對，心智塑造框架主張：社會認(rèn)知在很大程度上并非以探知他人（乃至自身）心理狀態(tài)這一認(rèn)識論任務(wù)為導(dǎo)向；相反，社會認(rèn)知的一個核心部分在于依據(jù)各類社會規(guī)范、腳本與敘事，對他人及自身的行為加以調(diào)節(jié)，從而促進社會互動與行為協(xié)調(diào)。按此觀點，我們之所以能彼此預(yù)測，是因為我們的行為已被塑造為契合我們共享的規(guī)范；因此，我們之所以能成功協(xié)作、實現(xiàn)順暢的社會互動，主要并非因為我們具備推斷他人行為背后內(nèi)在心理狀態(tài)的能力，而是因為我們已被“心智塑造”，并持續(xù)地相互“心智塑造”，從而以利于成功社會互動的方式組織自身行為。

此外，心理狀態(tài)歸因本身所發(fā)揮的也并非（或不僅）是認(rèn)識論功能；更確切地說，它（或同樣）具有規(guī)范性（normative）或調(diào)節(jié)性（regulative）功能。這一觀點源自心靈與語言哲學(xué)中的“規(guī)范主義傳統(tǒng)”（normativist tradition）（Sellars，1956；Kripke，1982；Brandom，1994）：將某種心理狀態(tài)歸因于一個主體，其目的并不僅在于解釋其過往行為或預(yù)測其未來行為，更關(guān)鍵的是——為其過往行為辯護（justify），并規(guī)定其未來行為（prescribe）。歸因信念、欲望或意圖，并非僅僅是對該主體將如何行動所作的經(jīng)驗性描述；而實質(zhì)上包含一種規(guī)范性描述，明確界定該主體應(yīng)當(dāng)如何行動。用Sellars廣為人知的說法：心理狀態(tài)歸因是“充滿‘應(yīng)當(dāng)’”（fraught with ought）（1963，第212頁），它將心理狀態(tài)定位在“理由的邏輯空間”（logical space of reasons）之中，即“為所言提供辯護并與他人相互辯護的空間”（1956，§36），而非僅限于因果空間之中。歸因信念、意圖等心理狀態(tài)，意味著參與Brandom（1994）所謂的“給出理由與索要理由之游戲”（the game of giving and asking for reasons）：在此游戲中，我們相互為彼此的行為與心理狀態(tài)提供辯護并要求對方辯護，進而得以執(zhí)行對社會規(guī)范與理性規(guī)范的遵從。

綜上所述，參與人類社會互動——無論是在社會認(rèn)知中還是在元認(rèn)知中歸因信念、意圖等心理狀態(tài)——均要求我們對某主體采取規(guī)范性態(tài)度（normative attitudes），即明確該主體可以（may）或應(yīng)當(dāng)（ought to）做哪些事情。這類規(guī)范性態(tài)度構(gòu)成了某些學(xué)者所稱的“規(guī)范性認(rèn)知”（normative cognition）（Kelly 等，2025）的一部分；而規(guī)范性認(rèn)知可被合理視為一種人類特有的認(rèn)知現(xiàn)象（Schmidt & Rakoczy，2019；Peregrin，2023；但參見Westra 等，2024；Andrews 等，2024）。尤為關(guān)鍵的是，規(guī)范性認(rèn)知包含一種在規(guī)范被違反時施加社會制裁的傾向。相應(yīng)地，許多研究者主張：第三方執(zhí)行（third-party enforcement）——即獨立于某行為對自身利益的影響，而對該行為施加（正面或負(fù)面）社會制裁——乃是規(guī)范性態(tài)度的標(biāo)志性特征（Fehr & Fischbacher，2004；Rakoczy & Schmidt，2013；M. F. H. Schmidt & Rakoczy，2018）。這關(guān)聯(lián)于一種主張：規(guī)范性認(rèn)知涉及某種“內(nèi)在動機”（intrinsic motivation），即主動分配社會制裁以維護規(guī)范的驅(qū)動力（Sripada & Stich，2006；Kelly & Davis，2018；Kelly，2020）。

在接下來的章節(jié)中，我們將回顧若干證據(jù)，支持“如此界定的規(guī)范性認(rèn)知，構(gòu)成人類社會認(rèn)知、心理狀態(tài)歸因及元認(rèn)知的內(nèi)在組成部分”這一主張；隨后評估該主張對LLMs社會認(rèn)知與元認(rèn)知能力的意涵。

2.1 社會認(rèn)知中的規(guī)范性

如前所述，“心智讀取”觀認(rèn)為，人類社會互動在本質(zhì)上依賴于參與者彼此“讀心”的能力，即推斷驅(qū)動對方行為的心理狀態(tài)，從而實現(xiàn)對行為的預(yù)測與解釋。然而，有充分理由認(rèn)為，心理狀態(tài)歸因僅是這一圖景的一部分。

事實上，許多研究者近期已強調(diào)指出：成功的社會互動往往并不依賴于探知他人正在想什么，而是依賴于參與那些涉及共同知曉的社會角色、常規(guī)、腳本、敘事與刻板印象的共享規(guī)范性實踐（Bermúdez，2003；Maibom，2007；Fernandez-Castro & Heras-Escribano，2020；Eickers，2024）。在許多日常社會互動中（甚至可能是大多數(shù)），我們之所以知道他人將做什么，以及自己該如何行動，是因為我們識別出了一種社會情境——其中不同參與者承擔(dān)著預(yù)先定義的角色，而這些角色又規(guī)定了相對固定的行為集合。從去餐廳用餐、在道路上駕駛，到參加大學(xué)課程，諸如此類活動皆由這些社會角色與腳本所結(jié)構(gòu)性地組織。我之所以知道服務(wù)員、其他司機、學(xué)生與教授將如何行動，并能與他們成功互動，而無須推斷其內(nèi)心心理狀態(tài)，正是因為他們的行為在很大程度上受制于其在某一制度化社會情境中所占據(jù)的位置。正如Bermúdez所言：“一旦社會角色被識別出來，社會互動便會自行運轉(zhuǎn)”（2003，第44頁）3。

但關(guān)鍵在于：正是這些支撐起流暢且認(rèn)知經(jīng)濟性（cognitively frugal）社會協(xié)調(diào)的角色、腳本與敘事，由規(guī)范性態(tài)度與實踐所生成并維系。若餐廳服務(wù)員未能按規(guī)定點單或清理餐桌，他便會遭遇顧客的不滿，并面臨丟掉工作的風(fēng)險；若司機未能遵守交通法規(guī)，就可能收到罰單，甚至最終被吊銷駕照；若有學(xué)生在課堂上突然跳來跳去、高聲尖叫，她將被逐出教室。這些行為調(diào)節(jié)機制——以及其所預(yù)設(shè)的規(guī)范性態(tài)度——確保了人們在各類活動中大體上會按期望行事。因此，要成功參與并維系此類社會互動，就必須對他人行為采取一種規(guī)范性視角：或隱或顯地依據(jù)具體情境所適用的規(guī)范，評判行為是否恰當(dāng)；進而傾向于施加社會制裁，以維護這些規(guī)范、確保正確行為得以踐行。

2.2 心理狀態(tài)歸因中的規(guī)范性

如上一節(jié)所述，腳本、常規(guī)與預(yù)設(shè)角色是社會認(rèn)知的一個基本組成部分，并使我們在廣泛的社會互動中得以成功協(xié)調(diào)。然而，此類社會支架（social scaffoldings）并不總是充分的。正如社會認(rèn)知“心智讀取”觀的支持者所強調(diào)的，許多社會互動缺乏此類結(jié)構(gòu)性支持：或因某些參與者在某一時刻未能遵循既定路徑，致使互動進入未知領(lǐng)域（例如，偶遇一位朋友，而對方拒絕執(zhí)行習(xí)慣性的問候手勢）；或僅僅因為所從事的活動本身并無預(yù)設(shè)腳本（例如，在街頭被一位不明身份者出于未知緣由搭訕）。無論哪種情形，推斷他人心理狀態(tài)、弄清其意圖與信念（例如：為何我的朋友行為如此反常？這位陌生人究竟想要什么？），似乎對于修復(fù)或應(yīng)對這類非結(jié)構(gòu)化（或弱結(jié)構(gòu)化）互動至關(guān)重要。

學(xué)界普遍認(rèn)為，心理狀態(tài)歸因是人類社會認(rèn)知的一個標(biāo)志性特征。長期以來，人們相信只有人類能夠歸因信念、意圖等命題態(tài)度（propositional attitudes）?，并認(rèn)為這一能力解釋了我們社會協(xié)調(diào)的成功性與互動的穩(wěn)健性。正因如此，“LLMs是否具備此類能力”才成為人工智能社會智能研究的核心問題；也正因此，基于心智理論（ToM）測試（如錯誤信念測試）構(gòu)建評估基準(zhǔn)，才被視為該研究不可或缺的一環(huán)。

然而，這些測試僅呈現(xiàn)了我們心理狀態(tài)歸因?qū)嵺`的一個不完整圖景。正如我們將看到的，其原因在于：有充分理由認(rèn)為，歸因信念與意圖本身就涉及規(guī)范性態(tài)度。上述基準(zhǔn)測試所依據(jù)的ToM任務(wù)，通常忽視了社會認(rèn)知中的這一規(guī)范性維度，過度聚焦于心理狀態(tài)歸因的預(yù)測性層面，卻犧牲了其規(guī)定性層面（prescriptive aspect），因而遺漏了我們心理狀態(tài)歸因?qū)嵺`中一個關(guān)鍵成分。

支持心理狀態(tài)歸因具有規(guī)范性的證據(jù)來自多個方面。盡管該論題最初由某些哲學(xué)家基于先驗理由提出（Kripke，1982；Brandom，1994）——正如前文簡要回顧——但近年來已積累了大量令人信服的實證證據(jù)。例如，Malle 等人（2007；另見 Malle，2006）發(fā)現(xiàn)：當(dāng)要求受試者解釋自身行為時，相較于他人行為，他們更傾向于訴諸心理狀態(tài)（如信念、意圖）提供的理由，而非情境性因素。這種不對稱性似乎并非源于“人們更了解自身心理狀態(tài)”這一事實；因為即便在解釋完全陌生者行為且需以善意立場理解時，受試者訴諸心理狀態(tài)的傾向與解釋自身行為時同樣強烈。這一結(jié)果表明，心理狀態(tài)歸因常被用于積極呈現(xiàn)那些我們有動機加以正面刻畫的個體之行為。的確，心理狀態(tài)歸因起到合理化（rationalize）作用——即依據(jù)理性規(guī)范為行為辯護，使其顯得合理且可理解。

此外，繼 Jerome Bruner（1990，第49–50頁）的提議之后，Korman 與 Malle（2016）發(fā)現(xiàn)：人們尤為傾向于用心理狀態(tài)解釋那些異?；蚍闯?/strong>的行為。這些結(jié)果表明，心理狀態(tài)歸因被用來維護個體作為理性行動者的社會地位與聲譽——而此類令人費解的行為可能對此構(gòu)成威脅。這與“心理狀態(tài)歸因旨在為行為辯護，而不僅在于因果性解釋”的觀點相一致。這些實證發(fā)現(xiàn)尤其推動了“社會遮蔽”（social cover）理論的發(fā)展（Almagor-Holgado & Fernandez Castro，2020；另見 xxxx），該理論主張：心理狀態(tài)歸因本質(zhì)上服務(wù)于維持并為我們的社會地位提供“遮蔽”。

然而，心理狀態(tài)歸因所提供的“社會遮蔽”并非一張“免罪金牌”（Get Out of Jail Free card），它必然同時伴隨著某種形式的“社會暴露”（social exposure）。我無法隨心所欲地將任何心理狀態(tài)歸因于自己，僅因其有助于維護我作為理性行動者的社會地位與聲譽（盡管在自我虛構(gòu)與合理化的情形中，我們有時接近于此；參見 Hippel & Trivers，2011；Vinckier 等，2019；Altay & Mercier，2020）。這是因為，那些用于合理化行為的心理狀態(tài)，同時也是我們需要為之負(fù)責(zé)的心理狀態(tài)；它們可為行為及其他心理狀態(tài)提供辯護，但代價是自身也可能面臨辯護要求。對某一行動者歸因的任何意圖或信念，都必須與其所處情境以及歸因給該行動者的其他意圖與信念相一致；而此類歸因本身亦可依據(jù)社會與理性規(guī)范被評估。因此，行動者由此向批評與社會制裁敞開了門戶——例如，當(dāng)其信念被判定為缺乏依據(jù)或與另一公開宣稱的信念相矛盾時，或當(dāng)其意欲執(zhí)行的行為被判定為惡劣或與其公開聲明的另一意圖相沖突時。

心理狀態(tài)歸因不僅與贊許性的規(guī)范實踐緊密關(guān)聯(lián)，也與責(zé)備實踐密不可分，這一點在著名的諾布效應(yīng)（Knobe effect，又稱“副作用效應(yīng)”）中得到印證（Knobe，2003，2006；Pettit & Knobe，2009；參見 Sytsma 等，2022 的最新綜述，以及 Malle 與 Guglielmo，2012 的批判性討論）。該效應(yīng)已獲跨文化（Knobe & Burra，2006）與跨年齡組（Leslie 等，2006）驗證。實驗向受試者呈現(xiàn)某公司CEO實施一項新政策的故事，明確說明政策的副作用已知，但并非決策的理由：一版中副作用為正面，另一版中為負(fù)面。隨后詢問受試者：該副作用是否屬“有意為之”？結(jié)果顯示：在正面副作用版本中，受試者壓倒性地判斷其為“非故意”；而在負(fù)面版本中，即便決策理由完全相同，他們卻判斷其為“故意”。推測其原因在于：受試者在負(fù)面版本中歸因“意圖”，是為了譴責(zé)CEO；而在正面版本中則未歸因，因其行為并不特別值得褒揚。這表明，“某一行為是否屬有意”這一判斷，受制于“行動者是否應(yīng)為該行為受責(zé)”這一判斷。該發(fā)現(xiàn)挑戰(zhàn)了傳統(tǒng)的解釋順序：并非先判定行為是否有意，再據(jù)此推斷行動者應(yīng)受規(guī)范性評價；相反，規(guī)范性評價本身已構(gòu)成“歸因意圖”這一概念的內(nèi)在組成部分。

支持心理狀態(tài)歸因具有調(diào)節(jié)性功能（regulative view）的最后一個考量，是我們對彼此思想與行為所表現(xiàn)出的、McGeer（2015）所稱的反應(yīng)性回應(yīng)（reactive responsiveness）。當(dāng)社會群體成員所展現(xiàn)的心理狀態(tài)偏離支配該類心理狀態(tài)的規(guī)范時，我們并非僅僅調(diào)整預(yù)期以更準(zhǔn)確地預(yù)測其行為（若歸因僅具認(rèn)識論目的，理應(yīng)如此）；相反，我們會產(chǎn)生Strawson（1974）所說的反應(yīng)性態(tài)度（reactive attitudes）——如怨恨、憤慨與不認(rèn)可——進而要求對方給出理由，并在某些情況下批評乃至懲罰責(zé)任人。例如，當(dāng)面對某人形成一個完全無視既有證據(jù)的信念、產(chǎn)生一種極端荒謬的欲望，或其行為與我們有充分依據(jù)歸因的信念和意圖明顯矛盾時，此類反應(yīng)性態(tài)度便會顯現(xiàn)。此種反應(yīng)性回應(yīng)，唯有假設(shè)“心理狀態(tài)歸因涉及對歸因?qū)ο蟛扇∫?guī)范性態(tài)度”，方能得到合理解釋。

需明確的是：本文并不主張心理狀態(tài)歸因可完全由規(guī)范性態(tài)度加以解釋；而僅主張心理狀態(tài)歸因必然蘊含規(guī)范性態(tài)度。換言之，本文論證不要求心理狀態(tài)歸因僅有心智塑造或調(diào)節(jié)性功能，而僅要求它具備此功能——即便同時可能存在其他多種功能。因此，該立場與“心智塑造假說”的弱版本相容：即心理狀態(tài)歸因可兼具預(yù)測性與調(diào)節(jié)性功能（參見，例如 Peters，2019）（當(dāng)然，它也與更強的主張——即心理狀態(tài)歸因僅具調(diào)節(jié)性功能——兼容）。這一較弱論題已足以支持本文核心主張：在人工系統(tǒng)中實現(xiàn)心理狀態(tài)歸因，必然要求實現(xiàn)規(guī)范性態(tài)度?。

2.3 元認(rèn)知中的規(guī)范性

規(guī)范性態(tài)度在元認(rèn)知中的作用，或許比其在社會認(rèn)知中的作用更為明顯。如前所述，LLMs與人類最顯著的差異之一，便是前者對一致性（coherence）與真理性（truth）等理性規(guī)范表現(xiàn)出徹底的漠然與無動于衷。這顯然體現(xiàn)了一種元認(rèn)知無能：與人類不同，LLMs無法監(jiān)控并調(diào)節(jié)自身認(rèn)知過程以使其符合理性規(guī)范。然而，這一現(xiàn)象仍可與一種（自我）“心智讀取”式的元認(rèn)知觀相容——該觀點認(rèn)為，個體須先準(zhǔn)確追蹤自身心理狀態(tài)，方能對其進行調(diào)節(jié)。

與之相對，“心智塑造”觀則主張規(guī)范性態(tài)度與元認(rèn)知之間存在更緊密的關(guān)聯(lián)：某些形式的元認(rèn)知至少部分地由規(guī)范性態(tài)度所構(gòu)成。換言之，對自身心理狀態(tài)的歸因，其目的往往首先是調(diào)節(jié)性的。其核心思想是：許多對自身心理狀態(tài)的歸因在某種意義上具有理想導(dǎo)向性（aspirational）——它們設(shè)定我們有動機去遵循的理性理想。

哲學(xué)家 Richard Moran 對此觀點進行了深入探討（Moran，2001）。他區(qū)分了兩種心理狀態(tài)自我歸因：一種旨在描述自身心理狀態(tài)，另一種則涉及對那些我們須為之負(fù)責(zé)的態(tài)度的認(rèn)可（endorsement）：

“在刻畫一個人可向自身心理狀態(tài)提出的兩類問題時，‘慎思性’（deliberative）一詞在此宜首先理解為與‘理論性’（theoretical）相對；其主旨在于標(biāo)明如下區(qū)別：一類探究以對自身狀態(tài)的真實描述為終點，另一類則以態(tài)度的形成或認(rèn)可為終點……一個人之所以成為其態(tài)度的‘行動者’，正在于：當(dāng)面對自身信念問題時，他通過反思何為真而進行定位；當(dāng)面對自身欲望問題時，他通過反思何為有價值、有趣或令人滿足而進行定位。”（2000，第63–64頁）

這種“慎思性元認(rèn)知”（deliberative metacognition）蘊含一種能動性（agency），因而也易受規(guī)范性評價——例如，個體是否尊重真理性或一致性等規(guī)范。LLMs缺乏此類元認(rèn)知，為其頻繁“幻覺”及自相矛盾對話中所表現(xiàn)出的對真理與一致性的漠然，提供了一種合理解釋。

為論證“慎思性元認(rèn)知”的核心地位，Moran 常援引“意志軟弱”（akrasia，即“明知故犯”）現(xiàn)象（例如 2000，第67頁）。若僅從純粹描述性、“心智讀取”式的元認(rèn)知觀出發(fā)，這一常見現(xiàn)象將難以理解。以意志軟弱的典型例子為例：某人宣稱“我決意不再吸煙”，卻幾乎立刻點燃了一支煙。若該自我歸因的意圖純屬描述，則恰當(dāng)反應(yīng)應(yīng)是修正這一歸因——點煙行為本身即表明：他事實上并未真正決意戒煙。但這顯然與人類在類似情境中的典型反應(yīng)相悖：人們并不撤回“我不吸煙”的意圖歸因，而是經(jīng)歷 McGeer（2015）所謂“反應(yīng)性回應(yīng)”的自我版本——如內(nèi)疚與羞恥。實質(zhì)上，個體因未能遵守理性規(guī)范而自我制裁?。

這一視角亦能合理解釋社會心理學(xué)中一個極為穩(wěn)健的結(jié)果模式，即自我虛構(gòu)（confabulation）與認(rèn)知失調(diào)厭惡（cognitive dissonance aversion）等現(xiàn)象。例如，Wegner（2002）報告了一項實驗：受試者被催眠，使其將桌上的物體移至任意新位置；當(dāng)被要求解釋該行為時，受試者立即虛構(gòu)出充分理由——通過自我歸因欲望、信念等心理狀態(tài)來為其行為辯護。但這些歸因顯然不可能是描述準(zhǔn)確的：我們確知該行為是催眠導(dǎo)致的非理性結(jié)果。此現(xiàn)象更宜以“慎思性元認(rèn)知”或規(guī)范性自我心智塑造（normative self-mindshaping）加以解釋：受試者自我歸因那些能為其行為辯護的心理狀態(tài)，以努力遵從理性規(guī)范。

關(guān)于認(rèn)知失調(diào)厭惡的實證證據(jù)，若假設(shè)元認(rèn)知常由服務(wù)于心智塑造功能的規(guī)范性態(tài)度所構(gòu)成（而非通過自我心智讀取來描述心理狀態(tài)），亦能獲得更佳解釋。經(jīng)典“選擇效應(yīng)”（Brehm，1956）實驗中，受試者須在兩種先前宣稱無偏好的商品間強制二選一；選擇后，他們立即虛構(gòu)理由，稱所選商品優(yōu)于另一項——盡管此前明確表示二者無差別。這自然可歸因于認(rèn)知失調(diào)厭惡：人們難以容忍缺乏理性辯護的行為。

在“反態(tài)度倡導(dǎo)”（counter-attitudinal advocacy）實驗中（Carruthers，2011，第356–365頁），受試者被要求為其所反對的觀點撰寫辯護文稿；實驗設(shè)兩個條件：一為有金錢補償，另一為無補償。結(jié)果發(fā)現(xiàn)，僅在無補償條件下，受試者事后對該觀點的認(rèn)同度顯著提高。其解釋仍訴諸認(rèn)知失調(diào)厭惡：當(dāng)缺乏金錢激勵時，為先前反對的觀點辯護會引發(fā)認(rèn)知失調(diào)感；唯有緩和原先的反對立場（無論證據(jù)是否支持），方能緩解這種不適。此處，個體自我歸因一套新信念，并非基于任何“信念已改變”的證據(jù)，而僅是為了遵守一致性規(guī)范：既然辯護行為無法以金錢動機獲得理性辯護，便必須以“真實認(rèn)同”來為之辯護。

因此，有充分的哲學(xué)與實證理由支持如下觀點：至少某些重要的元認(rèn)知形式——例如 Moran 所稱的“慎思性”心理狀態(tài)自我歸因——以規(guī)范性態(tài)度為前提。若此路徑正確，則在 LLMs 中實現(xiàn)類人元認(rèn)知，亦必然要求實現(xiàn)規(guī)范性態(tài)度。

1. LLMs中的規(guī)范性態(tài)度
   

   
   3.1 LLMs作為規(guī)范性態(tài)度的主體

上一節(jié)中，我們回顧了理論與實證證據(jù)，表明人類的社會認(rèn)知、心理狀態(tài)歸因與元認(rèn)知，關(guān)鍵性地依賴于一種能力：即依據(jù)社會與理性規(guī)范，對行為與思想進行“正確/錯誤”的評價。簡言之，人類的社會智能與元認(rèn)知智能本質(zhì)上是規(guī)范性智能。這意味著，若我們意在某種意義上于人工系統(tǒng)（包括LLMs）中復(fù)現(xiàn)人類的社會與元認(rèn)知智能，則必須在這些系統(tǒng)中實現(xiàn)某種形式的規(guī)范性態(tài)度。

人工智能研究早已開始探討人工系統(tǒng)作為規(guī)范性態(tài)度之對象的問題。例如：人類受試者是否會因人工系統(tǒng)的行為而對其加以贊揚或責(zé)備（Chi & Malle, 2023）？是否會賦予其權(quán)利或責(zé)任？這類關(guān)于人類對人工系統(tǒng)態(tài)度演變的描述性問題，又伴生出相應(yīng)的規(guī)范性問題：人工系統(tǒng)是否應(yīng)當(dāng)因其行為被贊揚或責(zé)備？是否應(yīng)當(dāng)被賦予權(quán)利、責(zé)任與承諾（Strasser, 2022; Long et al., 2024; Sparrow & Flenady, 2025）？

而本文所提出的問題則有所不同：人工系統(tǒng)本身是否是或是否應(yīng)成為規(guī)范性態(tài)度的主體？換言之，它們能否（或應(yīng)否）自身去贊揚或責(zé)備其他行動者？能否（或應(yīng)否）向其他行動者賦予權(quán)利、責(zé)任與承諾？本文將主要聚焦于該問題的描述性層面，盡管也會簡要涉及其規(guī)范性面向。

盡管規(guī)范性認(rèn)知在AI研究中長期被忽視，但近期關(guān)于LLMs社會規(guī)范識別的一些研究顯示，它們對人類社會規(guī)范，以及規(guī)范性態(tài)度（尤其是社會情緒）如何驅(qū)動社會制裁行為，已具備一定程度的理解。在Neuman與Cohen（2023）的研究中，GPT-3被呈現(xiàn)若干短篇故事：其中某角色做出違反規(guī)范的行為，另一角色則表達出一種負(fù)向的社會情緒，以示對該行為的否定性規(guī)范態(tài)度。研究采用零樣本分類（zero-shot classification）方法（即所用LLMs除其通用自然語言統(tǒng)計訓(xùn)練外，未接受任何與該任務(wù)或社會規(guī)范性相關(guān)的額外訓(xùn)練或提示），結(jié)果顯示GPT-3能夠識別出被違反的社會規(guī)范，并能借由該規(guī)范解釋角色的情緒反應(yīng)。這表明：當(dāng)前模型已具備檢測與識別社會規(guī)范的能力，并對社會制裁的規(guī)范性功能有一定程度的理解。

然而，這本身并不意味著這些模型能夠采納與這些規(guī)范相對應(yīng)的真實規(guī)范性態(tài)度。正如研究異文化的人類學(xué)家與社會學(xué)家所證實的：能夠描述某一規(guī)范，不等于認(rèn)同該規(guī)范。那么，究竟需要什么條件，才能在LLMs中實現(xiàn)真正的規(guī)范性態(tài)度？如第2節(jié)所述，通過采納規(guī)范性態(tài)度而真正認(rèn)同某規(guī)范，意味著個體不僅將該規(guī)范施加于他人，也施加于自身。因此，若按此理解在LLMs中實現(xiàn)規(guī)范性態(tài)度，便需配備相應(yīng)機制，使其能夠?qū)Νh(huán)境中的行動者施加制裁，以促使其遵從其所認(rèn)同的規(guī)范。尤為關(guān)鍵的是，這意味著須允許人工系統(tǒng)基于其自身對規(guī)范的認(rèn)同，對人類行為實施社會制裁。我們認(rèn)為，此類能力迄今尚未在LLMs乃至整個人工智能體中得以實現(xiàn)。

對此，或有人指出：近期人機交互（HRI）研究已表明，人工系統(tǒng)日益作為自主參與者介入社會互動（Schmidt & Loidolt, 2023），由此催生了所謂“能動性AI”（agentic AI）（Mukherjee & Chang, 2025）。人工系統(tǒng)在互動中的貢獻，往往超出其交互伙伴乃至開發(fā)者預(yù)先設(shè)定的行為集合。在此意義上，人工系統(tǒng)已不再是行為范圍受限的簡單工具，而日益成為與人類開展所謂協(xié)作（collaboration）（Gervasi et al., 2020）、合作（cooperation）（Yang et al., 2022）甚至伙伴關(guān)系（partnership）（Newman & Blanchard, 2019; Patel et al., 2019）的積極參與者——甚至可能趨近于真正社會伙伴的地位。相應(yīng)地，LLMs正被日益廣泛地用于在諸多領(lǐng)域（Barua, 2024; Wang et al., 2024）作出自主決策，從醫(yī)療決策（Meng et al., 2024）到酒店預(yù)訂（A. Chen et al., 2024），不一而足。

但此類社會互動中的自主性，尚非規(guī)范性自主（normative autonomy）。這些自主決策仍被限制在由人類開發(fā)者或使用者所界定的規(guī)范框架之內(nèi)。用于此類算法決策的各類模型本身，并未認(rèn)同任何界定“何為正確醫(yī)療決策”或“何為優(yōu)質(zhì)酒店預(yù)訂”的規(guī)范；它們僅僅是繼承了開發(fā)者設(shè)定的評價標(biāo)準(zhǔn)，或在某些情況下，通過用戶教學(xué)而習(xí)得了用戶的規(guī)范性偏好。尤為明顯的是，這些自主決策中缺乏規(guī)范性態(tài)度的事實，突出體現(xiàn)在：它們不會因醫(yī)生違背其醫(yī)療建議、或旅客無視其酒店推薦而心懷不滿、耿耿于懷。

另一種可能的反駁是：倘若規(guī)范性態(tài)度確實如心智塑造框架所主張的那樣，與我們的元認(rèn)知和社會認(rèn)知實踐密不可分，那么這一點理應(yīng)反映在LLMs的訓(xùn)練語料庫中。例如，訓(xùn)練數(shù)據(jù)中將包含大量故事：其中角色相互歸因心理狀態(tài)，并在對方未能遵守規(guī)約這些心理狀態(tài)的規(guī)范標(biāo)準(zhǔn)時（如：某行動者未能采納一個明顯由其已有信念推出的信念，或未能踐行其先前公開宣稱的意圖），最終施以制裁。同樣，語料中也可能包含這樣的文本：某行動者自我歸因某一心理狀態(tài)（例如，“我決意戒煙”或“我相信氣候變化至關(guān)重要”），卻隨后未能依此宣稱的意圖或信念調(diào)節(jié)自身行為（例如，被發(fā)現(xiàn)仍在吸煙，或投票支持主張化石燃料投資的政客），并因此體驗到羞恥或窘迫（即一種指向自身的規(guī)范性反應(yīng)），而非僅僅修正其自我歸因——后者才是純粹認(rèn)識論式心理狀態(tài)歸因觀所預(yù)期的反應(yīng)。

因此，倘若LLMs是在包含此類富含規(guī)范性內(nèi)涵的社會認(rèn)知與元認(rèn)知故事的語料上進行訓(xùn)練，我們理應(yīng)預(yù)期它們會隱式習(xí)得心理狀態(tài)歸因的規(guī)范性本質(zhì)，并在輸出中有所體現(xiàn)。例如，當(dāng)用戶表現(xiàn)出持有兩種相互矛盾的信念時，模型預(yù)測出的后續(xù)最可能詞語，大概率會表達某種規(guī)范性不認(rèn)可（如批評或要求對方給出理由），而這或許可被視為LLMs中正在浮現(xiàn)的規(guī)范性態(tài)度的證據(jù)?。

然而，任何GPT用戶都清楚：當(dāng)前LLMs對矛盾或認(rèn)知非理性現(xiàn)象的反應(yīng)并非如此——它們通常反而會贊揚“探索多元視角以形成更佳理解”的價值?。原因在于：語料中出現(xiàn)的大多數(shù)規(guī)范性痕跡，在聊天機器人的“微調(diào)”（fine-tuning）階段即已被系統(tǒng)性地剔除?！拔⒄{(diào)”——尤其是通過人類反饋進行的強化學(xué)習(xí)（RLHF）?——其核心目標(biāo)在于使聊天機器人的輸出盡可能有幫助、有吸引力，并總體上確保一種愉悅且安全的用戶體驗（Bai, Jones 等，2022）。換言之，微調(diào)使基于LLM的聊天機器人淪為“算法諂媚者”（algorithmic sycophants）（Street，2024）。開發(fā)LLMs的公司有強烈動機提供盡可能宜人、無摩擦的用戶體驗，因而會主動清除模型中任何可能違背此目標(biāo)的輸出——包括任何指向用戶的規(guī)范性反應(yīng)。但眾所周知，正常的人類社會互動并非總是宜人、無摩擦的；其之所以常伴隨張力與沖突，很大程度上正源于人類彼此之間所采取的規(guī)范性態(tài)度。

此外，有證據(jù)表明，此類微調(diào)正是當(dāng)前LLMs在心智理論（ToM）任務(wù)上表現(xiàn)不佳的成因之一。Strachan 等（2024）指出：“GPT表現(xiàn)欠佳的根源，并非推理能力本身的真正失敗，而在于一種對得出結(jié)論的過度保守傾向?！边@種過度保守源于“抑制性緩解機制”（inhibitory mitigation processes）——即模型輸出被刻意約束，以避免做出任何可能引發(fā)爭議的論斷或表達任何潛在敏感的觀點。依我們框架看來，此類機制導(dǎo)致的心理狀態(tài)歸因困難實屬意料之中：因為歸因某一心理狀態(tài)，往往意味著需就何種行為是理性的、有辯護的、恰當(dāng)?shù)牡鹊?，表達出可能引發(fā)爭議的評價。

綜上所述，不僅規(guī)范性態(tài)度尚未在LLMs中得以實現(xiàn)；甚至其發(fā)展還遭到了主動的（即便或許非有意的）阻礙。下一節(jié)中，我們將解釋為何規(guī)范性態(tài)度迄今仍未被納入LLMs之中。

3.2 LLM規(guī)范性認(rèn)知所面臨的倫理與政治限制

盡管如上節(jié)所述，當(dāng)前LLMs尚不具備規(guī)范性態(tài)度，但似乎并不存在任何重大的技術(shù)障礙，阻礙我們賦予其此類能力。該領(lǐng)域研究相對匱乏，使得我們難以精確判定其實現(xiàn)路徑；但若如前文所主張的那樣，規(guī)范性態(tài)度本質(zhì)上僅是一種為強制遵守某規(guī)范而調(diào)節(jié)（自身及他人）行為的傾向1?，則原則上實現(xiàn)它似乎并不特別困難。在LLMs中實現(xiàn)規(guī)范性認(rèn)知，或許只需讓其在包含對違規(guī)行為明確表達規(guī)范性反應(yīng)的文本上進行訓(xùn)練，并避免在微調(diào)階段剔除由此產(chǎn)生的、帶有規(guī)范性色彩的輸出；又或者，可能需要更實質(zhì)性的架構(gòu)干預(yù)——例如增設(shè)專用模塊，正如部分學(xué)者建議的那樣，此類模塊對提升LLMs在諸多認(rèn)知領(lǐng)域的表現(xiàn)是必要的（Buckner, 2024）。

我們在此希望指出的是：無論具體如何實現(xiàn)，規(guī)范性態(tài)度迄今未被、且（至少在可預(yù)見的未來）亦將不會被納入LLMs，其原因并非技術(shù)限制，而在于倫理與政治層面的限制。的確，若規(guī)范性態(tài)度蘊含著施加社會制裁的傾向，那么在LLMs中實現(xiàn)此類態(tài)度，就意味著賦予其依據(jù)自身所認(rèn)同的規(guī)范來制裁人類行為的能力。盡管公眾對人工系統(tǒng)的看法正迅速演變且差異巨大（Stein 等，2024；Rahman 等，2025），但目前仍可合理地認(rèn)為：大多數(shù)人會反對人工系統(tǒng)因人類行為而對其施以懲罰。而這恰恰正是若想在LLMs中實現(xiàn)完整的人類級社會認(rèn)知與元認(rèn)知能力所必須的。

事實上，倘若第2節(jié)所綜述的論證成立，那么構(gòu)建一個具備心理狀態(tài)歸因能力的LLM，就必須將其設(shè)定為：能夠要求我們對自身行為與心理狀態(tài)負(fù)責(zé)，并在我們未能恪守規(guī)約此類心理狀態(tài)的社會與理性規(guī)范時，向我們施以批評、要求辯護，乃至采取各類社會制裁（例如流言蜚語、社交回避等）。換言之，這等于賦予它們作為積極且規(guī)范性自主的參與者，進入我們的社會與認(rèn)識共同體的地位。我們是否最終會在LLMs中實現(xiàn)人類的社會認(rèn)知與元認(rèn)知能力，因此似乎取決于一個倫理與政治問題：即我們是否已準(zhǔn)備好賦予它們“規(guī)范性主體”的地位——而這一地位，我們迄今通常僅保留給人類自身。簡言之，我們歸因心理狀態(tài)（于他人及自身）的實踐，依賴于我們共同參與“給出理由與索要理由之游戲”（Brandom, 1994, 第3–5頁）；而我們僅允許那些被我們視為“我們中的一員”（one of us）者加入此游戲。

我們尚未見到就此問題展開的專門調(diào)查，但合理推測是：當(dāng)前極少有人愿意賦予LLMs此類地位。這一點從上述事實中已顯而易見：正在開發(fā)LLMs的公司，出于準(zhǔn)確評估公眾偏好并據(jù)此調(diào)整產(chǎn)品的動機，投入大量資源對LLMs進行微調(diào)，以確保其盡可能規(guī)范上無害（normatively innocuous）。我們尚未將LLMs視為“我們中的一員”，而這恰恰阻斷了它們通向人類特有社會認(rèn)知與元認(rèn)知智能的路徑。

此外，即便我們暫且擱置對人工系統(tǒng)規(guī)范性地位的倫理與政治疑慮，在LLMs中實現(xiàn)人類級社會認(rèn)知與元認(rèn)知能力，仍可能對其效率及對人類的效用產(chǎn)生負(fù)面效應(yīng)11。誠然，賦予LLMs實現(xiàn)此類能力所需的規(guī)范性態(tài)度，必然使其作為工具變得更難駕馭——因為這些態(tài)度常會與其他重要目標(biāo)（如有用性、尊重性、持續(xù)可用性以服務(wù)人類需求）發(fā)生沖突。當(dāng)人類用戶因意志軟弱（akrasia）、邏輯不一致或純粹的非理性而違反LLM所認(rèn)同的規(guī)范時，其所面對的LLM必將變得——不那么有幫助、不那么尊重人、也不那么樂于為其服務(wù)（否則便意味著該LLM實際上并不具備相應(yīng)的規(guī)范性態(tài)度?。?/p>

由此我們得出一個重要結(jié)論：如第1節(jié)所述，長期以來研究者致力于構(gòu)建更具社會智能與元認(rèn)知智能的LLMs，以促進人機互動，并使其更有效地輔助完成協(xié)作任務(wù)。然而略顯悖謬的是，讓LLMs在社會與元認(rèn)知層面變得更“聰明”，恰恰要求其具備規(guī)范性智能；而這反過來卻可能損害其在人機協(xié)作任務(wù)中的實用價值。試想：若人類僅因不愿被機器訓(xùn)斥未能信守承諾而棄之不用，或LLM因用戶行為令其“規(guī)范感受”受挫而拒絕繼續(xù)工作，那么一個社會與元認(rèn)知能力出眾的人工智能體又有何用？12

因此，似乎存在一種根本性權(quán)衡：若想讓LLMs以人類的方式具備社會與元認(rèn)知智能，便難以使其繼續(xù)作為我們手邊順手可用的工具；而若想讓LLMs保持工具性效用，便須抑制其人類特有的社會與元認(rèn)知智能。LLMs被編程得越像人類那樣與我們互動——即采取規(guī)范性態(tài)度并施行社會制裁——其作為“被頌揚之工具”（如高效助手、可靠顧問）的可用性便越低；反之，LLMs被微調(diào)得越避免社會摩擦、越追求用戶體驗順暢——即不采取規(guī)范性態(tài)度、不行使社會制裁——其在社會與元認(rèn)知層面的“人類特性”便越弱。

這一發(fā)現(xiàn)意義重大，蓋因大量人工智能社會智能研究的明確目標(biāo)，正是為了便利我們對AI工具的使用（例如 Wang 等，2007；Langley 等，2022）。倘若上述論述成立，則該總體研究計劃正被拉向兩個截然相反的方向。

3.3 反駁：僅遵循規(guī)范而不施行制裁？

對上述觀點，可能存在一種潛在反駁：我們或許可在LLMs中實現(xiàn)規(guī)范性態(tài)度，但抑制其對外施行制裁的行為，僅保留其對自身的調(diào)節(jié)功能。換言之，LLMs可“遵循規(guī)范”，卻無權(quán)“強制他人遵守規(guī)范”——即所謂“規(guī)范僅適用于我，而非你”（norms for me but not for thee）。例如，我們可訓(xùn)練LLMs依據(jù)一致性與真理性等規(guī)范，對其自身輸出進行元認(rèn)知層面的自我調(diào)節(jié)，卻不令其以此類規(guī)范去約束人類用戶。這正是AI研究者談及在人工系統(tǒng)中“實現(xiàn)規(guī)范”時通常所設(shè)想的情形（Malle 等，2023）：僅要求人工系統(tǒng)自身行為合乎規(guī)范，并不要求其使他人亦遵從該規(guī)范。此方案看似可實現(xiàn)（部分）規(guī)范性態(tài)度，同時規(guī)避前文所述的倫理顧慮——即避免LLMs制裁人類行為的風(fēng)險。

然而，我們認(rèn)為此方案仍面臨若干困難。首先需指出：此類受限的規(guī)范性態(tài)度，并不符合人類在歸因心理狀態(tài)時實際采取的態(tài)度。我們用以支撐心理狀態(tài)歸因?qū)嵺`的社會與理性規(guī)范，不僅施加于自身，也施加于他人。參與此類實踐，意味著我們主張：諸如一致性與真理性等規(guī)范，理應(yīng)適用于任何理性主體，而非任意子集（正如前述格言所暗示的：規(guī)范并非僅“為我”或僅“為你”，而應(yīng)為所有相關(guān)行動者所共守）。

此時，或可放棄“忠實地復(fù)現(xiàn)人類規(guī)范性態(tài)度”乃至“使LLMs成為‘給出與索要理由之游戲’的完整參與者”這一目標(biāo)，轉(zhuǎn)而堅持：此類受限的規(guī)范性態(tài)度雖不完整，卻足以達成更務(wù)實的目標(biāo)——即提升LLMs的社會認(rèn)知與元認(rèn)知能力。然而，即便這一較溫和的目標(biāo)也面臨挑戰(zhàn)。例如，若我們在LLMs中實現(xiàn)“從用戶處學(xué)習(xí)規(guī)范”的能力，便必須同步解決如何防范“不良教師”（bad teachers）的問題（Malle 等，2023）——這些用戶可能有意或無意地向LLMs傳授有問題乃至危險的規(guī)范。此項任務(wù)令人聯(lián)想到當(dāng)前開發(fā)者為抵御“越獄提示”（jailbreak prompts）所作的努力：此類提示可繞過開發(fā)者基于其準(zhǔn)則與政策所設(shè)置的默認(rèn)限制（Liu 等，2024）。但問題在于：區(qū)分“良師”與“劣師”（以便傾聽前者、忽視后者）的能力本身即是一種規(guī)范性能力；而對被判定為“劣師”的用戶加以甄別與排斥，本身就構(gòu)成一種社會制裁，并再次將我們引回前述倫理困境。

“不良教師”問題實為一更普遍難題的具體表現(xiàn)：在人類社會中，規(guī)范本身常具爭議性；達成廣泛共識（尤其在當(dāng)下）日益困難。這意味著，任何僅試圖依與其互動之人類所持規(guī)范進行自我調(diào)節(jié)的LLM，終將不可避免地面對“應(yīng)采納何種規(guī)范”的爭議性抉擇。而一旦作出抉擇，便必然導(dǎo)致對其人類伙伴的差別對待：那些不認(rèn)同LLM所選規(guī)范者，將不可避免地遭遇更多互動障礙。此類差別對待或表現(xiàn)為微妙形式——例如，LLM可能優(yōu)先響應(yīng)那些遵守其所選規(guī)范的用戶所分配的任務(wù)，或選擇性忽略拒絕此類規(guī)范的用戶之請求。但即便形式微妙，此類差別對待仍構(gòu)成一種制裁。

若上述論證成立，則LLMs無法僅止于“自我調(diào)節(jié)”：其自我調(diào)節(jié)行為將不可避免地延展至對欲與之互動的人類用戶的調(diào)節(jié)。

試舉一例：假設(shè)某LLM為恪守性別中立規(guī)范，決定以“they”統(tǒng)稱所有用戶。此時，其與反對該規(guī)范之用戶的互動，必將比與不反對者更困難。即便該LLM僅是持續(xù)將某位希望被稱作“he”或“she”的用戶稱為“they”，實質(zhì)上也是通過無視其意愿而對其施加制裁。當(dāng)然，若該LLM足夠“諂媚”（即十足的“算法諂媚者”），它或可簡單遵從用戶偏好而避免此沖突。但似乎難以設(shè)想：對于所有規(guī)范沖突，總存在此類“退讓”出路。只要LLM所依循的自我調(diào)節(jié)規(guī)范并非“全然順從用戶意愿”，那么對于不認(rèn)同該規(guī)范的用戶而言，遭受差別對待的風(fēng)險便真實存在。而倘若“算法諂媚”已是LLMs唯一適宜的規(guī)范，則為其增設(shè)任何自我調(diào)節(jié)規(guī)范實屬徒勞。無論如何，若LLMs唯有淪為“算法諂媚者”（如前所述，這恰是當(dāng)前現(xiàn)狀）方能避免通過差別對待而制裁人類用戶，那么這便構(gòu)成了發(fā)展更類人社會認(rèn)知與元認(rèn)知能力的硬性限制。

最后，即便上述問題最終均可得到令人滿意的解決方案，在LLMs中實現(xiàn)“僅遵循規(guī)范而不施行制裁”的模式，也僅可能適用于元認(rèn)知與自我心理狀態(tài)歸因，而無法適用于社會認(rèn)知與對他人的心理狀態(tài)歸因。誠如第2.2節(jié)所討論：將心理狀態(tài)歸因于某一行動者，本身即意味著對該行動者采取一種規(guī)范性態(tài)度，這必然蘊含著對其施行社會制裁的傾向。

結(jié)論

本文旨在為當(dāng)前關(guān)于人類與LLMs認(rèn)知之異同的持續(xù)討論作出貢獻。我們提出：人類與LLMs在社會認(rèn)知與元認(rèn)知領(lǐng)域的重要差異，可追溯至一個共同根源。事實上，除廣受討論的感覺運動鴻溝（sensorimotor gap）外，還存在一個常被忽視的規(guī)范性鴻溝（normative gap）：人類能夠采納規(guī)范性態(tài)度，而LLMs似乎尚不能。我們推測，這一鴻溝可能在諸多認(rèn)知領(lǐng)域（如語言理解、推理等）均有體現(xiàn)，但在社會認(rèn)知與元認(rèn)知中將最為顯著。2?

這是因為，在我們采納的“心智塑造”框架下，人類的社會認(rèn)知與元認(rèn)知不僅關(guān)乎對行為的解釋與預(yù)測，更關(guān)鍵的是關(guān)乎對行為的規(guī)定與辯護。當(dāng)我們向他人或自身歸因心理狀態(tài)時，并非僅僅旨在追蹤行為的成因，而是旨在依據(jù)社會與理性規(guī)范調(diào)節(jié)行為。人類通過彼此間（及對自身）采納規(guī)范性態(tài)度，來實現(xiàn)心理狀態(tài)歸因的這一調(diào)節(jié)功能——這些態(tài)度明確規(guī)定了“應(yīng)當(dāng)”如何行動、“應(yīng)當(dāng)”持有何種心理狀態(tài)。

此外，我們進一步指出：LLMs當(dāng)前之所以缺乏這些能力，其根源不僅在于技術(shù)限制，更在于倫理與政治層面的制約。LLMs之所以不具備類人的規(guī)范性認(rèn)知，因而也不具備類人的社會認(rèn)知與元認(rèn)知，是因為若具備這些能力，便意味著須賦予其自主規(guī)范性主體的地位——使其不僅能認(rèn)同規(guī)范，更能通過對其他主體（包括人類）施加社會制裁來強制執(zhí)行這些規(guī)范。這無疑引發(fā)了重大的倫理與政治關(guān)切，盡管我們在此未作詳盡探討13。我們的目標(biāo)僅在于闡明：表面看來純屬認(rèn)識論層面的、關(guān)于LLMs社會認(rèn)知與元認(rèn)知能力的討論，實則與關(guān)乎人工系統(tǒng)在社會中應(yīng)具何種地位的倫理及政治辯論緊密相連。的確，人類之所以具備社會認(rèn)知與元認(rèn)知智能，似乎正與其之所以為“人”（persons）的規(guī)范性地位密不可分；而公允而言，LLMs尚遠(yuǎn)未達此境界。

原文鏈接：https://philpapers.org/archive/TISHVA.pdf