新智元報道

編輯：元宇

【新智元導(dǎo)讀】在Anthropic，有一位駐場哲學(xué)家Amanda Askell專門研究如何與AI模型打交道。她不僅主導(dǎo)設(shè)計了Claude的性格、對齊與價值觀機制，還總結(jié)出一些行之有效的提示詞技巧。哲學(xué)在AI時代不僅沒有落伍，反而那些通過哲學(xué)訓(xùn)練掌握提示詞技巧的人，年薪中位數(shù)可以高達(dá)15萬美元。

假設(shè)你手上有一臺最新款的超級咖啡機。

你按了十幾次按鈕，就是做不出來你想要喝的那種咖啡。

問題不在于咖啡機的性能不夠強大，而在于你不知道正確的指令是什么。

在Anthropic，就有一個專門研究和AI這臺「超級智能咖啡機」溝通的人。

她既不是工程師，也不是程序員，而是一位駐場哲學(xué)家Amanda Askell。

Amanda Askell是一位受過哲學(xué)訓(xùn)練的學(xué)者，負(fù)責(zé)協(xié)助管理Claude的性格設(shè)定

Askell是正兒八經(jīng)的哲學(xué)科班出身。

她曾在牛津大學(xué)和紐約大學(xué)學(xué)習(xí)哲學(xué)，2018年獲得了紐約大學(xué)哲學(xué)博士學(xué)位。

畢業(yè)后，Askell曾在OpenAI擔(dān)任政策方向的研究科學(xué)家。

2021年她加入Anthropic，至今一直在該公司擔(dān)任對齊微調(diào)方向的研究科學(xué)家。

Askell負(fù)責(zé)為Anthropic的Claude注入某些性格特質(zhì)，同時避免其他特質(zhì)。

她因為主導(dǎo)設(shè)計了Claude的性格、對齊與價值觀機制，而被列入「2024年最具影響力的100位AI人物」 。

在Anthropic，Askell有一個「Claude耳語者」（Claude whisperer）的綽號。

這大概是因為她的研究方向，是如何與Claude溝通，并調(diào)整優(yōu)化它的輸出。

用好AI

你需要一把「哲學(xué)鑰匙」

哲學(xué)，就好比打開AI這臺復(fù)雜機器的鑰匙。

近日，Askell分享了她制定有效AI提示詞的方法。

她認(rèn)為提示詞工程需要清晰表達(dá)、不斷嘗試，以及哲學(xué)式的思考方式。

在Askell看來，哲學(xué)的一大核心能力，是能把思想表達(dá)得清楚而準(zhǔn)確，而這正是發(fā)揮AI最大價值的關(guān)鍵：

「很難總結(jié)其中的奧妙，一個關(guān)鍵是要愿意頻繁地與模型互動，并且認(rèn)真觀察它每一次的輸出」。

Askell認(rèn)為好的提示詞作者應(yīng)該「非常愛嘗試、敢于試驗」，但比不斷試錯更重要的是哲學(xué)思維。

「哲學(xué)思維確實能幫助寫提示詞，我很大一部分的工作就是盡可能清晰地向模型解釋我正在思考的問題、擔(dān)憂或想法是什么」。

哲學(xué)思維對于清晰表達(dá)的重視，不僅能幫助人們優(yōu)化自己的提示詞，也有助于更好地理解AI本身。

https://platform.claude.com/docs/en/build-with-claude/prompt-engineering/overview?utm_source=chatgpt.com

在Anthropic發(fā)布的《提示詞工程概覽》中，就提出了包含清晰表達(dá)在內(nèi)的提示詞技巧：

• 清晰且直接（Be clear and direct）；

• 給出示例（multishot/few-shot prompting)，使用多輪示例來說明預(yù)期輸出；

• 如果任務(wù)復(fù)雜，讓模型分步思考（chain-of-thought），以提高準(zhǔn)確性；

• 給Claude一個角色(system prompt/role prompt)，以便設(shè)定上下文、風(fēng)格、任務(wù)邊界。

這意味著我們在與Claude聊天時，可以把它設(shè)想為一個知識豐富、非常聰明，但又時常健忘、缺乏背景知識的新員工，需要你給出明確的指示。

也就是說，它并不了解你的規(guī)范、風(fēng)格、偏好或工作方式。

你越精確說明需求，Claude的回復(fù)就會越好。

Netscape（網(wǎng)景）聯(lián)合創(chuàng)始人Marc Andreessen

Netscape（網(wǎng)景）聯(lián)合創(chuàng)始人，硅谷著名技術(shù)企業(yè)家與風(fēng)險投資人Marc Andreessen不久前也表示，AI的強大之處在于把它當(dāng)成「思維伙伴」：

「AI的藝術(shù)就在于你問它什么問題」。

在AI時代，提出一個問題往往比解決一個問題更重要。

或者說，正確地提出問題（提示詞工程），就是在高效解決問題。

人類把提問的部分（提示詞）做好了，解決問題的部分主要交給AI就可以了。

這也是為什么掌握提示詞技能的人能夠找到高薪工作的原因。

根據(jù)levels.fyi（科技從業(yè)者查詢薪資的平臺）的數(shù)據(jù)，提示詞工程師的年薪中位數(shù)高達(dá)15萬美元。

AI不是「某個人」

別再問它「你怎么看了？」

近日，Karpathy在一篇推文中表達(dá)了他對提示詞的看法。

他建議人們不要把大模型當(dāng)成一個「實體」，而要把它看作一個「模擬器」。

比如，在探索某個話題時不要問它你怎么看xyz（某個問題），因為你的提問對象并不是一個真正的個體。

而是應(yīng)當(dāng)這樣問：

「如果要討論xyz，找哪些角色/人群會比較合適？他們會怎么說？」

Karpathy認(rèn)大模型可以切換、模擬很多不同的視角，但它并不會像我們那樣，長時間地思考xyz并逐漸形成自己的觀點。

因此，如果你用「你」來提問，它會根據(jù)微調(diào)數(shù)據(jù)里的統(tǒng)計特征，自動套用某種隱含的「人格嵌入向量」，再以那種人格的方式來回答。

Karpathy的這種解釋，在一定程度上破除了大家想象中「在向一個AI發(fā)問」時所帶來的那種神秘感。

針對Karpathy的觀點，網(wǎng)友Dimitris提到，模型是否會自動「扮演」成最有能力回答問題的專家人格。

Karpathy回答這種現(xiàn)象確實存在，在某些任務(wù)中確實可能工程化了一個「人格」，比如讓模型模仿專家、通過獎勵模型得到高分、模仿用戶喜歡的風(fēng)格等。

這樣會出現(xiàn)某種「復(fù)合型人格」，但這種人格是刻意工程疊加而形成的，并非自然形成的人類心智。

所以，AI從本質(zhì)上仍然是token預(yù)測機器。模型的所謂「人格」，只是通過訓(xùn)練、人為約束、系統(tǒng)指令等手段疊加上的「外殼」。

對此，Askell也提到了類似觀點。

盡管Claude的個性中仍有一種「類人的特質(zhì)」，但它沒有情感、記憶或自我意識。

因此，它所表現(xiàn)出的任何「個性」都只是復(fù)雜語言處理的結(jié)果，而非內(nèi)在生命的體現(xiàn)。

你以為AI在「理解世界」

它可能只是「換頻道」

開發(fā)AI模型，有時感覺就好像在玩打地鼠游戲。

剛修好了模型在一個問題上的錯誤回答，它又開始在別的問題上出錯。

層出不窮的問題就像那些不斷從洞口探出頭的地鼠一樣。

OpenAI等機構(gòu)研究人員，將這類現(xiàn)象的一種表現(xiàn)被稱為「裂腦問題」（split-brain problem）：

提問方式稍微改變一下，就可能讓模型給出完全不同的答案。

「裂腦問題」背后反映出當(dāng)今大模型的一個致命缺陷：

它并不會像人類那樣逐步形成對世界運作方式的理解。

一些專家據(jù)此認(rèn)為，它們無法很好地泛化，難以處理訓(xùn)練數(shù)據(jù)之外的任務(wù)。

這也可能帶來一個質(zhì)疑：

投資者向OpenAI、Anthropic等實驗室投入數(shù)百億美元，希望它們訓(xùn)練出的模型能在醫(yī)學(xué)、數(shù)學(xué)等領(lǐng)域做出新的發(fā)現(xiàn)，這樣的投入是否真正有效？

「裂腦問題」通常出現(xiàn)在模型開發(fā)的后期階段，也就是后訓(xùn)練階段。

在這一階段，模型會被輸入經(jīng)過精心挑選的數(shù)據(jù)，比如醫(yī)學(xué)、法律等特定領(lǐng)域的知識，或者是學(xué)習(xí)如何更好地回應(yīng)使用者。

比如，一個模型可能被訓(xùn)練在數(shù)學(xué)題數(shù)據(jù)集上，以便更準(zhǔn)確地解答數(shù)學(xué)問題。

它也可能被訓(xùn)練在另一個數(shù)據(jù)集上，以提升回答時的語氣、個性和格式。

但這樣做有時會讓模型無意間學(xué)到「分場景作答」，它會根據(jù)自「以為」遇到的場景來決定回答方式：

是一個明確的數(shù)學(xué)問題，還是它在另一個訓(xùn)練數(shù)據(jù)集中經(jīng)常見到的那類更泛化的問答場景。

如果用戶用正式的證明風(fēng)格來提數(shù)學(xué)問題，模型通常能答對。

但如果用戶用更隨意的口吻提問，它可能誤以為自己是在一個更偏向被獎勵「友好表達(dá)、格式漂亮」的場景里。

于是可能為了這些附加屬性而犧牲準(zhǔn)確性，比如寫出一個排版很好、甚至帶表情符號的答案。

也就是說A在回答問題的時候也會「看人下菜碟」：

如果覺得用戶問的是「低水平」的問題，它就會給出「低水平」的回答；如果它覺得用戶問的是「高水平」的問題，它也會呈現(xiàn)「高水平」的回答。

這是模型在對提示詞格式「過度敏感」，而導(dǎo)致出現(xiàn)的一些本來不該出現(xiàn)的細(xì)微差別。

比如提示詞里是用破折號還是冒號，都可能影響模型回答的質(zhì)量。

「裂腦問題」凸顯了訓(xùn)練模型的困難性和微妙之處，尤其是要確保訓(xùn)練數(shù)據(jù)的組合恰到好處。

它也解釋了為什么許多AI公司愿意砸下數(shù)十億美元，請數(shù)學(xué)、編程、法律等領(lǐng)域的專家來生成訓(xùn)練數(shù)據(jù)，避免他們的模型在專業(yè)用戶面前繼續(xù)犯一些基礎(chǔ)錯誤。

「裂腦問題」的出現(xiàn)，也降低了人們對于AI即將自動化多個行業(yè)（從投行到軟件開發(fā)）的預(yù)期。

雖然像AI一樣，人類同樣也會誤解問題。

但AI存在的意義正是在于彌補這些人類的不足，而不是通過「裂腦問題」放大這種不足。

因此，必須要有具備哲學(xué)思維和某個領(lǐng)域的專業(yè)知識的人類專家，通過提示詞工程來形成大模型訓(xùn)練和使用的「說明書」，人們使用這些「說明書」與大模型溝通，才能應(yīng)對大模型的「裂腦問題」。

而且，在大模型出現(xiàn)「擬人」特征時，還要避免把大模型當(dāng)成「人」的錯覺，也有助于我們更好地發(fā)揮它的價值，降低機器幻覺。

這其實都非常需要哲學(xué)訓(xùn)練，使自己與AI的對話清晰富有邏輯。

從這個角度來說，對于大部分人來說，能不能用好AI，不是取決于你的AI專業(yè)知識，而是取決于你的哲學(xué)思維能力。

參考資料：

https://www.theinformation.com/articles/ais-split-brain-problem?rc=epv9gi%20

https://x.com/karpathy/status/1997731268969304070%20

https://www.businessinsider.com/anthropic-philosopher-amanda-askell-tips-ai-prompting-whispering-claude-2025-12

秒追ASI

?點贊、轉(zhuǎn)發(fā)、在看一鍵三連?

點亮星標(biāo)，鎖定新智元極速推送！