責(zé)編 | 王啟隆

出品 | CSDN（ID：CSDNnews）

投稿或?qū)で髨?bào)道 | zhanghy@csdn.net

在人工智能這場關(guān)乎未來的豪賭中，Anthropic CEODario Amodei是一個(gè)無法被簡單歸類的角色。

他既是推動(dòng)技術(shù)指數(shù)級發(fā)展的核心人物，也是國會山最憂心忡忡的“吹哨人”。

他在 OpenAI 風(fēng)頭無兩的那一年打造了足以與 GPT-4o 媲美的 Claude 3 Opus，并在今年推出了編程能力數(shù)一數(shù)二的Claude 4 模型。而在另一邊，Amodei 經(jīng)常疾呼這項(xiàng)技術(shù)的潛在風(fēng)險(xiǎn)，甚至不惜惹惱像英偉達(dá) CEO 黃仁勛這樣的行業(yè)巨頭。

這種看似矛盾的立場，讓他飽受非議。有人稱他為“末日論者”，認(rèn)為他危言聳聽，只是為了鞏固自家公司的領(lǐng)先地位，甚至想借安全之名，“控制整個(gè)行業(yè)”。面對這樣的指控，Amodei 在接下來和 Big Technology 播客的 Alex Kantrowitz 的對話中給出了迄今最激烈、最坦誠的回應(yīng)：“那是我聽過最無恥、最離譜的謊言。”

Amodei 罕見地談及了個(gè)人經(jīng)歷對他事業(yè)選擇的深刻影響：“我父親因那些本可能晚幾年就出現(xiàn)的療法而離世。所以當(dāng)有人說我想放慢腳步時(shí)，我感到非常、非常憤怒?！?這句話，或許才是理解他一切行為的關(guān)鍵。他比任何人都清楚技術(shù)加速的價(jià)值，也正因如此，他比任何人都恐懼失控的代價(jià)。

Amodei 堅(jiān)信，我們正處在一個(gè)巨大的“指數(shù)定律”時(shí)代，AI 的能力正以超乎想象的速度攀升。這種緊迫感，源于他對未來的清晰預(yù)判，也讓他對行業(yè)的浮躁與短視感到極度不安。他認(rèn)為，真正的競爭不在于一時(shí)的模型跑分，而在于能否建立一種負(fù)責(zé)任、有遠(yuǎn)見的文化，吸引最頂尖、最有使命感的人才。

以下是這場對話的內(nèi)容，由 CSDN 進(jìn)行了精編整理。

我說的越多，只是因?yàn)槲覀冸x懸崖越近

主持人：讓我們回顧一下你過去幾個(gè)月的經(jīng)歷。

• 你曾說 AI 可能會讓一半的入門級白領(lǐng)工作消失；

• 當(dāng)你得知 OpenAI 打算收購 Windsurf 時(shí)，你切斷了 Windsurf 對 Anthropic 頂級模型的訪問權(quán)限；

• 你要求政府實(shí)施出口管制，結(jié)果惹惱了英偉達(dá) CEO 黃仁勛。

你這是怎么了？

Dario Amodei：嗯，你知道，我認(rèn)為 Anthropic，包括我個(gè)人，一直以來都專注于踐行和言說我們所堅(jiān)信的理念。

我認(rèn)為，隨著我們離那些更強(qiáng)大的 AI 系統(tǒng)越來越近，我希望更用力、更公開地去言說這些理念，把觀點(diǎn)講得更清楚。多年來我一直在說，我們有這些規(guī)模法則（Scaling Laws）——我們可以詳細(xì)聊聊——AI 系統(tǒng)的能力正在變得越來越強(qiáng)。它們正從幾年前幾乎語無倫次的水平，發(fā)展到現(xiàn)在。幾年前，它們大概是聰明的初中生水平；現(xiàn)在，我們正接近聰明的大學(xué)生、博士生水平，并且開始在整個(gè)經(jīng)濟(jì)體中得到應(yīng)用。

所以，我認(rèn)為所有與 AI 相關(guān)的問題，從國家安全到經(jīng)濟(jì)影響，都開始變得非?，F(xiàn)實(shí)，離我們非常近了。因此，隨著這些問題越來越近，即便 Anthropic 在某種形式上已經(jīng)談?wù)撨@些事情有一段時(shí)間了，但我認(rèn)為這些事情的緊迫性已經(jīng)大大增加了。

而且，你知道，我希望確保我們說出我們所相信的，并且我們就未來可能發(fā)生的風(fēng)險(xiǎn)向世界發(fā)出警告。即便沒人能確切地說會發(fā)生什么。我們只是在說我們認(rèn)為可能會發(fā)生什么，我們認(rèn)為很可能會發(fā)生什么。我們盡力用證據(jù)支持我們的觀點(diǎn)，盡管這往往是基于對未來的推斷，沒人能百分之百確定。

但我認(rèn)為，我們視自己有責(zé)任去就即將發(fā)生的事情向世界發(fā)出警告。這并不是說，我認(rèn)為 AI 沒有海量的積極應(yīng)用。我一直在談?wù)撨@一點(diǎn)，我寫過那篇名為《充滿慈愛的機(jī)器》（Machines of Loving Grace）的文章。

事實(shí)上，我感覺我和 Anthropic 往往能比那些自稱為“樂觀主義者”或“加速主義者”的人，更好地闡述 AI 的益處。所以我認(rèn)為我們可能比任何人都更理解這項(xiàng)技術(shù)的好處。但正因如此，正因?yàn)槲覀冇袡C(jī)會在一切都做對的情況下，創(chuàng)造一個(gè)如此美好的世界，我才感到有責(zé)任就其風(fēng)險(xiǎn)發(fā)出警告。

主持人：所以，你所有的這些行為，都源于你的時(shí)間線判斷?；旧?，你似乎比大多數(shù)人有一個(gè)更短的時(shí)間線，所以你感到一種緊迫感，要去大聲疾呼，因?yàn)槟阏J(rèn)為這一切都迫在眉睫。

Dario Amodei：是的。我并不百分之百確定。我認(rèn)為預(yù)測未來非常困難，尤其是在社會影響層面。比如你說，人們何時(shí)會部署 AI？公司何時(shí)會投入 X 億美元在 AI 上？或者 AI 何時(shí)會被用于那些醫(yī)療突破？這很難說。底層的技術(shù)發(fā)展更具可預(yù)測性，但仍然存在不確定性，沒人真的知道。

但我認(rèn)為，在底層技術(shù)層面，我開始變得更有信心。當(dāng)然，不確定性并非完全沒有。我認(rèn)為我們所處的指數(shù)增長曲線，完全有可能停滯。我覺得大概有20%或25%的可能性，在未來兩年內(nèi)的某個(gè)時(shí)候，模型就停止進(jìn)步了，原因可能是我們不理解的，也可能是我們能理解的，比如數(shù)據(jù)或算力的可用性。到那時(shí)，我說的每句話都會顯得很傻，每個(gè)人都會因?yàn)槲野l(fā)出的所有警告而嘲笑我。你知道，考慮到我所看到的可能性分布，我完全接受那種結(jié)果。

主持人：我得說明一下，這次對話是我正在為你撰寫的一篇人物特寫的一部分。我已經(jīng)和超過二十位與你共事過、了解你、與你競爭過的人聊過。但在我與所有人交流的過程中，有一個(gè)主題貫穿始終，那就是在所有主流實(shí)驗(yàn)室的負(fù)責(zé)人中，你的時(shí)間線判斷幾乎是最短的。你剛才也提到了這一點(diǎn)。那么，為什么你的時(shí)間線這么短？我們又為什么要相信你的判斷？

Dario Amodei：這真的取決于你說的“時(shí)間線”具體指什么。

比如說，有一些術(shù)語在 AI 圈子里很流行，像 AGI（通用人工智能）和超級智能。你會聽到一些公司領(lǐng)導(dǎo)說，我們已經(jīng)實(shí)現(xiàn)了 AGI，正在向超級智能邁進(jìn)。

說實(shí)話，我覺得這些詞完全沒有意義。我不知道什么是 AGI，也不知道什么是超級智能。 它聽起來像個(gè)營銷術(shù)語，像是為了激活人們的多巴胺而設(shè)計(jì)的。所以你會發(fā)現(xiàn)，在公開場合，我從不使用這些詞，而且我還會很小心地去批評這些詞的使用。

指數(shù)定律，才是唯一真實(shí)的東西

Dario Amodei：但我認(rèn)為，盡管如此，我確實(shí)是對 AI 能力將極速提升這件事最樂觀的人之一。我認(rèn)為唯一真實(shí)的東西，就是那條指數(shù)曲線。這個(gè)概念是：每隔幾個(gè)月，我們就會得到一個(gè)比上一個(gè)更強(qiáng)的AI模型。而我們之所以能做到這一點(diǎn)，是因?yàn)槲覀兺度肓烁嗟乃懔?、更多的?shù)據(jù)，以及更多新型的訓(xùn)練方法。

最初，這是通過所謂的“預(yù)訓(xùn)練”完成的，就是你把互聯(lián)網(wǎng)上的海量數(shù)據(jù)喂給模型?，F(xiàn)在，我們有了第二階段，也就是強(qiáng)化學(xué)習(xí)，或者叫測試時(shí)計(jì)算、推理等等，你怎么稱呼它都行。我認(rèn)為這是一個(gè)涉及強(qiáng)化學(xué)習(xí)的第二階段。現(xiàn)在，這兩個(gè)階段都在同步擴(kuò)展，我們從我們自己的模型和其他公司的模型中都看到了這一點(diǎn)。

我沒有看到任何東西能阻礙這種規(guī)模化的進(jìn)一步發(fā)展。

當(dāng)然，有一些問題，比如我們?nèi)绾瓮貙拸?qiáng)化學(xué)習(xí)階段的任務(wù)范圍。我們已經(jīng)看到在數(shù)學(xué)和代碼方面取得了更多進(jìn)展，模型的水平正接近高級專業(yè)人士。但在更主觀的任務(wù)上，進(jìn)展就少一些。但我認(rèn)為這只是一個(gè)暫時(shí)的障礙。

所以，當(dāng)我審視這一切時(shí)，我看到了這條指數(shù)曲線，然后我說：“看，人類并不擅長理解指數(shù)增長。” 對吧？就像，如果某個(gè)東西每六個(gè)月翻一番，那么在它真正爆發(fā)的兩年前，它看起來只完成了整個(gè)過程的十六分之一。

而我們現(xiàn)在就坐在這里，在 2025 年年中，模型的各項(xiàng)能力正開始在經(jīng)濟(jì)領(lǐng)域爆炸式增長。如果你看模型的性能，它們已經(jīng)開始在所有基準(zhǔn)測試中達(dá)到飽和。如果你看營收，Anthropic 的營收每年都增長 10 倍。每年，我們都很保守，說：“不可能再增長 10 倍了?！?每年我都非常保守地說：“唉，我覺得業(yè)務(wù)增長要放緩了?！?但事實(shí)是，我們從 2023 年的 0 增長到了 1 億美元，2024 年從 1 億增長到了 10 億。而今年，上半年我們就從 10 億增長到了……我想到今天為止，已經(jīng)遠(yuǎn)超 40 億，可能是 45 億。

所以你想想，假設(shè)這條指數(shù)曲線再持續(xù)兩年——我不是說它一定會——但如果它持續(xù)下去，你的營收會輕松進(jìn)入千億級別。我不是說這一定會發(fā)生。我想說的是，當(dāng)你身處一條指數(shù)曲線上時(shí)，你真的很容易被迷惑。距離指數(shù)曲線變得徹底瘋狂還有兩年的時(shí)候，它看起來卻像是剛剛起步。

這就是最根本的動(dòng)態(tài)。我們在 90 年代的互聯(lián)網(wǎng)發(fā)展中也看到了這一點(diǎn)，對吧？當(dāng)時(shí)網(wǎng)絡(luò)速度和計(jì)算機(jī)底層速度都在快速提升，在短短幾年內(nèi)，建立一個(gè)全球數(shù)字通信網(wǎng)絡(luò)就成為了可能，而這在幾年前是無法想象的。而當(dāng)時(shí)，除了少數(shù)幾個(gè)人，幾乎沒人真正預(yù)見到這其中的含義以及它發(fā)生的速度。

這就是我的出發(fā)點(diǎn)，我的思考方式。當(dāng)然，我不知道未來會怎樣。比如，如果一堆衛(wèi)星墜毀，互聯(lián)網(wǎng)的發(fā)展可能就會變慢。如果發(fā)生經(jīng)濟(jì)危機(jī)，也可能變慢。所以我們無法確定確切的時(shí)間線，但我認(rèn)為，人們正在被指數(shù)曲線所迷惑，沒有意識到事情可能——我認(rèn)為是很可能——會發(fā)展得有多快，盡管我也不確定。

主持人：但 AI 行業(yè)的很多人都在談?wù)撘?guī)?；瘞淼摹笆找孢f減”。這似乎與你剛才描繪的愿景不太相符。他們錯(cuò)了嗎？

Dario Amodei：是的。從我們所看到的情況來看——我只能就 Anthropic 的模型而言——我認(rèn)為他們錯(cuò)了。

我們以代碼為例。這是 Anthropic 模型進(jìn)步很快的一個(gè)領(lǐng)域，市場采用率也很高。我們不僅僅是一家代碼公司，我們計(jì)劃擴(kuò)展到很多領(lǐng)域。但如果你單看代碼，我們發(fā)布了 3.5 Sonnet，然后是一個(gè)我們稱之為 3.5 Sonnet V2 的模型——咱們就叫它 3.6 Sonnet 吧——然后是 3.7 Sonnet，再到 4.0 Sonnet 和 4.0 Opus。

這四五個(gè)模型系列，每一個(gè)在代碼能力上都比上一個(gè)有了顯著的提升。如果你看基準(zhǔn)測試，比如 SWE-bench，它的得分從大概 18 個(gè)月前的 3% 左右，增長到了現(xiàn)在根據(jù)評測方式不同，在 72%到 80%之間。而實(shí)際的使用率也呈指數(shù)級增長。我們正越來越多地走向可以自主使用這些模型的方向。實(shí)際上，在Anthropic內(nèi)部，大部分代碼都是由Claude模型編寫或在其參與下完成的。

所以，我們看到的進(jìn)展非?？?，指數(shù)曲線仍在繼續(xù)，我們沒有看到任何收益遞減。

AI 時(shí)代，技術(shù)護(hù)城河的消亡與重生

主持人：但大語言模型似乎確實(shí)存在一些固有的缺陷，比如“持續(xù)學(xué)習(xí)”（Continual Learning）的能力。我們幾周前請了 Dwarkesh，他認(rèn)為缺乏持續(xù)學(xué)習(xí)能力是個(gè)巨大的問題?！按竽Ｐ偷幕€能力可能比普通人強(qiáng)，但你就被困在了它出廠時(shí)的水平?！?strong>模型被創(chuàng)造出來后，它就不再學(xué)習(xí)了。這似乎是一個(gè) glaring liability（明顯的缺陷）。你怎么看？

Dario Amodei：首先，我想說，即便我們永遠(yuǎn)解決不了持續(xù)學(xué)習(xí)和記憶的問題，大模型影響經(jīng)濟(jì)規(guī)模的潛力也依然巨大。如果我回想我以前的領(lǐng)域，生物學(xué)和醫(yī)學(xué)，比如說，我有一個(gè)非常聰明的諾獎(jiǎng)得主，然后我說：“好吧，你雖然發(fā)現(xiàn)了所有這些東西，擁有這個(gè)無比聰明的頭腦，但你不能再讀新的教科書，也不能吸收任何新信息了?！?/p>

這當(dāng)然會很困難，但如果你有一千萬個(gè)這樣的“諾獎(jiǎng)得主”，他們?nèi)匀粫〉么罅康纳飳W(xué)突破，對吧？他們會受到限制，有些事情人類能做他們做不了，有些他們能做人類做不了。但即便我們把這個(gè)當(dāng)作上限，天哪，那也已經(jīng)非常了不起，足以改變世界了。

但話說回來，上下文窗口正在變得越來越長，而模型實(shí)際上在上下文窗口內(nèi)確實(shí)在學(xué)習(xí)。對吧？所以當(dāng)我和模型在對話中交談時(shí)，我進(jìn)行了一場對話，它吸收了信息。雖然底層的模型權(quán)重可能沒有改變，但就像我和你現(xiàn)在交談一樣，我傾聽你說的話，然后我思考，然后我回應(yīng)。模型也能做到這一點(diǎn)。

從機(jī)器學(xué)習(xí)的角度看，我們沒有理由不能把上下文長度做到一億個(gè)詞，這大概是一個(gè)人一生中聽到的詞匯量。今天就可以。真正限制我們的是推理成本。所以，即便只是這樣，也填補(bǔ)了許多空白。不是所有空白，但填補(bǔ)了很多。

然后，還有很多關(guān)于學(xué)習(xí)和記憶的技術(shù)，確實(shí)能讓我們更新模型權(quán)重。我們多年前討論過“內(nèi)循環(huán)”和“外循環(huán)”的概念。內(nèi)循環(huán)就像我在一個(gè)情境（episode）中學(xué)到一些東西，然后在外循環(huán)中，智能體在多個(gè)情境之間學(xué)習(xí)。也許這種內(nèi)外循環(huán)結(jié)構(gòu)就是實(shí)現(xiàn)持續(xù)學(xué)習(xí)的一種方式。

我們在 AI 領(lǐng)域?qū)W到的一件事是，每當(dāng)你覺得有一個(gè)根本性的障礙時(shí)，比如兩年前我們認(rèn)為推理能力是一個(gè)根本障礙，結(jié)果發(fā)現(xiàn)，用強(qiáng)化學(xué)習(xí)（RL）去訓(xùn)練，讓模型寫下思考過程，就能解決。所以，在不透露太多細(xì)節(jié)的情況下，我認(rèn)為，并且我們已經(jīng)有一些初步證據(jù)表明，持續(xù)學(xué)習(xí)是另一個(gè)看似困難，但實(shí)際上并非如此的問題。它最終會屈服于規(guī)模化，以及一種稍微不同的思考方式。

主持人：你對規(guī)?；陌V迷，是否可能讓你忽視了一些新技術(shù)？如果你的注意力全在規(guī)模化上，會不會錯(cuò)過這些？

Dario Amodei：我們每天都在開發(fā)新技術(shù)。

Claude 在代碼方面非常出色，我們不怎么對外談?wù)摓槭裁?Claude 在代碼方面這么好。

主持人：它為什么這么好？

Dario Amodei：（笑）就像我說的，我們不怎么對外談?wù)摗?/p>

我們發(fā)布的每一個(gè)新版本的 Claude，都在架構(gòu)、我們輸入的數(shù)據(jù)，以及我們用來訓(xùn)練它的方法上有所改進(jìn)。所以我們一直在開發(fā)新技術(shù)，它們是我們構(gòu)建每一個(gè)模型的一部分。這就是為什么我一直說，我們試圖盡可能地優(yōu)化“人才密度”（talent density）。你需要那種人才密度，才能發(fā)明出新技術(shù)。

公司文化，決定了你能否擁有最頂尖的人才

主持人：有一種觀點(diǎn)認(rèn)為，Anthropic 可能擁有正確的理念，但卻缺乏與之匹配的資源。你看 xAI 和 Meta 正在發(fā)生的事情，馬斯克建了他的超級計(jì)算集群，扎克伯格正在建一個(gè) 5GW 的數(shù)據(jù)中心。他們投入了如此巨大的資源來擴(kuò)大規(guī)模。Anthropic 真的能跟上嗎？

Dario Amodei：我們已經(jīng)融資了……我想截至目前，接近200億美元。這不算少。而且，如果你看看我們正在建設(shè)的數(shù)據(jù)中心的規(guī)模，比如和亞馬遜合作的那些，我不認(rèn)為我們的數(shù)據(jù)中心規(guī)?；俣缺冗@個(gè)領(lǐng)域的任何其他公司慢多少。

很多時(shí)候，這些事情受限于能源、資本化。當(dāng)你聽到那些巨額數(shù)字的公告時(shí)，有時(shí)它們還沒有完全落實(shí)資金，而且是分幾年投入的。我們看過其他公司正在建設(shè)的數(shù)據(jù)中心的規(guī)模，我們非常有信心，我們……我們的規(guī)模會和他們在一個(gè)大致的范圍內(nèi)。

主持人：那你怎么看扎克伯格在人才密度方面所做的事情？把那種人才密度和巨大的數(shù)據(jù)中心結(jié)合起來，他似乎具備了很強(qiáng)的競爭力。

Dario Amodei：是的，這其實(shí)非常有趣。因?yàn)槲覀冏⒁獾降囊患率牵鄬τ谄渌?，很少?Anthropic 的人被他們挖走。這并不是因?yàn)樗麄儧]努力。我跟很多在 Anthropic 收到他們 offer 的人聊過，他們直接就拒絕了。他們甚至都不愿意和扎克伯格談，他們說：“不，我要留在 Anthropic?！?/p>

我們對此的普遍回應(yīng)是，我在全公司的 Slack 里發(fā)了一條消息，我說：“看，我們不愿意為了單獨(dú)回應(yīng)這些 offer，而犧牲我們的薪酬原則和公平原則。” 在 Anthropic，我們的工作方式是，有一系列的級別，當(dāng)候選人進(jìn)來時(shí)，他們會被定級，我們不就這個(gè)級別進(jìn)行談判。因?yàn)槲覀冋J(rèn)為那不公平。我們想要一個(gè)系統(tǒng)化的方式。

如果，馬克·扎克伯格對著一個(gè)靶子扔飛鏢，正好射中了你的名字，那并不意味著你的薪水就應(yīng)該比你旁邊那個(gè)和你一樣有才華、一樣技能嫻熟的同事高10倍。

在我看來，在這種情況下，唯一能真正傷害到你的，就是你因?yàn)榭只哦试S這種行為破壞你公司的文化，因?yàn)槟阍噲D不公平地對待員工來保住他們。

而我認(rèn)為，這實(shí)際上是公司的一個(gè)凝聚人心的時(shí)刻。我們沒有屈服，我們拒絕犧牲我們的原則，因?yàn)槲覀冇行判模粼?Anthropic 的人是因?yàn)樗麄冋嬲嘈殴镜氖姑?/p>

我相信，AI 領(lǐng)域的公司文化，最終決定了你能否擁有最頂尖的人才。 我認(rèn)為他們正在試圖購買一些無法用錢買到的東西，那就是對使命的認(rèn)同。這里面存在選擇效應(yīng)。他們得到的，是那些最熱情、最有使命感、最興奮的人嗎？

主持人：但他們有海量的 GPU。你不低估這一點(diǎn)嗎？

Dario Amodei：我們拭目以待。我個(gè)人對他們正在做的事情相當(dāng)看空（bearish）。

押注企業(yè)級市場

主持人：讓我們來談?wù)勀愕臉I(yè)務(wù)。很多人都在好奇，生成式 AI 的生意到底是不是一門好生意。你已經(jīng)融資了近 200 億美元，谷歌投了 30 億，亞馬遜 80 億，還有新一輪由 Lightspeed 領(lǐng)投的 35 億。你的融資故事是什么？因?yàn)槟悴幌衲切┐罂萍脊居鞋F(xiàn)成的業(yè)務(wù)可以嫁接。你是直接拿著規(guī)模法則去跟投資人說“給我點(diǎn)錢”嗎？

Dario Amodei：我對這個(gè)問題的看法一直是，人才才是最重要的。

你想想，三年前，我們才融資了幾億美元。OpenAI 已經(jīng)從微軟拿了 130 億美元，更不用說那些萬億市值的科技巨頭，他們賬上躺著千億、兩千億美元。我們當(dāng)時(shí)的融資故事是：我們知道如何比別人更好地制造這些模型。

可能有一條規(guī)模法則的曲線，但如果我們在一個(gè)可以用 1 億美元做到別人 10 億美元才能做到的事情的位置上，可以用 100 億美元做到別人 1000 億美元才能做到的事情，那么投資 Anthropic 的資本效率就高 10 倍。你是愿意投資一個(gè)可以用便宜 10 倍的成本做任何事的公司，還是愿意投資一個(gè)一開始錢就更多的公司？

如果你能用便宜 10 倍的成本做事，那么資金短缺只是一個(gè)暫時(shí)的缺陷，是可以彌補(bǔ)的。而如果你擁有這種內(nèi)在的能力，能用同樣的價(jià)格構(gòu)建更好的產(chǎn)品，或者用更低的價(jià)格構(gòu)建同樣好的產(chǎn)品，投資人不是傻子，他們理解資本效率的概念。

所以，我們從三年前資本相差近千倍的局面，走到了今天，你問我用 200 億能否與 1000 億競爭。我的回答是：能，因?yàn)槲覀兊娜瞬琶芏取?/p>

主持人：CNBC 報(bào)道說，Anthropic 60%-75% 的銷售額來自 API。這是否意味著你在下最純粹的技術(shù)賭注？

Dario Amodei：我不會這么說。我會說，我們押注的是模型的商業(yè)應(yīng)用場景，而不是單純的API。只是恰好，最早的商業(yè)應(yīng)用場景是通過 API 實(shí)現(xiàn)的。

如你所說，OpenAI 非常專注于消費(fèi)者端。谷歌非常專注于將其整合到現(xiàn)有產(chǎn)品中。而我們的觀點(diǎn)是，企業(yè)級AI的應(yīng)用潛力，即便不比消費(fèi)者端更大，也至少是同等級別的。

而且我認(rèn)為，作為一個(gè)專注于商業(yè)應(yīng)用場景的公司，這給了我們更好的激勵(lì)去把模型做得更好。

我來舉個(gè)思想實(shí)驗(yàn)。假設(shè)我有一個(gè)模型，它在生物化學(xué)方面的水平相當(dāng)于一個(gè)本科生。然后我改進(jìn)了它，讓它的水平相當(dāng)于一個(gè)博士生。如果我把這個(gè)模型給一個(gè)普通消費(fèi)者，我說：“好消息！我把模型的生物化學(xué)能力從本科生提升到了研究生水平！” 大概 1% 的消費(fèi)者會在意這個(gè)，對吧？99% 的人會說：“我反正也看不懂?！?/p>

但現(xiàn)在，假設(shè)我去找輝瑞，我說我把模型從本科生水平提升到了研究生水平。這會是天大的事，對吧？他們可能愿意為此多付 10 倍的錢，因?yàn)樗軇?chuàng)造 10 倍的價(jià)值。

所以，我們的總目標(biāo)，是讓模型解決世界上的問題，讓它們越來越聰明，同時(shí)也能帶來很多積極的應(yīng)用。我之前在《慈愛機(jī)器》（Machines of Loving Grace）里寫的那些，解決生物醫(yī)藥的問題、地緣政治的問題、經(jīng)濟(jì)發(fā)展的問題，當(dāng)然也包括金融、法律、生產(chǎn)力、保險(xiǎn)這些更實(shí)際的領(lǐng)域。

我認(rèn)為，押注商業(yè)應(yīng)用，能提供更好的激勵(lì)來推動(dòng)模型的發(fā)展。從很多方面來說，這可能是比消費(fèi)者端更有利可圖的生意。

主持人：你最初是怎么決定專注于代碼這個(gè)應(yīng)用場景的？

Dario Amodei：一開始，像大多數(shù)事情一樣，我們是想讓模型在很多方面都變得更好。然后，代碼這個(gè)領(lǐng)域就脫穎而出了。

我跟成千上萬的工程師合作過。大概一年半前，我合作過的最優(yōu)秀的工程師之一說，以前所有的代碼模型對他來說都沒用，但我們的新模型終于能幫他做一些他自己做不到的事情了。當(dāng)我們發(fā)布它之后，市場采用率迅速提升。

所以當(dāng)我們看到它如此受歡迎之后，我們就加倍投入了。我的看法是，代碼特別有趣，因?yàn)?A)市場采用速度快，B)讓我們在代碼方面做得更好，又能反過來幫助我們開發(fā)下一個(gè)模型。所以它有很多優(yōu)勢。

個(gè)人經(jīng)歷、風(fēng)險(xiǎn)與“末日論者”的標(biāo)簽

主持人：你曾說你的父親因?yàn)橥砹藥啄瓴懦霈F(xiàn)的療法而去世。我知道這很私人，但你能分享一下這對你的影響嗎？

Dario Amodei：當(dāng)然。我的父親確實(shí)病了很長時(shí)間，最終在 2006 年去世了。那件事確實(shí)是促使我——我之前沒提過，在我進(jìn)入 AI 領(lǐng)域之前，我先進(jìn)入了生物學(xué)領(lǐng)域。

我到普林斯頓的時(shí)候，是想成為一名理論物理學(xué)家，我最早的幾個(gè)月也確實(shí)在做宇宙學(xué)的研究。那段時(shí)間，我父親去世了。那件事對我影響很大，也是說服我轉(zhuǎn)向生物學(xué)的原因之一，我想去解決人類的疾病和生物問題。

所以我開始和我們系里那些做生物物理和計(jì)算神經(jīng)科學(xué)的人交流，這導(dǎo)致了我轉(zhuǎn)向生物學(xué)和計(jì)算神經(jīng)科學(xué)。后來，我最終進(jìn)入 AI 領(lǐng)域，其實(shí)也是這種動(dòng)機(jī)的延續(xù)。因?yàn)槲以谏飳W(xué)領(lǐng)域待了很多年之后，我意識到，生物學(xué)問題的復(fù)雜性，感覺已經(jīng)超出了人類的尺度。你需要成百上千的研究人員，而他們往往難以協(xié)作。

而 AI，我當(dāng)時(shí)剛開始看到它的突破，感覺是唯一能彌合這個(gè)差距的技術(shù)，能把我們帶到人類尺度之外，去真正理解和解決生物學(xué)問題。所以，是的，這里面有一條貫穿始終的線。

主持人：我聽說，他得的病在他生病時(shí)基本是無法治愈的，但在他去世后不久，就有了重大的治療進(jìn)展，變得可以管理了。

Dario Amodei：是的，是的，那是真的。實(shí)際上，在他去世后大概三四年，他得的那種病的治愈率從 50% 提高到了大概 95%。

主持人：眼睜睜看著父親被一種本可以被治愈的疾病奪走生命，那種感覺一定充滿了不公。

Dario Amodei：當(dāng)然，當(dāng)然。但這也告訴你，解決這些相關(guān)問題的緊迫性有多大。對吧？肯定有人在研究那種病的療法，他們最終成功了，拯救了很多生命。但如果他們能早幾年找到療法，就能拯救更多人的生命。

我認(rèn)為這就是這里的矛盾之處，對吧？AI 有所有這些好處，我希望每個(gè)人都能盡快享受到。我可能比任何人都更理解這些好處有多么緊迫，因?yàn)槲矣H身經(jīng)歷過。

所以，我真的理解其中的利害關(guān)系。當(dāng)我在公開場合談?wù)?AI 的風(fēng)險(xiǎn)，說我擔(dān)心這些風(fēng)險(xiǎn)時(shí)，我非常、非常憤怒，當(dāng)有人稱我為“末日論者”的時(shí)候。我真的非常憤怒。 當(dāng)有人說：“這家伙是個(gè)末日論者，他想讓事情慢下來?！?/p>

你聽到我剛才說的了嗎？我的父親因?yàn)槟切┍究赡芡韼啄昃统霈F(xiàn)的療法而離世。我理解這項(xiàng)技術(shù)的價(jià)值。

當(dāng)我坐下來寫《慈愛機(jī)器》時(shí)，我寫下了所有能讓數(shù)十億人生活變得更好的方式。而那些在推特上為“加速”歡呼的人，我不認(rèn)為他們對這項(xiàng)技術(shù)的好處有一種人文主義的理解。他們的大腦里充滿了腎上腺素，他們想為某件事歡呼，想加速。我不覺得他們在乎。

所以當(dāng)這些人叫我“末日論者”時(shí)，我認(rèn)為他們完全、完全喪失了這么做的道德信譽(yù)。這真的讓我對他們失去尊重。

主持人：你對這項(xiàng)技術(shù)的掌控能力，似乎是你所有行動(dòng)的前提。但你對影響力的渴望，是否可能促使你在加速這項(xiàng)技術(shù)的同時(shí)，低估了“控制”本身可能并不可行的風(fēng)險(xiǎn)？

Dario Amodei：我認(rèn)為我比這個(gè)行業(yè)里的任何人都更多地警告過這項(xiàng)技術(shù)的危險(xiǎn)。我們剛剛花了十幾二十分鐘，談?wù)摿艘淮蠖呀?jīng)營著萬億美元公司的人批評我談?wù)摷夹g(shù)危險(xiǎn)的事情。

現(xiàn)在有美國政府的官員，有經(jīng)營著四萬億美元公司的人，批評我談?wù)摷夹g(shù)的危險(xiǎn)，給我安上各種奇怪的動(dòng)機(jī)，這些動(dòng)機(jī)和我說的、做的任何事情都毫無關(guān)系。

但我還是會繼續(xù)這么做。

實(shí)際上，我認(rèn)為，隨著營收和經(jīng)濟(jì)業(yè)務(wù)的指數(shù)級增長——如果我是對的，幾年后這將是世界上最大的產(chǎn)業(yè)——我們面臨著一個(gè)可怕的局面：有數(shù)千億、數(shù)萬億，甚至我估計(jì)有 20 萬億美元的資本，都站在“盡可能快地加速 AI”這一邊。而我們這家公司，雖然絕對價(jià)值很高，但相對而言很小，600 億美元。

我一直在發(fā)聲，即便這會讓政府里的一些人、一些巨頭不高興。我每次這么做，都會受到很多同行的攻擊。但我還是要繼續(xù)做。

如果我認(rèn)為，我們完全沒有辦法控制這項(xiàng)技術(shù)——而我完全看不到任何證據(jù)支持這個(gè)論點(diǎn)，我們發(fā)布的每一個(gè)模型，我們對它的控制能力都在變強(qiáng)——如果我認(rèn)為沒有辦法，那我就會站出來說：“每個(gè)人都應(yīng)該停止開發(fā)這些東西，甚至是中國也應(yīng)該停下來?！?/p>

我警告風(fēng)險(xiǎn)，就是為了我們不必慢下來。為了我們能投資于安全技術(shù)，繼續(xù)這個(gè)領(lǐng)域的進(jìn)步。這需要一個(gè)巨大的經(jīng)濟(jì)努力。就算一家公司愿意放慢腳步，也阻止不了其他公司，也阻止不了我們的地緣政治對手。

所以，我們被夾在技術(shù)的巨大利益、加速的競賽，以及這種多方競賽的現(xiàn)實(shí)之間。我能做的最好的事，就是投資安全技術(shù)，加速安全方面的進(jìn)展，并且當(dāng)我擔(dān)心我們處理風(fēng)險(xiǎn)的能力跟不上技術(shù)發(fā)展的速度時(shí)，我就要更大聲地疾呼。這就是我的回應(yīng)。

那是我聽過最無恥、最離譜的謊言

主持人：我相信你也聽過黃仁勛上個(gè)月對你的批評，他說：“Dario 認(rèn)為只有他才能安全地構(gòu)建這項(xiàng)技術(shù)，因此他想控制整個(gè)行業(yè)?！?你怎么看？

Dario Amodei：我從沒說過那樣的話。那是我聽過最無恥、最離譜的謊言。

事實(shí)上，我說過很多次，Anthropic 的行動(dòng)也證明了，我們的目標(biāo)是一種“競相向上”（race to the top）。

我曾在播客上說過，Anthropic 的行動(dòng)也表明，在一個(gè)“競相向下”（race to the bottom）的環(huán)境里，每個(gè)人都在比誰能更快地把東西推出來，誰贏了并不重要，因?yàn)樗腥硕驾斄?。你造出了不安全的系統(tǒng)，它可能會幫助你的對手，或者導(dǎo)致經(jīng)濟(jì)問題，或者從對齊的角度看是不安全的。

而我所理解的“競相向上”，是誰贏了不重要，因?yàn)樗腥硕稼A了。你為整個(gè)領(lǐng)域樹立一個(gè)榜樣。一個(gè)關(guān)鍵的例子就是我們的“負(fù)責(zé)任的規(guī)?；摺保≧esponsible Scaling Policy）。

我們是第一個(gè)發(fā)布這種政策的公司。我們沒有說：“其他人都該這么做，不然你們就是壞人。” 我們沒有試圖把它當(dāng)作一種優(yōu)勢。我們發(fā)布了它，然后鼓勵(lì)其他所有人都這么做。

我們發(fā)現(xiàn)，在那之后的幾個(gè)月里，其他公司內(nèi)部那些試圖推動(dòng)類似政策的人，因?yàn)槲覀円呀?jīng)做了，就有了向領(lǐng)導(dǎo)層建言的理由和許可。這讓整個(gè)行業(yè)都向前走了一步。在可解釋性研究上也是如此，我們把研究成果公開發(fā)布給所有人，即便我們知道這其中有商業(yè)優(yōu)勢。在“憲法 AI”、危險(xiǎn)能力評估方面也是一樣。

我們試圖為這個(gè)領(lǐng)域樹立一個(gè)榜樣。但這和成為一個(gè)強(qiáng)大的商業(yè)競爭者之間存在一種相互作用。

我從沒說過，也從未暗示過，我們公司應(yīng)該是唯一一個(gè)構(gòu)建這項(xiàng)技術(shù)的公司。我不知道任何人怎么能從我說的任何話里得出這種結(jié)論。這……這簡直是……是的，這是一種令人難以置信的、惡意的曲解。

本文編譯 自 Alex Kantrowitz

原文 | youtube.com/watch?v=mYDSSRS-B5U

AI 產(chǎn)品爆發(fā)，但你的痛點(diǎn)解決了嗎？

2025 全球產(chǎn)品經(jīng)理大會

8 月 15–16 日

北京·威斯汀酒店

互聯(lián)網(wǎng)大廠、AI 創(chuàng)業(yè)公司、ToB/ToC 實(shí)戰(zhàn)一線的產(chǎn)品人

12 大專題分享，洞察趨勢、拆解路徑、對話未來。

立即掃碼領(lǐng)取大會PPT

搶占 AI 產(chǎn)品下一波紅利