關(guān)注我們 設(shè)為星標(biāo)

中國 AI 新創(chuàng)公司 DeepSeek 低成本模型登《自然》 29 萬美元訓(xùn)練成本引全球熱議

中國人工智能新創(chuàng)企業(yè)深度求索（DeepSeek）近日在頂尖學(xué)術(shù)期刊《自然》（Nature）發(fā)表的論文中披露，其專注于推理能力的 R1 模型訓(xùn)練成本僅為 29.4 萬美元。這一數(shù)字不僅遠(yuǎn)低于美國競爭對手 OpenAI 所公布的數(shù)億美元級別成本，更標(biāo)志著全球首個通過權(quán)威期刊同行評審的大型語言模型正式誕生，引發(fā)科技界對 AI 研發(fā)范式的重新思考。

里程碑式突破：登上《自然》封面

9 月 17 日，DeepSeek 的研究論文《DeepSeek-R1: Incentivizing Reasoning Capability in LLMs via Reinforcement Learning》登上《自然》封面，通訊作者為公司創(chuàng)始人梁文鋒。這距離該公司今年 1 月在 arXiv 平臺發(fā)布預(yù)印版論文引發(fā)熱議已過去 8 個月，經(jīng)過全球頂尖科學(xué)家的嚴(yán)苛同行評審后，這份研究成果的含金量獲得學(xué)術(shù)界公認(rèn)。

論文首次公開了 R1 模型的詳細(xì)訓(xùn)練成本與技術(shù)細(xì)節(jié)：該模型使用 512 顆英偉達(dá) H800 芯片組成的計算集群，經(jīng)過 80 小時訓(xùn)練完成，總成本控制在 29.4 萬美元。《自然》在封面推薦中特別指出，該研究揭示了 "在極少人工輸入下訓(xùn)練模型進(jìn)行推理" 的突破性方法，即通過強(qiáng)化學(xué)習(xí)讓模型在正確解答數(shù)學(xué)問題時獲得獎勵，從而自主發(fā)展出逐步推理能力。

這一成果顛覆了行業(yè)對大模型研發(fā)的認(rèn)知。相比之下，OpenAI 首席執(zhí)行官薩姆?奧爾特曼（Sam Altman）2023 年曾透露，其基礎(chǔ)模型訓(xùn)練成本 "遠(yuǎn)超過 1 億美元"，而 Anthropic 首席執(zhí)行官達(dá)里奧?阿莫迪（Dario Amodei）更預(yù)測未來三年 AI 模型訓(xùn)練成本可能飆升至 1000 億美元。美國消費(fèi)者新聞與商業(yè)頻道（CNBC）評價稱，DeepSeek 的成本控制 "令人震驚"，"已經(jīng)推翻了只有擁有最先進(jìn)芯片的國家才能在 AI 競賽中占據(jù)主導(dǎo)地位的假設(shè)"。

當(dāng)期《自然》雜志封面技術(shù)革新：無監(jiān)督強(qiáng)化學(xué)習(xí)的成本革命

DeepSeek 的低成本突破源于其開創(chuàng)性的技術(shù)路徑。論文詳細(xì)闡述了一種無需依賴大量人工標(biāo)注數(shù)據(jù)的訓(xùn)練方法 —— 通過純粹的強(qiáng)化學(xué)習(xí)（RL）激發(fā)模型的復(fù)雜推理能力，而非傳統(tǒng)方法中必須先用人類解題步驟進(jìn)行監(jiān)督微調(diào)（SFT）。

該團(tuán)隊(duì)開發(fā)的群組相對策略優(yōu)化（GRPO）算法無需使用與策略模型同等規(guī)模的評估模型，直接從群組分?jǐn)?shù)中估算基線，大幅降低了計算資源需求。研究顯示，模型在訓(xùn)練過程中自發(fā)發(fā)展出動態(tài)調(diào)整思考時間、自我反思修正甚至探索多種解題路徑等高級行為，其中 "頓悟時刻"（Aha Moment）的出現(xiàn)尤為引人注目 —— 模型在訓(xùn)練中期學(xué)會了通過重新評估初始方法來合理分配思考時間。

在工程實(shí)現(xiàn)上，DeepSeek 采用了 "基座模型 + 強(qiáng)化學(xué)習(xí)" 的漸進(jìn)式方案：首先利用 A100 芯片完成小規(guī)模模型的實(shí)驗(yàn)準(zhǔn)備（即 "冷啟動" 階段），隨后在 512 顆 H800 芯片集群上進(jìn)行正式訓(xùn)練。這種分階段優(yōu)化策略既保證了模型性能，又顯著控制了成本。Hugging Face 機(jī)器學(xué)習(xí)工程師路易斯?湯斯頓（Lewis Tunstall）作為論文審稿人證實(shí)，其他實(shí)驗(yàn)室已成功復(fù)現(xiàn) R1 模型的效果，證明該方法的普適性。

值得注意的是，該團(tuán)隊(duì)在訓(xùn)練中引入 "語言一致性獎勵" 機(jī)制，通過計算思維鏈（CoT）中目標(biāo)語言單詞的比例來優(yōu)化模型輸出，雖然這導(dǎo)致性能略有下降，但顯著提升了可讀性，體現(xiàn)了技術(shù)取舍中的實(shí)用主義考量。

芯片爭議：特供版硬件與地緣政治博弈

DeepSeek 的低成本宣稱也引發(fā)了關(guān)于技術(shù)合規(guī)性的爭議。論文披露的 H800 芯片是英偉達(dá)公司在美國 2022 年 10 月禁止向中國出口 H100、A100 等高端 AI 芯片后，專為中國市場設(shè)計的特供版產(chǎn)品，其計算能力經(jīng)過調(diào)整以符合美國出口管制要求。

在《自然》論文的補(bǔ)充材料中，DeepSeek 首次承認(rèn)曾在研發(fā)準(zhǔn)備階段使用過 A100 芯片，"用于較小規(guī)模模型的實(shí)驗(yàn)準(zhǔn)備"，但強(qiáng)調(diào) R1 模型的最終訓(xùn)練是在 H800 芯片集群上完成。這一細(xì)節(jié)披露正值中美芯片貿(mào)易摩擦升級之際 —— 美國政府今年多次收緊對華 AI 芯片出口限制，而中國商務(wù)部已于 9 月 13 日啟動針對美國集成電路領(lǐng)域歧視性措施的反歧視調(diào)查。

美國企業(yè)和官員此前曾質(zhì)疑，DeepSeek 能否使用性能受限的特供版芯片訓(xùn)練出高性能模型。對此，英偉達(dá)方面曾回應(yīng)稱 DeepSeek 使用的是合法采購的 H800 芯片。行業(yè)分析指出，H800 作為 A100 的替代產(chǎn)品，雖在計算能力上有所降低，但通過集群優(yōu)化和算法創(chuàng)新，仍能支撐先進(jìn) AI 模型的研發(fā)，DeepSeek 的實(shí)踐正是這一思路的成功驗(yàn)證。

行業(yè)影響：AI 研發(fā)范式的民主化探索

DeepSeek 的研究成果不僅具有科學(xué)價值，更樹立了 AI 研發(fā)透明化的新標(biāo)桿。論文毫無保留地公開了包括學(xué)習(xí)率、采樣溫度、"每道題嘗試 16 個答案" 等具體參數(shù)設(shè)置，甚至坦誠為解決 "中英夾雜" 問題引入的語言一致性獎勵會略微犧牲模型跑分，這種開放態(tài)度獲得學(xué)術(shù)界高度評價。

俄亥俄州立大學(xué) AI 研究員 Huan Sun 評論道："經(jīng)歷嚴(yán)格的同行評審，無疑能有效驗(yàn)證模型的可靠性與實(shí)用價值。其他公司也應(yīng)效仿此舉，擺脫發(fā)布會上的驚艷演示和不斷刷新的排行榜分?jǐn)?shù)這種行業(yè)亂象。"

從行業(yè)視角看，R1 模型的成功證明了 "低成本高效研發(fā)" 路徑的可行性。DeepSeek 采用的 "最大量免費(fèi)數(shù)據(jù)預(yù)訓(xùn)練 + 模型自生成數(shù)據(jù)微調(diào)" 策略，與 Meta 的 Llama 系列開源模式形成呼應(yīng)，但更進(jìn)一步實(shí)現(xiàn)了頂級性能突破?？萍甲稍兙W(wǎng)站 "Tech Space 2.0" 分析指出："DeepSeek 已經(jīng)改變了游戲規(guī)則，這種節(jié)儉的策略是其他公司目前正在深入研究的模板。"

不過，研究也承認(rèn)模型存在局限性，包括對非中英文查詢可能出現(xiàn)語言混合、對提示詞較敏感以及在長周期驗(yàn)證任務(wù)上提升有限等問題。這些不足恰恰為后續(xù)研究指明了方向，也凸顯了 AI 技術(shù)仍需在開放與規(guī)范中不斷演進(jìn)。

隨著 DeepSeek 的研究登上《自然》封面，全球 AI 競爭正從 "資本密集型" 向 "智力密集型" 轉(zhuǎn)變。29.4 萬美元與數(shù)億美元的成本差距背后，不僅是技術(shù)路線的差異，更預(yù)示著 AI 民主化時代的加速到來 —— 當(dāng)先進(jìn)模型的研發(fā)門檻大幅降低，人工智能技術(shù)的創(chuàng)新活力或?qū)⒌玫角八从械尼尫拧?/p>

報名

注：本次研討會席位有限，因此暫停對院校學(xué)生開放報名，望理解。