我們正處在一個(gè)信息過(guò)載的社會(huì)—— 信息量爆炸性增長(zhǎng)，科技的迭代不斷重塑我們的生活方式和信仰觀念。我們面對(duì)的是復(fù)雜的、動(dòng)態(tài)變化的系統(tǒng)，傳統(tǒng)的線性思維模式和決策框架變得不再適用。

在這種時(shí)代背景下，貝葉斯方法成為一種重要的計(jì)算和思維工具，提供了一種量化不確定性，做出概率推斷的方法。它不尋求絕對(duì)的確定性，而是承認(rèn)不確定性的存在，并以此為基礎(chǔ)構(gòu)建知識(shí)和決策。

對(duì)企業(yè)而言，不確定性也是數(shù)據(jù)驅(qū)動(dòng)面臨的核心挑戰(zhàn)。無(wú)論是用戶的行為、產(chǎn)品的偏好、還是系統(tǒng)的自動(dòng)駕駛決策，都存在著難以預(yù)測(cè)的因素：來(lái)自于數(shù)據(jù)的不完整性、變化的用戶偏好、海量的參數(shù)等等的不確定性。貝葉斯方法讓公司能夠把先驗(yàn)知識(shí)（比如專家經(jīng)驗(yàn)或歷史數(shù)據(jù)）和新收集的數(shù)據(jù)相結(jié)合，通過(guò)計(jì)算后驗(yàn)概率來(lái)不斷更新對(duì)某個(gè)問(wèn)題的理解和預(yù)測(cè)。

比如電商利用貝葉斯方法來(lái)更新對(duì)用戶偏好的理解，將用戶的歷史行為和實(shí)時(shí)反饋結(jié)合起來(lái)，動(dòng)態(tài)調(diào)整推薦算法；Netflix對(duì)于新用戶或新上線的電影，由于缺乏足夠的數(shù)據(jù)，使用貝葉斯方法來(lái)整合先驗(yàn)信息（如電影類型、導(dǎo)演、演員等）和用戶反饋，不斷調(diào)整推薦引擎；又比如，在谷歌的自動(dòng)駕駛汽車項(xiàng)目中，復(fù)雜的道路條件和司機(jī)的不可預(yù)測(cè)行為帶來(lái)了巨大不確定性。于是谷歌通過(guò)貝葉斯方法來(lái)整合來(lái)自傳感器的信息，即時(shí)評(píng)估不同行動(dòng)方案的后驗(yàn)概率，做出最可靠的駕駛決策。

貝葉斯統(tǒng)計(jì)不僅是一種計(jì)算方法，更是一種思維方式。它教我們?nèi)绾卧谝延械闹R(shí)基礎(chǔ)上，不斷利用新的證據(jù)更新我們的認(rèn)識(shí)。幫助我們量化不確定性，提供了一種讓我們?cè)诓淮_定性中尋找最佳路徑的方法論。

1

生活中處處存在的貝葉斯思維

假設(shè)你正在計(jì)劃著去哪家餐廳吃飯：基于以往的經(jīng)驗(yàn)（比如哪家上菜快，哪家肉質(zhì)新鮮等）已經(jīng)有了初步?jīng)Q策。然而你在手機(jī)上做攻略時(shí)又看到了一些負(fù)面用戶體驗(yàn)反饋，改變了想法，更新了目的地決策；當(dāng)你前往決策的餐廳用餐后，又會(huì)某種程度上基于新的經(jīng)驗(yàn)更新原有的決策策略。

這個(gè)日常中最平常的思維過(guò)程本質(zhì)上正是貝葉斯更新的一個(gè)實(shí)例：你將過(guò)去的知識(shí)（對(duì)餐廳的先驗(yàn)印象）和新的證據(jù)（最近的評(píng)論和評(píng)分）相結(jié)合，形成了一個(gè)更新的信念，作出適應(yīng)當(dāng)前情況的決策。簡(jiǎn)單來(lái)講就是：老認(rèn)知 +新證據(jù)= 新認(rèn)知。

就像哲學(xué)家約翰·杜威（John Dewey）說(shuō)的：“如果我們做出的決策沒(méi)有通過(guò)行動(dòng)的結(jié)果來(lái)檢驗(yàn)，那么這些決策就不過(guò)是一種賭博。”杜威正是在強(qiáng)調(diào)行動(dòng)和結(jié)果之間反饋環(huán)路的重要性，也就是通過(guò)觀察實(shí)際結(jié)果來(lái)驗(yàn)證和調(diào)整行動(dòng)的思維框架。

這種糾錯(cuò)機(jī)制，其底層正是一種貝葉斯哲學(xué)：形成初步判斷（先驗(yàn)概率）> 觀察新信息 > 更新信念（后驗(yàn)概率） > 做出決策 >觀察結(jié)果并反饋，然后在周而復(fù)始的循環(huán)中修正認(rèn)知。

2

揭開貝葉斯的面紗

首先，我們講講貝葉斯到底是什么：

貝葉斯統(tǒng)計(jì)是概率論的一個(gè)分支，提供了一種在不確定性中做決策的框架，告訴我們?nèi)绾胃鶕?jù)新的證據(jù)來(lái)更新對(duì)某個(gè)假設(shè)的信念。

貝葉斯定理可以這樣表達(dá)：后驗(yàn)概率（一個(gè)事件在給定證據(jù)后發(fā)生的概率）等于該事件的先驗(yàn)概率（在考慮證據(jù)前該事件發(fā)生的概率）乘以該證據(jù)出現(xiàn)的可能性，除以證據(jù)本身出現(xiàn)的概率：

我們可以把貝葉斯公式理解為這是一種基于現(xiàn)有的可靠證據(jù)（比如一些觀察、數(shù)據(jù)、信息），對(duì)所持信念（比如一些假設(shè)、主張或觀點(diǎn)）進(jìn)行更新迭代的方法。這能讓我們更好地理解和量化不確定性，根據(jù)新的信息和數(shù)據(jù)不斷學(xué)習(xí)和適應(yīng)這個(gè)充滿不確定性的世界。

3

貝葉斯方法的起源

可以說(shuō)，貝葉斯定理的真正潛力是在近半個(gè)世紀(jì)里（貝葉斯去世兩個(gè)多世紀(jì)之后）才被充分挖掘和實(shí)現(xiàn)的。

（Thomas Bayes, c.1702-1761)

當(dāng)年，托馬斯·貝葉斯其實(shí)是在解決一個(gè)「逆概率」問(wèn)題時(shí)發(fā)明了貝葉斯定理：即如何在給定新數(shù)據(jù)后更新對(duì)事件概率的估計(jì)。

我們知道，傳統(tǒng)的概率問(wèn)題通常是已知原始條件去計(jì)算結(jié)果發(fā)生的概率。而這個(gè)「逆概率」問(wèn)題嘗試解決的是：在已知某些結(jié)果時(shí)，怎樣去推斷原始的概率條件。這是一個(gè)反轉(zhuǎn)傳統(tǒng)概率問(wèn)題的思考方式，貝葉斯在這個(gè)問(wèn)題上的思考產(chǎn)生了現(xiàn)在被稱為貝葉斯定理的數(shù)學(xué)公式?？上У氖?，貝葉斯定理其實(shí)是在他去世后才由他的朋友理查德·普萊斯（Richard Price）整理并提交給皇家學(xué)會(huì)的。這個(gè)原理在提交給皇家學(xué)會(huì)時(shí)被稱為「關(guān)于偶然事物的問(wèn)題的解」，在1763年發(fā)表在《哲學(xué)事務(wù)錄》上。

20世紀(jì)70年代和80年代，隨著馬爾可夫蒙特卡洛的引入和普及（Markov Chain Monte Carlo），貝葉斯網(wǎng)絡(luò)、貝葉斯優(yōu)化和概率編程等技術(shù)開始廣泛應(yīng)用于醫(yī)學(xué)、生物學(xué)、工程、經(jīng)濟(jì)學(xué)和社會(huì)科學(xué)等。如今，貝葉斯方法不僅是統(tǒng)計(jì)學(xué)和數(shù)據(jù)分析的重要工具，也是機(jī)器學(xué)習(xí)和人工智能領(lǐng)域的基礎(chǔ)。

4

貝葉斯的關(guān)鍵工具：馬爾可夫鏈蒙特卡羅

然而，在應(yīng)用貝葉斯方法時(shí)（尤其是在面對(duì)復(fù)雜模型或大量數(shù)據(jù)時(shí)）計(jì)算后驗(yàn)分布會(huì)因?yàn)樯婕暗降膹?fù)雜多維積分求解而消耗巨大的計(jì)算資源。對(duì)此，馬爾可夫鏈蒙特卡羅（MCMC）剛好提供了高效的解決方案。也就是說(shuō)，貝葉斯方法是在理論上定義如何利用數(shù)據(jù)來(lái)更新對(duì)不確定參數(shù)的認(rèn)知，而MCMC提供了一種在實(shí)踐中實(shí)現(xiàn)貝葉斯推斷的計(jì)算工具。隨著計(jì)算機(jī)性能的提高，數(shù)據(jù)的收集及處理技術(shù)已經(jīng)遠(yuǎn)遠(yuǎn)超過(guò)人腦，在處理大量復(fù)雜模型和應(yīng)對(duì)數(shù)據(jù)稀疏情況下，MCMC的優(yōu)勢(shì)開始顯現(xiàn)。

MCMC是一種基于隨機(jī)抽樣的計(jì)算算法，可以用來(lái)近似復(fù)雜的后驗(yàn)分布，能夠在實(shí)際應(yīng)用中處理復(fù)雜的貝葉斯模型，進(jìn)行概率推斷和決策。

簡(jiǎn)單來(lái)說(shuō)， MCMC就是讓我們通過(guò)構(gòu)建一個(gè)隨機(jī)過(guò)程（馬爾可夫鏈），在參數(shù)空間中進(jìn)行隨機(jī)抽樣，生成樣本集合，這些樣本集合可以用來(lái)估計(jì)后驗(yàn)分布的特性（如均值、方差、置信區(qū)間等）。核心思想就是通過(guò)隨機(jī)抽樣評(píng)估樣本的“好壞”（概率密度），以及根據(jù)當(dāng)前樣本來(lái)指導(dǎo)未來(lái)的抽樣（馬爾可夫鏈），讓我們可以逐步探索和理解一個(gè)復(fù)雜的概率分布。即使剛開始我們對(duì)這個(gè)分布一無(wú)所知，但通過(guò)這種方法，我們能夠逐步逼近并揭露分布的本質(zhì)特征。

MCMC就像是通過(guò)隨機(jī)游走來(lái)尋找寶藏的過(guò)程。

想象你有一張公園的地圖，上面標(biāo)記著可能藏有寶藏的地點(diǎn)。但寶藏的具體位置是未知的。地圖上有些區(qū)域?qū)毑乜赡苄源?，有些區(qū)域可能性小，整個(gè)地圖就代表著所有可能藏寶地點(diǎn)的概率分布：

Step1: 起點(diǎn)（初始化）

你隨機(jī)選擇一個(gè)地點(diǎn)開始尋找，這就像在MCMC中隨機(jī)初始化一個(gè)起始點(diǎn)。

Step2: 探索步驟（構(gòu)建馬爾可夫鏈）

你根據(jù)手中的地圖和直覺(jué)，從當(dāng)前位置移動(dòng)到附近的某個(gè)地方尋找寶藏。每次移動(dòng)都是基于你當(dāng)前的位置和對(duì)地圖的理解，這類似于MCMC中從當(dāng)前樣本生成下一個(gè)樣本的過(guò)程。

Step3: 決定是否移動(dòng)（Metropolis-Hastings準(zhǔn)則）

如果你發(fā)現(xiàn)一個(gè)新地點(diǎn)比現(xiàn)在的更有可能藏有寶藏，你就會(huì)轉(zhuǎn)移到那個(gè)地點(diǎn)。如果新地點(diǎn)看起來(lái)不那么有希望，你也可能以一定的較低的概率轉(zhuǎn)移過(guò)去，這樣做是為了防止自己只在一個(gè)區(qū)域徘徊，而忽略了其他可能的區(qū)域。在MCMC中，這個(gè)決策過(guò)程通過(guò)接受率來(lái)實(shí)現(xiàn)，也就是Metropolis-Hastings準(zhǔn)則。

Step4: 重復(fù)探索（迭代）

你會(huì)不斷地重復(fù)這個(gè)探索過(guò)程，每次都根據(jù)當(dāng)前位置和地圖來(lái)決定下一步怎么走。在MCMC中，這個(gè)過(guò)程就是不斷地生成信息樣本。

Step5: 找到寶藏（收斂）

經(jīng)過(guò)足夠多次的探索后，你會(huì)發(fā)現(xiàn)自己越來(lái)越頻繁地回到某些特定的地點(diǎn)，這些地點(diǎn)很可能就是寶藏的位置。在MCMC中，這就表示樣本開始在概率分布的高概率區(qū)域聚集，算法開始收斂。

Step6：確定寶藏位置（結(jié)果分析）

最終，通過(guò)分析你訪問(wèn)各個(gè)地點(diǎn)的頻率，你可以確定寶藏最可能的位置（訪問(wèn)最頻繁的區(qū)域），以及寶藏可能的分布范圍（經(jīng)常訪問(wèn)的區(qū)域）。在MCMC中，我們通過(guò)分析樣本來(lái)估計(jì)概率分布的特性，如期望值和方差。

所以總結(jié)下來(lái)，MCMC就是讓我們?cè)谔剿鬟^(guò)程中逐漸了解了環(huán)境（概率分布），不斷根據(jù)新信息迭代認(rèn)知和決策概率，最終找到寶藏最可能的位置。

8

萬(wàn)物皆可“貝葉斯”：貝葉斯蘊(yùn)含的5個(gè)頂級(jí)思維模型

貝葉斯方法與MCMC不僅在統(tǒng)計(jì)學(xué)和計(jì)算領(lǐng)域中應(yīng)用廣泛，也吸引了許多哲學(xué)家和物理學(xué)家的興趣，研究它是如何跨越數(shù)學(xué)的邊界，滲透到我們思維的深處，概括了我們探索世界、積累知識(shí)的思維模式，幫助我們?cè)诓淮_定性中做出更好的決策。

亞裔法國(guó)數(shù)學(xué)家黃黎原在《貝葉斯的博弈：數(shù)學(xué)、思維與人工智能》書中就把貝葉斯公式稱為“智慧方程”，評(píng)價(jià)貝葉斯公式為一個(gè)充滿生命力的思維工具。

用貝葉斯的眼光看世界，你會(huì)發(fā)現(xiàn)萬(wàn)物皆可“貝葉斯”。

1. 探索與利用的平衡

探索與利用（Exploration vs. Exploitation）的平衡是一個(gè)經(jīng)典的決策問(wèn)題。比如谷歌、臉書等科技公司其廣告系統(tǒng)和內(nèi)容推薦算法中使用此策略來(lái)平衡新內(nèi)容的探索和現(xiàn)有內(nèi)容的利用：在強(qiáng)化學(xué)習(xí)和多臂老虎機(jī)（multi-armed bandit）問(wèn)題中，貝葉斯方法可以用來(lái)平衡探索（嘗試不確定的選項(xiàng)以獲得更多信息）和利用（選擇當(dāng)前最佳的選項(xiàng)以最大化即時(shí)收益）。通過(guò)更新信念的概率模型，決策者可以在探索未知和利用已知之間做出更合理的決策。

2. 追求長(zhǎng)期效益而非短期收益

貝葉斯決策理論通?？紤]的是長(zhǎng)期效益。在更新信念時(shí)，它不僅僅考慮當(dāng)前的觀測(cè)數(shù)據(jù)，而是將其與先前的知識(shí)（先驗(yàn)概率）結(jié)合起來(lái)。這種方法強(qiáng)調(diào)了信息的積累和長(zhǎng)期知識(shí)的構(gòu)建，而非只依賴一次觀測(cè)結(jié)果做出決策。橋水基金的創(chuàng)始人Dalio在他的著作《原則》中提到：“接受不確定性，并利用一系列的原則和系統(tǒng)來(lái)做決策”的理念就是受貝葉斯啟發(fā)。

3. 從局部到全局的視角

貝葉斯方法通過(guò)考慮先驗(yàn)知識(shí)和新的觀測(cè)數(shù)據(jù)來(lái)更新信念。這種方法從具體的單次觀測(cè)（局部）出發(fā)，通過(guò)不斷更新信念，逐步構(gòu)建對(duì)整體情況的理解（全局）。接受不確定性，用概率支持決策：貝葉斯統(tǒng)計(jì)本質(zhì)上是概率性的，它不尋求確定性的結(jié)論，而是提供一個(gè)概率框架來(lái)表達(dá)不確定性。在貝葉斯框架中，知識(shí)和不確定性通過(guò)概率分布進(jìn)行表達(dá)，決策是基于這些概率分布，充分考慮了不確定性。

4. 持續(xù)迭代與自我修正

貝葉斯推斷是一個(gè)迭代過(guò)程。每接收到新的數(shù)據(jù)，就會(huì)更新信念（后驗(yàn)概率）。這個(gè)過(guò)程可以不斷重復(fù)，使得信念隨著數(shù)據(jù)的積累而逐漸精確。這也是敏捷開發(fā)方法論的核心思想之一，強(qiáng)調(diào)通過(guò)小步快跑，持續(xù)迭代來(lái)改進(jìn)產(chǎn)品。

5

最后

生活就是由一系列不確定事件構(gòu)成的。

羅素說(shuō)過(guò)這樣一句話：“知識(shí)的增長(zhǎng)應(yīng)該是一個(gè)不斷調(diào)整我們的世界觀以適應(yīng)我們已經(jīng)證實(shí)的事實(shí)的過(guò)程?！绷_素的這句話與貝葉斯更新信念的概念不謀而合，強(qiáng)調(diào)了在面對(duì)新證據(jù)時(shí)調(diào)整和更新信念的重要性。

我們?nèi)祟悓?duì)確定性的渴望是刻在基因里的，但這個(gè)世界沒(méi)有涇渭分明，一勞永逸的答案。貝葉斯主義也許正是最適宜這個(gè)不確定性時(shí)代的知識(shí)哲學(xué)，至少能讓我們?cè)谶@流動(dòng)性過(guò)程里，變得更加從容平和。

就像黃黎原在書里提到的：“根據(jù)貝葉斯定理，任何理論都不完美。取而代之的是一項(xiàng)未盡的工作，它永遠(yuǎn)處于推敲與測(cè)試之中?！?/p>

來(lái)源：DataCafe

編輯：一毫

轉(zhuǎn)載內(nèi)容僅代表作者觀點(diǎn)

不代表中科院物理所立場(chǎng)

如需轉(zhuǎn)載請(qǐng)聯(lián)系原公眾號(hào)