When Do Credal Sets Stabilize? Fixed-Point Theorems for Credal Set Updates

信念集何時趨于穩(wěn)定？信念集更新的不動點定理

https://arxiv.org/pdf/2510.04769v1

摘要

許多機(jī)器學(xué)習(xí)算法依賴于不確定性表示的迭代更新，范圍涵蓋變分推斷與期望最大化、強(qiáng)化學(xué)習(xí)、持續(xù)學(xué)習(xí)和多智能體學(xué)習(xí)。在存在不精確性和模糊性的情況下，信念集——概率分布的閉合凸集——已成為表示不精確概率信念的一種流行框架。在這種不精確性下，不精確概率機(jī)器學(xué)習(xí)（IPML）中的許多學(xué)習(xí)問題可被視為在信念集上連續(xù)應(yīng)用更新規(guī)則的過程。這自然引出了一個問題：該迭代過程是否收斂到穩(wěn)定的不動點？或者更一般地，在更新機(jī)制滿足何種條件下，這樣的不動點存在且可達(dá)？我們提供了對該問題的首次分析，并以信念貝葉斯深度學(xué)習(xí)作為具體示例來說明我們的發(fā)現(xiàn)。我們的工作表明，將不精確性納入學(xué)習(xí)過程不僅豐富了不確定性的表示，還揭示了穩(wěn)定性出現(xiàn)的結(jié)構(gòu)條件，從而為不精確性下的迭代學(xué)習(xí)動力學(xué)提供了新的見解。

1. 引言

在學(xué)習(xí)問題中，不動點是指當(dāng)特定變換或算法被反復(fù)應(yīng)用時保持不變的解。不動點的存在通常作為迭代過程穩(wěn)定性的保證，意味著系統(tǒng)動力學(xué)最終會收斂到一個穩(wěn)定解（Banach, 1922; Ortega and Rheinboldt, 2000）。根據(jù)巴拿赫不動點定理（Kamalov and Leung, 2023, 定理2.1），眾所周知，完備度量空間上的連續(xù)函數(shù)若為壓縮映射，則具有唯一不動點（技術(shù)細(xì)節(jié)見第2和第3節(jié)）。不動點定理已被用于證明學(xué)習(xí)或優(yōu)化問題存在解，例如均衡點、穩(wěn)定模型或策略（Banach, 1922; Kakutani, 1941），表明迭代學(xué)習(xí)規(guī)則，如策略更新、消息傳遞和期望最大化（EM）步驟，會收斂到穩(wěn)定點（Dempster et al., 1977; Bertsekas and Tsitsiklis, 1996），并用于刻畫多智能體學(xué)習(xí)中智能體策略的納什均衡或最優(yōu)響應(yīng)動力學(xué)（Nash, 1950; Fudenberg and Tirole, 1991）。最近，不動點分析已成為理解人類與AI系統(tǒng)交互所產(chǎn)生動力學(xué)的寶貴工具。例如，它幫助研究人員分析從這些復(fù)雜交互中產(chǎn)生的模型崩潰（Shumailov et al., 2024）和性能退化（Perdomo et al., 2020; Hardt and Mendler-Dünner, 2025）等現(xiàn)象。

經(jīng)典的不動點分析盡管被廣泛應(yīng)用，卻常常不足以刻畫學(xué)習(xí)問題中固有的模糊性。1 在持續(xù)學(xué)習(xí)領(lǐng)域中，模型需在數(shù)據(jù)流上迭代訓(xùn)練，其學(xué)習(xí)動力學(xué)通常表現(xiàn)出不穩(wěn)定性（Kirkpatrick 等，2017；Parisi 等，2019）。經(jīng)驗觀察表明，訓(xùn)練過程往往無法收斂至單一、穩(wěn)定的解。這種不收斂表現(xiàn)為模型參數(shù)的顯著波動，可能嚴(yán)重?fù)p害模型在先前已學(xué)任務(wù)上的性能。這一現(xiàn)象即廣為人知的“災(zāi)難性遺忘”，是構(gòu)建魯棒持續(xù)學(xué)習(xí)系統(tǒng)的關(guān)鍵挑戰(zhàn)。

此外，當(dāng)?shù)讓訑?shù)據(jù)源本身存在內(nèi)在沖突時（Arrow，1950；Walley，1991；Genest 與 Zidek，1986），迭代更新規(guī)則的不動點可能根本無法達(dá)到。此類沖突可能源于異構(gòu)數(shù)據(jù)集或相互矛盾的個體意見等不同來源，從而引入一種動態(tài)不穩(wěn)定性，阻礙系統(tǒng)向穩(wěn)定解收斂。

受上述挑戰(zhàn)啟發(fā)，本文建立了針對信念集（credal sets）——即概率分布的閉凸集（Levi，1980；Walley，2000）——上更新規(guī)則的不動點定理。相較于已在單個概率分布空間上廣為研究的不動點分析，信念集上的不動點分析仍相對匱乏。而信念集上的更新規(guī)則在不精確概率機(jī)器學(xué)習(xí)（Imprecise Probabilistic Machine Learning, IPML）中處于核心地位；該領(lǐng)域日益增長，旨在利用不精確概率（Imprecise Probability, IP）理論以提升機(jī)器學(xué)習(xí)的魯棒性、可信性與安全性。經(jīng)典案例包括廣義貝葉斯規(guī)則（Walley，1991）、Dempster 規(guī)則（Dempster，1967；Shafer，1976）、幾何規(guī)則（Suppes 與 Zanotti，1977）及其他（Caprio 與 Seidenfeld，2023），它們均直接作用于信念集。近期，現(xiàn)代方法如信念貝葉斯深度學(xué)習(xí)（Credal Bayesian Deep Learning, CBDL）（Caprio 等，2024a）和不精確貝葉斯持續(xù)學(xué)習(xí)（Imprecise Bayesian Continual Learning, IBCL）（Lu 等，2024）已將這些規(guī)則應(yīng)用于貝葉斯深度學(xué)習(xí)（BDL）與持續(xù)學(xué)習(xí)（CL）中。其歷史重要性，加之在當(dāng)代機(jī)器學(xué)習(xí)中日益廣泛的應(yīng)用，凸顯了確立其穩(wěn)定解存在之基本條件的迫切性。

本文貢獻(xiàn)：我們建立了信念集更新規(guī)則達(dá)成穩(wěn)定性的結(jié)構(gòu)性條件。主要貢獻(xiàn)如下：

• 我們首個結(jié)果（定理 1）給出了信念集更新方法

• 其次，我們考察了定理 1 中所得不動點何時唯一，以及信念集序列在反復(fù)經(jīng)

• 最后，我們對經(jīng)不同更新函數(shù)迭代更新所得的信念集序列，提供了內(nèi)逼近與外逼近。該版本的夾逼定理對基于 IPML 的持續(xù)學(xué)習(xí)與主動學(xué)習(xí)具有廣闊前景。

實證驗證我們的發(fā)現(xiàn)，我們開展了一個針對有限生成信念集（finitely generated credal sets）的簡單合成實驗；所謂有限生成信念集，即具有有限多個極值元（extreme elements）的信念集，而極值元指的是那些彼此之間無法表示為凸組合的元素。

1. 預(yù)備知識與相關(guān)工作
   2.1 不動點定理
   不動點理論（Granas 等，2003）研究給定映射 f 下方程 f(x)=x 的解的存在性、唯一性及其定性性質(zhì)。其應(yīng)用遍及諸多學(xué)科：在經(jīng)濟(jì)學(xué)中，不動點結(jié)果支撐了博弈論與一般均衡模型中均衡解的存在性（Scarf，1983）；在物理學(xué)中，它被用于分析動力系統(tǒng)長期行為與相變（Hess 與 Dancer，1991）；在計算機(jī)科學(xué)與邏輯學(xué)中，不動點為歸納原理與遞歸定義奠定了基礎(chǔ)，確保自指構(gòu)造在數(shù)學(xué)上是良定義的（Abel，2012）；在概率論與統(tǒng)計學(xué)中，不動點定理對于建立不變概率測度的存在性至關(guān)重要，例如馬爾可夫鏈的平穩(wěn)分布以及平均場模型中的平衡律。此處，概率測度空間——在弱拓?fù)湎率峭沟?、緊致的，并常通過 Wasserstein 等距離度量化——為經(jīng)典不動點定理（如 Banach 定理（Banach，1922）、Schauder 定理（Schauder，1930）以及 Kakutani 定理（Kakutani，1941））的應(yīng)用提供了自然場景，用以證明此類不變分布的存在性與唯一性。

然而，這些經(jīng)典結(jié)果通常針對作用于精確概率測度或作用于 Rd中概率向量的緊凸集上的映射而提出。當(dāng)考慮作用于信念集（credal sets）空間（Levi，1980）——即概率測度的非空、弱?-閉、凸子集——的映射時，其適用性變得不甚明晰。此類集合超出有限維概率向量的框架，并引入了額外的結(jié)構(gòu)性復(fù)雜性。如何將不動點結(jié)果推廣至這一更豐富的設(shè)定，正是第 3 節(jié)的核心關(guān)注點。沿著此方向推進(jìn)，有望為下一小節(jié)所介紹的不精確概率機(jī)器學(xué)習(xí)（IPML）——其中信念集居于核心地位——提供嚴(yán)謹(jǐn)?shù)睦碚摶A(chǔ)。

2.2 不精確概率機(jī)器學(xué)習(xí)
不精確概率機(jī)器學(xué)習(xí)（Imprecise Probabilistic Machine Learning, IPML）是一個新興領(lǐng)域，旨在將嚴(yán)謹(jǐn)?shù)牟痪_概率理論（Walley，1991）融入概率機(jī)器學(xué)習(xí)之中。其根本目標(biāo)在于“對不精確性做到精確刻畫”，從而實現(xiàn)更魯棒、更可信的模型與推斷。在多種不精確性表示中，信念集（即非空、閉合且凸的概率測度集合）無疑是最核心的研究對象。近年來，將信念集引入機(jī)器學(xué)習(xí)已在諸多領(lǐng)域催生了顯著進(jìn)展，包括：分類（Caprio 等，2024b）、假設(shè)檢驗（Chau 等，2025b；Jürgens 等，2025）、評分規(guī)則（Fr?hlich 與 Williamson，2024；Singh 等，2025）、保形預(yù)測（Caprio 等，2025；Caprio，2025）、計算機(jī)視覺（Cuzzolin 與 Frezza，1999；Giunchiglia 等，2023）、概率編程（Liell-Cock 與 Staton，2025）、可解釋性（Chau 等，2023；Utkin 等，2025）、神經(jīng)網(wǎng)絡(luò)（Caprio 等，2024a；Wang 等，2024，2025）、學(xué)習(xí)理論（Caprio 等，2024c）、因果推斷（Cozman，2000；Zaffalon 等，2023）、主動學(xué)習(xí)與持續(xù)學(xué)習(xí)（Dutta 等，2024；Lu 等，2024），以及概率度量（Chau 等，2025a），等等。

然而，據(jù)我們所知，尚無先前工作研究作用于信念集上的映射的不動點定理——這一在數(shù)學(xué)中基礎(chǔ)且廣泛應(yīng)用的概念。填補(bǔ)這一空白，正是本文貢獻(xiàn)的主要焦點。

1. 主要結(jié)果

   
   

定理 1 告訴我們，如果我們的興趣空間 X 具有足夠良好表現(xiàn)的拓?fù)浣Y(jié)構(gòu)，那么一個連續(xù)的更新函數(shù)保證至少有一個不動點。這可以看作是 Kakutani 不動點結(jié)果（Kakutani, 1941）對信念集的推廣。

請注意，定理1中關(guān)于 X是緊集的假設(shè)并不過于苛刻：例如，彩色圖像空間 （其中 w表示圖像寬度，h表示高度，3 代表 RGB 通道）就是緊集。在實踐中，若 X不是緊集（在我們所選度量 d相容的拓?fù)湎拢覀兛偪梢砸锤淖兌攘浚◤亩哺淖兤湎嗳莸耐負(fù)洌?，要么考慮 X的緊化。真正的關(guān)鍵在于更新函數(shù) f是連續(xù)的（并假定輸出為信念集）。這是更新規(guī)則核心處的一個性質(zhì)，不能隨意修改。我們現(xiàn)在提供兩個例子：一個表明若無連續(xù)性，不動點的存在性確實會岌岌可危；另一個則表明一種流行的不精確概率機(jī)器學(xué)習(xí)方法可以被寫成一個連續(xù)的更新機(jī)制。

這表明，即使在緊致的信念超空間上，若無豪斯多夫連續(xù)性，更新規(guī)則的不動點也可能不存在。

例2（信念貝葉斯深度學(xué)習(xí)，CBDL）。在 Caprio 等人（2024a）中，作者提出了信念貝葉斯深度學(xué)習(xí)（CBDL），這是一種用于執(zhí)行貝葉斯深度學(xué)習(xí)的新框架。在訓(xùn)練時，研究者指定先驗和似然的有限生成信念集（FGCSs），即具有有限多個極值元的先驗與似然分布的信念集。然后，后驗信念集通過計算其各自信念集中所有可能的先驗-似然對（這些對是各自信念集的極值點）的貝葉斯更新而得出。這可以形式化如下：

1. 有限生成信念集的示例說明

我們通過如下設(shè)定，對本文主要結(jié)果（定理 1）給出一個簡明示例說明：
我們假定如下數(shù)據(jù)生成過程：

在本研究中，我們邁出了探索信念集不動點定理的第一步。具體而言，我們推導(dǎo)出了著名 Edelstein 不動點定理與 Boyd-Wong 不動點定理在信念集上的對應(yīng)版本。

我們的發(fā)現(xiàn)引出了諸多有趣的問題，這些將成為未來研究的主題。首先，盡管（貝葉斯）后驗一致性／后驗集中性在直觀上可視為我們結(jié)果的特例，但仍需明確地加以證明：若恰當(dāng)?shù)卦O(shè)定似然函數(shù)，并迭代應(yīng)用貝葉斯規(guī)則，則最終將收斂至一個不動點——即在真實參數(shù)處的狄拉克分布。

其次，我們計劃對更新機(jī)制所應(yīng)具備的理想性質(zhì)進(jìn)行公理化刻畫，這一目標(biāo)與近期關(guān)于不精確觀點聚合（imprecise opinion pooling）的文獻(xiàn)方向一致（Elkin 與 Pettigrew，2025）。

第三，值得注意的是，盡管我們的示例基于信念貝葉斯深度學(xué)習(xí)（CBDL），但我們的關(guān)注范圍并不局限于貝葉斯范式。這意味著我們的結(jié)果適用于任何基于信念集的學(xué)習(xí)框架。例如，考慮這樣一種情形：我們從一組預(yù)測器出發(fā)（如深度集成中常見的做法，通過隨機(jī)初始化參數(shù)或采用不同超參數(shù)得到多個模型），并在收集證據(jù)后，要么分別更新各個模型，要么對其進(jìn)行“修剪”——即僅保留通過某種閾值判定為“正確”的少數(shù)模型。未來，我們計劃研究：除標(biāo)準(zhǔn)學(xué)習(xí)過程外，這類基于閾值的更新規(guī)則還需滿足何種結(jié)構(gòu)條件，才能確保不動點的存在性與可達(dá)性。

最后，我們計劃探究如何應(yīng)用本文所證定理，進(jìn)一步研究在 IIPM（Chau 等，2025a）背景下關(guān)于下概率（lower probabilities）的不動點定理存在性。IIPM 是對積分概率度量（Integral Probability Metrics）這一被廣泛研究領(lǐng)域的推廣，其額外納入了認(rèn)知不確定性（epistemic uncertainty）。

原文鏈接：https://arxiv.org/pdf/2510.04769v1