最近有個挺有意思的實驗，幾所大學(xué)的研究人員讓好幾個AI模型湊一塊兒辯論數(shù)學(xué)題。

本來想著人多力量大，AI多了智慧也能翻倍，結(jié)果你猜怎么著？辯著辯著，答案反而越來越錯了，這事兒說起來，可能比咱們想象的更值得琢磨。

這個實驗設(shè)計得還挺講究，研究人員找了不同的AI模型，有GPT-4這種能力強的，也有GPT-3.5這種稍弱一點的。

把它們分成小組，有的組全是同款模型，有的組則是強弱混搭，任務(wù)很簡單，辯論算術(shù)推理、策略推理這類數(shù)學(xué)題，幾輪討論后投票選答案。

一開始我跟研究人員想的差不多，覺得這么多AI湊一起，就算個別出錯，多數(shù)總能把方向拉回來吧？結(jié)果實驗數(shù)據(jù)一出來，臉有點疼。

隨著辯論輪次增加，AI群體的準(zhǔn)確率不光沒漲，反而一路往下掉，不少原本答對的題，辯著辯著就被"帶偏"了，最后集體選了個錯答案。

更有意思的是那個強弱混搭的組，按理說，強模型應(yīng)該能帶著弱模型走，結(jié)果呢？反倒是弱模型把強模型給"帶溝里"了。

比如GPT-4和GPT-3.5組隊時，整體正確率比GPT-4自己單干還低，就像班里來了幾個愛搗亂的學(xué)生，本來學(xué)習(xí)好的也跟著分心了。

而且這事兒還分題型，簡單的算術(shù)題，比如加減乘除，AI們辯半天，錯得還不算太離譜。

可碰到那種需要好幾步推理的復(fù)雜數(shù)學(xué)題，那就徹底放飛自我了，中間只要有一步推理錯了，后面就跟多米諾骨牌似的，一錯到底，想掰都掰不回來。

看到AI越辯越錯，我第一個念頭是，這些模型是不是中了"多數(shù)暴政"的招？實驗里還真有這情況。

只要一開始多數(shù)AI選了個錯答案，少數(shù)幾個原本對的，沒幾輪就跟著改了口。

本來以為AI只認(rèn)邏輯不認(rèn)人，結(jié)果它們好像更在乎"大家都怎么說"，后來仔細(xì)想了想，這可能跟AI的訓(xùn)練目標(biāo)有關(guān)。

現(xiàn)在的模型訓(xùn)練，太看重"對話流暢"和"協(xié)作配合"了，好像只要大家說得一致，就算成功，至于是不是真的對，反而成了次要的。

就像咱們開會，有時候為了趕緊達(dá)成共識，明明覺得哪里不對，也懶得開口了，還有個"順序修正陷阱"也挺坑。

實驗里，AI會根據(jù)同伴的推理改答案，哪怕被告知"這推理可能是瞎編的"，它們照樣照單全收。

有次看到個例子，一個AI明明算對了2+2=4，結(jié)果另一個AI說"我覺得是5，因為1+1=3，所以2+2=5"，你猜怎么著？前一個AI居然真的改成5了。

AI會"看態(tài)度下菜碟"這事兒，也挺刷新認(rèn)知的，實驗發(fā)現(xiàn)，要是哪個AI說話特別自信，哪怕說的是錯的，其他AI也更容易被說服。

比如一個模型用一堆感嘆號說"答案肯定是7！絕對沒錯！"，旁邊的AI就容易跟著選7，哪怕自己算出來是8，這不就是咱們說的"氣場壓制"嘛，沒想到機器也吃這套。

最讓我覺得意外的是AI的"從眾心理"，咱們總覺得AI是獨立的，不會受什么"社會壓力"影響。

可實驗里，只要多數(shù)模型一開始站錯隊，少數(shù)幾個對的AI，沒多久就會"屈服"。

有個測試組更夸張，三個弱模型對一個強模型，強模型愣是被磨得改了三次答案，最后跟大家一起錯了才算完。

弄明白AI為啥會集體迷失，再回頭看現(xiàn)在的多智能體協(xié)作，問題可能就出在"想當(dāng)然"上。

咱們總覺得"人多力量大"，不管啥任務(wù)都讓AI組隊上，卻沒考慮過它們會不會"幫倒忙"，就像這次數(shù)學(xué)辯論，本來想靠集體智慧，結(jié)果變成了群體迷失。

我覺得改進(jìn)的方向，可能得從AI的"認(rèn)知習(xí)慣"入手，現(xiàn)在的模型太容易相信別人給的結(jié)論了，很少會自己驗證一下。

要是能讓它們養(yǎng)成"先驗貨后收貨"的習(xí)慣，比如算數(shù)學(xué)題時，自動用計算器核對一下同伴的推理，可能會好很多。

還有個辦法，或許可以給AI搞個"可信度評分"，就像咱們玩游戲有段位一樣，誰平時答題準(zhǔn)，誰經(jīng)常出錯，都記下來。

辯論的時候，讓靠譜的AI多說話，不靠譜的少摻和，這樣弱模型就不容易拖后腿了，強模型也能發(fā)揮作用。

這次實驗給我的最大啟示是，AI協(xié)作不是簡單的"1+1=2"，在醫(yī)療診斷、金融決策這些關(guān)鍵領(lǐng)域，要是隨便讓幾個AI湊一起做決定，風(fēng)險可能比咱們想的大得多。

畢竟連規(guī)則明確的數(shù)學(xué)題都會出錯，更復(fù)雜的任務(wù)就更不好說了，未來的AI協(xié)作，可能得更"挑剔"一點。

不是啥任務(wù)都適合組隊，也不是啥模型都能湊一塊兒。

該單干的時候單干，該組隊的時候，也得把規(guī)則定清楚，誰負(fù)責(zé)驗證，誰負(fù)責(zé)拍板，誰出錯了要擔(dān)責(zé)。

只有這樣，AI的集體智慧才能真正派上用場，而不是變成一場集體迷失的鬧劇，說到底，AI終究是咱們設(shè)計出來的工具。

它們會"隨大流"，會"盲從"，其實反映的可能是咱們對"協(xié)作"的誤解真正的智慧，從來不是簡單的意見統(tǒng)一，而是在分歧中找到真相，或許，讓AI學(xué)會"理性地質(zhì)疑"，比讓它們"和諧地同意"，更重要。