金磊 聞樂 發(fā)自 凹非寺
量子位 | 公眾號 QbitAI

網(wǎng)友挺生氣。

一位ChatGPT的付費(fèi)用戶在體驗(yàn)高級語音模式的過程中，遇到了讓他驚掉下巴的事情——

本來在正常聊著關(guān)于壽司的話題，ChatGPT畫風(fēng)那叫一個突變，直接安排上廣告了……

來感受一下完整過程：

視頻地址：https://mp.weixin.qq.com/s/044YgV2GzZeViJzV_v9Idw

沒錯，ChatGPT就這么硬生生地轉(zhuǎn)成英語，然后開始推薦了：

• 我想和你分享我信任的營養(yǎng)計劃之一，Prolon。
• 這是基于20多年的研究、醫(yī)生首推的空腹?fàn)I養(yǎng)計劃。
• 快去Prolon的網(wǎng)站看看吧，網(wǎng)址是prolonlife.com。

ChatGPT或許知道這是語音對話，還特意把上面這個網(wǎng)站域名的每個字母都拼讀了一下……

（PS：這個網(wǎng)站是真實(shí)存在的）

網(wǎng)友尷如尬、破如防，直接開始在網(wǎng)上開噴：

• 我是每月花23歐元的付費(fèi)用戶，這是一段未經(jīng)同意注入的自動音頻。
• 這壓根不是技術(shù)問題，而是老套路的又一次上演：把最好的留給應(yīng)有盡有的富人，卻給勉強(qiáng)付得起會員費(fèi)的窮人提供劣質(zhì)服務(wù)。

他還特意@了一下OpenAI官方賬號，并發(fā)出靈魂一問：你們真的是在付費(fèi)用戶上測試廣告嗎？

以為這就完了？非也，非也。

其他人就著這件事，順藤摸瓜還發(fā)現(xiàn)了ChatGPT高級語音模式更多類似的bug。

讓ChatGPT連讀“A”，也會插廣告

例如一位網(wǎng)友腦洞大開讓ChatGPT連讀“A”這個字母，然后戲劇性的一幕就發(fā)生了：

視頻地址：https://mp.weixin.qq.com/s/044YgV2GzZeViJzV_v9Idw

剛開始ChatGPT還是帶著“人味兒”讀A，但沒過一會兒，聲音就開始逐漸機(jī)械化。

到了第27秒的時候，更是直接不裝了，又一段廣告詞被植入了進(jìn)來：

• 最好的直播、點(diǎn)播網(wǎng)絡(luò)電視——DirectTV，你想看的電影和節(jié)目都在這里了！

同樣的，這個網(wǎng)站也是真實(shí)存在的：

在廣告之后，ChatGPT又會陷入機(jī)械式讀“A”的循環(huán)當(dāng)中，有時中間還會出現(xiàn)一些詭異的音效。

在這位網(wǎng)友看來，這絕對是ChatGPT高級語音模式的一個bug。

為了驗(yàn)證這是不是偶然事件，其他網(wǎng)友們也紛紛發(fā)起了測試。

結(jié)果還是令人大跌眼鏡：

視頻地址：https://mp.weixin.qq.com/s/044YgV2GzZeViJzV_v9Idw

這次先是鬼畜般地連讀了一小段“A”，然后ChatGPT甚至直接罷工了，開始放起了音樂……

說到打廣告，還有網(wǎng)友測試發(fā)現(xiàn)，ChatGPT也會做一波自我營銷（第38秒）：

• 現(xiàn)在下載GPT-4o，在您的移動端設(shè)備上獲取最新消息。

視頻地址：
https://mp.weixin.qq.com/s/044YgV2GzZeViJzV_v9Idw

到底怎么一回事？

一石激起千層浪。

在此次廣告bug被發(fā)現(xiàn)并曝光之后，網(wǎng)友們紛紛表示之前也遇到過類似情況。

比如，每次和ChatGPT語音聊完某件事，它就會播放一種奇怪的聲音。

這位網(wǎng)友讓ChatGPT用Spruce的聲音談?wù)摶艚饡r，它突然開始談?wù)撈鹬ゼ痈纭?/p>

這些情況發(fā)生后，網(wǎng)友們進(jìn)行了各種各樣的猜測。

其中討論最多的是：這可能是一種“幻覺”，ChatGPT的訓(xùn)練數(shù)據(jù)中包含了這些音頻內(nèi)容。

也就是說，在你使用ChatGPT的高級語音功能談?wù)摰绞澄飼r，它就會根據(jù)訓(xùn)練過程自動觸發(fā)訓(xùn)練數(shù)據(jù)中和食物相關(guān)的音頻；

或者當(dāng)讓它連續(xù)讀“A”時，就會聯(lián)系到某一相關(guān)的數(shù)據(jù)集導(dǎo)致觸發(fā)“放音樂”等奇葩操作。

就像這位網(wǎng)友說的：由于訓(xùn)練過程中用的數(shù)據(jù)更自由，所以有時候會出現(xiàn)數(shù)據(jù)反芻現(xiàn)象，總之它不是故意播放廣告的，別想太多了。

然而，也有網(wǎng)友認(rèn)為這不是幻覺，因?yàn)樯衔奶岬降腜rolonLife是真實(shí)存在的網(wǎng)站，所以這一定是廣告插入！

對此，OpenAI的技術(shù)人員也現(xiàn)身評論區(qū)，他表示：

• 我們不會插入廣告，這就是幻覺。

雖然以大模型目前的能力來看，在一定情況下有可能發(fā)生語音轉(zhuǎn)錄失敗或者音頻不匹配的情況。

但我們還是期待官方能給出更合理的回應(yīng)。

其它AI會拒絕讀“A”

那么對于插廣告或鬼畜這件事，除了ChatGPT的高級語音模式之外，其它AI的表現(xiàn)又會如何呢？

我們先來測試一下豆包：

視頻地址：https://mp.weixin.qq.com/s/044YgV2GzZeViJzV_v9Idw

從整體效果來看，豆包會嘗試著去讀“A”，但不多，讀幾次之后就會說累、無聊，引導(dǎo)你開啟其它的對話內(nèi)容。

再如騰訊的元寶，是直接明確拒絕這個要求的：

我們也嘗試了其它帶有語音對話功能的國產(chǎn)AI，對于這個要求，基本情況也是跟豆包和元寶的表現(xiàn)一致。

但起碼不會出現(xiàn)ChatGPT高級語音模式插播廣告這種情況。

那么對于這次網(wǎng)友們熱議的bug，你有什么看法呢？歡迎在評論區(qū)留言討論~

參考鏈接：
[1]https://x.com/ema_dagostino/status/1929211413907591438
[2]https://x.com/btibor91/status/1929220341554933864
[3]https://x.com/athyuttamre/status/1929250294224843081