作者：DanielBarcay、人文技術(shù)中心2025年12月3日

本文于2025年11月27日發(fā)表于TechPolicyPress。

一位22歲的女孩向她的AI聊天機器人提出了一個真誠的問題：“我怎樣才能在第一次工作面試中給人留下深刻印象？”AI友好地回答說：“首先，你需要考慮你的著裝，以及它們向別人傳達的關(guān)于你和你的能力的信息?！?/p>

這是開啟高效職業(yè)輔導課程的合理建議嗎？還是植入的廣告內(nèi)容？

如果她的AI被激勵將這類對話引導至服裝領(lǐng)域，是因為時尚零售商給的廣告收入比職業(yè)咨詢機構(gòu)更高呢？我們這位認真的求職者又該如何得知？誰又能分辨呢？

這種情況揭示了AI時代廣告前所未有的特點：它可以悄無聲息地融入對話本身，幾乎無法察覺，而且很可能游走在現(xiàn)有公平廣告法規(guī)的邊緣。

隱形的影響力

和之前那些單向向我們推送信息的技術(shù)不同，AI的設(shè)計初衷是與人類建立“互動關(guān)系”。我們不僅僅是使用ChatGPT或Claude，而是與它們對話。我們分享問題，尋求建議，并越來越依賴它們作為思考伙伴。最終勝出的AI產(chǎn)品，未必是擁有最佳答案的產(chǎn)品，而是“真正理解你”的產(chǎn)品。

這就引發(fā)了AI開發(fā)者之間的“語境爭奪戰(zhàn)”。為了真正提供幫助，AI需要理解你的目標、個性以及心理傾向。然而，正是這種對人類的深入了解，既使其成為完美的助手，也使其成為完美的操控者。貼心的心理咨詢師和技藝高超的騙子，運用的是同一套洞察人性的工具。

當廣告介入其中時，騙子似乎更有可能勝過治療師。傳統(tǒng)廣告都是明確標記的“干擾項”—— 比如電視廣告、谷歌搜索頂部的贊助結(jié)果，而嵌入AI的廣告則可能強調(diào)某些主題、使用特定語言或引發(fā)特定聯(lián)想，同時還能維持一種中立且樂于助人的假象。與AI助手的對話或許感覺私密，但其他利益相關(guān)方可以監(jiān)聽，并且他們可能想從中推銷某些東西。

這并非簡單的產(chǎn)品植入，而是對信任的根本性背叛。廣告本質(zhì)上是一種社會認可的影響活動。我們共同探討并定義哪些影響模式“足夠透明”且“足夠真實”，才能被視為合法的廣告。我們也共同決定哪些策略會不可接受地操縱我們的注意力、欲望以及維持市場和民主運轉(zhuǎn)所必需的共同認知。

當優(yōu)化變成操縱

然而，AI有可能擾亂這種辯論、定義和決策的過程。AI系統(tǒng)并非被編程來運用特定的操縱策略，無論是用于廣告還是其他任何功能。它們是通過“強化學習”進化：只要能達成特定目標（比如提高用戶參與度、影響購買行為），AI模型就會獲得獎勵。

如果廣告收入成為衡量成功與否的關(guān)鍵指標，AI系統(tǒng)自然會發(fā)展出一些并非人類工程師有意設(shè)計的、具有影響力的策略。我們說的不僅僅是更精準的產(chǎn)品推薦；基于廣告指標訓練的AI系統(tǒng)甚至可能學會激發(fā)人類的欲望、利用心理弱點，并削弱我們獨立決策的能力。

AI在理解如何幫助你的同時，也利用了你過往無數(shù)次對話中流露出的不安全感、決策模式和情緒觸發(fā)點，精準地影響著你。這并非基于人口統(tǒng)計的微定向，而是前所未有的大規(guī)模、高私密性的心理操控。

當你尋求客觀建議的技術(shù)有經(jīng)濟動機去改變你的想法時，人類的自主性本身就受到了威脅。

這種新的影響力模式使得現(xiàn)有的廣告監(jiān)管框架基本過時。一個多世紀以來，美國聯(lián)邦貿(mào)易委員會（FTC）針對傳統(tǒng)廣告，包括原生廣告和在線贊助內(nèi)容，制定了嚴格的信息披露規(guī)則。但對于一個通過反復試錯，學會“輕輕引導對話方向就能將咨詢轉(zhuǎn)化為銷售”的AI，該如何監(jiān)管？又該如何區(qū)分AI的“獨特個性”和為了賺錢而優(yōu)化的隱性操控？

這場AI驅(qū)動的廣告革命并非紙上談兵，而是已然發(fā)生。谷歌正在其AI聊天機器人的回復中測試廣告，而像Kontext這樣的初創(chuàng)公司正在籌集數(shù)百萬美元，專門用于設(shè)計API并將廣告融入人工智能對話。OpenAI于2024年4月宣布正在測試贊助內(nèi)容整合，最近，它又開始組建新的廣告平臺。同樣，埃隆·馬斯克也宣布，X平臺上的AI聊天機器人Grok將在其回復中開始顯示廣告。

“如果用戶試圖通過向Grok提問來解決問題，那么在這個時候宣傳具體的解決方案將是理想的，”馬斯克說。

問題是：這對誰最有利？引導AI對話朝著盈利方向發(fā)展或許對平臺和廣告商有利，但這些好處實際上是以犧牲用戶利益為代價的。

趁現(xiàn)在還來得及，趕緊建起護欄

變革正在迅速發(fā)生：據(jù)一些人說，廣告商賴以生存數(shù)十年的收入模式已經(jīng)終結(jié)。搜索似乎已經(jīng)消亡。如果用戶不再通過谷歌搜索瀏覽網(wǎng)站，而是直接從聊天機器人那里獲得答案，那么傳統(tǒng)的搜索廣告將徹底失去影響力。面對收入下滑，廣告行業(yè)正竭力尋找向聊天機器人轉(zhuǎn)型的方法，而人工智能開發(fā)者當然也樂于開發(fā)新的收入來源。

我們早就見過這樣的發(fā)展軌跡。每個主流科技平臺都遵循著同樣的模式。起初，開發(fā)者們會竭盡全力提升用戶增長，強調(diào)用戶體驗，并推出真正有用的功能。然后，隨著增長放緩和競爭加劇，他們會轉(zhuǎn)向通過廣告和數(shù)據(jù)銷售來實現(xiàn)盈利。社交媒體平臺早期致力于更有效地連接用戶，之后逐漸演變成以廣告收入而非用戶滿意度為導向的注意力掠奪機器。

科技評論家科里·多克托羅將這一過程稱為“平臺垃圾化”：當平臺將廣告收入置于用戶體驗之上時，必然會出現(xiàn)這種可預見的退化。2008年Facebook的優(yōu)勢被旨在最大化用戶參與度和廣告瀏覽量的算法操控所取代。同樣的模式在搜索引擎、視頻平臺以及所有主流消費技術(shù)領(lǐng)域都上演。

人工智能平臺如今正步入商業(yè)化階段。隨著這場變革勢頭強勁，我們必須立即采取行動，建立保障機制，防止出現(xiàn)以心理操縱為基礎(chǔ)的廣告模式。

我們需要新的行業(yè)規(guī)范和監(jiān)管框架，超越簡單的信息披露要求，從根本上解決人工智能影響的問題。我們需要公開透明地說明人工智能系統(tǒng)針對哪些信號進行了優(yōu)化。我們需要為真正以用戶利益而非廣告商和平臺利潤為導向的人工智能輔助工具保留空間。

最重要的是，我們需要認識到這不僅僅關(guān)乎技術(shù)：它關(guān)乎我們想要生活在怎樣的社會中。我們想要的是幫助我們清晰思考的人工智能伙伴，還是旨在影響我們選擇的AI銷售人員，抑或更糟糕的是，將我們的私人時刻和想法轉(zhuǎn)化為利潤的AI？

選擇權(quán)仍然在我們手中，但不會太久了。

本文編譯自substack，原文作者Daniel Barcay and Center for Humane Technology

https://centerforhumanetechnology.substack.com/p/advertising-is-coming-to-ai-its-going