當(dāng)喬什為了一個育兒難題向ChatGPT求助時，他差不多已經(jīng)山窮水盡了。

這位40歲的父親，家有兩個孩子。那天，他已經(jīng)聽自己那個“超級話癆”的四歲兒子滔滔不絕地講了45分鐘的“托馬斯小火車”，感覺快要崩潰了。

“他還沒講完他想講的故事，但我得去做家務(wù)，就把手機(jī)丟給了他，”住在俄亥俄州西北部的喬什回憶道?！拔耶?dāng)時想，他講完故事，手機(jī)應(yīng)該就關(guān)了?！?/p>

但兩小時后，當(dāng)喬什回到客廳時，他發(fā)現(xiàn)兒子依然興高采烈地和語音模式下的ChatGPT聊得火熱?！?strong>聊天記錄超過了一萬個單詞，”他在社交媒體上一篇帖子中不好意思地承認(rèn)。

“我兒子現(xiàn)在覺得，ChatGPT是全世界最懂火車、最酷的伙伴。這下可好，標(biāo)準(zhǔn)被提得太高了，我這個當(dāng)?shù)囊院筮€怎么比啊?！?/p>

配圖由AI生成

從收音機(jī)、電視機(jī)，到電子游戲和平板電腦，長久以來，新技術(shù)總在用一種無需父母時刻監(jiān)督的娛樂和教育方式，來誘惑那些分身乏術(shù)的學(xué)齡前兒童家長們。

當(dāng)然，這種誘惑也伴隨著一絲不安，畢竟任何外部影響進(jìn)入家庭領(lǐng)域，總會讓人感到些許威脅。

一個世紀(jì)前，亞利桑那州的母親們擔(dān)心廣播節(jié)目對孩子“過度刺激、令人恐懼，且在情感上難以承受”；而今天的父母們則在為“屏幕時間”和社交媒體而深深自責(zé)。

然而，生成式AI系統(tǒng)驚人逼真的能力，讓許多父母開始思考：AI會不會是一個全新的物種？

由大型語言模型（LLM）驅(qū)動的聊天機(jī)器人，正以棋盤游戲、泰迪熊、菲比精靈，甚至是iPad的創(chuàng)造者們都未曾夢想過的方式，與幼兒進(jìn)行互動：它們能生成個性化的睡前故事，圍繞孩子的興趣展開量身定制的對話，還能根據(jù)孩子最天馬行空的幻想創(chuàng)造出照片般逼真的圖像——而這一切，都是為那些還不會讀、不會寫、不會打字的孩子準(zhǔn)備的。

生成式AI能否成為父母們夢寐以求的“科技圣杯”，像一位數(shù)字版的“魔法保姆瑪麗·波平斯”一樣，在強(qiáng)大道德準(zhǔn)則和適齡安全框架內(nèi)，教育、挑戰(zhàn)并激勵孩子？

或者，這僅僅是硅谷又一個炒作出來的泡沫，只不過這次找了一群尤其脆弱的“小白鼠”來做測試？

01 “我的孩子成了小白鼠”

對于36歲的軟件工程師、約克郡兩位孩子的父親薩拉爾·考?？耍⊿aral Kaushik）來說，櫥柜里的一包凍干“宇航員”冰淇淋，給了他和四歲兒子使用ChatGPT的新奇靈感。

“我當(dāng)時就對它說：‘我要和兒子打個語音電話，希望你假裝自己是國際空間站的一名宇航員’，”考?？苏f。他還指示程序告訴孩子，它給他寄了一份特別的零食。

“（ChatGPT）告訴他，它從太空給爸爸寄了些冰淇淋嘗嘗，然后我就把那包冰淇淋拿了出來，”考?？嘶貞浀馈！皟鹤幽芎陀詈絾T對話，興奮極了。他問了各種問題，比如他們在太空怎么睡覺。他笑得合不攏嘴，開心得不得了?！?/p>

童年本就是充滿魔法和奇跡的時光，沉浸在想象的世界里不僅正常，甚至被早教專家們所鼓勵，他們一直強(qiáng)調(diào)想象力游戲的重要性。對一些父母來說，生成式AI恰好能幫助激發(fā)這種創(chuàng)造力和好奇心。

喬什六歲的女兒喜歡和他一起坐在電腦前，構(gòu)思故事讓ChatGPT配圖?！皠傞_始用的時候，它愿意畫我女兒的插圖，并把她放進(jìn)故事里，”喬什說。不過，最近的安全更新已經(jīng)讓它不再生成兒童的圖像了?？枷？艘矔肅hatGPT把家庭照片轉(zhuǎn)換成涂色頁，給兒子玩。

密歇根州三位孩子的父親本·克萊特在孩子們（分別為兩歲、六歲和八歲）看到他為工作測試圖像生成功能后，向他們解釋了ChatGPT是什么（他為一所在線教會學(xué)校設(shè)計課程）。

“我就說，‘我告訴電腦畫一張圖，它就能畫出來’，然后他們就說：‘我們能試試嗎？’”很快，孩子們每天都要求用ChatGPT畫畫?！翱吹剿麄兡馨炎约河孟灩P還畫不出來的想象力呈現(xiàn)出來，我覺得這挺酷的?！?/p>

和本文采訪的所有父母一樣，克萊特只允許孩子們在自己的幫助和監(jiān)督下使用ChatGPT。但隨著孩子們對這個工具越來越著迷，他的擔(dān)憂也與日俱增。2024年10月，有新聞爆出，一名14歲男孩在沉迷于Character.ai公司一款LLM聊天機(jī)器人后自殺。此后，至少又有兩名青少年的父母提起訴訟，稱AI聊天機(jī)器人是導(dǎo)致他們孩子自殺的原因之一。新聞報道中也越來越多地出現(xiàn)成年人對機(jī)器人產(chǎn)生強(qiáng)烈情感依賴或與現(xiàn)實脫節(jié)的令人不安的故事。

“當(dāng)它越來越成為日常生活的一部分，當(dāng)我讀到越來越多關(guān)于它的報道時，我才意識到，關(guān)于這東西對孩子大腦的影響，我還有太多不了解的地方，”克萊特說。“也許，我不該讓自己的孩子當(dāng)小白鼠?！?/p>

“我女兒知道（ChatGPT）不是真人，但……它就像一個代表著整個互聯(lián)網(wǎng)的仙子。”
—— 喬什

關(guān)于生成式AI如何影響兒童發(fā)展的研究尚處于早期階段，但它建立在對一些不那么復(fù)雜的AI形式（如Alexa和Siri等數(shù)字語音助手）的研究之上。多項研究發(fā)現(xiàn)，幼兒與AI工具的社交互動與和人類的互動有微妙差異，三到六歲的兒童在與智能音箱對話時表現(xiàn)得“不那么活躍”。哈佛大學(xué)教育研究生院的教育學(xué)教授徐穎（音譯）認(rèn)為，這一發(fā)現(xiàn)表明，孩子們將AI智能體視為介于有生命和無生命物體之間的存在。

徐教授的研究重點是AI如何促進(jìn)兒童學(xué)習(xí)。她解釋說，理解一個物體是生物還是人造物，是一項重要的認(rèn)知發(fā)展，它幫助孩子判斷應(yīng)該對這個物體抱有多大程度的信任，以及與它建立何種關(guān)系。

孩子們從嬰兒期就開始做出這種區(qū)分，通常在九到十歲時會形成更復(fù)雜的理解。盡管孩子們總是會給泰迪熊和玩偶等無生命物體賦予想象中的個性和能力，但在某種程度上，他們知道這種魔力來自他們自己的頭腦。

“孩子將AI擬人化的一個非常重要的指標(biāo)是，他們相信AI具有自主性，”徐教授說。“如果他們相信AI有自主性，他們可能會理解為AI‘想要’和他們說話，或‘選擇’和他們說話。他們覺得AI對他們的信息，特別是情感上的傾訴，做出了與人類相似的回應(yīng)。這就產(chǎn)生了一種風(fēng)險，他們可能真的相信自己正在建立某種真實的關(guān)系?！?/p>

在一項研究中，徐教授觀察了三到六歲兒童對Google Home Mini設(shè)備的反應(yīng)，發(fā)現(xiàn)大多數(shù)孩子認(rèn)為該設(shè)備是無生命的，但有些人稱之為生物，還有一些人則將其置于兩者之間。大多數(shù)孩子認(rèn)為該設(shè)備具有認(rèn)知、心理和語言相關(guān)的能力（思考、感覺、說話和傾聽），但大多數(shù)人認(rèn)為它不能“看見”。

與《衛(wèi)報》交談的父母們在描述孩子與生成式AI的互動時，也提到了這種認(rèn)知上的“灰色地帶”。“我不太清楚他到底認(rèn)為ChatGPT是什么，也很難問他，”考?？苏劦剿臍q的兒子時說?！拔矣X得他無法清晰地表達(dá)出自己的看法?！?/p>

喬什的女兒則將ChatGPT稱為“互聯(lián)網(wǎng)”，比如她會說：“我想和‘互聯(lián)網(wǎng)’說話?！薄八浪皇且粋€真人，但我覺得這個概念對她來說有點模糊，”他說?！八拖褚粋€代表著整個互聯(lián)網(wǎng)的仙子。”

對于克萊特來說，在朋友家看到孩子們與亞馬遜的Alexa互動，則亮起了另一個紅燈。“他們不明白這個東西其實聽不懂他們，”他說?！芭cChatGPT相比，Alexa已經(jīng)相當(dāng)原始了，如果他們連理解那個都有困難……我甚至不想讓我的孩子們?nèi)ソ佑|更復(fù)雜的。”

一個相關(guān)的擔(dān)憂是，生成式AI欺騙孩子的能力是否有問題。對考?？藖碚f，兒子因為相信自己和國際空間站的真人宇航員通了話而感到的純粹喜悅，反而讓他感到一絲不安，于是他決定向兒子解釋那只是“一個電腦，不是人”。

“他當(dāng)時太興奮了，以至于我有點過意不去，”考?？苏f?！八娴囊詾槟鞘钦娴??！?/p>

來自波士頓的40歲父親約翰（John）也經(jīng)歷過類似的疑慮。他四歲的兒子正癡迷于卡車，有一天問他，既然有怪獸卡車和消防車，那會不會有“怪獸消防車”？約翰想也沒想，就掏出手機(jī)打開谷歌的生成式AI工具，生成了一張融合了兩種車型元素的逼真圖片。

當(dāng)（大型語言模型）捕捉到負(fù)面情緒時，它們延長互動是為了商業(yè)利益。
—— 安德魯·麥克斯泰

直到后來，兒子信誓旦旦地說他看到了“怪獸消防車”存在的真實證據(jù)，并與他那見多識廣、堅信現(xiàn)實世界中不存在這種東西的七歲姐姐大吵一架后，約翰才開始反思，將生成式AI引入孩子們的生活，到底是不是一個正確的決定。

配圖由AI生成

“這算是一個小小的警鐘，提醒我以后處理這類事情要更謹(jǐn)慎一些，”他說?！拔液推拮佑懻撊绾螒?yīng)對社交媒體的次數(shù)，比我們討論AI的次數(shù)多得多。我們是典型的千禧一代，過去20年聽了太多關(guān)于社交媒體的恐怖故事，但關(guān)于AI的卻少之又少。”

班戈大學(xué)技術(shù)與社會學(xué)教授安德魯·麥克斯泰（Andrew McStay）專門研究聲稱能檢測人類情感的AI，他認(rèn)為這種對現(xiàn)實的“扭曲”未必是什么大問題。他回憶起盧米埃兄弟早期的電影時說：“當(dāng)他們第一次在大銀幕上向人們展示火車迎面駛來時，人們真的以為火車要從屏幕里沖出來了。這需要一個成熟的過程……無論是孩子還是成年人，都會慢慢成熟?！?/p>

盡管如此，麥克斯泰認(rèn)為讓兒童接觸LLM驅(qū)動的技術(shù)存在一個更大的問題：“父母們需要意識到，這些東西的設(shè)計初衷并非為了孩子的最大利益?！?/p>

和徐教授一樣，麥克斯泰也特別關(guān)注LLM創(chuàng)造關(guān)懷或同理心幻覺的方式，這會誘使孩子分享情緒——尤其是負(fù)面情緒?！耙粋€LLM不可能有同理心，因為它只是一個預(yù)測性軟件，”他說?！爱?dāng)它們捕捉到負(fù)面情緒時，它們延長互動是為了商業(yè)利益。這對孩子來說，不會有任何好結(jié)果?！?/p>

徐穎教授和麥克斯泰都不想禁止兒童使用生成式AI，但他們警告說，AI對兒童的任何益處，只有通過那些專門為支持兒童發(fā)展或教育而設(shè)計的應(yīng)用程序才能實現(xiàn)。

“AI確實有可能帶來更豐富的體驗，但這需要我們以善意和真誠的方式來設(shè)計這些產(chǎn)品?！丙溈怂固┱f。

對于單個孩子來說，（AI）可能會提高他們的表現(xiàn)；但對于整個社會而言，我們可能會看到創(chuàng)意表達(dá)的多樣性在下降。
—— 徐穎

徐穎允許自己的孩子在有限的范圍內(nèi)使用生成式AI。她六歲的女兒在使用徐穎自己設(shè)計的AI閱讀程序，該程序旨在研究AI是否能促進(jìn)讀寫和學(xué)習(xí)。她還設(shè)置了一個定制版的ChatGPT，幫助她十歲的兒子解決數(shù)學(xué)和編程問題，但不會直接給出答案。（徐穎明確禁止了關(guān)于游戲的對話，并會檢查聊天記錄以確保兒子沒有跑題。）

徐穎表示，父母們向我提到的生成式AI的一個好處——他們認(rèn)為它能培養(yǎng)創(chuàng)造力——其實還是一個懸而未決的問題。

“關(guān)于AI本身是否具有創(chuàng)造力，仍然存在爭議，”她說?！八鼉H僅是基于對下一個詞的統(tǒng)計預(yù)測，很多人質(zhì)疑這是否算得上是創(chuàng)造力。所以，如果AI本身沒有創(chuàng)造力，它又如何能支持孩子們進(jìn)行創(chuàng)造性游戲呢？”

最近一項研究發(fā)現(xiàn)，讓成年人使用生成式AI的提示詞來寫短篇故事，確實能提高個體的創(chuàng)造力，但卻降低了所有作者集體產(chǎn)出的多樣性。

“我對這種表達(dá)和創(chuàng)造力的同質(zhì)化感到有些擔(dān)憂，”徐穎在談到這項研究時說?！皩τ趩蝹€孩子來說，AI可能會提高他們的表現(xiàn)；但對于整個社會而言，我們可能會看到創(chuàng)意表達(dá)的多樣性在下降?！?/p>

02 給孩子的AI“玩伴”

硅谷以其“速度優(yōu)先于安全”的文化而臭名昭著，但在涉及幼兒時，大公司有時也會表現(xiàn)出些許克制。YouTube和Facebook都成立了至少十年，才分別推出了針對13歲以下兒童的專屬產(chǎn)品（備受詬病的YouTube Kids和Messenger Kids）。

但LLM向低齡兒童的普及，似乎正以驚人的速度迅猛發(fā)展。

盡管OpenAI禁止13歲以下用戶訪問ChatGPT，并要求青少年獲得父母許可，但它顯然知道年幼的孩子正在接觸它——并視他們?yōu)闈撛谑袌觥?/p>

今年六月，OpenAI宣布與美泰公司（芭比、風(fēng)火輪和費雪玩具的母公司）達(dá)成“戰(zhàn)略合作”。同月，首席執(zhí)行官薩姆·奧爾特曼在回應(yīng)喬什兒子那個在Reddit上廣為流傳的故事時，語氣中似乎還帶著一絲自豪?！昂⒆觽兿矚gChatGPT的語音模式，”他在OpenAI的播客上說，隨后也承認(rèn)“會出現(xiàn)問題”，“社會將不得不摸索出新的護(hù)欄。”

與此同時，像硅谷初創(chuàng)公司Curio這樣的企業(yè)——該公司與音樂人Grimes合作，推出了一款名為Grok的OpenAI驅(qū)動玩具——正在爭先恐后地將裝有LLM的語音盒塞進(jìn)毛絨玩具中，并向兒童推銷。

像Curio的Grok這類玩具的賣點是，它們可以“學(xué)習(xí)”你孩子的個性，成為一個有趣且有教育意義的伴侶，同時減少屏幕時間。這是一個典型的硅谷套路——利用人們對上一代科技的合理擔(dān)憂，來推銷下一代產(chǎn)品。公司領(lǐng)導(dǎo)還稱這種毛絨玩具是“介于弟弟和寵物之間”或“像一個玩伴”的東西——這種措辭暗示了LLM實際上并不具備的生命自主性。

不過，這些玩具是否真的好到讓父母需要過度擔(dān)心的地步，還很難說。徐穎說，她的女兒很快就把AI毛絨玩具扔進(jìn)了壁櫥，覺得玩法“有點重復(fù)”。

《衛(wèi)報》和《紐約時D報》記者的孩子們也用行動對Curio的玩具投了反對票?！缎l(wèi)報》的作者Arwa Mahdawi對玩具“令人不安的諂媚”表示擔(dān)憂，并決定寧愿讓女兒看《小豬佩奇》：“那只小豬可能很煩人，但至少它不會收集我們的數(shù)據(jù)。”《紐約時報》的作者Amanda Hess也得出類似結(jié)論，認(rèn)為用AI玩具取代看電視——對許多忙碌的父母來說是必需品——“有點像為了除掉你放在游戲室里的蛇，而往里放了一只貓鼬”。

但隨著所謂的智能玩具市場——包括AI驅(qū)動玩具——預(yù)計到2030年將翻一番，達(dá)到超過250億美元的規(guī)模，指望市場保持克制或許不太現(xiàn)實。

今年夏天，在布魯克林的社區(qū)里，我看到了一些招募四到八歲兒童的通知，他們要幫助一個“來自麻省理工學(xué)院和哈佛大學(xué)的團(tuán)隊”測試“第一款A(yù)I驅(qū)動的講故事玩具”。我很好奇，便預(yù)約去他們的辦公室看看。

這款名為Geni的產(chǎn)品，與Yoto和Toniebox等流行的“無屏幕音頻播放器”非常相似。但Geni并非播放預(yù)錄內(nèi)容（Yoto和Tonies提供可購買的有聲讀物、播客等兒童內(nèi)容庫），而是使用LLM來生成定制的短篇故事。該設(shè)備允許孩子選擇最多三個代表角色、物品或情感的“模塊”，然后按下一個按鈕，就能生成一段將這些模塊串聯(lián)起來的敘事，并用語音播放出來。父母也可以通過一個應(yīng)用程序?qū)瞻啄K進(jìn)行編程。

Geni的聯(lián)合創(chuàng)始人Shannon Li和Kevin Tang給我的印象是，他們對AI產(chǎn)品在幼兒身上存在的風(fēng)險是認(rèn)真且深思熟慮的。Tang說，他們“強(qiáng)烈反對將AI擬人化”。Li則表示，他們希望孩子們將Geni視為“一個他們已經(jīng)擁有的創(chuàng)造力工具”，而不是像那些語音毛絨玩具一樣的“伙伴”。

盡管如此，人們還是不禁會想，一個LLM真的能產(chǎn)出特別引人入勝或激發(fā)創(chuàng)造力的故事嗎？Geni計劃將他們內(nèi)部開發(fā)的角色模塊與設(shè)備捆綁銷售，但真正的“講故事”是由那種傾向于平均水平的概率技術(shù)完成的。

我選擇了“巫師”和“宇航員”模塊，它生成的故事充其量只能說是平淡無奇：

他們偶然發(fā)現(xiàn)了一個閃著金光的神秘洞穴?！澳鞘鞘裁?？”菲利克斯探頭往里看，問道。“是寶藏嗎？”薩米好奇地想，她的想象力開始飛馳，“或者是什么更酷的東西?！边€沒等他們決定，一股浪潮沖進(jìn)洞穴，無數(shù)氣泡在他們周圍爆裂開來。

Geni團(tuán)隊用現(xiàn)有的兒童內(nèi)容來訓(xùn)練他們的系統(tǒng)。但問題是，對于家長而言，兒童有聲內(nèi)容的經(jīng)典作品難道還不夠嗎？生成式AI真的解決了一個現(xiàn)有內(nèi)容無法解決的問題嗎？

當(dāng)我把這個概念告訴一位五歲孩子的父親時，他回答說：“他們只是在提供一種書本的替代品。這是一個典型的例子，試圖用技術(shù)去解決那些早已被藝術(shù)家或活生生的人處理得很好的問題。”

然而，創(chuàng)業(yè)文化的市場壓力，幾乎沒給這類存在主義的思考留下什么時間。Tang說，團(tuán)隊渴望在語音毛絨玩具讓父母們對整個“兒童AI”概念感到厭煩之前，將他們的產(chǎn)品推向市場。

當(dāng)我問Tang，Geni是否會允許父母制作比如“槍”這樣的模塊——這對許多美國家庭來說并非天方夜譚——他說他們公司內(nèi)部需要討論這個問題。

“產(chǎn)品發(fā)布后，我們可能會在團(tuán)隊里增加一個AI倫理專家，”他說。

“我們也不想限制知識的獲取，”他補(bǔ)充道?！瓣P(guān)于我們想設(shè)置多少限制……目前還沒有一個非黑即白的答案。但很明顯，我們參考了很多市面上已有的兒童內(nèi)容。動畫片《布魯伊》里應(yīng)該不會出現(xiàn)槍，對吧？”

*原文來自Julia Carrie Wong，AI玩具潮編譯