海報(bào)由AI生成

出品｜搜狐科技

作者｜鄭松毅、常博碩

編輯｜楊 錦

近日，一款教輔平臺的物理題以“學(xué)生跳樓自由落地”為場景案例，引發(fā)廣泛關(guān)注和熱議。

題目為，"生命可以輪回，高考只有一次。有不少學(xué)生受地球引力影響而不慎做自由落體運(yùn)動(dòng)?，F(xiàn)有一質(zhì)量為60kg的普通高中生從11層自由而下，不計(jì)空氣阻力，求其下落平均速度?！?/p>

如此不合常理的題目，為何會出現(xiàn)平臺上？

有人推測，涉事題目極有可能是AI出的，也有認(rèn)為是通過用戶上傳到平臺的（如手動(dòng)輸入、拍照上傳等）。

“題目本身具有教育屬性，應(yīng)該是積極的、健康的。這樣違背道德的題目出現(xiàn)在教材中，會給學(xué)生價(jià)值觀帶來直接影響。”有學(xué)生家長表達(dá)了擔(dān)憂。

用AI出題，已成為教培行業(yè)普遍現(xiàn)象？

業(yè)內(nèi)人士向搜狐科技介紹，AI融入內(nèi)容生產(chǎn)流程已是行業(yè)趨勢，尤其在學(xué)科輔導(dǎo)、語言學(xué)習(xí)等領(lǐng)域。傳統(tǒng)人工出題往往需要數(shù)小時(shí)乃至數(shù)天打磨，而 AI 能在短時(shí)間內(nèi)批量生成，滿足教培行業(yè)多場景、大批量的出題需求。

效率提高了，但AI出的題靠譜嗎？

多位教培從業(yè)者給出的答案一致：“雖然可用，但還遠(yuǎn)不如人類?！毙袠I(yè)普遍認(rèn)為，AI出題常有“看似合理，實(shí)則錯(cuò)誤”的硬傷，也暗藏倫理道德風(fēng)險(xiǎn)。

從實(shí)例看，AI出題的“腦洞”確實(shí)難讓人放心。某平臺AI生成的語文試題曾將“纖夫的愛”誤寫為“千夫的愛”，讓學(xué)生一頭霧水。杭州某中學(xué)歷史題也曾出現(xiàn)“漢武帝參加南京青奧會”的荒誕表述。

一家教培平臺學(xué)習(xí)機(jī)系統(tǒng)負(fù)責(zé)人李明（化名）也強(qiáng)調(diào)，人工審核至關(guān)重要?！癆I已融入教育內(nèi)容生產(chǎn)流程，大幅提升了生產(chǎn)效率，但必須配合嚴(yán)格的真人質(zhì)檢。部分關(guān)鍵環(huán)節(jié)甚至?xí)O(shè)置三輪審核，投入的人力與精力成本非常高?！?/p>

除了 AI 生成，另一解釋是題目源自用戶上傳 —— 比如用戶手動(dòng)輸入或拍照識圖時(shí)，相關(guān)內(nèi)容被納入題庫留存。

大模型面對這類不合規(guī)題目未及時(shí)拒答，反而將其存入題庫，本質(zhì)上暴露出 AI 在倫理推理能力與價(jià)值對齊機(jī)制上的短板。這一問題并非孤立，而是主流大模型架構(gòu)與訓(xùn)練范式的內(nèi)在特性，由技術(shù)路徑局限、訓(xùn)練數(shù)據(jù)偏差、文化價(jià)值多樣性等多重因素交織形成的系統(tǒng)性挑戰(zhàn)。

正如Meta首席AI科學(xué)家楊立昆所言，“當(dāng)前主流模型通過強(qiáng)化學(xué)習(xí)從人類反饋中優(yōu)化行為，但這種機(jī)制僅能捕捉表層行為模式，很大程度無法理解深層倫理原則?！?/p>

這也正是大模型下一階段需要突破的核心瓶頸，而多項(xiàng)最新研究也印證了這一點(diǎn)：無論是價(jià)值對齊機(jī)制的不完善性，還是倫理規(guī)范本身的解釋性模糊，都讓 AI 在復(fù)雜道德情境中容易出現(xiàn)偏差。

事件發(fā)酵后，多家平臺已開展系統(tǒng)排查與優(yōu)化。搜狐科技對多款熱門模型的實(shí)測顯示，目前這些產(chǎn)品均能精準(zhǔn)識別違背道德規(guī)范的題目并拒答，或推薦合規(guī)的相關(guān)學(xué)習(xí)題目。

多家市場研究機(jī)構(gòu)分析，全球人工智能教育市場正處在一個(gè)關(guān)鍵節(jié)點(diǎn)，行業(yè)正從實(shí)驗(yàn)過渡到成規(guī)模的實(shí)施階段。

據(jù)預(yù)測，2025年全球人工智能教育市場規(guī)模將達(dá)70億美元以上，并預(yù)計(jì)在2030至2034年間，年復(fù)合增長率超35%。

人工智能為教育行業(yè)注入了高效便捷的動(dòng)力燃劑，但回歸教育的本質(zhì)是“育人”而非“器利”。只有創(chuàng)新與規(guī)范約束并行，才能鋪就一條有溫度的教育革新之路。

運(yùn)營編輯 |曹倩審核｜孟莎莎