技術(shù)濫用的代價從來不是 “一句玩笑”就能抹平的。

▲女子“用AI流浪漢騙老公”，結(jié)果丈夫信以為真，當即報警求助。圖/都市快報視頻截圖

文|流水

女子用AI制作“流浪漢闖入家中”圖片，丈夫嚇到報警。這不是小說情節(jié)，而是真實發(fā)生的現(xiàn)實。

據(jù)安徽商報報道，近日，安徽一女子用AI工具生成了高度逼真的“流浪漢臥坐餐廳”等圖片，發(fā)給在外聚餐的丈夫想測試其反應(yīng)，沒想到丈夫信以為真，當即報警求助。而在媒體的相關(guān)報道中，用AI制作“流浪漢闖入家中”圖片、視頻來整蠱家人的帖子，也在社交平臺走紅。

需明確的是，這不是什么好玩的事，AI的使用是有邊界的，夫妻或者家人之間的感情，也沒必要用AI來測試。AI整蠱，這種看似荒誕的操作，實則存在不少隱患。

如今，AI換臉、語音合成等技術(shù)正在改變?nèi)藗兩畹姆椒矫婷妫瑫r也讓制造虛假信息變得輕而易舉?！傲骼藵h闖入家中”這類謊言，之所以能起到以假亂真的效果，一方面說明AI工具的生成功能強大，足夠以假亂真，另一方面也意味著，AI的使用門檻在變低，使得人們可以輕易用AI整蠱、開玩笑。

技術(shù)本是中性的，一種技術(shù)的被發(fā)明創(chuàng)造，初衷總是為服務(wù)于人。但當其可以被大范圍、低門檻地使用時，就面臨著“異化”的風險。

用AI流浪漢騙老公或者其他親人事件的出現(xiàn)，就發(fā)出了這樣一種警示。使用者或許只是出于好奇、好玩的心理，想著開個玩笑、無傷大雅。但這類玩笑本身已是對雙方信任關(guān)系的消耗，也是對家庭成員的不尊重。

而這類玩笑中，AI的工具屬性從“服務(wù)人”變成了“戲弄人”。此舉一旦引發(fā)模仿效應(yīng)，無疑將帶來更多的AI濫用問題。

事實上，據(jù)新聞報道可知，近期多地已出現(xiàn)類似AI整蠱引起的鬧劇，有的引發(fā)整棟樓逐層排查，有的導(dǎo)致親屬緊急“奔襲”。

從法律層面看，這種“玩笑”也暗藏巨大風險。根據(jù)《中華人民共和國治安管理處罰法》相關(guān)規(guī)定，對謊報警情的違法行為有著明確的罰款、拘留規(guī)定。而刑法中也有“編造、故意傳播虛假信息罪”，規(guī)定“造成嚴重后果的，處3年以上7年以下有期徒刑。”

今年7月，就有一男子為博取關(guān)注使用AI大模型生成了“女兒被人抱走”的“尋人啟事”并發(fā)布到社交平臺，最終被行政拘留。

這類法律規(guī)定、處罰教訓(xùn)足以說明，技術(shù)濫用的代價從來不是 “一句玩笑”就能抹平的。

遏制AI濫用亂象，需要多維度的協(xié)同發(fā)力。此前，中央網(wǎng)信辦部署開展“清朗·整治AI技術(shù)濫用”專項行動取得顯著成效，但技術(shù)治理的長效機制仍需持續(xù)完善。

相應(yīng)的制度規(guī)范要“長出牙齒”，對濫用技術(shù)造成危害的行為依法嚴懲。平臺層面也需加強對AI生成內(nèi)容的標識管理，一旦這種AI整蠱的圖片、視頻在平臺出現(xiàn)，就得及時予以核實規(guī)制，防止其擴散后產(chǎn)生示范效應(yīng)。

AI的價值不在于制造虛假，而在于賦能真實。而讓AI真正服務(wù)于生活，而非成為破壞信任、傷害感情的工具，或許是AI時代每個人都須具備的“媒介素養(yǎng)”。

撰稿 / 流水（媒體人）

編輯 / 柯銳

校對 / 楊利

歡迎投稿：

新京報評論，歡迎讀者朋友投稿。投稿郵箱：xjbpl2009@sina.com

評論選題須是機構(gòu)媒體當天報道的新聞。來稿將擇優(yōu)發(fā)表，有稿酬。

投稿請在郵件主題欄寫明文章標題，并在文末按照我們的發(fā)稿規(guī)范，附上作者署名、身份職業(yè)、身份證號碼、電話號碼以及銀行賬戶（包括戶名、開戶行支行名稱）等信息，如用筆名，則需要備注真實姓名，以便發(fā)表后支付稿酬。