“怎么會有流浪漢進到家里來？”“保安看不到監(jiān)控嗎？”近日，廣州番禺一大型小區(qū)業(yè)主群中，一張流浪漢試圖闖入家門的“現(xiàn)場”圖片驚到了住戶們，發(fā)圖業(yè)主表示自己12歲的小孩獨自在家遭遇了流浪漢闖入。

群內(nèi)熱議許久，直到一業(yè)主提醒，才發(fā)現(xiàn)這是一場惡作劇，圖片是孩子用AI生成的。

記者深入調(diào)查發(fā)現(xiàn)，短視頻平臺上存在不少類似整蠱圖片、視頻，以及相關(guān)AI圖片和視頻的制作教程。只需上傳一張自家照片、輸入一句指令，短短幾秒，一張幾可亂真的“流浪漢闖入家門”的AI圖片便可生成。

此前，類似整蠱已在多地上演，有的導致警方連夜出警，國外甚至有人已因此被捕。

一張AI生成的圖片就能輕易擾動一個社區(qū)的安寧、牽動公共安全資源，這些看似荒唐的整蠱事件，撕開了AI治理難題的一角。有法律專家認為，事件反映AI技術(shù)濫用帶來的諸多問題，也應(yīng)該加強青少年等群體AI素養(yǎng)教育，警示可能產(chǎn)生的法律與倫理后果。

流浪漢闖入家門？

12歲孩子用AI整蠱父母

近日，廣州番禺一小區(qū)業(yè)主群因一張“流浪漢正闖入家門”的圖片炸開鍋。

畫面中，一名流浪漢站在業(yè)主家門口，家中年幼的孩子正手持掃帚試圖驅(qū)趕。業(yè)主們連呼“嚇人”，紛紛質(zhì)疑物業(yè)安保不力，要求立即調(diào)取監(jiān)控查明情況。

廣州一業(yè)主群中，住戶發(fā)圖表示有流浪漢闖入家中。

直到一位業(yè)主提出疑問，表示圖片可能是AI生成的。起初，發(fā)圖家長并不相信：“我家孩子才12歲，怎么能做假圖？而且照片上就是我家的門、掃把，還有樓梯?！?/p>

但在其他業(yè)主解釋如今用AI工具生成類似圖像非常簡單之后，這位家長詢問孩子，這才真相大白。她隨后在群里解釋，因為圖片太過逼真，自己情急之下才發(fā)到了業(yè)主群。

這起“AI整蠱”事件并非孤例，據(jù)媒體報道，安徽銅陵就曾發(fā)生一起典型案例。

一名女子使用AI生成“流浪漢臥坐家中餐廳”的逼真圖像，丈夫收到后信以為真并立即報警。派出所啟動應(yīng)急機制，民警連夜出警，最終證實為虛假情況。警方隨后對該女子進行批評教育，指出其行為“屬于浪費公共資源”。

類似鬧劇在全國多地均有發(fā)生，有的導致整棟樓逐戶排查，有的則促使親屬緊急趕回，徒增奔波。

AI整蠱風潮跨境傳播

青少年群體跟風模仿

這股AI流浪漢整蠱風潮最早起源于海外社交媒體。今年10月上旬，TikTok上開始出現(xiàn)相關(guān)視頻，并迅速吸引青少年群體跟風模仿。

他們使用Snapchat等內(nèi)置AI工具生成“流浪漢闖入家中”圖片發(fā)給父母，錄下他們的驚慌反應(yīng)后再傳回平臺博取流量。截至10月底，僅“，其中最高一條獲贊8萬余次。這類惡作劇視頻操作門檻低，情緒沖擊強、情節(jié)反轉(zhuǎn)大、易于模仿，迅速形成話題傳播效應(yīng)。

國內(nèi)社交平臺上，AI流浪漢整蠱視頻傳播路徑也如出一轍。短視頻平臺上不僅涌現(xiàn)大量成品視頻，還出現(xiàn)配套的AI制作教程。

記者實測發(fā)現(xiàn)，用戶只需打開AI生圖工具，上傳一張家中內(nèi)部照片，輸入一句簡單的提示詞，幾秒內(nèi)即可生成以假亂真的“流浪漢闖入家中”畫面。再用圖生視頻功能，又可生成流浪漢在家中行走的視頻畫面。更有平臺在相關(guān)視頻下方直接接入生圖工具入口，用戶刷到類似內(nèi)容后，可一鍵跳轉(zhuǎn)、選擇同款模板，迅速生成“整蠱”圖片。

短視頻平臺上存在大量AI流浪漢整蠱視頻，還可一鍵做同款。

在國內(nèi)，法律界人士指出，并非只有直接打電話報警才算報假警，明知家人可能會誤判報警，還故意制作AI圖片、視頻，屬于“間接故意”，一旦被認定為謊報警情，按照《中華人民共和國治安管理處罰法》相關(guān)規(guī)定，可處5至10日拘留，并處500元罰款。若相關(guān)內(nèi)容被進一步轉(zhuǎn)發(fā)，造成社會恐慌，行為人還可能承擔刑事責任。此前，浙江嘉興一男子為博取關(guān)注，就曾利用AI大模型偽造“女兒被人抱走”的尋人啟事并散布，最終被依法行政拘留。

北京市大道政通律師事務(wù)所合伙人韓鵬律師在接受媒體采訪時表示，這類AI整蠱事件的危害情節(jié)普遍比較輕，但在某種程度上已反映出AI技術(shù)濫用帶來的諸多問題，是技術(shù)濫用與治理滯后共同作用下的產(chǎn)物。AI生成內(nèi)容的高度逼真性，正在模糊真實與虛構(gòu)的邊界。公眾對AI能力的認知若停留在“娛樂玩具”層面，便容易低估其社會影響。加強AI素養(yǎng)教育，不僅是教會人們?nèi)绾问褂?，更要警示可能產(chǎn)生的法律與倫理后果，青少年群體應(yīng)該樹立技術(shù)使用的責任意識。

來源 | 南方都市報

值班編輯丨王 韜

值班主任丨陳 楓

總值班丨李旭東

超強臺風！回南天！冷空氣！影響廣西

太突然！他于昨晚去世！多位影視圈人士發(fā)文悼念

12人職務(wù)有調(diào)整！廣西最新人事信息發(fā)布→