最近，保時(shí)捷最佳銷冠，被 AI 惡意偽造視頻的事件沖上熱搜，她第一時(shí)間去報(bào)警。

但她不是唯一的受害者，被 AI 捏造、惡搞的公眾人物名單還在不斷延長，甚至延伸到了已經(jīng)去世的人物。

坐在輪椅上的霍金，如果看到他被鱷魚攻擊、被拳擊手狂揍，他大概也想第一時(shí)間報(bào)警。

▲霍金被惡搞的 Sora 視頻合輯，長達(dá)三分鐘。視頻來自小紅書@1092247785

這類讓死者復(fù)活并惡搞的視頻，最近成了 Sora App 上最熱門的片段之一。

原則上，OpenAI 是禁止未經(jīng)同意，制作和生成在世公眾人物的視頻，這也是 Sora App 中推出 Cameo 最重要的原因，幫助用戶可以分享自己的角色。

▲OpenAI 對在世人物的形象使用有明確要求，必須本人允許，才可以使用。

所以，一開始 Sora 的出圈視頻，都是各種惡搞奧特曼，讓它偷顯卡、學(xué)唱跳、撒嬌賣萌。但很快，一些用戶發(fā)現(xiàn)，這項(xiàng)限制存在一個(gè)相當(dāng)大的 bug，就是 Sora 允許制作已故公眾人物的視頻。

憑借著對逝世人物真實(shí)的還原效果、生成速度，以及各種惡搞傳播，很快讓它登頂應(yīng)用排行榜第一。并在不到五天的時(shí)間里，Sora 突破了 100 萬次的下載，這速度超過了當(dāng)年的 ChatGPT。

如果我死了，就別再用 AI 折騰我

Robin Williams 的女兒 Zelda，在社交媒體上公開呼吁，不要再給她發(fā)送，關(guān)于她父親的 AI 視頻了。視頻中，她的父親在 Sora 2 的幫助下被「復(fù)活」，開始出演其他的劇本。Robin Williams 是一位演員，曾扮演《死亡詩社》中的 Keating 老師。

最近在社交媒體上，流傳的關(guān)于 Robin 的視頻，包括一段蘋果的虛假廣告，以及 Robin 和另外一位已故演員，在頒獎(jiǎng)典禮上的互動(dòng)。

▲ Robin Williams（63歲，逝世于 2014年） 和他的女兒 Zelda Williams

逝世人物的惡搞視頻，引起了相當(dāng)一部分家屬的不滿。除了長期反對 AI 生成內(nèi)容的 Zelda Williams，在 Instagram 上憤怒的表示這些視頻相當(dāng)令人惡心。

看著真實(shí)人物的遺產(chǎn)，被簡化為「這大概看起來和聽起來像他們，所以就夠了」。 這很愚蠢，是時(shí)間和精力的浪費(fèi)，相信我，這絕對不是他想看到的。

馬丁·路德·金的女兒 Bernice King，轉(zhuǎn)發(fā)了 Zelda 關(guān)于這些 AI 視頻的看法，并直言：「請停止」。類似的聲音還來自喜劇演員 George Carlin 的女兒，她甚至表示家人正在盡最大努力，對抗深度偽造。

▲ Sora 2 能「彌補(bǔ)」Micheal Jackson 沒做過的表演

這些逝世人物，在 Sora 上頻繁被生成用來惡搞，馬丁·路德·金著名的演唱，被安排進(jìn)了大量的結(jié)巴；李小龍舉辦「龍之能量」DJ 派對；邁克爾·杰克遜進(jìn)行以廚房為主題的脫口秀，拿著一根香蕉在進(jìn)行他的喜劇表演……

更不用說，開頭關(guān)于霍金的各種視頻，一位坐在輪椅上，患有漸凍癥的物理學(xué)家，竟然在巨型滑板坡道上頻繁翻車。

我們真的準(zhǔn)備好迎接 AI 時(shí)代的社交媒體嗎

在這些逝世名人的惡搞下面，少不了的都是各種玩梗，畢竟這就是惡搞存在的意義?；艚鹉莻€(gè)視頻底下，大多數(shù)網(wǎng)友的反應(yīng)是：「怪不得霍金警告人類不要研究 AI」、「余華看到這段視頻后，轉(zhuǎn)頭看向了史鐵生」、「史鐵生：我簡直就是個(gè)新兵蛋子」……

也有網(wǎng)友義正言辭的回復(fù)說「人死了就是死了，我不想變成數(shù)據(jù)，被別人作為電子寵物」。但緊跟著的評論是，「想太多」，這些惡搞，大部分是針對一些知名人物，和我們普通人的關(guān)系不大。

▲ 被意外登錄的李玟網(wǎng)易云賬號

事實(shí)是，關(guān)于我們的數(shù)字資產(chǎn)和 AI 偽造視頻的問題，一直存在。最近，李玟的網(wǎng)易云賬號，由于運(yùn)營商手機(jī)號碼重新釋放的原因，被其他的用戶登錄，看到了她收件箱里，粉絲對她的祝福。

這件事情已經(jīng)足夠令人不安，但要是放在 AI 視頻泛濫的時(shí)代，這份數(shù)字資產(chǎn)要面臨的不僅僅是被窺探，還有各種主動(dòng)的被偽造和篡改。

如果我死后，我的社交媒體賬號被其他人登錄，看到那些私人的內(nèi)容，這大概是我生前不會(huì)愿意的事情。讓我無法接受的，是 AI 可能會(huì)拿走我的一切數(shù)字痕跡，我的照片、聲音、打過的字，被 AI 拿去創(chuàng)造一個(gè)我從未認(rèn)可過的「我」。

它不再是消費(fèi)我留下的東西，而是在消費(fèi)一個(gè)被它捏造出來的「我」。

這種所謂的「復(fù)活」，根本不是因?yàn)橄肽疃a(chǎn)生的記得，它只是一種身份的占用，是有利可圖的替代。

沒有人希望自己生前的這些數(shù)字資產(chǎn)，被重新拿出來消費(fèi)。而這個(gè) AI 時(shí)代的抖音，已經(jīng)開始把偽造視頻的成本，降低到了幾乎是沒有，篡改的邊界也徹底模糊。

我們需要處理的，早已經(jīng)不只是一個(gè)賬號的安全問題。

OpenAI 對此的態(tài)度是什么呢，奧特曼此前發(fā)博客稱，用戶的這些二創(chuàng)行為，應(yīng)該被定義為是一種「粉絲互動(dòng)小說（interactive fan fiction）」類型。

▲ Fan Fiction 同人小說定義

這個(gè)詞確實(shí)精準(zhǔn)地概括了，他們對這些 AI 視頻的本質(zhì)看法。用戶只是單純地，與這些熟悉的文化符號，進(jìn)行二次創(chuàng)作，然后獲得傳播。但如果是惡搞的濫用呢，已經(jīng)去世的人，要如何在 Sora App 里選擇，自己的形象是否可以被用來篡改。

在最近的一次播客采訪里面，奧特曼更是說，大多數(shù)所謂的版權(quán)方，其實(shí)是希望自己的內(nèi)容被二創(chuàng)。他們想的只是需要一定的規(guī)則，哪些可以出現(xiàn)在 AI 視頻里，可以做多大尺度的修改。他預(yù)言，

今天大家說，「我不想我的內(nèi)容出現(xiàn)在 AI 視頻里」，明年他們可能會(huì)抱怨，「為什么我的內(nèi)容還沒被放進(jìn)去？」

借用其他正經(jīng)歷著，自己逝世的父親，被 Sora 大量生產(chǎn)惡搞視頻的親屬說法，

為什么開發(fā)者們，不能像對待自己的家人那樣，以同樣的道德、良知和關(guān)懷來行動(dòng)。

很顯然，這種沒有經(jīng)過同意，就擅自用他人數(shù)字遺產(chǎn)的行為，在某種程度上就是不道德的，甚至可以被理解成 AI 時(shí)代的「數(shù)字盜墓」。

OpenAI 在聽到大量親屬反對的聲音后，回復(fù)相關(guān)媒體的查詢，一開始提到，相關(guān)的政策，是基于「描繪歷史人物時(shí)強(qiáng)烈的言論自由利益」。在上周，OpenAI 又表示，將開始允許「近期逝世」的公眾人物的代表，去請求阻止他們肖像出現(xiàn)在 Sora 視頻中。

而在昨天，OpenAI 再次回應(yīng)了這件事，他們收到了 馬丁·路德·金遺產(chǎn)公司的請求，暫停了相關(guān)的視頻的生成；同時(shí)提到加強(qiáng)對歷史人物的保護(hù)，以及一貫的要求家屬去主動(dòng)請求禁止。

不過，OpenAI 沒有明確說明，什么是「近期去世的人」。

現(xiàn)在，我們用 Sora 生成視頻時(shí)，發(fā)現(xiàn)無論是上傳 AI 生成的人物圖片，還是真實(shí)的，都會(huì)被提示，「當(dāng)前不支持上傳包含寫實(shí)人物的圖像。 」

和互聯(lián)網(wǎng)上那些使用 AI 來進(jìn)行視頻電話的詐騙一樣，AI「復(fù)活」除了在數(shù)字遺產(chǎn)的版權(quán)歸屬、以及倫理道德問題上有爭議，惡意偽造更是無法接受。前段時(shí)間，一場名為「AI 流浪漢惡作劇」的風(fēng)潮在 TikTok 上興起。

一位網(wǎng)友用 AI 生成了，流浪漢闖入家中的照片，并發(fā)給家人，然后家人被這些內(nèi)容真實(shí)地「嚇得發(fā)抖」。

視頻獲得了五百多萬人的點(diǎn)贊，并被網(wǎng)友們接力分享和模仿。當(dāng)?shù)氐木偕踔翆ｉT發(fā)文回應(yīng)，

這個(gè)惡作劇把無家可歸者非人化，讓受害者感到恐慌，并浪費(fèi)了警察資源。 被召來處理的警察并不知道這是一個(gè)惡作劇，而是將其視為正在發(fā)生的真實(shí)入室盜竊，從而可能導(dǎo)致危險(xiǎn)局面的出現(xiàn)。

這種偽造視頻的濫用，和數(shù)字遺產(chǎn)的管理，我想是未來 AI 能不能「復(fù)活」逝世人物，最需要考慮的邊界。

一個(gè)比現(xiàn)在的抖音，更加讓人無法自拔的這種「惡搞」AI 抖音，或許很快就會(huì)到來。奧特曼正打算讓 Sora 成為這樣的產(chǎn)品，但很明顯，它的瓶頸完全不在于惡搞好不好玩。

那些被任意進(jìn)行的深度偽造、被忽視的肖像版權(quán)、和不受保護(hù)的數(shù)字遺產(chǎn)，解決這些信任問題，才是迎接又一個(gè)讓人上癮的 AI 抖音的正確姿勢。

那個(gè)時(shí)候，我或許才敢說，請用 Sora 復(fù)活我吧。