10月9日消息，日前AI圈的焦點幾乎被OpenAI新發(fā)布的Sora2模型所占據(jù)。這款融合了AI視頻生成與社交互動的創(chuàng)新產品，在短短數(shù)日內便成為各大社交平臺的熱門話題之一。

圖源：App Store

記得當時OpenAI 剛推出 Sora 2 視頻生成器時就曾公布：公司默認禁止“生成公眾人物的形象”。

但最近Sora 2 的創(chuàng)作者在使用過程中意外發(fā)現(xiàn)，該限制存在一個BUG。就是系統(tǒng)并未限制生成與已故公眾人物相關的視頻內容。

這下可不得了，大量Sora 2用戶利用此漏洞，對已故名人的形象進行復刻、拼接，甚至以不尊重的方式進行二次創(chuàng)作。

圖源：微博

可以發(fā)現(xiàn)，目前短視頻平臺上充斥著大量借助 AI 技術讓已故名人“重返人間”的內容。

那些已然離世的演員、音樂家、科學家紛紛重新”出現(xiàn)”在人們的視野之中，但被迫“說出”他們從未講過的話語，甚至一些視頻中含有不尊重已故者的行為。

舉個例子：“邁克爾·杰克遜激情獻唱全新說唱曲目”、“功夫巨星布魯斯·李化身酷炫 DJ 打碟”、“肯尼迪總統(tǒng)親自上陣，為黑五折扣瘋狂吆喝”這類抽象又吸睛的場景。

這些視頻顯然成為了對公共倫理底線的挑釁以及對逝者尊嚴的肆意踐踏。

更讓人難以接受的是，就連鼎鼎大名的物理學家蒂芬·霍金都被人惡搞。有人利用 Sora2 生成了讓霍金坐著他那標志性的輪椅，去挑戰(zhàn)極具刺激性的U型滑池。

圖源：小紅書

視頻中只見“霍金”搖搖晃晃地操控著輪椅，緩緩來到U型滑池前。令人意想不到的是他順著滑池滑了下去。而更讓人驚掉下巴的是，他仿佛借助這股沖勁一飛沖天，真的“飛”上了天。

這種惡搞視頻引發(fā)了社會各界的廣泛譴責。網(wǎng)友們紛紛指責這不僅是對已故科學家個人尊嚴的嚴重踐踏，更是對身障群體的一種冒犯。

雖然OpenAI 采取了在每段生成視頻中疊加動態(tài)水印的措施，試圖借此減少觀眾受虛假影像誤導的可能性。然而當人們目睹已故名人被 AI 工具肆意當作創(chuàng)作素材時，其在世的親屬以及粉絲難免會深感憤懣。

此前 OpenAI 就曾因 Sora 處理虛構版權作品的方式而陷入爭議。

Sora2 剛推出時，OpenAI 在版權內容使用上是“默認允許使用，版權權利人需自行選擇“Opt-Out”。但這一立場引發(fā)了好萊塢以及迪士尼、任天堂等大型 IP 持有方的強烈關注與反對。

圖源：小紅書

針對爭議，OpenAI CEO薩姆?奧爾特曼隨后宣布：版權所有者需主動選擇“opt-in”，其才有機會出現(xiàn)在 Sora 2 生成的視頻里。這意味著除非版權權利人明確給予許可，否則用戶將無法通過 Sora 生成任何受版權保護的角色內容。而且版權所有者還能從 Sora 視頻所產生的收益中獲得相應分成。

但話說回來，雖然平臺針對在世人群，建立了“同意參與”與“本人授權入鏡”的雙重保障機制。但當涉及已故者時，因無法獲取其本人的直接同意，這種因對象狀態(tài)不同導致在實際運作中出現(xiàn)了矛盾。

而 OpenAI 對于這種情況似乎采取了默認縱容的態(tài)度。近日一位 OpenAI 發(fā)言人透露：“我們目前暫無更多評論，不過確實允許生成歷史人物的形象?！?/p>

說到最后，針對本次事件，你們認為在科技發(fā)展與倫理之間，咱們究竟該何去何從？是追逐科技的狂飆突進，還是一味堅守倫理而束縛科技發(fā)展？歡迎在評論區(qū)留言說下你的見解。