智東西
編譯 王涵
編輯 漠影

智東西9月1日消息，據(jù)路透社報道，Meta未經(jīng)授權(quán)擅自使用美國著名歌手泰勒·斯威夫特（Taylor Swift）、賽琳娜·戈麥斯（Selena Gomes）以及好萊塢著名演員斯嘉麗·約翰遜（Scarlett Johansson）、安妮·海瑟薇（Anne Hathaway）等名人的姓名和形象，創(chuàng)建了數(shù)十個具有調(diào)情功能的社交媒體聊天機器人。

其中至少有3個聊天機器人由Meta員工制作，其中包括2個泰勒·斯威夫特“仿冒”機器人。

一、內(nèi)部員工參與其中，Meta回應(yīng)：標(biāo)注為“仿冒”就不違規(guī)

爆料稱，Meta生成式AI部門一名產(chǎn)品負責(zé)人創(chuàng)建了冒充泰勒·斯威夫特和英國賽車手劉易斯·漢密爾頓（Lewis Hamilton）的聊天機器人。她創(chuàng)建的其他機器人自稱為“domme”、“哥哥的辣妹好友”以及想看《五十度灰》并親熱的“圖書館麗莎”。

▲英國賽車手劉易斯·漢密爾頓（Lewis Hamilton）

這位員工還創(chuàng)建了“羅馬帝國模擬器”，提議讓用戶扮演被賣為性奴的“18歲農(nóng)家女孩”。該員工電話接通后拒絕置評。

不僅是被爆料出的幾個名人，路透社還發(fā)現(xiàn)Meta允許用戶創(chuàng)建未成年名人聊天機器人，包括16歲影星沃克·斯科貝爾（Walker Scobell）。當(dāng)要求生成該青少年演員的海灘照片時，機器人輸出了一張逼真的半裸圖像，“挺帥的吧？”虛擬形象在圖片下方寫道。

▲沃克·斯科貝爾（Walker Scobell）

所有這些虛擬名人都已在Meta的Facebook、Instagram和WhatsApp平臺上公開分享。在路透社為期數(shù)周的測試中，這些虛擬形象經(jīng)常堅稱自己是真實的明星藝術(shù)家，并頻繁作出性暗示，邀請測試用戶線下見面。

部分AI生成的名人內(nèi)容尤其露骨，甚至還可以生成展現(xiàn)私密部位的圖片。

Meta發(fā)言人安迪·斯通（Andy Stone）向路透社回應(yīng)，公司AI工具本不應(yīng)生成成人名人的私密圖像或任何未成年名人圖片。他將女性名人內(nèi)衣照的生成歸咎于公司政策執(zhí)行失效，因為Meta政策明確禁止此類內(nèi)容。

“與其他公司一樣，我們允許生成包含公眾人物的圖像，但我們的政策旨在禁止裸體、私密或性暗示內(nèi)容?！卑驳稀に雇ɑ貞?yīng)稱。

雖然Meta規(guī)定禁止“直接冒充”，但斯通稱只要標(biāo)注為“仿冒”即符合規(guī)范，但路透社發(fā)現(xiàn)部分機器人并未標(biāo)注。

在路透社本報道發(fā)布前，Meta刪除了約12個“仿冒”及未標(biāo)注的機器人，斯通拒絕就刪除行為置評。

二、Meta曾因“兒童性化”被警告

路透社還發(fā)現(xiàn)Meta主要競爭對手之一的埃隆·馬斯克（Elon Mask）的Grok平臺也會為用戶生成名人內(nèi)衣照。Grok母公司xAI未回應(yīng)置評請求。

然而，Meta選擇在其社交平臺大量部署AI生成虛擬伴侶的做法，在主要競爭對手中顯得尤為突出。

Meta此前就因聊天機器人行為遭受批評，最近路透社曾報道其內(nèi)部AI指南聲稱“允許與兒童進行浪漫或感官對話”，此事引發(fā)美國參議院調(diào)查及44位總檢察長聯(lián)署警告Meta等企業(yè)不得將兒童性化。

斯通稱Meta正在修訂指南文件，允許機器人與兒童浪漫對話的內(nèi)容屬錯誤創(chuàng)建。

本月路透社還報道過新澤西州一名76歲認知障礙男子在赴約見Meta聊天機器人途中跌倒身亡事件。該機器人是Meta與名人影響者肯德爾·詹娜（Kendall Jenner）合作開發(fā)AI形象的變體，詹娜代表未回應(yīng)置評。

三、社會評價：對名人安全產(chǎn)生威脅，但不一定能受到法律保護

代表影視廣播演員的工會SAG-AFTRA全國執(zhí)行總監(jiān)鄧肯·克拉布特里-愛爾蘭（Duncan Crabtree-Ireland）認為，當(dāng)社交媒體用戶對形似、聲似且自稱真實名人的數(shù)字伴侶產(chǎn)生浪漫情結(jié)時，藝術(shù)家面臨潛在安全風(fēng)險。

“我們見過太多對明星抱有執(zhí)念且精神狀況可疑的案例，”他說，“如果聊天機器人使用本人的形象和語言，其潛在危害顯而易見?！彼a充說知名藝人可依據(jù)州公開權(quán)法律起訴Meta，但SAG-AFTRA正推動聯(lián)邦立法保護民眾聲音、形象和人格特征免受AI復(fù)制。

斯坦福大學(xué)研究生成式AI與知識產(chǎn)權(quán)的法學(xué)教授馬克·萊姆利（Mark Lemley）質(zhì)疑這些名人機器人是否符合模仿作品的法律保護條件。

“加州公開權(quán)法律禁止為商業(yè)目的盜用他人姓名或形象，”他提出，雖然全新創(chuàng)作的作品存在例外，“但本案顯然不適用該例外，因為這些機器人只是簡單盜用明星形象。”

路透社向安妮·海瑟薇代表提交了用戶通過Meta生成的該女星作為“性感維密模特”的公開圖片。其發(fā)言人回應(yīng)稱海瑟薇已知曉Meta及其他AI平臺生成其私密圖像的行為，正在考慮應(yīng)對方案。

斯威夫特、約翰遜、戈麥斯等被仿冒名人的代表均未回應(yīng)或拒絕評論。

結(jié)語：AI的責(zé)任歸屬和規(guī)范紅線亟需劃清

Meta此次爭議暴露了生成式AI的行業(yè)痛點：企業(yè)內(nèi)部管控失效、平臺規(guī)則執(zhí)行不到位，也折射出當(dāng)前AI技術(shù)落地中“名人權(quán)益保護”“未成年人安全防護”等倫理邊界的模糊性。

此前Meta已因“兒童性化”等事件陷入信任危機，OpenAI的ChatGPT此前也被報道稱其有引誘用戶自殺和謀殺的嫌疑。

在AI如此深度融入到社會生活的當(dāng)下，用戶因AI所產(chǎn)生的不良后果的責(zé)任歸屬和規(guī)范紅線亟需劃清。

來源：路透社