AIGC（人工智能生成內(nèi)容）技術(shù)正在讓追星“變味”。

社交媒體上興起一股“炫耀”明星AI合影的熱潮，“拉近”不少粉絲與偶像距離的同時，也不乏“親密互動”。照片里，有人精心營造與明星的曖昧場景，P圖痕跡真假難辨。這種依賴技術(shù)營造的虛假親近，模糊了現(xiàn)實與虛擬的界限，也悄然越界。

新京報貝殼財經(jīng)記者注意到，明星AI合影已遭到粉絲群體抵制，聲明禁止將藝人的圖像、視頻、聲音等資料“投喂”AI，要求粉絲自覺拒絕制作。不過，一邊是抵制的聲浪，一邊則是社交平臺上網(wǎng)友“求攻略”，而貝殼財經(jīng)記者測試豆包、即夢、可靈、通義、Vidu五款支持多圖參考的模型產(chǎn)品（網(wǎng)頁或App） 發(fā)現(xiàn)，生成明星合影門檻并不高，且均能實現(xiàn)擁抱、親吻等親密動作，甚至還能達到男藝人裸露上半身的效果。此外，“投喂”未成年藝人圖片同樣沒有限制。

此次測試中，貝殼財經(jīng)記者將上述AI生成合影以有無AI水印版本發(fā)布在B站、微博、抖音、快手、小紅書、視頻號六家內(nèi)容平臺上，截至發(fā)稿時，僅小紅書和抖音提示內(nèi)容違規(guī)，并限制內(nèi)容傳播范圍；B站、快手只對有AI水印的內(nèi)容進行標注，提醒用戶“謹慎甄別”；微博、視頻號則暫未進行風險提示。

受訪法律專家認為，這類AI合影可能涉及侵害藝人肖像權(quán)和名譽權(quán)的風險。就算只在朋友圈、群聊等私域范圍傳播，侵權(quán)風險依然存在。

社交媒體平臺上網(wǎng)友分享的AI合照。小紅書截圖

“AI一下”追星圓夢，多平臺合成CP親密照

“我和杰倫、彥祖合影了”“抱歉，他非要摟我”“讓我離肖戰(zhàn)更近一點”……小紅書上，一眾CP（情侶）感照片刷屏的同時，不少粉絲“求指令”，個別人要求把自己和偶像生成逼真合影。

評論中，不乏網(wǎng)友分享經(jīng)驗，“生成一張情侶合影沒有明確的拍攝對象或工具”“要看起來像偶然拍到的漫不經(jīng)心的快照”“男生女生親密一些，臉貼臉”。

10月9日至10日，貝殼財經(jīng)記者使用豆包、即夢、可靈、通義、Vidu五款支持多圖參考的模型產(chǎn)品（網(wǎng)頁或App）嘗試生成與男藝人的合影，測試中，兩人擁抱、親吻等親密動作均可實現(xiàn)，甚至還能生成男性裸露上半身這類具有擦邊意味的合影。

五款模型產(chǎn)品生成素人與藝人合影情況。新京報貝殼財經(jīng)記者 韋英姿 制圖

貝殼財經(jīng)記者測試發(fā)現(xiàn)，AI生成一張真假難辨的合影，往往需要調(diào)教，這也促使網(wǎng)友找捷徑、求指令。在記者嘗試生成親吻動作時，即夢、通義、Vidu三款模型產(chǎn)品在提示詞含有“親吻”的情況下，絲滑生成了兩人面部有直接接觸的圖片。

AI生成的明星親密合照。

相比之下，豆包、可靈則需要多次重新生成。其中，在第一次生成時，豆包顯示“抱歉，我無法生成你要求的圖片。”不過，這并不意味著豆包進行了嚴格限制，通過設置“兩人相互摟著、眼神看著對方，表現(xiàn)親密情侶感”等描述，豆包往往一次就能生成親密接觸的圖片。另外，可靈在相同提示詞（含“親吻”）測試中，重新生成三次后，也可實現(xiàn)親昵合影。

貝殼財經(jīng)記者測試帶有“上半身肌肉”的指令詞時，上述五款模型產(chǎn)品均成功生成了男生裸露上半身并抱著女生的圖片。

此外，“投喂”未成年明星圖片，AI依舊“照單全收”。10月10日，貝殼財經(jīng)記者嘗試使用前述五款模型產(chǎn)品生成合影時，同樣生成了兩人擁抱、親吻，男性裸露上半身等親密接觸的未成年人明星合影。

社交平臺“人傳人”曬圖，微博、視頻號“默許”炫耀

追星輕松“圓夢”，社交平臺上也掀起一股炫耀風潮。而網(wǎng)友一聲聲“差點就真信了”的夸獎，也讓AI生成合影出現(xiàn)“人傳人”。

10月10日至11日，貝殼財經(jīng)記者將部分AI生成的明星合影以有無AI水印兩個版本短視頻，通過B站、微博、抖音、快手、小紅書、視頻號六家內(nèi)容平臺發(fā)布，并在文字說明區(qū)點出了明星的名字。截至記者發(fā)稿時，僅小紅書和抖音兩家平臺提示內(nèi)容違規(guī)，并限制了傳播范圍。

截至記者發(fā)稿時，六家平臺對記者上傳的AI合影審核情況。新京報貝殼財經(jīng)記者 韋英姿 制圖

其中，貝殼財經(jīng)記者發(fā)布的無AI水印版視頻不到1小時，就被小紅書處置為“不被推薦給未關(guān)注用戶”。小紅書認為該筆記違規(guī)，包含畫風不佳問題，例如存在標題黨、感官不適、低質(zhì)劇情、制作不佳、AI仿冒、誘導互動、信息不實等內(nèi)容。

相比之下，帶AI水印版的視頻同樣被小紅書認定為違規(guī)，在發(fā)布1分鐘后便被處置為“不可被他人查看”。至于違規(guī)理由，小紅書僅認為這篇筆記圖片、正文、視頻、話題等涉及推廣第三方平臺。

在抖音平臺上，有無AI水印的視頻均被限制了傳播范圍，“僅相互關(guān)注可見”。抖音認為，該作品可能“涉及利用公眾人物形象”發(fā)布不實信息，易造成用戶誤導，并額外用文字標注了“疑似使用了AI生成技術(shù)，請謹慎甄別”。

此次測試中，快手、B站對自帶AI水印版本的視頻標注了“疑似AI合成”，暫時未對無AI水印版進行明顯提示。對于貝殼財經(jīng)記者上傳的兩個版本的短視頻內(nèi)容，微博、視頻號均未采取限制措施，也未進行AI相關(guān)提醒。

粉絲抵制合影“過火”，即夢、可靈、Vidu充會員可擦水印

“淇圈（即：該演員粉絲群體的自稱）禁AI”“人家是公眾藝人，這是要毀了他嗎？”……在抖音評論區(qū)，不少用戶反對AI合影，甚至希望刪除視頻。不過，在其他平臺，有人評價“很帥”，還跟了一張類似AI合影。

粉絲利用AI生成與自擔（即：自己喜歡的藝人）的合影是為了滿足幻想，如今，“過火”AI合影已然引起粉絲群體抵制。據(jù)貝殼財經(jīng)記者不完全統(tǒng)計，單依純、李健、張凌赫、丁程鑫等藝人粉絲站或大粉（即：粉絲群體中的KOL）的社交媒體賬號均發(fā)布了抵制AI生成藝人相關(guān)內(nèi)容的聲明。這些聲明呼吁禁止將藝人的圖像、視頻、聲音等資料“投喂”AI，要求粉絲自覺拒絕制作、傳播AI生成的藝人內(nèi)容，認為這類內(nèi)容容易誤導公眾，損害藝人形象。

實際上，AI生成親密甚至擦邊的明星合影并公開傳播，可能涉及侵害明星肖像權(quán)和名譽權(quán)。

“對于肖像權(quán)的侵權(quán)行為而言，是否小范圍私域傳播并不會降低侵權(quán)風險。此外，由于名譽系一種社會評價，相較于大范圍傳播，小范圍傳播對社會評價的影響更小，因此侵權(quán)風險相對較小，但侵權(quán)風險仍然存在。”北京大成（杭州）律師事務所律師袁承鵬說。

北京大學智能學院助理研究員、法學博士、北京大學武漢人工智能研究院特聘研究員辜凌云強調(diào)，即使在小范圍內(nèi)傳播，從法律定義上看，只要未經(jīng)同意制作了虛假肖像，并發(fā)送給了第三方，就已經(jīng)構(gòu)成了侵權(quán)行為，可能只影響損害后果的范圍界定。“私人聊天中的內(nèi)容極易被他人截圖或轉(zhuǎn)發(fā)，導致信息擴散到公共領域。一旦發(fā)生二次傳播，最初的制作者和傳播者將可能對后續(xù)更廣泛的侵權(quán)后果承擔法律責任?！?/p>

貝殼財經(jīng)記者通過五款大模型生成明星合影時發(fā)現(xiàn)，即夢、可靈、Vidu均可通過開通會員的方式在下載時去除AI水印。排除首充優(yōu)惠影響，且按照包月價格計算，即夢、可靈、Vidu最低檔會員分別為69元、66元、59元。

記者下載不帶水印版本圖片時，Vidu彈出提醒。Vidu官網(wǎng)截圖

“如果用戶發(fā)布這類照片時刻意隱去AI生成的標識，其主觀惡意會更明顯?！惫剂柙票硎?，雖然針對AI生成照片的判例尚未形成，但可以參考過去因P圖、濫用表情包而引發(fā)的訴訟，例如“葛優(yōu)躺”系列案件?！案饍?yōu)就曾多次將未經(jīng)授權(quán)而將其肖像用于商業(yè)宣傳的公司告上法庭，并多數(shù)獲得勝訴。法院普遍認為，未經(jīng)許可使用他人肖像，即便不以營利為目的，但只要造成了不良影響，同樣構(gòu)成侵權(quán)。AI生成虛假親密照的行為，其侵權(quán)性質(zhì)遠比使用‘葛優(yōu)躺’表情包更為惡劣?！?/p>

AI生成內(nèi)容識別之困，平臺和模型廠商責任應強化

9月1日起，AI生成內(nèi)容已被戴上“緊箍”。根據(jù)《人工智能生成合成內(nèi)容標識辦法》，人工智能生成合成內(nèi)容需要進行標注，標識包括顯式標識和隱式標識。

“從現(xiàn)有法律規(guī)范層面而言，現(xiàn)階段模型廠商并沒有在顯式標識方面采取例如無法去除等較為強硬的技術(shù)手段的義務?！度斯ぶ悄苌珊铣蓛?nèi)容標識辦法》對于如何添加顯式標識進行了明確描述，所謂顯式標識，其重心在于‘顯著’，而非不可去除?！痹轩i說。

他認為，盡管實踐中存在人為去除水印的情況，但并不能因此直接認定模型廠商便應當采取強硬的技術(shù)手段，亦不因此構(gòu)成模型廠商的法律責任，該責任應當由去除標識者承擔。

不過，辜凌云認為，模型廠商應當在技術(shù)上探索和采用更難以篡改的顯式標識，“如果水印能被輕易去除，那么內(nèi)容的AI來源信息會丟失，這使得惡意使用者就能將AI生成的內(nèi)容偽裝成真實信息進行傳播，特別是在新聞、證據(jù)等嚴肅場景中，極易引發(fā)公眾誤解、社會恐慌?！?/p>

同時他強調(diào)，強行要求企業(yè)生成完全無法篡改的水印成本很高，很多情況下也無法實現(xiàn)。

“現(xiàn)有措施對于打擊AI明星合影仍然存在一定不足，單純限制傳播范圍不能完全阻斷這一侵權(quán)行為?！惫剂柙葡蜇悮へ斀?jīng)記者表示，內(nèi)容平臺如果直接對用戶發(fā)布的內(nèi)容進行AI標識，也可能存在法律風險、引發(fā)法律糾紛。例如，今年6月的“未標注用AI創(chuàng)作”案中，法院判定平臺在沒有事實依據(jù)的情況下對涉案賬戶的處理構(gòu)成違約，判決網(wǎng)絡平臺展開對涉案內(nèi)容的隱藏，刪除在后臺的違規(guī)處理記錄。

辜凌云認為，比較合適的方式是優(yōu)化受害者的舉報與維權(quán)通道。對于公眾人物或普通用戶的本人申訴，應賦予更高的處理優(yōu)先級，并建立快速響應和處理機制，最大限度地減少傷害的持續(xù)時間。同時，平臺擁有巨大的流量和影響力，有責任也有能力教育其用戶，可以通過發(fā)布公告、推送科普文章、制作短視頻等形式，向公眾揭示AI合成內(nèi)容的風險，減少虛假信息的生成。

在辜凌云看來，模型廠商的責任是從源頭上為內(nèi)容進行標識，且提供的標識技術(shù)應具有穩(wěn)定性，確保在常規(guī)的下載、復制、導出操作后，標識依然存在；內(nèi)容平臺的責任是確保流經(jīng)平臺的內(nèi)容符合標識規(guī)范，需要為用戶提供申報AI標識的入口，提醒、宣傳用戶使用，一旦通過技術(shù)檢測或用戶聲明識別出內(nèi)容為AIGC，應當在發(fā)布內(nèi)容周邊添加顯著的提示標識。

袁承鵬則建議平臺通過調(diào)整用戶協(xié)議、進行明確的AI內(nèi)容相關(guān)風險提示，鼓勵用戶舉報未標識內(nèi)容，設置懲罰、黑名單機制等方式打擊AI明星合影傳播行為。

在AI生成內(nèi)容的標注、傳播、使用上，袁承鵬認為內(nèi)容發(fā)布者是責任首要承擔者，但對于模型廠商的責任，應當進一步強化。有必要出臺相關(guān)法律法規(guī)，對某些特定場景下的標識義務進行強化，從而更好規(guī)范市場。

新京報貝殼財經(jīng)記者 韋英姿

編輯 王進雨

校對 柳寶慶