“太可怕了?！?/p>

2月26日，演員王勁松在個人微博發(fā)文，表示某微信視頻號視頻盜用其本人形象，“把我AI了”，修改其視頻文案、口型，用于廣告宣傳。

新京報貝殼財經(jīng)記者調(diào)查發(fā)現(xiàn)，涉事的AI“魔改”視頻中，王勁松本人的穿著、神態(tài)，視頻背景等幾乎與抖音賬號@抖音電視?。ǘ兑綦娨晞」俜劫~號）在2020年發(fā)布的一條視頻完全一致，原視頻左上角標(biāo)有《冰雨火》的水印，視頻主題為宣傳防毒禁毒。

新京報貝殼財經(jīng)記者找到的AI魔改“原視頻”與被魔改后的視頻截圖對比。

而被AI“魔改”后，“王勁松”在視頻中開始推銷一個包含“CRC”“RWA”等概念的所謂“財富平臺”。對此，王勁松本人在微博回復(fù)中直言：“聲音，口型完全看不出來真假”“我家里人都分不清是不是真是我了”。

目前，微信視頻號已第一時間下架了該視頻。但是，在這背后，值得追問的問題包括AI“魔改”明星視頻有多簡單？各大視頻平臺對此是否有防范措施？技術(shù)上AI視頻和真實(shí)視頻還能否被區(qū)分？包括王勁松在內(nèi)，于和偉、李連杰等都有代言視頻流傳出來的所謂“CRC、RWA”又是“何方神圣”？

【實(shí)測】 

生成“AI魔改視頻”容易嗎？

首先，使用AI生成一個王勁松“同款”假視頻，容易嗎？

答案是：并不簡單。

新京報貝殼財經(jīng)記者測試發(fā)現(xiàn)，如果只是普通用戶使用目前市面上常用的AI視頻工具，并不能達(dá)到“以假亂真”的效果。要生成“同款”假王勁松AI視頻，仍然對技術(shù)有要求。

為進(jìn)行測試，貝殼財經(jīng)記者將@抖音電視劇發(fā)布的原視頻分別投喂給即夢AI、可靈AI、剪映、豆包四款有AI視頻生成功能的軟件，并要求其按照給定廣告文案生成AI視頻。

結(jié)果，即夢AI的“對口型”功能僅支持匹配自帶音色，生成視頻的口型并不能完全契合文案；可靈AI生成的AI視頻中，人物并未按照給定的文案生成“對口型”視頻；剪映可通過“克隆音色”的功能復(fù)刻所上傳視頻中人物的音色，但“修改口型”的功能同樣不能讓視頻中人物的口型做到無痕契合文案內(nèi)容；豆包使用的Seedance2.0視頻生成模型暫不支持上傳真實(shí)人臉?biāo)夭淖鳛閰⒖?，無法對原視頻進(jìn)行修改。此外，上述四個App生成的視頻均帶有“AI生成”水印。

由此看來，上述四款A(yù)pp均難以一次生成“同款”假王勁松AI視頻。

不過，市面上具備此類能力的AI模型還有很多，也由此已經(jīng)衍生出一門借助AI修改人物口型的生意。在電商平臺上很容易即可找到“AI影音修改”的服務(wù)，支持修改視頻人物說話內(nèi)容并同步口型，保持聲音音色不變。

新京報貝殼財經(jīng)記者在某電商平臺咨詢得知，多家店鋪都支持AI修改明星視頻，同時可以在視頻上傳后不顯示“AI生成”的提示，1分鐘“魔改”視頻的報價在130元-400元不等。如一個“AI數(shù)字人視頻對口型”商家顯示其服務(wù)“已售1000+”。對方表示，支持“拿名人視頻換成別的話和口型”。

記者在電商平臺咨詢到支持AI“魔改”的店鋪。

而當(dāng)記者表示想要了解店家使用的具體AI方式時，有店家表示使用的是“自有系統(tǒng)”，也有店家解釋使用的是數(shù)字人技術(shù)。

貝殼財經(jīng)記者注意到，隨著技術(shù)的發(fā)展，近幾年來，此類“虛假明星”的視頻已經(jīng)從“AI讓圖片動起來”進(jìn)化到“AI換臉”，現(xiàn)在又直接升級為了“AI對口型”，每一次技術(shù)升級都在挑戰(zhàn)肉眼辨認(rèn)的難度。

對于王勁松形象“被AI”，中國政法大學(xué)知識產(chǎn)權(quán)中心特約研究員趙占領(lǐng)在接受貝殼財經(jīng)記者采訪時表示，對于AI技術(shù)的提供者，如果該AI工具被專門用于制作虛假名人代言視頻，且未盡到顯著的標(biāo)識義務(wù)或管理責(zé)任，也可能需要承擔(dān)相應(yīng)責(zé)任。依據(jù)《生成式人工智能服務(wù)管理暫行辦法》，服務(wù)提供者應(yīng)當(dāng)采取有效措施，防范生成虛假信息，并確保生成的視頻進(jìn)行顯著標(biāo)識，以防止混淆和誤認(rèn)。

北京中聞律師事務(wù)所合伙人趙虎對貝殼財經(jīng)記者表示，責(zé)任方應(yīng)該包括視頻制作者、平臺、提供工具的AI公司三方，“未經(jīng)授權(quán)使用名人肖像和聲音的人存在侵權(quán)行為，平臺依照‘避風(fēng)港原則’有刪除侵權(quán)視頻的責(zé)任。最難判斷的是AI公司，從技術(shù)視角來看，技術(shù)是中立的，但產(chǎn)品的設(shè)計本身是否有問題，是否有考慮保護(hù)他人權(quán)益，是否變成了他人犯罪的工具也值得考量。不得不說，AI技術(shù)發(fā)展很快，相應(yīng)的法律規(guī)定不一定完善?！?/p>

【審核】

平臺審核AI偽造視頻有多難？

當(dāng)前主流視頻平臺對此類“AI生成”視頻的審核力度如何？

2025年9月，新京報貝殼財經(jīng)記者曾將AI生成的虛擬人物視頻上傳至嗶哩嗶哩、微博、抖音、快手、小紅書5個平臺，結(jié)果發(fā)現(xiàn)除了抖音和快手外，其他視頻平臺均未能識別出視頻為AI生成。

2月27日，新京報貝殼財經(jīng)記者再次嘗試將上述記者使用AI工具生成的明星視頻上傳至抖音、快手兩個短視頻平臺，結(jié)果發(fā)現(xiàn)僅抖音在視頻左下角提示“作品含AI生成內(nèi)容”。

事實(shí)上，隨著AI技術(shù)的升級，平臺對AI視頻的檢測也變得越來越難。

某視頻平臺業(yè)務(wù)人士向貝殼財經(jīng)記者透露，該平臺已為社會知名人士建立了肖像保護(hù)庫，并且對仿冒營銷內(nèi)容進(jìn)行了有效攔截，但是從平臺治理的情況看，依然存在較大的難度，主要體現(xiàn)在部分用戶通過各種手段與平臺進(jìn)行對抗，如通過形象微調(diào)、面部遮擋、畫面分屏、跳幀出現(xiàn)等問題，使得平臺也在不斷迭代策略應(yīng)對處置這些變體，而且用戶利用AIGC可以很快地更換“形象”進(jìn)行創(chuàng)作，進(jìn)一步加大了治理難度。此外，人耳聽起來相似的聲紋，在算法角度對應(yīng)的特征差異很大，因此更難泛化識別變體；同時因?yàn)槿硕鸁o法準(zhǔn)確辨別AI聲紋，實(shí)錘假聲紋的成本高。

也有熟悉視頻審核業(yè)務(wù)的人士告訴貝殼財經(jīng)記者，對于仿冒名人營銷，一些社會知名人士本身在平臺上存在營銷行為，如自媒體、代理商在平臺上傳播帶貨直播切片、代言視頻等，因此僅憑視頻難以區(qū)分虛假營銷與真實(shí)帶貨，處置難度也很高。

多位AI行業(yè)專家均對貝殼財經(jīng)記者表達(dá)過一種觀點(diǎn)：AI生成技術(shù)與AI檢測技術(shù)正呈“螺旋上升”態(tài)勢，即“道高一尺，魔高一丈”。

中國傳媒大學(xué)數(shù)據(jù)科學(xué)與智能媒體學(xué)院副教授張三義告訴貝殼財經(jīng)記者，從技術(shù)的角度，雖然生成技術(shù)在迭代更新，但通常是可以發(fā)現(xiàn)一些生成或者偽裝痕跡。一般會從這里來深挖視頻背后的線索，來幫助判別。未來這種視頻偽造比較困難的點(diǎn)在于不開源，“如果解鎖不了視頻生成的技術(shù)路線。從檢測的角度就很難了。如果能夠大概知道視頻生成的技術(shù)路線，就可以作為突破口去做檢測?！?/p>

在張三義看來，雖然目前AI生成視頻大模型的技術(shù)路線基本都是用擴(kuò)散模型生成，但每家企業(yè)會在此基礎(chǔ)上再研發(fā)自己的核心技術(shù)，這就會存在許多不公開的細(xì)節(jié)。

在這樣的情況下，如果有人使用了最新版本AI模型生成的視頻，確實(shí)存在盲區(qū)。“平臺的檢測模型也需要一定的時間來更新應(yīng)對這些新版本生成模型。這的確是個隱患?！睆埲x告訴記者。

據(jù)貝殼財經(jīng)記者不完全統(tǒng)計，騰訊方面從2024年就開始打擊利用AI仿冒知名人士進(jìn)行營銷宣傳的行為。1月18日，微信方面表示，“平臺從速從嚴(yán)打擊利用AI仿冒知名人士進(jìn)行違規(guī)拼接、不當(dāng)營銷、惡意博取流量等行為。最近一個月，累計處置內(nèi)容12091條，關(guān)閉賬號3281個?！?/p>

根據(jù)2月25日，抖音電商發(fā)布的2025年度報告，過去一年里，平臺治理“侵權(quán)仿冒名人”等熱點(diǎn)問題，“嚴(yán)厲打擊未經(jīng)授權(quán)利用AI、特效仿冒名人進(jìn)行虛假宣傳或侵權(quán)行為。截至目前，共處置違規(guī)侵權(quán)仿冒達(dá)人賬號1.1萬個，主動攔截侵權(quán)視頻過萬條?！?/p>

【騙局】

王勁松等明星“被代言”，幕后黑手涉非法集資

新京報貝殼財經(jīng)記者調(diào)查發(fā)現(xiàn)，在王勁松展示的“被AI”的視頻里，發(fā)視頻的用戶名為“CRC數(shù)字資產(chǎn)配置導(dǎo)師”，視頻宣傳的內(nèi)容包括“CRC”“RWA生態(tài)”。

值得注意的是，雖然目前該視頻號已經(jīng)被封禁，一個發(fā)布過CRC明星代言視頻的微信公眾號“RWA數(shù)字生態(tài)”也顯示“該賬號涉嫌欺詐，已被停止使用”。不過同樣打著“CRC”“RWA生態(tài)”旗號的視頻和賬號還有很多，且分散在視頻號、抖音等平臺上，涉及的明星還有李連杰、于和偉、唐國強(qiáng)、張國立、李亞鵬等，視頻中明星的口型與文案幾乎都能做到真假難辨。

社交平臺上關(guān)于CRC的帖子。

針對這些視頻的真?zhèn)?，新京報貝殼財?jīng)記者已向上述明星或工作室的微博留言求證，截至發(fā)稿，尚未得到回應(yīng)。

而對于這些視頻中涉及的“CRC”“RWA生態(tài)”概念，記者發(fā)現(xiàn)這場“資金盤”騙局已經(jīng)持續(xù)數(shù)年，幕后推手疑似通過炒作上述概念，進(jìn)行非法集資。

對于“CRC”，華潤集團(tuán)早在2023年6月就發(fā)布了公告，稱發(fā)現(xiàn)有商號以“頂峰數(shù)字金融集團(tuán)”“海外華潤C(jī)RC”“CHINA RESOURCES CAPITAL LIMITED”的名義在英國注冊并開展經(jīng)營活動。華潤集團(tuán)表示“該等商號及其關(guān)聯(lián)公司或人士與本集團(tuán)不存在任何隸屬或股權(quán)關(guān)系，也不存在任何投資、合作、業(yè)務(wù)等合作關(guān)系。”并提醒社會公眾避免上當(dāng)受騙。

2025年10月17日，大連市委金融委員會辦公室發(fā)布公告稱，近期有不法分子利用RWA（現(xiàn)實(shí)世界資產(chǎn)通證化）概念炒作投資項(xiàng)目，以“金融創(chuàng)新、高收益”為噱頭誘導(dǎo)公眾投資。此類活動暗藏“資金盤”陷阱，涉嫌非法集資，嚴(yán)重擾亂金融秩序。

2026年2月12日，江西證監(jiān)局也發(fā)布風(fēng)險提示，指出不法分子借RWA、穩(wěn)定幣、區(qū)塊鏈等名義，通過夸大宣傳誘導(dǎo)公眾投資。這類騙局滋生非法集資等犯罪活動，嚴(yán)重危害財產(chǎn)安全，套路與大連公告提及的情況如出一轍。

對此，趙占領(lǐng)表示，在該起事件中，AI內(nèi)容的生成者，即視頻制作者是責(zé)任的起點(diǎn)。制作者未經(jīng)王勁松本人許可，擅自使用其肖像和表演片段，通過AI技術(shù)合成虛假廣告，首先侵犯了王勁松的肖像權(quán)。根據(jù)《中華人民共和國民法典》，除法律另有規(guī)定外，未經(jīng)肖像權(quán)人同意，不得制作、使用、公開其肖像。同時，該視頻將王勁松與“存疑資金盤”綁定，可能導(dǎo)致公眾對其產(chǎn)生負(fù)面評價，還涉嫌侵犯其名譽(yù)權(quán)。

“廣告所推廣的‘CRC數(shù)字資產(chǎn)’項(xiàng)目方是整個事件的最終受益者和幕后推手。如果該資產(chǎn)盤確實(shí)涉嫌詐騙或非法集資，其利用王勁松的名人效應(yīng)制作AI視頻進(jìn)行虛假宣傳，不僅構(gòu)成了民事欺詐，更可能觸犯刑法，涉嫌構(gòu)成詐騙罪或非法吸收公眾存款罪?！壁w占領(lǐng)對貝殼財經(jīng)記者表示。

新京報貝殼財經(jīng)記者 羅亦丹 張曉慧 編輯 陳莉 校對 穆祥桐