AI時(shí)代，技術(shù)給人帶來(lái)了便利，但黑灰產(chǎn)也可能會(huì)是這一“便利”的受益者。對(duì)于最近引發(fā)火熱討論的AI手機(jī)，有專家指出其觸發(fā)一些App風(fēng)控機(jī)制的原因之一是,“AI讓App難以判斷操作手機(jī)的是不是用戶本人”。而這，僅僅是AI Agent（智能體）爆發(fā)后帶來(lái)的問題之一。
12月11日，在黑灰產(chǎn)風(fēng)控領(lǐng)域積累了十年經(jīng)驗(yàn)的數(shù)美科技提出了“AI風(fēng)控新范式”。新京報(bào)貝殼財(cái)經(jīng)記者采訪了數(shù)美科技首席技術(shù)官梁堃，在他看來(lái)，正常人的AI手機(jī)助手和黑灰產(chǎn)的機(jī)器操作仍然有本質(zhì)區(qū)別，有辦法對(duì)其進(jìn)行判定。
數(shù)美科技首席技術(shù)官梁堃接受新京報(bào)貝殼財(cái)經(jīng)記者采訪。受訪者供圖
如何識(shí)別用戶“是好是壞”？看行為
對(duì)于近期AI手機(jī)的安全性話題，梁堃告訴新京報(bào)貝殼財(cái)經(jīng)記者，這是一個(gè)巨大的挑戰(zhàn)。未來(lái)互聯(lián)網(wǎng)上的操作行為將從“人占絕大多數(shù)”轉(zhuǎn)變?yōu)椤爸悄荏w占絕大多數(shù)”。但即便都是機(jī)器操作，正常人的AI助手和黑產(chǎn)的機(jī)器操作仍然有本質(zhì)區(qū)別。
“我們可以依據(jù)‘反欺詐三定律’來(lái)進(jìn)行區(qū)分：首先是多樣性定律，正常人即使使用AI助手，其設(shè)備環(huán)境也往往是多樣的，比如手機(jī)型號(hào)有華為、蘋果、小米等，系統(tǒng)版本各異，電池電量也分布在30%、70%、100%等不同狀態(tài)。而黑產(chǎn)為了控制成本，往往批量購(gòu)買設(shè)備，你會(huì)發(fā)現(xiàn)一個(gè)團(tuán)伙的手機(jī)型號(hào)可能全是同一款，或者電量狀態(tài)驚人一致，行為模式（序列）也高度相似?！?/p>
“還有一致性定律，正常人不會(huì)刻意頻繁改變IP、手機(jī)號(hào)等基礎(chǔ)信息。黑產(chǎn)需要注冊(cè)大量賬號(hào)，必須不斷購(gòu)買新的IP、手機(jī)號(hào)等資源。這會(huì)導(dǎo)致他們的信息一致性出現(xiàn)斷層或異常?！?/p>
“最后則是關(guān)聯(lián)性定律，正常用戶的社交關(guān)聯(lián)通常也是正常用戶，而黑產(chǎn)往往是孤立點(diǎn)，或者其關(guān)聯(lián)的‘朋友’也是黑產(chǎn)賬號(hào)。這樣，通過(guò)分析團(tuán)伙的行為序列、設(shè)備多樣性、信息一致性以及關(guān)聯(lián)關(guān)系，我們?nèi)匀荒苡行ёR(shí)別出哪些是黑產(chǎn)，AI助手只是改變了操作方式，但改變不了設(shè)備物理特征和網(wǎng)絡(luò)環(huán)境的聚集性?！绷簣艺f(shuō)。
AI讓黑灰產(chǎn)養(yǎng)號(hào)更方便了，如何應(yīng)對(duì)？
2025年是智能體火爆的一年，其大大提高了AI大模型的落地應(yīng)用。黑灰產(chǎn)是否也會(huì)使用這一工具來(lái)“提高效率”，令風(fēng)控也更難？
“感受非常明顯！”梁堃說(shuō)，現(xiàn)在黑灰產(chǎn)正全面利用大模型技術(shù)來(lái)提高獲利效率，特別體現(xiàn)在養(yǎng)號(hào)薅羊毛、模仿用戶行為和突破傳統(tǒng)驗(yàn)證手法上。
“過(guò)去，黑產(chǎn)在薅羊毛時(shí)，新注冊(cè)的賬號(hào)往往受限，獲利較少，需要‘養(yǎng)號(hào)’。以前養(yǎng)號(hào)很麻煩，回復(fù)帖子需要人工準(zhǔn)備文案，如果文案重復(fù)很容易被系統(tǒng)識(shí)別。而現(xiàn)在利用大模型，黑產(chǎn)可以自動(dòng)生成非常貼合主題的回復(fù)。比如在一個(gè)特定主題下，AI能生成看似非常真實(shí)的評(píng)論。這使得賬號(hào)被‘養(yǎng)’得像真人一樣，極大降低了養(yǎng)號(hào)成本，提高了后續(xù)獲利的效率?！?/p>
“在行為模式上，過(guò)去黑產(chǎn)使用自動(dòng)化腳本控制工具（如按鍵精靈），這種方式容易露馬腳，例如點(diǎn)擊速度過(guò)快（非人類速度）。如果為了擬人化在代碼中加sleep（暫停），固定的暫停時(shí)間會(huì)形成‘等間距’特征，容易被識(shí)別；如果做隨機(jī)間隔，代碼編寫和維護(hù)成本較高。而現(xiàn)在，黑產(chǎn)開始使用智能體調(diào)用 API和自動(dòng)化工具。智能體能理解指令并調(diào)用函數(shù)，幾乎零成本地執(zhí)行復(fù)雜操作，且其生成的點(diǎn)擊、瀏覽等行為序列非常像真人，不再有明顯的腳本特征。此外，目前多模態(tài)大模型還能輕易識(shí)別圖片內(nèi)容。比如驗(yàn)證碼要求‘點(diǎn)擊圖中的汽車’，多模態(tài)模型能輕松識(shí)別并點(diǎn)擊，導(dǎo)致傳統(tǒng)行為驗(yàn)證碼失效。黑產(chǎn)利用這些高效工具，使得攻擊更隱蔽、對(duì)抗性更強(qiáng)?！绷簣腋嬖V新京報(bào)貝殼財(cái)經(jīng)記者。
對(duì)于這一新變化，梁堃表示，靠純?nèi)斯と?duì)抗已經(jīng)非常難了，“我們目前的應(yīng)對(duì)體系簡(jiǎn)單來(lái)講，是先由我們的黑產(chǎn)研究院研究清楚作惡路徑，策略團(tuán)隊(duì)在‘攻防路徑圖’上標(biāo)記需要在哪里識(shí)別、防御和處置黑產(chǎn)。然后在原有數(shù)美積累的特征基礎(chǔ)上，利用大模型來(lái)自動(dòng)生成風(fēng)險(xiǎn)特征。大模型能發(fā)現(xiàn)哪些特征對(duì)刻畫風(fēng)險(xiǎn)非常有用，生成的特征會(huì)輸入到賬號(hào)風(fēng)險(xiǎn)模型、行為模型等評(píng)分模型中?！?/p>
梁堃認(rèn)為，未來(lái)5-10年，人類每天接觸的信息將有超過(guò)50%來(lái)自AI，在此背景下，內(nèi)容風(fēng)控的進(jìn)化將從“識(shí)別對(duì)象”變?yōu)椤袄斫庖鈭D”。面對(duì)新挑戰(zhàn)，引入基于大模型的審核智能體是辦法之一。
新京報(bào)貝殼財(cái)經(jīng)記者 羅亦丹
編輯 岳彩周
校對(duì) 盧茜
