▲12月22日晚，眾多網(wǎng)友反映快手直播間出現(xiàn)大量色情內(nèi)容，包括播放淫穢影片、主播擦邊低俗表演等。圖/九派新聞
12月22日晚，快手平臺出現(xiàn)大量違規(guī)直播內(nèi)容，平臺隨后回應(yīng)稱系遭遇黑灰產(chǎn)攻擊，并已報(bào)警處理。
表面看，這是一次突發(fā)的內(nèi)容安全事故，但若將其放入更大的技術(shù)與產(chǎn)業(yè)背景中，則警示著，伴隨技術(shù)的迅速迭代，AI可能被用來“作惡”的一面開始顯露，互聯(lián)網(wǎng)平臺的安全對抗邏輯也正在面臨重大轉(zhuǎn)變。
據(jù)媒體報(bào)道，此次黑灰產(chǎn)突襲發(fā)生在晚間22點(diǎn)左右，在快手平臺上，大量直播間在短時間內(nèi)被惡意注入色情、低俗等內(nèi)容。峰值時段約有1.7萬個被控“僵尸賬號”同步開播，形成刷屏效應(yīng)。涉事直播間觀看人數(shù)最高接近10萬，評論區(qū)充斥著不堪入目的留言。
更嚴(yán)峻的是，此階段部分用戶舉報(bào)功能短暫失效，顯示黑灰產(chǎn)在投放違規(guī)內(nèi)容的同時，還對平臺處置通道實(shí)施了干擾。直到一小時后，平臺才基本清除違規(guī)內(nèi)容，將涉案賬號全部凍結(jié)。此事導(dǎo)致快手股價在次日產(chǎn)生劇烈波動。
警惕“系統(tǒng)性風(fēng)險”
回顧互聯(lián)網(wǎng)發(fā)展史，如此規(guī)模的惡意網(wǎng)絡(luò)攻擊事件實(shí)屬罕見，背后操縱者如此大張旗鼓，似乎并非只是為了盜取利益，而更像一次兇相畢露的“示威行動”。這是國內(nèi)首次在頭部平臺上出現(xiàn)的由AI驅(qū)動、自動化、短時間爆發(fā)式的違規(guī)內(nèi)容攻擊事件。
在這次攻擊中，黑灰產(chǎn)不是依賴零散賬號、人工操作，而是通過自動化工具批量注冊、控制賬號，在極短時間內(nèi)完成內(nèi)容生成、發(fā)布與擴(kuò)散。它突破了平臺的常規(guī)安防與監(jiān)管措施，造成了巨大的負(fù)面影響。
所謂道高一尺魔高一丈，自從有互聯(lián)網(wǎng)以來，網(wǎng)絡(luò)攻擊便隨之而生，而且攻擊手段的提升也與網(wǎng)絡(luò)技術(shù)的進(jìn)步高度同頻。
此次攻擊“自動化”特征非常明顯：攻擊者借助自動化工具批量注冊、操控僵尸號在同一時段集體開播，實(shí)現(xiàn)違規(guī)內(nèi)容的秒級發(fā)布與擴(kuò)散，這種規(guī)?；敉耆鋈斯徍说膽?yīng)對極限，造成短時間內(nèi)的安全破防。某網(wǎng)絡(luò)安防企業(yè)對此評論稱，這是網(wǎng)絡(luò)黑灰產(chǎn)利用AI技術(shù)發(fā)動的有組織、有預(yù)謀的攻擊，標(biāo)志著網(wǎng)絡(luò)攻擊已經(jīng)進(jìn)入全新的工業(yè)化階段。
目前尚無法得知攻擊者使用了什么樣的AI技術(shù)，但AI技術(shù)的使用本身，使這次事件的警示意義已經(jīng)超出了網(wǎng)絡(luò)安全層面。AI的崛起一直伴有擔(dān)憂與爭議，但大多數(shù)是情緒層面和宏觀層面，比如擔(dān)心AI未來會統(tǒng)治人類，AI取代人類工作等。
而在此次快手事件中，公眾并不太會因此突然擔(dān)心“AI有了自我意識”，卻會面對一種更現(xiàn)實(shí)，也更危險的新現(xiàn)象：AI正在幫助把作惡行為變成低門檻、可復(fù)制、可規(guī)?；氖虑?。
在此之前，人們接觸的利用AI“作惡”主要是帶來個體風(fēng)險和倫理風(fēng)險，比如換臉、盜竊、假視頻、假直播、算法歧視、隱私侵犯、知識產(chǎn)權(quán)等，這些問題雖然也很嚴(yán)峻，但總歸是在短期可控之內(nèi)。
但在快手事件中，當(dāng)違規(guī)內(nèi)容在AI技術(shù)的操弄下像洪水一樣涌來，公眾感受到的不再是個別技術(shù)問題，而是一種秩序被撕裂的失控感，目睹上萬個賬號違規(guī)內(nèi)容的刷屏，就像圍觀一種網(wǎng)絡(luò)奇觀。
如果技術(shù)先進(jìn)的互聯(lián)網(wǎng)平臺企業(yè)都被攻破，那么未來，當(dāng)互聯(lián)網(wǎng)和AI成為社會基礎(chǔ)設(shè)施，更強(qiáng)大的攻擊是否會引發(fā)相應(yīng)的系統(tǒng)性風(fēng)險？我們是否已經(jīng)有所準(zhǔn)備？
秉持“AI對AI”治理邏輯
此次事件警示，必須立即開始直面AI技術(shù)正在成為新的放大器型風(fēng)險源的可能。當(dāng)它被濫用時，誰真正能按下剎車？
在以往公眾的認(rèn)知中，潛意識里對平臺企業(yè)有一種兜底性的信任存在，總以為平臺能夠通過技術(shù)手段以及人力監(jiān)管把潛在危害及時掐滅，但此次快手事件中平臺的“破防”揭示了另外一種可能。進(jìn)而引發(fā)一種擔(dān)心，如果平臺都扛不住，那普通社會系統(tǒng)呢？
無疑，此次事件的發(fā)生，各大平臺都被劇烈震撼，其在安全運(yùn)營領(lǐng)域?qū)⑵毡槊媾R從單一防御向系統(tǒng)性治理轉(zhuǎn)變的新課題與新挑戰(zhàn)。但面對挑戰(zhàn)的，絕不僅僅是平臺企業(yè)，而是全社會。
AI作為技術(shù)大潮勢不可擋，這類事件的出現(xiàn)也勢所難免，而它一旦真的出現(xiàn)，不會導(dǎo)致社會否定AI，只會強(qiáng)化監(jiān)管共識的加強(qiáng)。以前很多監(jiān)管討論偏抽象，比如“AI向善”“算法透明”，今后則會逐漸走向?qū)崙?zhàn)，這實(shí)際上對監(jiān)管層提出了更高的要求。
平臺所肩負(fù)的責(zé)任也將升級，在大力宣揚(yáng)AI的同時，平臺也需證明自己能否駕馭AI，有沒有自動化防御能力，是否有極端場景演練，是否設(shè)定熔斷、降級、止損機(jī)制？同時，這次事件或?qū)?dǎo)致公眾對全人工審核的浪漫想象徹底破產(chǎn)，“AI對AI”的治理邏輯將被接受。
快手事件雖然嚴(yán)重，但還沒到天塌下來的地步，它更像一個觸發(fā)器，引出一個未來已來的現(xiàn)實(shí)風(fēng)險：如果作惡方未來進(jìn)化到工業(yè)化、自動化、AI化，治理方是否做好了足夠的準(zhǔn)備呢？
撰稿 / 信海光（專欄作家）
編輯 / 遲道華
校對 / 李立軍
