▲和過去造謠不同，如今利用AI批量制造虛假信息，危害更甚。圖/IC photo
“自媒體”發(fā)布不實信息，歪曲事實、誤導公眾等亂象，將被集中整治。
據(jù)報道，中央網(wǎng)信辦決定自7月24日起，在全國范圍內啟動為期2個月的“清朗·整治’自媒體’發(fā)布不實信息”專項行動，集中整治“自媒體”發(fā)布不實信息亂象，從嚴打擊惡意蹭炒誤導公眾、多種手段歪曲事實等突出問題，進一步規(guī)范“自媒體”運營行為，持續(xù)營造清朗網(wǎng)絡空間。
其中，一項重要內容是整治利用人工智能（AI）生成合成技術，仿冒他人，或編造社會民生等領域虛假信息，欺騙公眾。
近年來，AI技術的蓬勃發(fā)展深刻改變了信息傳播方式，但也催生了利用其炮制虛假信息的新問題。不夸張地說，有效整治AI虛假信息已到了刻不容緩的地步。當前，從合成以假亂真的明星緋聞視頻，到捏造聳人聽聞的社會突發(fā)事件謠言，再到傳播專業(yè)領域的偽科學內容，AI虛假信息的身影已然無處不在。
如日前就有媒體報道，7月20日，一條關于“湖北宜昌游船側翻多人落水”的新聞引發(fā)關注，后經(jīng)核實，正是利用AI技術炮制的假新聞，甚至配以AI處理的虛假圖片以增強迷惑性。
相對于過去傳播生態(tài)下的虛假信息，AI虛假信息的危害性更值得警惕。AI生成內容逼真度極高，普通民眾僅憑肉眼和常識往往難辨真?zhèn)危`導性更強；尤其在公共安全、民生保障等關鍵領域，極易引發(fā)社會恐慌，沖擊正常生產(chǎn)生活秩序。
加之，AI炮制虛假信息成本低、效率高，海量虛假信息的快速傳播不僅嚴重侵蝕網(wǎng)絡誠信基礎，而且擠壓優(yōu)質內容生存空間，導致“劣幣驅逐良幣”，阻礙互聯(lián)網(wǎng)行業(yè)健康發(fā)展。
而治理AI虛假信息，又面臨著諸多現(xiàn)實挑戰(zhàn)。隨著技術進步，AI虛假信息在形式和內容上也不斷迭代升級，與真實信息的界限愈發(fā)模糊。這使得傳統(tǒng)的信息甄別手段往往力不從心。此外，溯源追責也更具難度，無法給予及時、有效的懲處。
因此，面對AI虛假信息的嚴峻挑戰(zhàn)，必須注重源頭治理，并多管齊下、協(xié)同共治。此次專項整治行動明確，健全標注機制，切實優(yōu)化信息來源標注、人工智能生成合成內容標識等功能設置，在信息發(fā)布流程的顯著位置提供標注選項，為用戶開展相應標注標識提供便利。這算是源頭之治的基礎性一環(huán)。
應該看到，“自媒體”作為當前一個重要的信息發(fā)布主體，在杜絕AI虛假信息上，理應守土有責。而明確AI生成合成內容必須標注，不僅是對發(fā)布程序的一種規(guī)范，也利于提高用戶的警惕性。
但要注意的是，相關標注要求其實之前就有之，當前最重要的是要敦促平臺強化執(zhí)行力度。此次整治行動還專門要求，應標未標的信息，不得進入算法推薦內容池。這一點若能得到嚴格執(zhí)行，必將釋放更強的約束力。
此外，AI炮制虛假信息的“能力”更強了，也要求平臺應加強相應的技術研發(fā)，切實提升識別和攔截AI虛假信息的“技防”能力，從源頭壓縮其傳播空間，并打消發(fā)布者的僥幸心理。同時，相關部門也有必要更加重視對公眾關于識別AI生成信息的常識教育，提升社會的防范意識和能力。
根除AI虛假信息，貴在持之以恒。除了規(guī)范“自媒體”運營，長遠來看，讓AI虛假信息失去興風作浪的空間，必須久久為功，充分凝聚監(jiān)管部門、平臺、行業(yè)協(xié)會等各方合力。以此次專項行動為契機，加快推動AI虛假信息治理從“雷霆打擊”到常態(tài)化防范、制度防御的進階，值得期待。
編輯 / 徐秋穎
校對 / 吳興發(fā)
