▲隨著AI技術(shù)的快速發(fā)展，謠言制造的門檻被顯著降低了。圖/IC photo
“快跑，周杰倫演唱會(huì)海滄隧道著火了！”“廈門海滄隧道嚴(yán)重事故，周杰倫演唱會(huì)！”不僅有配文，還有人群四散而逃的視頻，看到這條蹭明星演唱會(huì)熱度編造險(xiǎn)情的網(wǎng)絡(luò)謠言，你會(huì)信以為真嗎？
近日，據(jù)公安部網(wǎng)安局消息，網(wǎng)民張某為博取關(guān)注，在社交平臺(tái)發(fā)布不實(shí)帖文，目前，公安機(jī)關(guān)依法對(duì)張某處以行政拘留。
在當(dāng)下信息爆炸的時(shí)代，社交平臺(tái)已成為公眾獲取信息的重要渠道。然而，虛假信息的傳播也成為一大難題。如張某般為博眼球、蹭流量，不惜故意發(fā)布虛假消息、造謠生事的人不時(shí)出現(xiàn)。
而且，隨著AI技術(shù)的快速發(fā)展，謠言制造的門檻被顯著降低了，AI換臉等技術(shù)手段讓謠言更具迷惑性，更能“以假亂真”。當(dāng)技術(shù)能輕易制造“有圖有真相”的謊言，信息的真實(shí)性由此變得撲朔迷離。網(wǎng)絡(luò)謠言治理，正成為全行業(yè)、全社會(huì)需要應(yīng)對(duì)的挑戰(zhàn)。
需看到，謠言已從之前的口口相傳，到如今利用社交平臺(tái)的轉(zhuǎn)發(fā)、點(diǎn)贊、評(píng)論，短時(shí)間內(nèi)實(shí)現(xiàn)裂變傳播，覆蓋了大量用戶。而且，一些情緒化、獵奇性內(nèi)容，很可能加劇謠言的擴(kuò)散。
由此可以發(fā)現(xiàn)，網(wǎng)絡(luò)謠言的產(chǎn)生其實(shí)并非只是謠言由線下搬到了線上，其屢禁不止的背后，是謠言本身充分利用了信息傳播媒介的升級(jí)，愈發(fā)泛濫。
對(duì)此，處在治理最前線的平臺(tái)方要拿出“方法論”，尤其需要秉持技術(shù)主義，充分發(fā)揮技術(shù)優(yōu)勢(shì)，加強(qiáng)對(duì)不實(shí)信息治理。
近期，抖音平臺(tái)便嘗試“以AI治理AI”，通過(guò)引入大模型技術(shù)，提升對(duì)謠言的識(shí)別、研判與處置能力。
一方面，平臺(tái)利用大模型的語(yǔ)義理解與模式識(shí)別能力，對(duì)海量信息進(jìn)行實(shí)時(shí)分析與風(fēng)險(xiǎn)評(píng)估，大幅提升了謠言識(shí)別的準(zhǔn)確率和響應(yīng)速度。這種“AI+內(nèi)容治理”的新模式，不僅提高了平臺(tái)的自我凈化能力，也為構(gòu)建可信的網(wǎng)絡(luò)信息生態(tài)提供了技術(shù)支撐。
更重要的是，有了大模型技術(shù)的加持，平臺(tái)對(duì)謠言的治理，就能“化被動(dòng)為主動(dòng)”。這不僅改變了依靠外部反饋發(fā)現(xiàn)謠言的治理路徑，也將單例謠言的發(fā)現(xiàn)和處置時(shí)效從以“天”為單位縮短至以“小時(shí)”為單位，讓“發(fā)現(xiàn)即管控”更為精準(zhǔn)、高效。
其實(shí)，對(duì)謠言的治理本身也是社會(huì)治理的一部分，因此，讓社會(huì)治理中“人人參與”“共建共治共享”的原則，轉(zhuǎn)化為平臺(tái)防范、治理謠言的具體辦法，不失為平臺(tái)“用AI治理AI”邏輯下的一種技術(shù)努力方向。
在這方面，抖音推出的“AI抖音求真”功能，為用戶提供了“遇事不明、一鍵查證”的便捷工具。用戶在瀏覽一些易產(chǎn)生誤解的內(nèi)容和搜索謠言相關(guān)信息時(shí)，均可通過(guò)“求真卡”獲知事件完整信息及辟謠內(nèi)容。
這種主動(dòng)干預(yù)與信息引導(dǎo)機(jī)制，為用戶打造了一道“認(rèn)知防線”，有助于提升公眾的謠言識(shí)別能力，有效降低了謠言傳播的風(fēng)險(xiǎn)，也有利于形成“人人參與、共治共享”的良性互動(dòng)。
我們樂(lè)見(jiàn)平臺(tái)不斷提升技術(shù)能力，主動(dòng)承擔(dān)內(nèi)容治理責(zé)任，用AI手段應(yīng)對(duì)AI帶來(lái)的挑戰(zhàn)。但也要清醒認(rèn)識(shí)到，謠言治理是一項(xiàng)系統(tǒng)工程，僅靠平臺(tái)一己之力恐難以根治。
“造謠一張嘴，辟謠跑斷腿”，造謠成本低，而謠言的查證過(guò)程往往需要大量人力、時(shí)間與專業(yè)資源投入。
而且，就傳播速度而言，辟謠信息常常滯后于謠言本身，難以實(shí)現(xiàn)“同步澄清”。再者，謠言往往迎合公眾獵奇心理，利用“先入為主”的傳播規(guī)律占據(jù)認(rèn)知高地，即便事后辟謠，恐怕也難以完全消除其負(fù)面影響。
因此，治理網(wǎng)絡(luò)謠言，就不能全依靠單一平臺(tái)發(fā)力，還需構(gòu)建更多元共治的治理體系。
比如，媒體發(fā)揮權(quán)威信息源作用，專業(yè)機(jī)構(gòu)加強(qiáng)科普與事實(shí)核查，每一位受眾都能有意識(shí)地提升媒介素養(yǎng)，增強(qiáng)對(duì)謠言的辨別能力，做到不信謠、不傳謠。
如此，就可以形成平臺(tái)、機(jī)構(gòu)、公眾協(xié)同發(fā)力的治理合力，從而真正構(gòu)筑起抵御謠言的“防火墻”，讓我們的網(wǎng)絡(luò)空間更安全、更健康。
撰稿 / 流水（媒體人）
編輯 / 馬小龍
校對(duì) / 楊利
