『西安突發爆炸』『重慶巫溪一民房發生爆炸事故』……這些聳人聽聞的消息,竟都是利用AI軟件炮制的謠言——據央視新聞報道,近日,一些不法分子為賺取平臺流量補貼,實現流量變現,利用AI合成技術編造謠言,嚴重擾亂社會秩序。多地警方對相關責任人進行了行政處罰,並封禁其網絡賬號。
與以往靠自身發揮想象力杜撰『小作文』不同,如今利用AI造謠的門檻和成本更低。只需要輸入關鍵詞,AI軟件就能自動在網絡上抓取素材生成文本,再配上貌似和事件具有相關性的虛假圖片,一條圖文並茂、『有圖有真相』的謠言就誕生了。
可怕的是,這一過程基本不需要人的參與,就可實現謠言的批量生產。比如,發布『西安爆炸』虛假新聞的賬號所屬機構,最高峰一天能生成4000至7000篇假新聞,每天收入在1萬元以上,而公司實際控制人王某某經營著5家這樣的機構,運營賬號達842個,這一數字觸目驚心,令人十分不安。
造謠難度降低了,其產生的負面影響陡然增大。AI造謠能生成極為逼真的圖片、音視頻,這就顛覆了『有圖有真相』的常規認知,蠱惑性極強。以新聞報道的口吻生成所謂的『突發新聞』,再配上聳人聽聞的標題,短時間內就能快速傳播,讓不明真相的民眾輕信,易引發社會恐慌,擾亂社會公共秩序,對社會信息生態造成極大的破壞,而相關部門的查證、闢謠則要浪費大量的社會資源。
造謠、發布、擴散,說到底,是有人看到這背後有利可圖。在警方查獲的數起造謠案件中,當事人將虛假消息發布在平臺,平臺會根據文章的點贊數和閱讀量支付相應的報酬。在這一規則的刺激下,不法分子利用AI技術『加持』,追求謠言更逼真、內容更獵奇、傳播更快更廣,博取更多眼球,從而牟取流量帶來的巨大經濟利益。
刺破不法流量經濟的美夢,需要法律利刃出鞘。一些人奉行流量至上,心中既無法律觀念,也無道德底線,甚至把衝撞法律紅線的行為當成流量密碼、炫耀資本。網絡並非法外之地,在互聯網造謠情節嚴重的,將被依法追究法律責任,這應該成為懸在每個網民頭上的警鍾。同時,懲處造謠的力度也要再有力一些,讓造謠成本再大一些。
謠言通過平臺發布傳播,平臺理應負起主體責任。作為具有技術優勢的一方,平臺要在內容甄別、阻斷謠言、防止擴散方面積極主動作為。現有的內容監管機制還有哪些漏洞、分成機制是否合理、處罰措施是否完善,這些都應該成為平臺查漏補缺的重點。對於造謠者,該警示警示,該截流截流,該封號封號,讓毒流量『利盡而斷』。
造謠手段在迭代,相關治理也要使出『加強版』新招兒。監管部門對網絡謠言的出擊一直在持續。面對AI技術生成的新型謠言,執法監管要利用技術賦能,讓識別謠言的精准度更高、阻擊速度更快、打擊力度更強,斬斷造謠背後的黑灰產業鏈,營造清朗網絡空間。
- 長城國家文化公園建設的『山西方案』2023/03/10
- 今天是20220222正月二十二星期二 具體怎麼回事?2022/02/22