將AI技術(shù)用于流量變現(xiàn)，一天就能生成4000多篇文章，以致“造謠”后連發(fā)布者本人都不知道……江西南昌警方查處的一個網(wǎng)絡(luò)謠言案，再次引發(fā)社會對AI造謠亂象的關(guān)注。

此前，一則關(guān)于某地爆炸的消息在網(wǎng)絡(luò)平臺傳播，內(nèi)容不僅包括確切的時間和地點，文字下方還配有爆炸圖片。公安部門迅速開展調(diào)查后卻發(fā)現(xiàn)，這條消息從文本到圖片，全部都是通過AI生成的網(wǎng)絡(luò)謠言。

南昌市公安局高新分局民警介紹，違法人員王某某只需設(shè)置關(guān)鍵詞，AI軟件就會根據(jù)當下熱點，自動抓取相關(guān)信息，生成幾百到上千字的文本，最高峰時一天能生成4000多篇文章。由于每天發(fā)布的文章數(shù)量巨大，當警方找上門時，王某某甚至都不知道具體是哪篇文章涉嫌造謠。

AI讓信息生成和傳播速度成倍增加，而且門檻較低，一些人將其用于偽造新聞、編制謠言，以此博取流量、斂財牟利。辦案民警介紹，在王某某案件當中，一些民生類的文章加入夸張故事情節(jié)和獵奇性成分，就可能成為“爆款”，繼而獲得不菲的平臺分成。經(jīng)本人供述，他同時運營著800余個自媒體賬號，最高峰一天的收入達到1萬元。

近年來，利用AI造謠的案件在全國多地頻發(fā)，誤導(dǎo)公眾，擾亂社會秩序。例如，有的編造“某地一銀行遭劫匪襲擊”，有的炮制“大媽擺攤賣水果被罰16萬”虛假文章。一些AI謠言不僅“圖文并茂”，還配上合成的音視頻，采用新聞或者官方通報的口吻，加入“據(jù)報道”“相關(guān)部門”等字眼，讓網(wǎng)民難辨真?zhèn)巍?/p>

為規(guī)范AI在各行業(yè)創(chuàng)新應(yīng)用，《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》等規(guī)章相繼出臺。對借助AI造謠非法牟利行為，要依法整治嚴厲打擊，提高違法犯罪成本，同時相關(guān)平臺也要優(yōu)化AI內(nèi)容的流量分發(fā)和收益分成機制，切斷虛假信息的傳播鏈和利益鏈，營造風清氣正的網(wǎng)絡(luò)空間。