“華山醫(yī)院前院長張明遠，因闌尾炎未得到及時救治，客死他鄉(xiāng)醫(yī)院走廊長椅?！?/p>
“悼念！當‘醫(yī)療泰斗’倒在異國急診室，我才讀懂中國醫(yī)生的‘生死時速’！”
……
今年3月初，一則關于“華山醫(yī)院前院長”因病客死他鄉(xiāng)的消息在互聯(lián)網(wǎng)廣泛傳播，也引起了眾多網(wǎng)友的關注。然而經(jīng)警方核查卻發(fā)現(xiàn)，華山醫(yī)院壓根就沒有名為“張明遠”的前院長，也沒有同名員工。
那么，這則流傳甚廣的假消息，是從何而來的呢？經(jīng)上海公安網(wǎng)安部門迅速調查，最終成功偵破這起利用AI造謠案，將犯罪嫌疑人王某某、郭某某、石某某抓獲歸案。而令人吃驚的是，犯罪嫌疑人在發(fā)布該假消息前，甚至都不知道有華山醫(yī)院這家醫(yī)院，更不知道所謂的“張明遠”這個人。
控制500余個賬號發(fā)布不實帖文30余萬條
據(jù)犯罪嫌疑人王某某交代，他之前從事電商工作，由于沒有貨源，主要給別人做代理。近兩年，王某某想轉換“賽道”，自認為自媒體準入門檻較低，軟件和工具在網(wǎng)上就有，方法也有人教，只需要花時間運營，就能賺錢，成本很低。于是，王某某、郭某某、石某某等3人共同成立了工作室，開始通過自媒體賬號發(fā)文吸粉引流牟利。
公安機關查實，王某某、郭某某、石某某等3人，通過控制500余個自媒體賬號，設置社會熱點、明星緋聞、爆款推薦等關鍵詞策略，利用AI工具自動生成并發(fā)布不實帖文30余萬條，造成惡劣社會影響。
據(jù)了解，王某某等人運營的是短資訊類消息自媒體，內容一般限定在體育、娛樂、職場、養(yǎng)老等領域。三人有4個“大號”，還有 500多個“小號”。每天發(fā)布1萬條帖文，內容五花八門，基本都是AI憑空捏造，有的幾萬次閱讀量，最高的一條能有十幾萬次。幾乎每發(fā)條信息，就有上萬人次網(wǎng)民被虛假信息蒙騙。
被查處后，王某某感到非常后悔。他表示，獲取流量應該有底線，不應該胡編亂造或者夸大其詞，不應該編造發(fā)布虛假信息。并表示，“做這個事沒有掙到什么錢，但卻要被法律嚴懲”。
目前，因涉嫌非法利用信息網(wǎng)絡罪，犯罪嫌疑人王某某、郭某某、石某某等3人已被上海靜安警方依法采取刑事強制措施，相關違法賬號被依法封禁，案件正在進一步偵辦中。
從網(wǎng)上采集“閱讀top”內容后用AI批量改寫
“這是常見‘流量經(jīng)濟’劣化的表現(xiàn)形式?！鄙虾＞W(wǎng)安總隊三隊隊長符斌表示，正常賬號吸粉、漲粉，都需要時間精力的投入，犯罪嫌疑人王某某、郭某某、石某某等3人為“走捷徑”，通過AI工具編造大量不實、虛假信息，幻想快速“養(yǎng)號”漲粉，以便后續(xù)直播帶貨等牟利。
利用AI工具造謠，是對網(wǎng)絡環(huán)境的一種劣化。為用AI工具批量生產(chǎn)虛假信息，王某某等3人找到了一個網(wǎng)絡平臺上的App作為素材庫，按照不同領域、“閱讀量top”、發(fā)布時間等，批量采集爆款內容。隨后用AI工具批量改寫，進行發(fā)布。而“張明遠”的“故事”就是這樣生成的。
據(jù)了解，為引起粉絲關注，王某某等3人會采集“閱讀top”內容，因為這些內容本身就是爆款。在用AI批量改寫時，他們會給AI工具輸入一些提示詞，比如“以原文實際情況為基礎，中心思想不變”，比如“第一句話要吸引人”等，以此來吸引更多點擊量。此外，他們還會利用AI工具的聯(lián)網(wǎng)版，讓它聯(lián)網(wǎng)搜索相關信息后，再進行整合。王某某表示，之前因用AI工具編造發(fā)布某過世女明星孩子撫養(yǎng)權問題，而被平臺扣分處理過。但為了貪圖利益，抱有僥幸心理。
王某某等人采集的都是短資訊內容，每篇約200至300字，幾乎不審核就直接發(fā)布。在利用AI工具對“張明遠”的“故事”進行捏造時，給出了“提高閱讀量”的附加條件，妄圖加入“流量密碼”。王某某等人表示，不僅自己沒看過這條“張明遠”發(fā)文的具體內容，甚至都不知道上海有家華山醫(yī)院，更不知道“張明遠”是誰。
應對AI謠言新挑戰(zhàn)需構建智能識別機制
中國政法大學數(shù)據(jù)法治研究院教授、中國法學會網(wǎng)絡與信息法學研究會副會長王立梅表示，當前AI謠言呈現(xiàn)出識別難度高、傳播控制難、誤導效應強、信任風險大等特點。面對技術迭代速度快、傳統(tǒng)辟謠機制難以及時應對的挑戰(zhàn)，需要構建快速響應、多方協(xié)同、機制迭代、公眾參與的治理模型。同時完善法規(guī)與技術標準，細化虛假有害信息的判定標準，強化行刑銜接與跨地區(qū)協(xié)作，提高編造虛假信息行為的量刑幅度，探索涉AI謠言的公益訴訟制度。
北京師范大學法學院博士生導師、中國互聯(lián)網(wǎng)協(xié)會研究中心副主任吳沈括表示，AI謠言具有高度逼真性，算法模型難以精準識別，易出現(xiàn)誤判或漏判現(xiàn)象，給網(wǎng)絡謠言的系統(tǒng)化治理帶來嚴峻挑戰(zhàn)。他建議，平臺應加強技術防控能力建設，構建高效的內容識別與過濾機制，運用人工智能等先進技術手段對虛假信息進行主動監(jiān)測與攔截。此外，平臺還應嚴格落實內容審核責任，推動AI生成內容的顯著標識制度，確保用戶知情權。
“如今，AI謠言已經(jīng)能夠定制化生成、精準化傳播和智能化擴散，這給警方的打擊治理帶來了新的挑戰(zhàn)?！鄙虾９簿W(wǎng)安部門相關負責人表示，公安機關對網(wǎng)絡謠言的發(fā)現(xiàn)和查處手段也在升級優(yōu)化，以應對AI造謠的新挑戰(zhàn)。目前，公安機關與頭部平臺建立了暢通的工作聯(lián)動機制，不斷加強對AI造謠行為的智能識別機制研究，并進一步優(yōu)化涉及AI內容的流量分發(fā)和收益分成機制，壓縮別有用心者批量生產(chǎn)謠言的牟利空間。
“今年以來，上海公安機關全力開展打擊整治網(wǎng)絡謠言專項工作，截至目前，已破獲造謠引流網(wǎng)絡水軍案件15起，抓獲違法犯罪嫌疑人38名。累計偵破涉企網(wǎng)絡謠言等違法犯罪案件百余起，為1.5萬多家企業(yè)提供了網(wǎng)絡安全服務保障。下一步，公安機關將持續(xù)依法嚴厲打擊網(wǎng)絡謠言，加強網(wǎng)絡生態(tài)治理，全力營造清朗有序的網(wǎng)絡環(huán)境。”上海公安網(wǎng)安部門相關負責人介紹說。
編輯：馮方湲
責任編輯：金艷
編審：韓鈺
0