近日，公安部公布10起打擊整治網(wǎng)絡(luò)謠言典型案例，其中兩例都與AI工具有關(guān)。AI謠言危害巨大，不僅易造成社會恐慌，甚至?xí)o政策推行、搶險救災(zāi)等造成阻礙。

比如，王某使用某文字類AI工具，捏造涉“山西大同地震”相關(guān)謠言信息之后，又利用某視頻生成類AI工具，生成與文本對應(yīng)的視頻，在某社交平臺發(fā)布；并配文稱“大同地震現(xiàn)場：一片廢墟與驚魂”，誤導(dǎo)大量網(wǎng)民關(guān)注和討論，擾亂社會公共秩序。

再如，周某為“蹭熱點”賺取流量收益，使用AI工具生成“四川滑坡事件中有一名男子笑的那么開心”帖文，并在網(wǎng)上發(fā)布。該信息系在互聯(lián)網(wǎng)上搜索不相關(guān)圖片、文章后編輯而成，造成不良社會影響。

與傳統(tǒng)謠言相比，AI謠言呈現(xiàn)智能化、定制化、融合化的新特點，其可以做到分平臺、分渠道、分時段的定制化生成和發(fā)布，實現(xiàn)短時間內(nèi)成倍率傳播。更要看到，AI謠言可以做到低成本“無中生有”，造謠者在手機上搜圖配圖，再加上人工智能生成的文字和視頻，將多種形態(tài)的虛擬內(nèi)容組合，一個“像模像樣”的謠言，就能在互聯(lián)網(wǎng)上迅速傳播。

AI謠言為何會出現(xiàn)？有些是人為惡意編造傳播，如別有用心之人為獲取利益而故意編造。這類謠言模式甚至已催生產(chǎn)業(yè)鏈，個別機構(gòu)通過AI分析社交平臺熱詞，就關(guān)注度高的話題生成謠言，再通過算法定向推送，從而批量生成虛假新聞騙取流量。此外，絕不能忽視“AI幻覺”現(xiàn)象。“AI幻覺”是指生成式人工智能系統(tǒng)在無明確依據(jù)的情況下輸出回答，語言表達看似合理，但內(nèi)容實則虛假甚至違背常識，這種謠言可以理解為“無意謠言”，同樣需要警惕。

由于AI謠言成本低、流量大，有的造謠者以為這是穩(wěn)賺不賠的買賣。實際上法律早已劃定了清晰的行為邊界。如果有主體利用AI進行造謠，視情節(jié)嚴(yán)重程度，需要承擔(dān)民事、行政或刑事責(zé)任。依據(jù)《中華人民共和國治安管理處罰法》第二十九條，故意散布謠言，謊報險情、疫情、災(zāi)情、警情或者以其他方法故意擾亂公共秩序的，處五日以上十日以下拘留，可以并處一千元以下罰款；情節(jié)較輕的，處五日以下拘留或者一千元以下罰款?！吨腥A人民共和國刑法》第二百九十一條規(guī)定，編造虛假的險情、疫情、災(zāi)情、警情，在信息網(wǎng)絡(luò)或者其他媒體上傳播，或者明知是上述虛假信息，故意在信息網(wǎng)絡(luò)或者其他媒體上傳播，嚴(yán)重擾亂社會秩序的，處三年以下有期徒刑、拘役或者管制;造成嚴(yán)重后果的，處三年以上七年以下有期徒刑。

一段時間以來，各級網(wǎng)信、公安等部門履行各自職責(zé)，攜手聯(lián)動懲治造謠傳謠行為，不斷強化警示效應(yīng)，共護清朗網(wǎng)絡(luò)空間，成效有目共睹。

還要認(rèn)識到，除了對“AI造謠”的事后懲罰，如何事前就將謠言扼殺在“搖籃”中，也是應(yīng)該關(guān)注的重中之重。對于AI生成軟件而言，開發(fā)者需致力于優(yōu)化模型，通過人類反饋的強化學(xué)習(xí)等技術(shù)，盡可能減少AI“一本正經(jīng)地胡說八道”，避免低質(zhì)量數(shù)據(jù)造成“AI幻覺”。同時應(yīng)在技術(shù)中內(nèi)嵌安全護欄和警示機制，如對明顯涉及造謠、侵權(quán)或違反公序良俗的生成指令，進行干預(yù)或拒絕執(zhí)行。此外，應(yīng)嚴(yán)格按照《人工智能生成合成內(nèi)容標(biāo)識辦法》的要求，為所有生成內(nèi)容添加顯著的提示標(biāo)識，實現(xiàn)內(nèi)容可追溯。

網(wǎng)絡(luò)內(nèi)容平臺是阻隔謠言傳播的關(guān)鍵環(huán)節(jié)。首先，要不折不扣地落實審核與標(biāo)識要求，建立強大的AI內(nèi)容識別與鑒偽技術(shù)體系，快速精準(zhǔn)識別人工智能生成內(nèi)容，并進行顯著標(biāo)識提示。其次，健全監(jiān)測管理機制，對熱點事件和敏感話題下的信息保持高度警惕，一旦發(fā)現(xiàn)AI謠言，立即采取限流、標(biāo)簽提示、下架刪除等措施。追溯謠言源頭，對惡意傳播謠言的賬號，實施從禁言到永久封禁的階梯式處罰；并及時公示處置結(jié)果，以儆效尤。再次，暢通用戶舉報和投訴渠道，發(fā)揮廣大網(wǎng)民的監(jiān)督力量。

整治AI謠言，是一項長期而復(fù)雜的系統(tǒng)工程。只有強化各方主體責(zé)任，加強源頭治理，推動立法、執(zhí)法、司法等形成強大合力，提高造謠者的違法成本，才能有效打擊各類AI謠言，防止AI技術(shù)跑偏和濫用，才能讓網(wǎng)絡(luò)空間更加清朗有序，確保技術(shù)發(fā)展真正造福于社會。