四川網警依法查處10起AI造謠典型案例

封面新聞記者 茍春

近年來，AI的文本、圖像生成功能，被一些不法分子用來編輯虛假信息，降低了不法人員造謠、傳謠的門檻。7月23日，封面新聞記者從四川省公安廳網絡安全保衛總隊獲悉，對此，四川網警積極行動，嚴厲整治涉AI類網絡謠言，并公布10起AI造謠典型案例。

案例一：利用AI軟件編造“山體滑坡致8人遇難”網絡謠言

利用AI軟件編造“山體滑坡致8人遇難”網絡謠言

2024年1月23日，有網民在某平臺發布文章稱：“云南山體滑坡災害 已致8人遇難”。經查，違法行為人楊某某為獲取流量牟利，搜集網絡上的相關信息后，利用AI軟件生成了“云南山體滑坡災害 已致8人遇難”的虛假新聞信息，并發布在網絡平臺上，造成不良社會影響。目前，四川廣元公安機關已依法對楊某某進行行政處罰。

案例二：利用AI軟件編造“喜德縣地震”網絡謠言

利用AI軟件編造“喜德縣地震”網絡謠言

2024年6月9日，有網民在某視頻平臺發布視頻稱，“5月27日，四川省涼山彝族自治州發生5.0級地震，震中位于喜德縣，地震波以每小時80公里的速度傳播。地震造成了大量房屋損壞和人員傷亡，災情嚴重”。經查，5月27日涼山發生5.0級地震，震中位于木里縣，無人員傷亡，部分房屋受損，違法行為人羅某某為吸引眼球、獲取流量，利用AI軟件生成虛假地震災情圖片，并在某短視頻平臺散布不實信息。目前，四川涼山公安機關已依法對羅某某進行行政處罰。

案例三：利用AI軟件編造“巴中警民對峙”網絡謠言

利用AI軟件編造“巴中警民對峙”網絡謠言

2024年5月18日，有網民在某平臺發布文章稱：“巴中市最近上演了一場令人驚心動魄的事件，一輛運鈔車遭到踢爆，警民雙方展開了一場激烈的對峙?！苯洸?，4月30日上午9時許，在四川巴中的一輛運鈔車因在公交車站牌處占道停留，交警發現后請運鈔車駛離。違法人員尚某某在網上獲悉相關圖片后，為吸引眼球，獲取流量和利益，帶著僥幸心理，在未經核實的情況下使用“AI千文”生成標題為《一場驚心動魄的“鈔票大戰” 巴中市警民對峙引發轟動 誰將成為勝利者》的虛假信息并發布，誤導網民，引發社會恐慌，擾亂公共秩序。目前，四川巴中公安機關已依法對尚某某進行行政處罰。

案例四：利用AI軟件編造“九旬老人遭兒女遺棄”網絡謠言

利用AI軟件編造“九旬老人遭兒女遺棄”網絡謠言

2024年6月24日，有網民在某平臺發布一則題為成都市新都區大豐街道“九旬老人遭兒女遺棄，流浪乞討多年成‘皮包骨’”的文章。經查，文章中的圖片來源于某外國博主救助外國流浪老人的視頻，而文章中的這位“李老頭”也遠在大洋彼岸，違法行為人張某為了吸引流量、博取關注，在家中借助AI程序，結合自己的“所思所想”編造并發布了這篇虛假文章。目前，四川成都公安機關已依法對張某進行行政處罰。

案例五：利用AI軟件編造“4月大女嬰被遺棄”網絡謠言

利用AI軟件編造“4月大女嬰被遺棄”網絡謠言

2024年1月12日，有網民在某平臺發布文章稱：“一則令人心痛的新聞在貴州省貴陽市花溪區傳開，一個僅僅4個月大的女嬰被遺棄在超市角落?！苯洸?，違法行為人周某開發了可自動編撰文章的“翠綠筆墨”AI工具和配套管理系統，并招募志愿者創建工作群，要求志愿者提供平臺賬號，由其開發的管理系統代為登錄賬號，周某再利用AI工具自動生成相關文章，通過管理系統自動保存到志愿者平臺賬號的“草稿箱”中，通過工作群發布任務，由志愿者通過手機從“草稿箱”中手動發布，2023年11月以來，周某通過招募獲取相關賬號300余個（均已關停），利用AI工具編造信息約42萬余條（均已清除）。目前，四川達州公安機關已依法對周某進行行政處罰。

案例六：利用AI編造“成都公交車失控”網絡謠言

利用AI編造“成都公交車失控”網絡謠言

2023年11月20日，有網民在某平臺發布文章稱：“四川成都公交車失控沖入河中?！苯洸?，違法行為人陳某看到“重慶公交車失控墜河10死2傷”的新聞后，為吸引眼球、博取流量，通過AI軟件合成，將內容篡改為“成都龍泉驛公交車失控墜河10死2傷”后發布到互聯網，產生不良社會影響。目前，四川成都公安機關已依法對陳某進行行政處罰。

案例七：利用AI軟件編造“地下熱管道破裂”網絡謠言

利用AI軟件編造“地下熱管道破裂”網絡謠言

2023年12月27日，有網民在某平臺發布文章稱：“西安市鄠邑區地下涌出熱水、疑是地下熱管道破裂引發?！苯洸?，違法行為人王某、柳某為賺取平臺獎勵，利用AI軟件自動生成“西安鄠邑區地下熱管道破裂”的文章，并與河南省商丘網發布的“商丘一熱管道破裂”圖片進行嫁接，發布在網絡平臺上，引發大量網民關注，造成不良社會影響。目前，四川綿陽公安機關已依法對王某、柳某進行行政處罰。

案例八：利用AI編造“建筑工地事故”網絡謠言

利用AI編造“建筑工地事故”網絡謠言

2023年11月28日，有網民在某平臺發布文章稱：“成都龍泉驛區一工地上，四名工人使用腳手架高空作業觸碰高壓線不幸身亡?！苯洸?，違法行為人朱某在互聯網看到“四川達州渠縣使用腳手架高空作業觸碰高壓線造成四人死亡”的新聞后，為吸引眼球、博取流量，通過AI軟件合成，將事故地點篡改為成都龍泉驛區后發布到互聯網，產生不良社會影響。目前，四川成都公安機關已依法對朱某進行行政處罰。

案例九：利用AI軟件編造“嫖娼突發心臟病死亡”網絡謠言

利用AI軟件編造“嫖娼突發心臟病死亡”網絡謠言

2024年5月11日，有網民在某平臺發布文章稱：“涼山西昌有一男子因嫖娼突發心臟病死亡，其家屬向兩名賣淫女和賓館老板尋求賠償?！苯洸?，違法行為人吉某某為吸引流量通過AI工具“智普清言”炮制該虛假文章并發布，造成不良影響。目前，四川涼山公安機關已依法對吉某某進行行政處罰。

案例十：利用AI軟件編造“虛假橫幅”網絡謠言

利用AI軟件編造“虛假橫幅”網絡謠言

2024年4月，有網民在某平臺發布“成都市郫都區德源鎮某某開發區奠基儀式”的視頻。5月，該網民又發布一掛有“讓全村都懷上二胎，是村支書不可推卸的責任”橫幅的圖片視頻。經查，以上視頻為AI編輯生成，均為不實信息。目前，四川成都公安機關已依法對王某進行行政處罰。

網警提醒，對在互聯網上發布編造、散布虛假信息，蓄意歪曲事實，捏造傳播謠言，擾亂公共秩序的行為，公安機關將堅決依法嚴格處理。希望大家引以為戒，做到不造謠、不信謠、不傳謠攜手共建清朗網絡空間。