近年來

以大數(shù)據(jù)、人工智能（AI）等

為代表的信息技術(shù)日新月異

與此同時

利用AI工具合成技術(shù)編造謠言

甚至生成逼近真實的圖片、音視頻

顛覆了“有圖就有真相”的常規(guī)認知

讓人難辨真假

今天

椰小探帶你了解

AI工具造謠背后的真相！

AI網(wǎng)絡(luò)謠言案例

2024年6月，網(wǎng)絡(luò)平臺上的一條“廣東省五華縣華陽鎮(zhèn)一70多歲老人被毆打致昏迷，其孫子為此跳河自殺，打人者一審被判九年十個月”的短視頻在互聯(lián)網(wǎng)平臺傳播，引發(fā)大量網(wǎng)民關(guān)注、討論。公安網(wǎng)安部門迅速開展調(diào)查，發(fā)現(xiàn)該視頻的圖文內(nèi)容系移花接木、肆意編造的網(wǎng)絡(luò)謠言。據(jù)造謠人員任某供述，這段長達幾分鐘、聲色并茂的視頻全是由AI合成的。目前，公安機關(guān)已依法對任某追究法律責任。

2024年5月，河南一網(wǎng)民在某平臺發(fā)布《一場驚心動魄的“鈔票大戰(zhàn)”巴中市警民對峙引發(fā)轟動誰將成為勝利者》的謠言文章，引發(fā)大量網(wǎng)民關(guān)注、討論。經(jīng)查，該涉謠文章由AI系統(tǒng)生成并發(fā)布，相關(guān)言論及照片均為不實信息。目前，公安機關(guān)已依法對造謠人員追究法律責任。

2024年1月，廣西東興市駱某某為博取流量，使用AI軟件自動編輯抗洪、救災(zāi)視頻，捏造了新疆烏什縣發(fā)生地震的虛假視頻信息，造成該謠言信息在互聯(lián)網(wǎng)平臺大量傳播。目前，公安機關(guān)已依法對駱某某追究法律責任。

如何治理和防范

AI網(wǎng)絡(luò)謠言的產(chǎn)生？

為治理AI亂象

深化網(wǎng)絡(luò)生態(tài)治理

近年來相關(guān)部門出臺了

多項政策和措施

2023年1月10日起施行的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》指出，任何組織和個人不得利用深度合成服務(wù)制作、復(fù)制、發(fā)布、傳播法律、行政法規(guī)禁止的信息，不得利用深度合成服務(wù)從事危害國家安全和利益、損害國家形象、侵害社會公共利益、擾亂經(jīng)濟和社會秩序、侵犯他人合法權(quán)益等法律、行政法規(guī)禁止的活動。

2023年8月15日起施行的《生成式人工智能服務(wù)管理暫行辦法》規(guī)定，提供和使用生成式人工智能服務(wù)，應(yīng)當遵守法律、行政法規(guī)，尊重社會公德和倫理道德。不得生成煽動顛覆國家政權(quán)、推翻社會主義制度，危害國家安全和利益、損害國家形象，煽動分裂國家、破壞國家統(tǒng)一和社會穩(wěn)定，宣揚恐怖主義、極端主義，宣揚民族仇恨、民族歧視，暴力、淫穢色情，以及虛假有害信息等法律、行政法規(guī)禁止的內(nèi)容。