在當(dāng)今信息時(shí)代，AI 技術(shù)正以前所未有的速度發(fā)展和滲透到各個(gè)領(lǐng)域。然而，隨之而來的問題也日益凸顯，如利用 AI 軟件炮制謠言的現(xiàn)象。近日，一些不法分子為了追逐平臺流量補(bǔ)貼，實(shí)現(xiàn)流量變現(xiàn)，竟然借助 AI 合成技術(shù)編造出大量聳人聽聞的謠言，對社會(huì)秩序造成了嚴(yán)重的干擾。那么，真相究竟如何？公安機(jī)關(guān)又將如何應(yīng)對呢？

今年 1 月，在某網(wǎng)絡(luò)平臺上突然出現(xiàn)了一條關(guān)于“西安爆炸”的消息，聲稱當(dāng)月 10 日晚西安突然響起巨大爆炸聲，并且文字下方還配有所謂爆炸的圖片。此消息一經(jīng)發(fā)布，迅速在網(wǎng)絡(luò)上傳播開來。經(jīng)調(diào)查發(fā)現(xiàn)，發(fā)布該消息的賬號歸屬于江西南昌的一家 MCN 機(jī)構(gòu)，而這家公司的實(shí)際控制人是王某某。經(jīng)過核實(shí)，民警發(fā)現(xiàn)當(dāng)?shù)夭]有發(fā)生類似事件，初步判定該 MCN 機(jī)構(gòu)發(fā)布的數(shù)條信息涉嫌網(wǎng)絡(luò)造謠，完全是不實(shí)信息。

警方對王某某進(jìn)行約談后了解到，網(wǎng)上發(fā)布的這條謠言，從文本到圖片竟然都是通過 AI 生成的。民警指出，利用 AI 軟件生成新聞熱點(diǎn)類文章和圖片，幾乎全程無需人工參與。國內(nèi)有一網(wǎng)站可以提供近期可能成為熱點(diǎn)的新聞報(bào)道，違法人員王某某就是通過該網(wǎng)站獲取熱點(diǎn)關(guān)鍵詞，進(jìn)而生成文章標(biāo)題。然后，王某某通過 AI 軟件，給出關(guān)鍵詞后，軟件會(huì)自動(dòng)在網(wǎng)絡(luò)上抓取相關(guān)信息，生成幾百到上千字的文本，同時(shí)配上看似與事件相關(guān)的虛假圖片，從而拼湊出一段看似信息量豐富，實(shí)則完全虛構(gòu)的內(nèi)容。通過這種利用 AI 軟件生成內(nèi)容的方式，這家 MCN 機(jī)構(gòu)在短時(shí)間內(nèi)生成了大量文章，最高峰時(shí)一天能生成 4000 至 7000 篇，其中最高的一條文章收入甚至達(dá)到了 700 元，初步估算每天的收入超過 1 萬元。經(jīng)警方深入調(diào)查，王某某共經(jīng)營著 5 家 MCN 機(jī)構(gòu)，運(yùn)營賬號多達(dá) 842 個(gè)。自今年 1 月以來，其中一家 MCN 機(jī)構(gòu)利用其賬號，陸續(xù)在某平臺發(fā)布了諸如“西安 1 月 10 日發(fā)生爆炸導(dǎo)致建筑、車輛炸毀、人員傷亡”等多條謠言信息。最終，經(jīng)查明王某某的行為構(gòu)成傳播謠言、虛構(gòu)事實(shí)、擾亂公共秩序。目前，南昌警方依據(jù)相關(guān)規(guī)定，依法對王某某處以行政拘留 5 日，并責(zé)令涉案 MCN 機(jī)構(gòu)停業(yè)整改。

在重慶，公安機(jī)關(guān)也查處了一起個(gè)人利用 AI 軟件編造民房爆炸謠言的案件，這起案件還被公安部列為打擊整治網(wǎng)絡(luò)謠言違法犯罪的典型案例。該案例中，利用 AI 技術(shù)模仿新聞風(fēng)格，一鍵生成涉及災(zāi)情的信息以獲取高流量。去年 12 月 25 日，一則“重慶巫溪一民房發(fā)生爆炸事故，4 人不幸遇難，官方緊急介入調(diào)查”的消息在某網(wǎng)絡(luò)平臺發(fā)布，全文長達(dá) 500 余字，以新聞報(bào)道的口吻，詳細(xì)提供了“發(fā)現(xiàn)了 4 名遇難者，其中包括一名兒童”“疑似與居民私拉亂接電線有關(guān)”等細(xì)節(jié)，短時(shí)間內(nèi)獲得了數(shù)萬次的點(diǎn)擊量。這條謠言閱讀量的暴漲，讓之前在網(wǎng)上發(fā)文毫無流量的康某某一開始還有些興奮?？的衬潮硎荆约褐鞍l(fā)了 20 多條內(nèi)容都毫無收益，后來看到一個(gè)爆炸新聞?dòng)泻脦资f的點(diǎn)贊量，于是就在網(wǎng)站輸入“重慶”“爆炸”等關(guān)鍵詞，讓其自動(dòng)生成內(nèi)容，然后自己復(fù)制標(biāo)題和文章。

康某某之所以制造謠言，是因?yàn)樗弥谀持W(wǎng)絡(luò)平臺創(chuàng)作發(fā)布文章，可以根據(jù)閱讀、評論、轉(zhuǎn)發(fā)數(shù)量等獲取相關(guān)流量收益，每千人有效閱讀量有 1 至 2 元的獎(jiǎng)勵(lì)。然而，他編造虛假消息博取流量的行為已經(jīng)觸犯了法律。經(jīng)過查證，康某某對其虛構(gòu)事實(shí)擾亂公共秩序的違法行為供認(rèn)不諱。公安機(jī)關(guān)依法對其行政拘留 3 日，收繳其違法所得，并封禁其網(wǎng)絡(luò)賬號。

法學(xué)專家指出，大量不實(shí)信息對于普通網(wǎng)民來說，有時(shí)確實(shí)很難直接判斷是否為謠言，而平臺對于相關(guān)信息應(yīng)該盡到監(jiān)管責(zé)任。一些網(wǎng)絡(luò)平臺向流量高的內(nèi)容和用戶支付報(bào)酬，這在某種程度上會(huì)刺激一些企圖賺錢的網(wǎng)絡(luò)用戶發(fā)布虛假信息。專家認(rèn)為，平臺在刺激創(chuàng)作的同時(shí)，也必須盡到消除虛假信息傳播的責(zé)任。西南政法大學(xué)法學(xué)院教授陳偉表示，在支付報(bào)酬方面，平臺應(yīng)發(fā)揮積極的引導(dǎo)作用，對散布謠言者采取相關(guān)的懲罰機(jī)制。法律專家建議，在法律法規(guī)方面應(yīng)該讓造謠者付出更大的成本。陳偉表示，違法成本在行政處罰中涉及行政拘留、行政性罰款等，還包括封號等措施。法律應(yīng)該匹配好違法人員的違法成本和他們應(yīng)承擔(dān)責(zé)任之間的比例，以免其他人看到違法成本過低，導(dǎo)致遏制作用有限。

總之，網(wǎng)絡(luò)并非法外之地，對于那些在互聯(lián)網(wǎng)上發(fā)布不實(shí)言論、擾亂社會(huì)秩序的行為，公安機(jī)關(guān)必將堅(jiān)決依法處理；對于那些造成惡劣影響、情節(jié)嚴(yán)重的行為，公安機(jī)關(guān)也將依法追究其法律責(zé)任。在 AI 技術(shù)迅速發(fā)展的今天，AI 與 AI 法律的重要性愈發(fā)凸顯。AI 技術(shù)帶來的便利不應(yīng)成為違法犯罪的工具，必須通過完善法律體系和加強(qiáng)監(jiān)管來規(guī)范其使用，維護(hù)網(wǎng)絡(luò)空間的健康和社會(huì)的穩(wěn)定。同時(shí)，我們每一個(gè)人也都應(yīng)該增強(qiáng)辨別能力，不輕易相信和傳播未經(jīng)證實(shí)的信息，共同營造一個(gè)清朗的網(wǎng)絡(luò)環(huán)境。