場(chǎng)景一鍵生成、圖文真假難辨 AI批量造謠防不勝防

  來(lái)源:經(jīng)濟(jì)參考報(bào)蘭天鳴2024-07-11
打印本文
核心提示:近期,多地公安機(jī)關(guān)發(fā)布了多起利用AI工具實(shí)施造謠的相關(guān)案件。6月20日,上海市公安局城市軌道和公交總隊(duì)官方微博@軌交幺幺零發(fā)布警情通報(bào):兩名營(yíng)銷(xiāo)人員為博取關(guān)注造謠地鐵

近期,多地公安機(jī)關(guān)發(fā)布了多起利用AI工具實(shí)施造謠的相關(guān)案件。6月20日,上海市公安局城市軌道和公交總隊(duì)官方微博@軌交幺幺零發(fā)布警情通報(bào):兩名營(yíng)銷(xiāo)人員為博取關(guān)注造謠地鐵站發(fā)生持刀傷人的情況,被警方依法處以行政拘留。其中一人,使用AI軟件生成視頻技術(shù),編造了地鐵行兇的虛假視頻等不實(shí)信息發(fā)布到網(wǎng)上,造成惡劣社會(huì)影響。

記者采訪(fǎng)了解到,便利的AI工具大大降低了造謠的成本,提升了謠言的數(shù)量級(jí)和傳播力。AI造謠呈現(xiàn)出門(mén)檻低、批量化、識(shí)別難等特點(diǎn),亟待加強(qiáng)監(jiān)管,斬?cái)啾澈罄骀湕l。

AI造謠頻發(fā)

記者梳理發(fā)現(xiàn),近年來(lái),AI造謠在全國(guó)多地頻發(fā),傳播快、門(mén)檻低、迷惑性強(qiáng)。

去年,在上海一女童走失事件中,一團(tuán)伙以“標(biāo)題黨”“震驚體”方式,惡意編造炒作“女孩父親系繼父”“女孩被帶往溫州”等系列謠言。該團(tuán)伙利用AI工具等生成謠言?xún)?nèi)容,通過(guò)114個(gè)賬號(hào)矩陣,在6天內(nèi)發(fā)布268篇文章,多篇文章點(diǎn)擊量超過(guò)100萬(wàn)次。

AI造謠門(mén)檻很低。一名辦案人員透露,此前在調(diào)查一起謠言案件時(shí)發(fā)現(xiàn),謠言源頭來(lái)自中部某省份的一個(gè)村落。經(jīng)調(diào)查,該村有大量村民利用生成式AI撰寫(xiě)網(wǎng)絡(luò)文章。

“部分村民通過(guò)口口相傳獲知,把搜索到的網(wǎng)絡(luò)熱點(diǎn)信息粘貼進(jìn)AI模型后,可以生成新文章;在一些互聯(lián)網(wǎng)平臺(tái)上發(fā)布,即可通過(guò)流量賺錢(qián)。不少村民都自發(fā)從事該活動(dòng)。”辦案人員說(shuō)。

迷惑性強(qiáng),也是AI造謠的一大特點(diǎn)。

公安部網(wǎng)安局近期公布一起案例。2023年12月以來(lái),一條“西安市鄠邑區(qū)地下涌出熱水”的信息頻繁在網(wǎng)絡(luò)上傳播,出現(xiàn)如“地下出熱水是因?yàn)榘l(fā)生了地震”“是因?yàn)榈叵聼峁艿榔屏选钡戎{言。經(jīng)查,相關(guān)謠言是通過(guò)AI洗稿方式生成的。

記者發(fā)現(xiàn),上述謠言采用類(lèi)似新聞的行文,其中夾雜著“據(jù)報(bào)道”“相關(guān)部門(mén)正對(duì)事故原因進(jìn)行深入調(diào)查,并采取措施進(jìn)行搶修”“提醒廣大市民在日常生活中要注意安全”等內(nèi)容。普通人難辨真?zhèn)巍?

清華大學(xué)新聞與傳播學(xué)院教授沈陽(yáng)表示,AI的介入使得信息的生成和傳播速度大大加快,同時(shí)也增加了判斷信息真實(shí)性、準(zhǔn)確性的難度。AI工具從技術(shù)上降低了不法團(tuán)伙造謠、傳謠的門(mén)檻,大幅提升了謠言的數(shù)量級(jí)和傳播力,可能促使網(wǎng)絡(luò)謠言“定制化”生成、“精準(zhǔn)化”傳播、“智能化”擴(kuò)散。

清華大學(xué)新聞與傳播學(xué)院新媒體研究中心今年4月發(fā)布的一份研究報(bào)告顯示,近兩年的AI謠言中,經(jīng)濟(jì)與企業(yè)類(lèi)謠言占比最高,達(dá)43.71%;近一年來(lái),經(jīng)濟(jì)與企業(yè)類(lèi)AI謠言量增速高達(dá)99.91%,其中餐飲外賣(mài)、快遞配送等行業(yè)更是AI謠言重災(zāi)區(qū)。

流量牟利

記者發(fā)現(xiàn),多起AI造謠事件背后,造謠者的動(dòng)機(jī)主要源于獲取互聯(lián)網(wǎng)內(nèi)容平臺(tái)給予創(chuàng)作者的點(diǎn)擊量、閱讀量獎(jiǎng)勵(lì),以及為電商平臺(tái)經(jīng)營(yíng)引流等。

浙江省紹興市上虞區(qū)人民法院2023年宣判的一起案件中,不法分子為吸粉引流,通過(guò)非法渠道購(gòu)買(mǎi)AI視頻生成軟件,將網(wǎng)上搜集的熱門(mén)話(huà)題,通過(guò)AI一鍵生成視頻,并發(fā)至多個(gè)熱門(mén)視頻平臺(tái)上牟利。

經(jīng)審查發(fā)現(xiàn),截至案發(fā),不法分子發(fā)布的《浙江工業(yè)園現(xiàn)場(chǎng)大火濃煙滾滾,目擊者稱(chēng)有爆炸聲!》等20余條虛假造謠視頻,涉及浙江、湖南、上海、四川等多個(gè)省市,累計(jì)閱讀觀看量超過(guò)167萬(wàn)次。

記者調(diào)查發(fā)現(xiàn),在自媒體平臺(tái)上發(fā)布內(nèi)容、博取流量已經(jīng)成為一門(mén)生意。“圖文創(chuàng)作,AI自動(dòng)寫(xiě)文章,單號(hào)輕松日產(chǎn)500+,可多號(hào)操作,小白輕松上手”“無(wú)需洗稿,AI一天100篇原創(chuàng)”之類(lèi)的文章在互聯(lián)網(wǎng)上廣為流傳。

以一家大型互聯(lián)網(wǎng)內(nèi)容平臺(tái)為例,發(fā)布內(nèi)容基礎(chǔ)千次的閱讀單價(jià)為0.12元,但通過(guò)一系列系數(shù)相乘,可以讓千次閱讀收益提高10倍。這意味著如果一篇文章閱讀量達(dá)到100萬(wàn)次,創(chuàng)作者即能收益超過(guò)1000元。

  一些人使用AI造謠的目的是為電商平臺(tái)產(chǎn)品銷(xiāo)售引流。今年2月,上海公安機(jī)關(guān)發(fā)現(xiàn),在一家電商平臺(tái)上出現(xiàn)了某藝人“命運(yùn)多舛、含恨離世”等短視頻,引發(fā)大量點(diǎn)贊和轉(zhuǎn)發(fā)。

經(jīng)查,該視頻內(nèi)容完全系偽造。視頻發(fā)布者到案后交代,他在某電商平臺(tái)上經(jīng)營(yíng)一家土特產(chǎn)網(wǎng)店。由于銷(xiāo)量不佳,他便通過(guò)編造奪人眼球的虛假新聞給網(wǎng)店賬號(hào)吸引流量。他不會(huì)視頻剪輯,便利用AI技術(shù)生成文本和視頻。

多管齊下強(qiáng)化治理

今年4月,中央網(wǎng)信辦秘書(shū)局發(fā)布《關(guān)于開(kāi)展“清朗·整治‘自媒體’無(wú)底線(xiàn)博流量”專(zhuān)項(xiàng)行動(dòng)的通知》,要求加強(qiáng)信息來(lái)源標(biāo)注展示。使用AI等技術(shù)生成信息的,必須明確標(biāo)注系技術(shù)生成。發(fā)布含有虛構(gòu)、演繹等內(nèi)容的,必須明確加注虛構(gòu)標(biāo)簽。

專(zhuān)家表示,隨著AI使用門(mén)檻降低,AI造謠問(wèn)題可能加??;建議壓實(shí)互聯(lián)網(wǎng)內(nèi)容平臺(tái)、AI內(nèi)容生成平臺(tái)等主體責(zé)任,阻斷造謠背后的利益鏈條;加強(qiáng)法律研究和適用,提高造謠者、傳謠者的違法成本。

北京師范大學(xué)新聞傳播學(xué)院教授喻國(guó)明建議,AI內(nèi)容生成平臺(tái)要進(jìn)一步完善對(duì)生成內(nèi)容和內(nèi)容來(lái)源的標(biāo)識(shí)機(jī)制,例如附加不可刪除的數(shù)字水印和文本說(shuō)明。互聯(lián)網(wǎng)內(nèi)容平臺(tái)可接入AI內(nèi)容生成平臺(tái)的大模型系統(tǒng),實(shí)時(shí)進(jìn)行數(shù)據(jù)識(shí)別比對(duì)。

中國(guó)社會(huì)科學(xué)院大學(xué)互聯(lián)網(wǎng)法治研究中心主任劉曉春建議,互聯(lián)網(wǎng)內(nèi)容平臺(tái)應(yīng)加強(qiáng)對(duì)AI造謠行為的智能識(shí)別機(jī)制研究,進(jìn)一步優(yōu)化涉及AI內(nèi)容的流量分發(fā)和收益分成機(jī)制,壓縮別有用心者批量生產(chǎn)謠言的牟利空間。

喻國(guó)明認(rèn)為,在辟謠方面,可利用AI辟謠應(yīng)對(duì)AI造謠,“針對(duì)被確認(rèn)為謠言的內(nèi)容,互聯(lián)網(wǎng)內(nèi)容平臺(tái)可利用AI技術(shù)向曾經(jīng)瀏覽過(guò)相關(guān)內(nèi)容的用戶(hù)智能推送辟謠內(nèi)容或進(jìn)行風(fēng)險(xiǎn)提示,降低謠言破壞力?!?

沈陽(yáng)等業(yè)內(nèi)專(zhuān)家表示,界定AI謠言產(chǎn)生是否存在主觀惡意、認(rèn)定被造謠方損失等存在一定困難,對(duì)AI造謠等行為在刑事處罰上容易出現(xiàn)法律適用難題,導(dǎo)致打擊效果難以落地。“我們研究發(fā)現(xiàn),在86起涉AI造謠相關(guān)案件中,懲處類(lèi)型為刑事處罰的占比僅為15.66%。”沈陽(yáng)說(shuō)。

北京孟真律師事務(wù)所律師舒勝來(lái)認(rèn)為,面對(duì)AI謠言等技術(shù)和犯罪形式的快速迭代,法律法規(guī)研究也要與時(shí)俱進(jìn)。要進(jìn)一步明確AI造謠犯罪的認(rèn)定標(biāo)準(zhǔn),加強(qiáng)行刑銜接,對(duì)AI造謠者“精準(zhǔn)懲處”,做到罰當(dāng)其罪、罰當(dāng)其過(guò),為廣大網(wǎng)民營(yíng)造風(fēng)清氣正的網(wǎng)絡(luò)空間。

(編輯:鳴嫡 )


場(chǎng)景一鍵生成、圖文真假難辨 AI批量造謠防不勝防

 

免責(zé)聲明:

1、本網(wǎng)內(nèi)容凡注明"來(lái)源:315記者攝影家網(wǎng)"的所有文字、圖片和音視頻資料,版權(quán)均屬315記者攝影家網(wǎng)所有,轉(zhuǎn)載、下載須通知本網(wǎng)授權(quán),不得商用,在轉(zhuǎn)載時(shí)必須注明"稿件來(lái)源:315記者攝影家網(wǎng)",違者本網(wǎng)將依法追究責(zé)任。
2、本文系本網(wǎng)編輯轉(zhuǎn)載,轉(zhuǎn)載出于研究學(xué)習(xí)之目的,為北京正念正心國(guó)學(xué)文化研究院藝術(shù)學(xué)研究、宗教學(xué)研究、教育學(xué)研究、文學(xué)研究、新聞學(xué)與傳播學(xué)研究、考古學(xué)研究的研究員研究學(xué)習(xí),并不代表本網(wǎng)贊同其觀點(diǎn)和對(duì)其真實(shí)性負(fù)責(zé)。
3、如涉及作品、圖片等內(nèi)容、版權(quán)和其它問(wèn)題,請(qǐng)作者看到后一周內(nèi)來(lái)電或來(lái)函聯(lián)系刪除。