- 首頁(yè)
- 民文
- English
- 舉報(bào)專區(qū)
- 登錄
AI生成的虛假圖片泛濫亟待監(jiān)管
近日,美國(guó)前總統(tǒng)特朗普被全副武裝的紐約防暴警察按倒在地的圖片在推特等社交媒體平臺(tái)泛濫,但這些看似細(xì)節(jié)豐富的圖片卻與事實(shí)毫不相干,這些圖片出自人工智能(AI)驅(qū)動(dòng)的圖像生成技術(shù)。
專家們警告說(shuō),這些圖片昭示出一個(gè)新現(xiàn)實(shí):在重大新聞事件發(fā)生后,虛假圖片和視頻有可能充斥社交媒體,進(jìn)一步混淆事實(shí),因此亟須部署相關(guān)技術(shù)并制訂相關(guān)政策,對(duì)類似技術(shù)進(jìn)行監(jiān)管。
合成圖像真假難辨
據(jù)美國(guó)《財(cái)富》雜志網(wǎng)站報(bào)道,這些“特朗普被捕”的圖片由總部位于荷蘭的開源調(diào)查媒體“響鈴貓”網(wǎng)站的創(chuàng)辦人艾略特·希金斯生成。
當(dāng)希金斯看到有關(guān)特朗普可能被捕的消息時(shí),決定將其可視化。為此,他使用最新AI繪畫工具M(jìn)idjourney制作了關(guān)于特朗普被捕的圖片。他表示,最新工具比之前的版本復(fù)雜得多,極大地改進(jìn)了圖像的視覺(jué)效果。隨后他在推特上分享了合成結(jié)果:前總統(tǒng)被警察包圍的圖片,其中徽章做了模糊處理。據(jù)美國(guó)《華盛頓郵報(bào)》網(wǎng)站報(bào)道,僅兩天,希金斯發(fā)布的這條帖子被瀏覽了近500萬(wàn)次。
人工智能專家表示,雖然處理并生成虛假圖片的技術(shù)并不新鮮,但該領(lǐng)域技術(shù)的進(jìn)展速度以及人們對(duì)技術(shù)的濫用值得關(guān)注。數(shù)字內(nèi)容分析公司Truepic的穆尼爾·易卜拉欣指出,“合成內(nèi)容正在快速發(fā)展,真實(shí)和虛假內(nèi)容之間的差距變得越來(lái)越難分辨”。
《財(cái)富》雜志指出,如今各種AI圖像生成工具變得觸手可及,它們可在用戶發(fā)出簡(jiǎn)單指令后,迅速生成海量栩栩如生的圖片。例如,Midjourney這款文本到圖像模型現(xiàn)在可生成模仿新聞機(jī)構(gòu)照片風(fēng)格的圖像,如此一來(lái),這些AI生成的圖片有望在混亂的新聞環(huán)境中“渾水摸魚”,混淆視聽(tīng)。
關(guān)注錯(cuò)誤信息傳播的華盛頓大學(xué)教授杰文·韋斯特說(shuō):“這的確會(huì)在危機(jī)期間增加‘噪音’!
專業(yè)人士強(qiáng)調(diào)稱,大量制作虛假但看似可信的圖像的能力已有了巨大進(jìn)步,而且很容易用于欺騙目的。很多時(shí)候,視覺(jué)信息會(huì)在沒(méi)有提供關(guān)鍵背景的情況下被快速轉(zhuǎn)發(fā)。事實(shí)上,一個(gè)關(guān)于“特朗普被捕”的虛假圖片帖子獲得的點(diǎn)贊數(shù)超過(guò)了7.9萬(wàn),“就好像這些照片是真的一樣”。
技術(shù)打擊“深度偽造”
希金斯認(rèn)為,隨著合成圖像越來(lái)越難辨真假,對(duì)抗錯(cuò)誤視覺(jué)信息的最佳方式是提高公眾的意識(shí)并加強(qiáng)這方面的教育,社交媒體公司可把重點(diǎn)放在開發(fā)能夠辨別AI生成圖像的新技術(shù)上,并將這種技術(shù)融入自己的平臺(tái)。
比如,推特出臺(tái)了相關(guān)政策,禁止用戶分享可能造成傷害的欺騙性和操縱性媒體內(nèi)容,例如可能導(dǎo)致暴力、廣泛內(nèi)亂或威脅個(gè)人隱私的推文。今年2月,推特推出了“社區(qū)筆記”功能,允許用戶在推文下方添加注釋,并且以長(zhǎng)內(nèi)容的形式進(jìn)行解釋。有觀點(diǎn)認(rèn)為,“社區(qū)筆記”或?qū)⒛軌驇椭铺爻蔀楦尚、讓更多人積極發(fā)言的平臺(tái),并幫助減少假消息、誤導(dǎo)性內(nèi)容的比例,以此吸引更多廣告投放。
另?yè)?jù)《華盛頓郵報(bào)》報(bào)道,從2019年開始,主要科技公司加強(qiáng)了打擊“深度偽造”的政策。2020年,元宇宙平臺(tái)公司禁止用戶發(fā)布高度修改的視頻,但仍允許發(fā)布旨在模仿或諷刺的修改視頻。
不過(guò),有專家表示,技術(shù)正在變得更加復(fù)雜,也更難監(jiān)測(cè)。況且這些互聯(lián)網(wǎng)巨頭都沒(méi)有在如何發(fā)現(xiàn)這些問(wèn)題,以及如何執(zhí)行相關(guān)政策方面作出任何重大投資。
政策監(jiān)管勢(shì)在必行
“特朗普被捕”虛假圖片在互聯(lián)網(wǎng)泛濫還提供了一個(gè)案例研究,表明目前缺乏企業(yè)標(biāo)準(zhǔn)或政府法規(guī)來(lái)解決使用AI制造和傳播謊言的問(wèn)題。
紐約卡內(nèi)基國(guó)際事務(wù)倫理委員會(huì)的研究人員阿瑟·霍蘭·米歇爾說(shuō),他擔(dān)心這個(gè)世界還沒(méi)有準(zhǔn)備好迎接即將到來(lái)的鋪天蓋地的虛假信息。
專家們一致認(rèn)為,特朗普的名氣使虛假圖片很容易被發(fā)現(xiàn),但識(shí)別出普通人相關(guān)的虛假圖片可能困難重重,而且生成虛假圖片的技術(shù)一直在進(jìn)步。從政策角度來(lái)看,亟待以立法形式對(duì)深度合成技術(shù)的應(yīng)用進(jìn)行規(guī)制。(記者 劉 霞)
分享讓更多人看到
推薦閱讀
- 業(yè)界:汽車行業(yè)進(jìn)入“下半場(chǎng)”智能網(wǎng)聯(lián)和綠色低碳是關(guān)鍵
- 人民網(wǎng)北京4月2日電 (記者王連香)“汽車革命的下半場(chǎng)是智能化、網(wǎng)聯(lián)化、共享化,其主要核心技術(shù)是汽車芯片和操作系統(tǒng)!毕愀鄞髮W(xué)榮譽(yù)教授、中國(guó)工程院院士陳清泉在中國(guó)電動(dòng)汽車百人會(huì)論壇國(guó)際論壇上表示,智能網(wǎng)聯(lián)重新定義了汽車,它不再是一個(gè)傳統(tǒng)的機(jī)械產(chǎn)品,而從一個(gè)代步的工具走向智能移動(dòng)的出行空間。…
相關(guān)新聞
- 輸入疾病信息即可找到靶點(diǎn)AI生成蛋白質(zhì)平臺(tái)來(lái)了
- AI篩查阿爾茨海默病準(zhǔn)確率達(dá)75%
- 三部門加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)深度合成管理
- 成都智算中心“空天·靈眸”發(fā)布
- 暴力泛濫威脅美國(guó)民眾安全
- 英國(guó)亟待強(qiáng)化打擊詐騙犯罪
- AI模擬條件反射進(jìn)行聯(lián)想學(xué)習(xí)
- 中國(guó)代表在聯(lián)合國(guó)人權(quán)理事會(huì)敦促美國(guó)等國(guó)停止編造散布虛假信息
- 高考作文“通關(guān)” AI寫作從秀技轉(zhuǎn)入商業(yè)布局
- AI芯片能重新配置 未來(lái)手機(jī)可像樂(lè)高積木般搭建
熱門排行
- 1礦山復(fù)青山 愿景變美景(美麗中國(guó)·山…
- 2國(guó)家網(wǎng)信辦:嚴(yán)厲打擊網(wǎng)上惡意損害企業(yè)和…
- 3前沿技術(shù)引領(lǐng) 產(chǎn)業(yè)實(shí)打?qū)嵃l(fā)展(創(chuàng)新驅(qū)…
- 4螞蟻集團(tuán)井賢棟:尋找價(jià)值創(chuàng)造的“全局最…
- 5組圖 | 博鰲亞洲論壇2023年年會(huì)即…
- 6政策加力,為有效投資拓空間(財(cái)經(jīng)眼)
- 7中國(guó)水周 | 江河煥新顏 攜手共護(hù)“母…
- 83月31日24時(shí)國(guó)內(nèi)成品油價(jià)迎今年來(lái)最…
- 9愛(ài)爾眼科入選“2022中國(guó)新經(jīng)濟(jì)企業(yè)5…
- 10以團(tuán)結(jié)合作應(yīng)對(duì)不確定的世界——寫在博鰲…
提供新聞線索