91亚洲国产AⅤ精品一区二区,国产伦精品一区二区三区,四川少妇搡bbbb搡bbbb,国产全黄A一级毛片96
人工智能與網(wǎng)絡(luò)辟謠:做真相的守護(hù)者

人工智能與網(wǎng)絡(luò)辟謠:做真相的守護(hù)者

chenyuanwei 2025-03-18 京東 5 次瀏覽 0個評論

近日,在中央網(wǎng)信辦違法和不良信息舉報中心指導(dǎo)下,中國互聯(lián)網(wǎng)聯(lián)合辟謠平臺推出《澄清謬誤、傳遞真相》系列辟謠訪談,邀請健康、醫(yī)療、經(jīng)濟(jì)、科技、傳媒等行業(yè)專家,對常見謠言進(jìn)行分析,內(nèi)容涵蓋多類社會民生熱點話題,幫助廣大網(wǎng)民朋友提升識謠辨謠能力、提高網(wǎng)絡(luò)媒介素養(yǎng)。

本系列第二期訪談——《人工智能與網(wǎng)絡(luò)辟謠:做真相的守護(hù)者》,針對人工智能科技在辟謠工作中的創(chuàng)新應(yīng)用主要內(nèi)容,邀請新華網(wǎng)AIGC-Safe平臺首席技術(shù)專家、中國科學(xué)院計算所數(shù)字內(nèi)容合成與偽造檢測實驗室主任曹娟接受專訪,就AI生成信息鑒別、偽造檢測系統(tǒng)應(yīng)用技術(shù)等問題,提供專業(yè)解答。

有人說“人工智能會威脅人類安全”,您怎么看?

需要多方合作,打出AI安全防護(hù)組合拳。

人工智能技術(shù),特別是近期GPT-4等生成式人工智能的爆炸式發(fā)展,將帶領(lǐng)人類進(jìn)入人工智能生成內(nèi)容(AIGC)時代,未來AIGC數(shù)據(jù)將成為新增數(shù)據(jù)主流。但技術(shù)的快速發(fā)展也帶來了新的未知安全風(fēng)險。這些AI安全問題目前尚無定論。我們需要在技術(shù)研發(fā)、產(chǎn)業(yè)應(yīng)用、制度設(shè)計等各方面加強(qiáng)合作,打出AI安全防護(hù)的組合拳。

如何檢測和鑒別AI生成信息的真實性?

檢測和鑒別偽造內(nèi)容,核心是要回歸技術(shù)。

當(dāng)前數(shù)字合成內(nèi)容很多已經(jīng)超過了人眼的辨識能力,多數(shù)人無法靠肉眼判斷一段視頻、一張照片或一段語音是否來自真人。要檢測和鑒別這些偽造內(nèi)容,核心是要回歸技術(shù)。我們構(gòu)建了訓(xùn)練數(shù)據(jù)自動生成平臺作為數(shù)據(jù)底座,能夠快速生成TB級的訓(xùn)練數(shù)據(jù),支撐檢測技術(shù)迭代,同時基于“生成—檢測—對抗”的模型自進(jìn)化流程,構(gòu)建了十億量級的多模態(tài)生成模型和檢測模型底座,在攻防演練中提升檢測水平。最后,針對具體應(yīng)用,通過快速微調(diào)實現(xiàn)了多個行業(yè)場景高精度的偽造檢測服務(wù)。

人工智能技術(shù)在網(wǎng)絡(luò)辟謠工作中的應(yīng)用場景和功能優(yōu)勢有哪些?

能夠及時鎖定可疑線索,提高針對新型偽造信息的辟謠效率。

以AI生成文本為例,隨著ChatGPT類模型服務(wù)的普及,自媒體創(chuàng)作者開始使用AI生成文本大批量制作內(nèi)容。其中,以博眼球、賺流量為目的,利用ChatGPT杜撰虛假新聞的情況越來越多。由于AI生成虛假新聞的文風(fēng)非常貼近正規(guī)報道,因此既有審核能力很難及時發(fā)現(xiàn)并開展辟謠。AI生成文本檢測技術(shù)及時填補(bǔ)了這一缺陷,保障了對這種新型偽造內(nèi)容的快速有效識別。

人工智能與網(wǎng)絡(luò)辟謠:做真相的守護(hù)者

人工智能在網(wǎng)絡(luò)謠言發(fā)現(xiàn)、查證工作中的應(yīng)用面臨著哪些風(fēng)險和挑戰(zhàn)?

AI生成的虛假信息越來越多,對審核系統(tǒng)數(shù)據(jù)計算速度要求越來越高。

目前人工智能在網(wǎng)絡(luò)謠言發(fā)現(xiàn)、查證工作中面臨兩大挑戰(zhàn)。第一,新型偽造技術(shù)與傳統(tǒng)偽造技術(shù)差異較大,造成傳統(tǒng)檢測模型大范圍失效,例如傳統(tǒng)檢測模型多數(shù)無法識別出基于擴(kuò)散模型生成的人物圖像;第二,AI生成技術(shù)的普及降低了信息偽造的門檻,需要審核的AIGC數(shù)據(jù)越來越多,計算速度瓶頸日漸顯現(xiàn)。面對這些挑戰(zhàn),關(guān)鍵是要提高檢測模型的通用性,通過軟硬件協(xié)同優(yōu)化,滿足高通量高并發(fā)需求。

AIGC技術(shù)未來在網(wǎng)絡(luò)辟謠工作中還有哪些突破點?

基于AIGC技術(shù),未來有望提供更個性化、更易懂的自動化辟謠解釋。

辟謠是消除虛假信息中的重要一環(huán),如果人不能理解“為什么假”,就很難消除因虛假信息造成的錯誤認(rèn)識。基于AIGC技術(shù),我們有望提供更個性化、更易懂的自動化辟謠解釋,這個解釋可能是一份造假痕跡的分析報告,也可能是一段符合目標(biāo)受眾認(rèn)知偏好的辟謠短文。AIGC-Safe將推動“識謠-辟謠”全鏈條智能化,用AIGC守護(hù)AIGC安全,用技術(shù)讓世界更可信。

原標(biāo)題:《人工智能與網(wǎng)絡(luò)辟謠:做真相的守護(hù)者》

閱讀原文

轉(zhuǎn)載請注明來自浙江中液機(jī)械設(shè)備有限公司 ,本文標(biāo)題:《人工智能與網(wǎng)絡(luò)辟謠:做真相的守護(hù)者》

百度分享代碼,如果開啟HTTPS請參考李洋個人博客
每一天,每一秒,你所做的決定都會改變你的人生!

發(fā)表評論

快捷回復(fù):

驗證碼

評論列表 (暫無評論,5人圍觀)參與討論

還沒有評論,來說兩句吧...

Top
91亚洲国产AⅤ精品一区二区,国产伦精品一区二区三区,四川少妇搡bbbb搡bbbb,国产全黄A一级毛片96