網(wǎng)絡(luò)謠言治理有了新解法。記者從抖音獲悉，該平臺(tái)近日上線“AI求真”功能，可為用戶提供對(duì)誤導(dǎo)性內(nèi)容與謠言的事實(shí)展示及澄清。當(dāng)網(wǎng)友瀏覽易產(chǎn)生誤解的內(nèi)容和搜索謠言相關(guān)信息時(shí)，可通過點(diǎn)擊頁面中的“求真卡”獲知事件完整信息及辟謠內(nèi)容。
隨著信息技術(shù)的發(fā)展，內(nèi)容創(chuàng)作越來越便利，但制造謠言也更容易。能否用AI治理謠言？記者了解到，抖音已嘗試在謠言治理工作中引入大模型技術(shù)，力求實(shí)現(xiàn)對(duì)謠言“發(fā)現(xiàn)即管控”。
“以往，單例謠言的發(fā)現(xiàn)和處置時(shí)效需以‘天’為單位。”抖音不實(shí)信息治理負(fù)責(zé)人李博告訴記者，在過往的謠言治理鏈路中，發(fā)現(xiàn)謠言往往需要依靠權(quán)威媒體報(bào)道或機(jī)構(gòu)發(fā)聲，才能由人工將謠言信息點(diǎn)納入謠言庫，進(jìn)一步以此為樣本回查、下架和攔截新增的該謠言內(nèi)容，因此當(dāng)處置謠言時(shí)，該言論往往已經(jīng)經(jīng)過了較大規(guī)模的傳播和發(fā)酵。
據(jù)介紹，大模型能夠提取視頻信息、分析主旨、聯(lián)網(wǎng)搜索，由此對(duì)內(nèi)容進(jìn)行風(fēng)險(xiǎn)判斷。基于此判斷，大模型就能進(jìn)一步對(duì)謠言內(nèi)容進(jìn)行自動(dòng)處置。“目前，單例謠言的處置時(shí)效已縮短至以‘小時(shí)’為單位。”李博說。
記者測(cè)試發(fā)現(xiàn)，打開抖音搜索某類謠言時(shí)，頁面頂端就會(huì)自動(dòng)彈出“求真卡”，不僅明確顯示該信息為謠言，還會(huì)顯示包括事件溯源、澄清信息、權(quán)威報(bào)道、當(dāng)事人發(fā)聲等內(nèi)容。
據(jù)介紹，大模型的搜索信源來自權(quán)威媒體報(bào)道、政務(wù)公開平臺(tái)及歷史謠言庫樣本。李博表示，當(dāng)前大模型識(shí)別準(zhǔn)確率可達(dá)到85%，目前仍在持續(xù)提升中。他同時(shí)坦言，謠言治理仍然面臨諸多挑戰(zhàn)。一方面，謠言的產(chǎn)生難以杜絕，主觀編造、傳播偏差等均會(huì)帶來不實(shí)信息。另一方面，一些熱點(diǎn)事件常處于動(dòng)態(tài)發(fā)展中，謠言常反轉(zhuǎn)；此外，傳播方式的變化也使得信源本身受到污染。
原標(biāo)題：抖音上線“AI求真”功能 大模型助力識(shí)別網(wǎng)絡(luò)謠言
來源：中央網(wǎng)信辦舉報(bào)中心
初審：劉晗
復(fù)審：馬萍
終審：張宇
