2月24日,今日頭條“平臺治理開放日”活動(dòng)在北京舉辦。相關(guān)業(yè)務(wù)負(fù)責(zé)人與學(xué)界專家圍繞網(wǎng)絡(luò)虛假謠言、同質(zhì)化發(fā)文、AI低質(zhì)內(nèi)容等領(lǐng)域的治理進(jìn)行了深入探討,分享了今日頭條在正面?zhèn)鞑?、平臺安全、內(nèi)容生態(tài)等三方面治理工作上的舉措、成果及規(guī)劃。
營造優(yōu)質(zhì)、清朗、綠色、安全的平臺
“作為內(nèi)容資訊平臺,今日頭條有責(zé)任、有義務(wù)讓我們的用戶看到真實(shí)、有用的信息”,在開放日上,今日頭條內(nèi)容策劃負(fù)責(zé)人劉姍姍表示,“一方面要消滅假的信息,另一方面更要主動(dòng)傳播真的信息,這也是我們團(tuán)隊(duì)最重要的工作之一。”
自2023年以來,平臺立足“傳播真實(shí)信息”理念,以“硬核科普”為主要傳播方向,推出《頭條講真的》項(xiàng)目。聯(lián)合醫(yī)學(xué)、財(cái)經(jīng)、法律等領(lǐng)域?qū)I(yè)創(chuàng)作者,為用戶進(jìn)行辟謠、反詐宣傳。并與熊出沒、南京紅山動(dòng)物園、我是小魔等知名IP、機(jī)構(gòu)和優(yōu)質(zhì)創(chuàng)作者多元合作,實(shí)現(xiàn)科普內(nèi)容的跨圈傳播,為平臺治理工作拓展了新的思路。截至2024年,《頭條講真的》發(fā)布科普、辟謠等主題視頻,全網(wǎng)話題討論量超36億,成為今日頭條健康和優(yōu)質(zhì)內(nèi)容生態(tài)的重要一環(huán)。
今日頭條內(nèi)容策劃負(fù)責(zé)人劉姍姍
安全問題是各大互聯(lián)網(wǎng)資訊平臺的治理重點(diǎn)與核心,今日頭條安全運(yùn)營負(fù)責(zé)人閆夢茹分享了2024年平臺在安全治理領(lǐng)域取得的成果:作為民生熱點(diǎn)、新聞資訊起家的內(nèi)容平臺,今日頭條深知網(wǎng)絡(luò)不良信息將極大影響用戶體驗(yàn),擾亂平臺環(huán)境。近年來,今日頭條建立完善的“風(fēng)險(xiǎn)發(fā)現(xiàn)→風(fēng)險(xiǎn)識別→風(fēng)險(xiǎn)處置”全流程治理體系,秉持“早識別、多攔截、多提示、快速干預(yù)”的原則,針對同質(zhì)化發(fā)文、網(wǎng)絡(luò)詐騙、網(wǎng)絡(luò)水軍等亂象加大治理力度。
今日頭條安全運(yùn)營負(fù)責(zé)人閆夢茹
除此之外,今日頭條聯(lián)合多家航空公司,開辟反詐主題航班進(jìn)行反詐知識宣傳,推出官方反詐、辟謠小課堂等加強(qiáng)用戶教育。閆夢茹表示,2025年,將繼續(xù)把虛假謠言和同質(zhì)化治理、黑灰產(chǎn)管控及作者教育等方面作為工作重點(diǎn),持續(xù)加碼,不斷深化安全治理工作,為用戶營造健康、綠色的網(wǎng)絡(luò)環(huán)境。
今日頭條生態(tài)治理運(yùn)營負(fù)責(zé)人韓雨桐提到,近年來越來越多用戶在頭條上參與創(chuàng)作、記錄生活,大大提升了平臺內(nèi)容的豐富度,然而,海量內(nèi)容里的虛假謠言、低質(zhì)AI內(nèi)容等,破壞了平臺生態(tài),也不利于創(chuàng)作公平。
對于虛假謠言,今日頭條早早建立起三大核心治理能力,包括:謠言庫、權(quán)威信源庫以及專業(yè)審核團(tuán)隊(duì)。并于2024年在發(fā)文下方增加權(quán)威媒體報(bào)道來源標(biāo)簽,在保障資訊真實(shí)性的基礎(chǔ)上,為用戶提供了更多客觀視角。針對近年來快速發(fā)展的AI技術(shù)和涌現(xiàn)的低質(zhì)內(nèi)容問題,平臺在鼓勵(lì)用戶使用AI提效的基礎(chǔ)上,保護(hù)原創(chuàng)空間,迅速升級、迭代AI模型的識別能力,收嚴(yán)AI內(nèi)容的審核力度。
此外,今日頭條同步加強(qiáng)對優(yōu)質(zhì)內(nèi)容的扶持力度,“頭條深一度”等欄目精選不同領(lǐng)域深度內(nèi)容,通過更多的推薦機(jī)制傳達(dá)至用戶。最后韓雨桐表示,希望能夠與媒體、學(xué)界等加強(qiáng)合作,一起共建更好的互聯(lián)網(wǎng)生態(tài)。
今日頭條生態(tài)治理運(yùn)營負(fù)責(zé)人韓雨桐
善用AI技術(shù),完善法律體系,積極應(yīng)對網(wǎng)絡(luò)謠言治理
在場的專家學(xué)者和媒體也從AI技術(shù)發(fā)展、平臺難點(diǎn)、法治助力等角度,探討了當(dāng)前復(fù)雜的互聯(lián)網(wǎng)環(huán)境下,資訊平臺將如何迎接新挑戰(zhàn),維護(hù)用戶體驗(yàn)與內(nèi)容安全。
清華大學(xué)新聞與傳播學(xué)院副教授陸洪磊指出,生成式AI正在重塑謠言的傳播生態(tài),技術(shù)的加持讓AI謠言無論在空間、速度還是結(jié)構(gòu)、方向、效果上,都更具“說服性”、虛假性和強(qiáng)傳播性,使得傳統(tǒng)辟謠手段難以招架。陸洪磊表示,今日頭條近年來構(gòu)建起涵蓋內(nèi)容治理制度、內(nèi)容審核、辟謠教育、內(nèi)外聯(lián)動(dòng)的四位一體防御工事,取得了較為顯著的效果,對于AI謠言治理提供了一條具有可行性的發(fā)展之路。此外,道阻且長,也需要多方力量聯(lián)合:比如執(zhí)法機(jī)構(gòu)需要做好法治保障的護(hù)盤手,建立“技術(shù)取證-電子證據(jù)-司法鑒定”的全鏈條執(zhí)法標(biāo)準(zhǔn);而每位用戶也都應(yīng)當(dāng)成為理性的受者和傳者,對可疑內(nèi)容主動(dòng)進(jìn)行核實(shí)。最后,陸洪磊呼吁有更多像今日頭條這樣的平臺攜手,共同應(yīng)對網(wǎng)絡(luò)亂象治理。
清華大學(xué)新聞與傳播學(xué)院副教授陸洪磊
北京師范大學(xué)法學(xué)院院長、教授梁迎修發(fā)表題為《網(wǎng)絡(luò)謠言治理:法治引領(lǐng)與多元共治》的演講,系統(tǒng)分析了網(wǎng)絡(luò)謠言的類型、變體及發(fā)展趨勢,從概念層面厘清了治理的理論基礎(chǔ),并基于我國法律法規(guī)梳理了網(wǎng)絡(luò)謠言治理的法律依據(jù)。梁教授提出,隨著AI技術(shù)的發(fā)展,AI虛假謠言層出不窮,增加了甄別和治理難度,加快了謠言的傳播速度。但同時(shí)我們可以利用AI技術(shù)作為新工具,在謠言內(nèi)容識別、路徑追蹤和自動(dòng)化辟謠等方面“用魔法打敗魔法”。梁教授還指出,網(wǎng)絡(luò)平臺要積極承擔(dān)社會(huì)責(zé)任,重視內(nèi)容整治,同時(shí)政府機(jī)構(gòu)、媒體、公眾等更應(yīng)加強(qiáng)協(xié)同,網(wǎng)絡(luò)謠言治理需要多方綜合施策。
北京師范大學(xué)法學(xué)院院長、教授梁迎修
彰顯平臺責(zé)任擔(dān)當(dāng),協(xié)力共建清朗生態(tài)
據(jù)介紹,這是今日頭條自成立以來首次舉辦平臺治理開放日。此前,今日頭條發(fā)布《2024年度治理報(bào)告》,對外公布了過去一年來平臺針對網(wǎng)絡(luò)虛假謠言、同質(zhì)化發(fā)文、網(wǎng)絡(luò)詐騙、無底線博流量、網(wǎng)絡(luò)水軍等重點(diǎn)專項(xiàng)的治理成果?！秷?bào)告》顯示:平臺全年累計(jì)攔截不實(shí)信息超500萬條,低質(zhì)AI內(nèi)容超93萬條,處罰同質(zhì)化發(fā)文超781萬篇,攔截和處置涉嫌詐騙內(nèi)容超200萬條。未來,今日頭條將繼續(xù)聚焦平臺安全與生態(tài)治理,為社會(huì)和用戶營造清朗、健康的互聯(lián)網(wǎng)環(huán)境。（中國經(jīng)濟(jì)網(wǎng)）
本文鏈接：http://www.enbeike.cn/news-1-41341-0.html今日頭條平臺治理開放日 ：多項(xiàng)治理舉措并行，迎接AI發(fā)展挑戰(zhàn)
聲明：本網(wǎng)頁內(nèi)容旨在傳播知識，不代表本站觀點(diǎn)，若有侵權(quán)等問題請及時(shí)與本網(wǎng)聯(lián)系，我們將在第一時(shí)間刪除處理。
點(diǎn)擊右上角
微信好友
朋友圈
點(diǎn)擊瀏覽器下方“
”分享微信好友Safari瀏覽器請點(diǎn)擊“
”按鈕
點(diǎn)擊右上角
QQ
點(diǎn)擊瀏覽器下方“”分享QQ好友Safari瀏覽器請點(diǎn)擊“”按鈕
