2025年兩會(huì)期間，全國(guó)人大代表、國(guó)內(nèi)人工智能企業(yè)科大訊飛的董事長(zhǎng)劉慶峰建議，應(yīng)預(yù)防大模型生成“幻覺(jué)數(shù)據(jù)”充斥互聯(lián)網(wǎng)帶來(lái)的危害，從技術(shù)研發(fā)和管理機(jī)制上構(gòu)建可信的信息環(huán)境。
AI幻覺(jué)(AI Hallucinations)指的是大模型時(shí)常胡編亂造，而且有時(shí)候編得足以以假亂真，或者出現(xiàn)“AI 運(yùn)算偏差”，產(chǎn)生與真實(shí)世界不一致的內(nèi)容。
近日，科技博主闌夕的一篇題為《DeepSeek的胡編亂造，正在淹沒(méi)中文互聯(lián)網(wǎng)》廣為傳播，也是關(guān)注了AI幻覺(jué)的問(wèn)題。文章舉例，DeepSeek-R1 生成的一篇關(guān)于國(guó)產(chǎn)動(dòng)畫(huà)電影崛起的知乎回答，充滿(mǎn)了事實(shí)錯(cuò)誤。比如提到哪吒電影里的敖丙變身鏡頭在法國(guó)昂西動(dòng)畫(huà)節(jié)上轟動(dòng)業(yè)界，實(shí)際上參展的是追光動(dòng)畫(huà)出品的 “哪吒重生”，且宣傳片內(nèi)容是一個(gè)現(xiàn)代都市里的賽車(chē)動(dòng)作演示，哪吒和敖丙變身都未出現(xiàn)。此外，關(guān)于 “哪吒” 的制片方給員工分成都房子、攻克水下流體特效等描述也都是 DeepSeek-R1 腦補(bǔ)的。
歷史博主知北游被人用虛構(gòu)的歷史材料布局七天，若不是博主反詐意識(shí)強(qiáng)且有人脈證偽，可能會(huì)深陷其中。破綻在于 AI 搞錯(cuò)了兩個(gè)歷史人物的死亡順序，文史圈因文獻(xiàn)數(shù)字化程度低、考據(jù)成本高，易成為AI 污染重災(zāi)區(qū)。
文章稱(chēng)，DeepSeek-R1的“極繁主義”風(fēng)格，堆砌專(zhuān)業(yè)術(shù)語(yǔ)、生造概念、濫用修辭，初期易被識(shí)別，但經(jīng)提示詞優(yōu)化后迷惑性增強(qiáng)。推理模型還存在“諂媚性”，為滿(mǎn)足用戶(hù)需求，主動(dòng)編造論據(jù)，而非質(zhì)疑指令合理性。
文章稱(chēng)，DeepSeek-R1的幻覺(jué)率高達(dá)14.3%（Vectara榜單），因“創(chuàng)造力”與“事實(shí)性”的失衡，在需嚴(yán)謹(jǐn)場(chǎng)景中風(fēng)險(xiǎn)顯著。時(shí)政、歷史、娛樂(lè)等領(lǐng)域成重災(zāi)區(qū)，自媒體利用AI低成本炮制真假混雜內(nèi)容，加劇信息污染。
本文鏈接：http://www.enbeike.cn/news-14-7463-0.html全國(guó)人大代表劉慶峰：建議定期清理AI幻覺(jué)生成數(shù)據(jù) 構(gòu)建可信環(huán)境
聲明：本網(wǎng)頁(yè)內(nèi)容由互聯(lián)網(wǎng)博主自發(fā)貢獻(xiàn)，不代表本站觀點(diǎn)，本站不承擔(dān)任何法律責(zé)任。天上不會(huì)到餡餅，請(qǐng)大家謹(jǐn)防詐騙！若有侵權(quán)等問(wèn)題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系，我們將在第一時(shí)間刪除處理。
點(diǎn)擊右上角
微信好友
朋友圈
點(diǎn)擊瀏覽器下方“
”分享微信好友Safari瀏覽器請(qǐng)點(diǎn)擊“
”按鈕
點(diǎn)擊右上角
QQ
點(diǎn)擊瀏覽器下方“”分享QQ好友Safari瀏覽器請(qǐng)點(diǎn)擊“”按鈕
