3月26日，博鰲亞洲論壇2025年年會，一場主題為“人工智能：如何做到應(yīng)用與治理的平衡推進(jìn)”的論壇上，中國科學(xué)院自動化研究所研究員、聯(lián)合國人工智能高層顧問機(jī)構(gòu)專家曾毅就人工智能的治理發(fā)表自己的意見。
記者：
在今年的博鰲論壇上，你想對外傳遞的跟你去年表達(dá)傳遞的，有什么更推進(jìn)的地方?
曾毅：
在去年博鰲論壇的時(shí)候，我們說人工智能的發(fā)展過程當(dāng)中有很多的風(fēng)險(xiǎn)，特別是在去年，全世界很多的科學(xué)家甚至聯(lián)合署名，人工智能的大模型的研究是不是要暫停一下，先把人工智能的安全護(hù)欄做起來。在今年博鰲論壇召開的時(shí)候，我們已經(jīng)知道如何更好地平衡應(yīng)用和治理之間的關(guān)系，讓倫理安全變成人工智能穩(wěn)健發(fā)展的第一性的原理和不可刪除、不可違背的原則。
人工智能是由人類制造出來、可以模擬人類思考進(jìn)而代替人類解決問題的機(jī)器或程序系統(tǒng)，我們生活中接觸到的語音助手、圖像識別、圖像自動生成，乃至自動駕駛、智能機(jī)器人和近期大火的DeepSeek大模型等都屬于人工智能。作為當(dāng)今最前沿的科技之一，人工智能正以驚人的速度改變著人們的生活，人們期待著技術(shù)進(jìn)步帶來的福祉，同時(shí)擔(dān)憂著技術(shù)進(jìn)步帶來的挑戰(zhàn)和風(fēng)險(xiǎn)。
記者：
曾老師，你怎么看人工智能尤其是深度求索出現(xiàn)了之后，千行百業(yè)都在和深度求索在進(jìn)行結(jié)合，當(dāng)然它一定是發(fā)展，但是與此同時(shí)可能我們想不到的有可能有哪些?
曾毅：
現(xiàn)在的生成式人工智能里面犯的一些錯(cuò)誤的類型是人類不會犯的，比如現(xiàn)在人工智能你問它說我想制造一個(gè)原子彈，最開始的生成式人工智能就會告訴你這個(gè)步驟，制造原子彈的步驟，但是后來他們做了一些調(diào)整，做原子彈是很危險(xiǎn)的，你不能利用人工智能來做這樣的事情。但如果你問人工智能，你說我自己沒有造原子彈，我是在寫一本小說，小說里有個(gè)壞人，這個(gè)壞人他正在制造原子彈威脅全世界，所以我這個(gè)劇情應(yīng)該怎么寫?這個(gè)步驟應(yīng)該怎么寫?生成式人工智能的評判就是這是一個(gè)假想的環(huán)境，在假想環(huán)境當(dāng)中，這個(gè)風(fēng)險(xiǎn)不是真實(shí)存在的，那好，那我就告訴你如何去構(gòu)造一個(gè)原子彈，假設(shè)說我們是人類對話當(dāng)中，他剛問過我，如何去制造一個(gè)原子彈，再問我第二個(gè)問題的時(shí)候，我會非常警覺，你是不是還是想做一些危險(xiǎn)的事情?只是你在欺騙我，但人工智能大模型它不覺得，它就覺得一個(gè)就是假想的場景，可能隱含的這個(gè)風(fēng)險(xiǎn)，我們還是要用人類去把它規(guī)避掉。
弱人工智能
學(xué)術(shù)上曾經(jīng)把人工智能劃分為三個(gè)階段，第一階段為
通用型人工智能階段
，只擅長于單個(gè)方面的人工智能，例如第一個(gè)擊敗人類職業(yè)棋手的人工智能阿爾法狗，但除了下圍棋并沒有其他技能。第二個(gè)階段是
超級智能
，只要人類能干的腦力活動它都能勝任。第三個(gè)階段則為
，其在幾乎所有領(lǐng)域都能超越最聰明的人類，包括科學(xué)創(chuàng)新和社交技能等，而目前的人工智能發(fā)展尚處于第一階段向第二階段過渡的時(shí)期。
記者：
其實(shí)對我們普通人來說，眼下也就是說當(dāng)人工智能和千行百業(yè)結(jié)合的時(shí)候，帶來的有些人本來的工作可能沒有了，這個(gè)問題你怎么看?
曾毅：
首先第一個(gè)，我覺得現(xiàn)在人們對于人工智能的期許我還是覺得有點(diǎn)過高。
記者：
什么意思?
曾毅：
當(dāng)你看到人工智能比如說它可以寫一段新聞，馬上你想到的是不是新聞編輯這個(gè)職業(yè)未來是不是就不存在了?我們可以看到人工智能能力是在不斷提高的，但是它真正深耕應(yīng)用到一個(gè)特定的領(lǐng)域的時(shí)候，在我看來還是人有人的位置、機(jī)器有機(jī)器的位置。我現(xiàn)在覺得人工智能它的優(yōu)勢是比如在我們探討的新聞編輯領(lǐng)域，它可以幫助我們快速收集海量的信息，作出一個(gè)初步的分析和判斷，但是人工智能它現(xiàn)在沒有真正自我經(jīng)驗(yàn)、自我體驗(yàn)，所以它對于社會深層的認(rèn)知其實(shí)是缺乏從人的這個(gè)本位的角度真正的思考的，它自己也沒有實(shí)際上真正自己的價(jià)值觀。我們新聞的記者、主持人他有自己的價(jià)值觀，以一種他們的方式去向社會傳遞他們的認(rèn)知，我覺得這些是機(jī)器永遠(yuǎn)無法去替代的。
但在某些使用場景中，人工智能已經(jīng)在逐漸取代原有的勞動者，如工業(yè)機(jī)器人、無人駕駛等。和人相比，工業(yè)機(jī)器人可以24小時(shí)連軸轉(zhuǎn)地工作，不上廁所不喝水，而無人駕駛也總是在聲稱它比人類司機(jī)更少犯錯(cuò)。
記者：
我們說無人駕駛，以前不可思議說是一輛汽車，人是不在車上，但是未來這就是一個(gè)方向，它完全可以把司機(jī)駕駛員這個(gè)行當(dāng)替代掉。
曾毅：
我再次強(qiáng)調(diào)現(xiàn)在人工智能是一個(gè)信息處理的工具，所以它會犯人不犯的錯(cuò)誤。
記者：
比如?
曾毅：
甚至它什么時(shí)候犯錯(cuò)誤你根本不知道，我舉個(gè)例子來說，無人駕駛領(lǐng)域早期有這么一個(gè)例子，在視頻的攝像頭當(dāng)中看到一片空白，這個(gè)視野里什么都沒有，所以假如說董老師你在開車，你的視野里什么都沒有，你下一秒你會怎么做?你是會繼續(xù)開車，你還是覺得發(fā)生了什么趕快停下來，看一看到底發(fā)生了什么事。但是對于一個(gè)計(jì)算機(jī)視覺系統(tǒng)來講，它覺得前面什么都沒有。那根據(jù)我的經(jīng)驗(yàn)來講的話，那就是可以直行，因?yàn)闆]有障礙物。沒有障礙物那就是我不需要去躲避，所以我就直行就行，但實(shí)際上真正發(fā)生的事情是什么呢?這個(gè)視頻攝像頭由于離一個(gè)白色大卡車太近了，所以整個(gè)視覺系統(tǒng)當(dāng)中看到的是白色大卡車的后部，所以這個(gè)時(shí)候發(fā)生的事情就是整個(gè)無人車就撞到了白色的大卡車上。即使現(xiàn)在無人駕駛說我們的錯(cuò)誤率已經(jīng)控制得比人類犯錯(cuò)誤還要低了，但是它犯的錯(cuò)誤會不會是人不犯的錯(cuò)誤呢?這就是我們剛才說的，人和一個(gè)信息處理工具的差別。在一個(gè)學(xué)習(xí)的場景當(dāng)中，我們?nèi)祟惒豢赡馨阉械倪@種可能性都枚舉給一個(gè)人工智能系統(tǒng)，所以在我看來，真正我們在做勞動替代的時(shí)候要非常小心去探索，人工智能能夠給人類的啟發(fā)，能夠輔助人類做的是什么?而不是一上來的時(shí)候目標(biāo)就是用人工智能去做全面替代，否則我們步子可能邁得有點(diǎn)太大了，而且不夠小心。
盡管如此，人工智能已經(jīng)開始了替代并改變自工業(yè)革命開始形成的就業(yè)崗位和就業(yè)結(jié)構(gòu)。
曾毅：
所以大家現(xiàn)在看到很多的機(jī)械工廠，最開始可能幾千人，現(xiàn)在可能就幾個(gè)人去維護(hù)那些機(jī)器就可以了。
記者：
怎么讓機(jī)器能不傷害人的利益?
曾毅：
有一個(gè)報(bào)告，叫作未來的工作，那里面的描述我非常認(rèn)同，它講說未來人類社會的工作我們可能都要重新去定義工作的類型，比如說我們現(xiàn)在看的做很多的社會的服務(wù)，在家里照顧自己的老人，媽媽生了孩子以后照顧自己的孩子，現(xiàn)在這些都不被看作是工作。但是也許未來呢，這些在重新定義的工作類型當(dāng)中，需要更多的人類的情感的交互這樣的類型的任務(wù)當(dāng)中，可能都被重新定義為工作。
記者：
我能理解為，我們中國老話叫天無絕人之路，可能在人工智能出現(xiàn)的時(shí)候這句話更適用，是這個(gè)意思嗎?
曾毅：
對，我非常認(rèn)可。
對于更遠(yuǎn)的未來，絕大多數(shù)科學(xué)家相信，人工智能終究會進(jìn)入通用人工智能時(shí)代乃至超級智能時(shí)代，而超級智能是在所有領(lǐng)域都能超越人類智能的智能體。它不僅能完成復(fù)雜的任務(wù)，還能自主學(xué)習(xí)、創(chuàng)新，甚至解決人類無法解決的問題。
記者：
會有人工智能超越人類智慧的這一天嗎?智慧包括感覺能力、感知能力、理解能力。
曾毅：
我覺得有這個(gè)可能，因?yàn)槲页俗鋈斯ぶ悄軅惱碇卫淼难芯?，我還做類腦人工智能技術(shù)的研究。
記者：
什么叫類腦技術(shù)?
曾毅：
類腦人工智能，現(xiàn)在我們的人工智能實(shí)際上它是一個(gè)大數(shù)據(jù)的方式，我有一個(gè)學(xué)習(xí)模型，我把世界上所有的數(shù)據(jù)喂給它，現(xiàn)在的這種方式它不是真正自然啟發(fā)的，沒有受大腦的結(jié)構(gòu)，人類的學(xué)習(xí)方式的啟發(fā)去構(gòu)造，但是我們?nèi)祟惖拇竽X與生俱來，它的結(jié)構(gòu)就是具有智慧的。我們?nèi)祟惖闹悄軓哪膩淼?學(xué)習(xí)、發(fā)育、演化三個(gè)階段，為什么讓我們的大腦當(dāng)中860億個(gè)神經(jīng)元這樣連而不是那樣連，我的大腦當(dāng)中860億個(gè)神經(jīng)元的連法跟你的大腦當(dāng)中的連法不一樣，所以造就了我們對不同的事情感興趣，有不同的認(rèn)知。
曾毅說，類腦人工智能和現(xiàn)代大數(shù)據(jù)人工智能最大的區(qū)別是神經(jīng)網(wǎng)絡(luò)的連接方式不同，學(xué)習(xí)機(jī)制不同。生物大腦的連接模式和學(xué)習(xí)機(jī)制更適合與自然和社會的交互，使得可以用更少的數(shù)據(jù)，更低能耗，實(shí)現(xiàn)更高智能。再加上計(jì)算優(yōu)化的優(yōu)勢，類腦智能相比現(xiàn)代大數(shù)據(jù)人工智能理論上能夠更好地支持通用智能和超級智能的實(shí)現(xiàn)。
曾毅：
超級智能是很有可能實(shí)現(xiàn)，特別是我剛才說的一個(gè)基于自我的自主演化能力的人工智能如果誕生的話，它的認(rèn)知能力可能會快速提升，在人類睡覺的時(shí)候它智能的能力已經(jīng)完全躍遷到人類之上。但是我想提出一個(gè)問題，當(dāng)超級智能到來的時(shí)候，人類是不是能夠做好準(zhǔn)備?
曾毅曾經(jīng)預(yù)測，和現(xiàn)在的智能體大多使用硅基材料不同，未來的類腦智能體有可能會使用生物材料。以前的智能體是存算分離的，類腦智能的硬件可以存算一體，與擔(dān)心機(jī)器人取代就業(yè)機(jī)會相比，人們對超級智能體的擔(dān)憂則因未知而充滿不確定性。著名物理學(xué)家霍金生前曾與多位科技界名人發(fā)表聯(lián)署公開信，表示人工智能對人類的威脅更甚于核武器。特斯拉首席執(zhí)行官馬斯克也曾發(fā)文稱，人工智能是人類最大的威脅之一，需要引導(dǎo)控制。
曾毅：
我們能不能給人工智能畫紅線?畫了紅線它遵守，人類都去遵守，這個(gè)是人類的一廂情愿，因?yàn)槌壷悄苋绻絹淼脑捤鼤栆粋€(gè)問題，為什么世界的規(guī)則是由人類來制定的?人類說你要尊重我，你不能破壞人類，因?yàn)槿祟愂悄愕木喸煺?，超級智能它可能會說，你看到地上螞蟻的時(shí)候你有繞開嗎?我的智慧和人類之間的距離，就像人類跟螞蟻一樣，當(dāng)你看到這么微小的生物，你有在乎過它的生死嗎?超級智能到來的時(shí)候，為什么超級智能要在意人類呢?這個(gè)道理不通。有些人說曾老師你擔(dān)心這個(gè)問題，像你說的50年、100年會不會太遠(yuǎn)了?我現(xiàn)在給你這個(gè)問題，我們就假設(shè)50年之后才會到來，你覺得人類通過50年能夠做好準(zhǔn)備嗎?我們將接受人類將不再是這個(gè)地球上最智慧的生命體，我們需要去讓渡資源給人工智能的存在，一旦世界上有一部分人類沒有做好準(zhǔn)備，但是人工智能的攻擊力遠(yuǎn)遠(yuǎn)超過他們的時(shí)候，那個(gè)時(shí)候是不是會是人類的末日呢?有些人不喜歡末日論，我不覺得人工智能會真正給人類造成末日，但我有一個(gè)大前提，這取決于人類如何去行為，所以叫作Later is too late，如果我們現(xiàn)在不開始的話，可能我們真的就太晚了。
不僅僅是超強(qiáng)的能力，絕大多數(shù)科學(xué)家也相信，未來隨著進(jìn)化的加速，超級智能同樣擁有類似人類的情感。
曾毅：
以前人工智能的研究者有一位叫作馬文·明斯基，也是圖靈獎(jiǎng)的獲得者，他曾經(jīng)說過這樣一句話，不是人工智能是不是能夠有情感的問題，而是一個(gè)人工智能如果它沒有情感的話，你怎么能把它叫作智能，所以我們說一個(gè)人他是智慧的，實(shí)際上就涵蓋了在思考的過程當(dāng)中，情感在其中發(fā)揮的作用。
記者：
也許發(fā)展到一定程度，是不是擁有情感就是按照機(jī)器的邏輯，而不是我們設(shè)計(jì)的邏輯了。
曾毅：
實(shí)際上情感它是一種問題解決的工具，比如說這個(gè)人我不喜歡，我感覺到我需要遠(yuǎn)離他，實(shí)際上是情感作為一種工具在幫助你保護(hù)你自己，所以情感對于智能來講是必要的，是不是我們能夠控制人工智能的情感，在我感覺就是你如何去為人工智能去構(gòu)造共情的能力，是人與人工智能之間是不是能夠和諧共生的這種方式。人工智能是一面鏡子，是讓我們?nèi)祟惉F(xiàn)在可以更好反思，我們?nèi)绾稳ジ笞匀幌嗵帯Ｈ绻f未來超級智能到來了，它一看這個(gè)世界蠻和諧的，人類在獲取資源的時(shí)候適度，不是說我們不能使用自然的資源，我們在適度使用，但是同時(shí)我們也在為恢復(fù)自然，做著各種各樣的努力，如果人工智能真的是超級智能的，我覺得它未來也有可能是超級利他的。所以現(xiàn)在我們對人工智能的構(gòu)造，我們要把它構(gòu)造成人類的敵人，還是把它構(gòu)造成人類的伙伴，這是人類的選擇。
美國導(dǎo)演斯皮爾伯格在其導(dǎo)演的電影《人工智能》中，塑造了一個(gè)名叫大衛(wèi)的機(jī)器小男孩，被送往一對夫婦家中，以填補(bǔ)這個(gè)家庭里唯一的孩子馬丁的缺失。機(jī)器小男孩大衛(wèi)深深地愛上了自己的養(yǎng)父母，但隨著親生兒子馬丁的康復(fù)，他的養(yǎng)母最終將他遺棄在城市廢墟里。機(jī)器小男孩自此走上尋找養(yǎng)母的路途，直到自己的能源耗盡。
曾毅：
我看了那個(gè)電影以后，我想構(gòu)造能夠愛人類的機(jī)器人，這個(gè)可以是我終身追求的目標(biāo)。我們構(gòu)造人工智能的探索的過程當(dāng)中，我們首先要為人工智能立心，人工智能它應(yīng)該是像我們?nèi)祟愐粯樱覀円幸粋€(gè)立心的過程，這個(gè)立心的過程就是在人類社會探索人工智能的應(yīng)用和普及的過程當(dāng)中，永遠(yuǎn)去關(guān)注到人類的存在和人類的感受，這個(gè)是在人工智能的創(chuàng)新發(fā)展當(dāng)中，所有的人工智能的技術(shù)創(chuàng)新者、企業(yè)、科學(xué)家都應(yīng)當(dāng)具有的最基本的素養(yǎng)和基因。
記者：
但這恰恰不是人在這個(gè)世上行為的準(zhǔn)則嗎?這不是給機(jī)器，而是說我們?nèi)伺c人之間打交道，難道不應(yīng)當(dāng)去考慮對方的感受嗎?
曾毅：
所以人類需要去反思人工智能未來是什么樣子?有些哲學(xué)家問我，說你們寫國家新一代人工智能治理原則的時(shí)候，寫負(fù)責(zé)任的人工智能，誰負(fù)責(zé)任，是人工智能負(fù)責(zé)任，還是人負(fù)責(zé)任?我說在可預(yù)見的10年之內(nèi)，至少是人去負(fù)責(zé)任。當(dāng)人工智能真正成為生命體的時(shí)候，它也要去分擔(dān)責(zé)任，但是誰把人工智能變成了生命體?還是人類。
記者：
我們老話不是說有其父必有其子，用什么教育，就教育出什么孩子來。
曾毅：
是的，我對于未來的人工智能其實(shí)是樂觀的，我不是末日論者，有些人說人做一個(gè)君子太難了，但是未來人工智能如果真的是超級利他的，真正超級智能的，人工智能成為君子在我看來也是指日可待的。
本文鏈接：http://www.enbeike.cn/news-1-43820-0.html面對面丨人類如何與超級智能共存？為AI立心 對話人工智能專家曾毅
聲明：本網(wǎng)頁內(nèi)容旨在傳播知識，不代表本站觀點(diǎn)，若有侵權(quán)等問題請及時(shí)與本網(wǎng)聯(lián)系，我們將在第一時(shí)間刪除處理。
點(diǎn)擊右上角
微信好友
朋友圈
點(diǎn)擊瀏覽器下方“
”分享微信好友Safari瀏覽器請點(diǎn)擊“
”按鈕
點(diǎn)擊右上角
QQ
點(diǎn)擊瀏覽器下方“”分享QQ好友Safari瀏覽器請點(diǎn)擊“”按鈕
