日本沖繩科學(xué)技術(shù)研究所認(rèn)知神經(jīng)機(jī)器人團(tuán)隊(duì)開發(fā)了一種具有新穎架構(gòu)的具身智能模型。它允許科學(xué)家訪問(wèn)神經(jīng)網(wǎng)絡(luò)的各種內(nèi)部狀態(tài)，并且能夠以與人類兒童相似的方式學(xué)習(xí)泛化，揭曉了神經(jīng)網(wǎng)絡(luò)中認(rèn)知發(fā)展和信息處理的關(guān)鍵信息。該成果發(fā)表在新一期《科學(xué)·機(jī)器人學(xué)》雜志上。
對(duì)人工智能（AI）至關(guān)重要的大型語(yǔ)言模型（LLM）主要依賴于大規(guī)模數(shù)據(jù)集，但其無(wú)法像人類那樣有效地從有限信息中進(jìn)行泛化。而具身智能是一種基于物理實(shí)體進(jìn)行感知和行動(dòng)的智能系統(tǒng)。它可以通過(guò)智能體與環(huán)境的交互來(lái)獲取信息、理解問(wèn)題、做出決策并執(zhí)行行動(dòng)。
此次的具身智能模型基于預(yù)測(cè)編碼啟發(fā)，變分遞歸神經(jīng)網(wǎng)絡(luò)框架，通過(guò)集成視覺、本體感覺和語(yǔ)言指令三種感官輸入進(jìn)行訓(xùn)練。具體來(lái)說(shuō)，該模型處理了以下輸入：觀看機(jī)械臂移動(dòng)彩色塊的視頻；感知人體四肢運(yùn)動(dòng)的感覺及機(jī)械臂移動(dòng)時(shí)的關(guān)節(jié)角度；以及語(yǔ)言指令如“把紅色物體放在藍(lán)色物體上”。
該模型的靈感，是大腦不斷根據(jù)過(guò)去的經(jīng)驗(yàn)預(yù)測(cè)感官輸入，并采取行動(dòng)將預(yù)測(cè)與觀察之間的差異降至最低。因?yàn)榇竽X的工作記憶和注意力有限，所以必須按順序處理輸入并更新其預(yù)測(cè)，而不是像LLM那樣一次性處理所有信息。
研究表明，新模型只需更小的訓(xùn)練集和更少的計(jì)算資源就可實(shí)現(xiàn)泛化學(xué)習(xí)。盡管它比LLM犯錯(cuò)更多，但這些錯(cuò)誤類似于人類的錯(cuò)誤。
這意味著，將語(yǔ)言與行為相結(jié)合可能是兒童快速語(yǔ)言學(xué)習(xí)的重要因素。這種具身智能不僅提高了透明度，還能更好地了解AI的行為效果，為未來(lái)更安全、更合乎道德的AI發(fā)展指明了方向。
這項(xiàng)研究為理解和模擬人類認(rèn)知提供了一個(gè)新的視角，展示了如何通過(guò)整合多種感官輸入來(lái)實(shí)現(xiàn)高效的泛化能力。這不僅有助于開發(fā)更加智能和靈活的AI系統(tǒng)，也為認(rèn)知科學(xué)提供了寶貴見解。
總編輯圈點(diǎn)
何為泛化？人類就很擅長(zhǎng)從少量示例中泛化知識(shí)。例如，給一個(gè)蹣跚學(xué)步的孩子展示紅球、紅色卡車和紅玫瑰后，他很可能也會(huì)正確識(shí)別出西紅柿是紅色的，即便這是他第一次看到西紅柿。這種能力的關(guān)鍵在于組合性——即將整體分解為可重復(fù)使用的部分的能力。而理解人類如何獲得這種能力，是發(fā)育神經(jīng)科學(xué)和AI研究中的一個(gè)重要問(wèn)題。本文的成果對(duì)研究AI決策過(guò)程的科學(xué)家們非常有用。借此，可以進(jìn)一步探索人類認(rèn)知和機(jī)器學(xué)習(xí)之間的復(fù)雜聯(lián)系，從而推動(dòng)AI技術(shù)的進(jìn)步。
日本沖繩科學(xué)技術(shù)研究所認(rèn)知神經(jīng)機(jī)器人團(tuán)隊(duì)開發(fā)了一種具有新穎架構(gòu)的具身智能模型。它允許科學(xué)家訪問(wèn)神經(jīng)網(wǎng)絡(luò)的各種內(nèi)部狀態(tài)，并且能夠以與人類兒童相似的方式學(xué)習(xí)泛化，揭曉了神經(jīng)網(wǎng)絡(luò)中認(rèn)知發(fā)展和信息處理的關(guān)鍵信息。該成果發(fā)表在新一期《科學(xué)·機(jī)器人學(xué)》雜志上。
對(duì)人工智能（AI）至關(guān)重要的大型語(yǔ)言模型（LLM）主要依賴于大規(guī)模數(shù)據(jù)集，但其無(wú)法像人類那樣有效地從有限信息中進(jìn)行泛化。而具身智能是一種基于物理實(shí)體進(jìn)行感知和行動(dòng)的智能系統(tǒng)。它可以通過(guò)智能體與環(huán)境的交互來(lái)獲取信息、理解問(wèn)題、做出決策并執(zhí)行行動(dòng)。
此次的具身智能模型基于預(yù)測(cè)編碼啟發(fā)，變分遞歸神經(jīng)網(wǎng)絡(luò)框架，通過(guò)集成視覺、本體感覺和語(yǔ)言指令三種感官輸入進(jìn)行訓(xùn)練。具體來(lái)說(shuō)，該模型處理了以下輸入：觀看機(jī)械臂移動(dòng)彩色塊的視頻；感知人體四肢運(yùn)動(dòng)的感覺及機(jī)械臂移動(dòng)時(shí)的關(guān)節(jié)角度；以及語(yǔ)言指令如“把紅色物體放在藍(lán)色物體上”。
該模型的靈感，是大腦不斷根據(jù)過(guò)去的經(jīng)驗(yàn)預(yù)測(cè)感官輸入，并采取行動(dòng)將預(yù)測(cè)與觀察之間的差異降至最低。因?yàn)榇竽X的工作記憶和注意力有限，所以必須按順序處理輸入并更新其預(yù)測(cè)，而不是像LLM那樣一次性處理所有信息。
研究表明，新模型只需更小的訓(xùn)練集和更少的計(jì)算資源就可實(shí)現(xiàn)泛化學(xué)習(xí)。盡管它比LLM犯錯(cuò)更多，但這些錯(cuò)誤類似于人類的錯(cuò)誤。
這意味著，將語(yǔ)言與行為相結(jié)合可能是兒童快速語(yǔ)言學(xué)習(xí)的重要因素。這種具身智能不僅提高了透明度，還能更好地了解AI的行為效果，為未來(lái)更安全、更合乎道德的AI發(fā)展指明了方向。
這項(xiàng)研究為理解和模擬人類認(rèn)知提供了一個(gè)新的視角，展示了如何通過(guò)整合多種感官輸入來(lái)實(shí)現(xiàn)高效的泛化能力。這不僅有助于開發(fā)更加智能和靈活的AI系統(tǒng)，也為認(rèn)知科學(xué)提供了寶貴見解。
總編輯圈點(diǎn)
何為泛化？人類就很擅長(zhǎng)從少量示例中泛化知識(shí)。例如，給一個(gè)蹣跚學(xué)步的孩子展示紅球、紅色卡車和紅玫瑰后，他很可能也會(huì)正確識(shí)別出西紅柿是紅色的，即便這是他第一次看到西紅柿。這種能力的關(guān)鍵在于組合性——即將整體分解為可重復(fù)使用的部分的能力。而理解人類如何獲得這種能力，是發(fā)育神經(jīng)科學(xué)和AI研究中的一個(gè)重要問(wèn)題。本文的成果對(duì)研究AI決策過(guò)程的科學(xué)家們非常有用。借此，可以進(jìn)一步探索人類認(rèn)知和機(jī)器學(xué)習(xí)之間的復(fù)雜聯(lián)系，從而推動(dòng)AI技術(shù)的進(jìn)步。
本文鏈接：http://www.enbeike.cn/news-2-393-0.html神經(jīng)網(wǎng)絡(luò)中認(rèn)知發(fā)展關(guān)鍵信息揭曉 具身智能模型學(xué)習(xí)方式與兒童相似
聲明：本網(wǎng)頁(yè)內(nèi)容由互聯(lián)網(wǎng)博主自發(fā)貢獻(xiàn)，不代表本站觀點(diǎn)，本站不承擔(dān)任何法律責(zé)任。天上不會(huì)到餡餅，請(qǐng)大家謹(jǐn)防詐騙！若有侵權(quán)等問(wèn)題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系，我們將在第一時(shí)間刪除處理。
點(diǎn)擊右上角
微信好友
朋友圈
點(diǎn)擊瀏覽器下方“
”分享微信好友Safari瀏覽器請(qǐng)點(diǎn)擊“
”按鈕
點(diǎn)擊右上角
QQ
點(diǎn)擊瀏覽器下方“”分享QQ好友Safari瀏覽器請(qǐng)點(diǎn)擊“”按鈕
