新京報(bào)貝殼財(cái)經(jīng)訊(記者羅亦丹)在2024諾貝爾物理學(xué)獎(jiǎng)與化學(xué)獎(jiǎng)都頒給了與人工智能和神經(jīng)網(wǎng)絡(luò)相關(guān)的研究的背景下,10月10日,記者獲悉,中國科學(xué)院自動(dòng)化研究所曾毅研究員領(lǐng)導(dǎo)的“類腦認(rèn)知智能研究組”近期在人工智能領(lǐng)域權(quán)威期刊《IEEE Transactions on Pattern Analysis and Machine Intelligence》上發(fā)表了一篇題為“發(fā)育可塑性啟發(fā)的深度脈沖與人工神經(jīng)網(wǎng)絡(luò)自適應(yīng)剪枝模型”的新研究。
該研究融合生物腦多尺度發(fā)育可塑性機(jī)制,基于“用進(jìn)廢退”的原則設(shè)計(jì)自適應(yīng)剪枝策略去除網(wǎng)絡(luò)中冗余的突觸和神經(jīng)元,探索腦發(fā)育可塑性如何賦予深度神經(jīng)網(wǎng)絡(luò)以動(dòng)態(tài)結(jié)構(gòu)調(diào)整能力,使其像生物腦一樣逐步“發(fā)育”為更高效的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu),在“會(huì)發(fā)育”的人工智能研究方面取得進(jìn)展。
研究團(tuán)隊(duì)負(fù)責(zé)人和論文的通訊作者曾毅研究員說:“我們的研究可以說是腦科學(xué)與人工智能雙向啟發(fā)又一個(gè)典型的案例。我們?cè)谕粋(gè)神經(jīng)網(wǎng)絡(luò)計(jì)算模型中融合了腦發(fā)育過程中多尺度的突觸、神經(jīng)元自適應(yīng)新生與消亡機(jī)制,探索了這些原理在計(jì)算層面的協(xié)同,通過計(jì)算建模進(jìn)一步驗(yàn)證了腦發(fā)育原理。在此基礎(chǔ)上提出基于類腦發(fā)育可塑性的通用結(jié)構(gòu)學(xué)習(xí)理論,受此啟發(fā)構(gòu)建結(jié)構(gòu)動(dòng)態(tài)發(fā)育的低能耗、高性能類腦神經(jīng)網(wǎng)絡(luò)。這項(xiàng)研究揭示了發(fā)育可塑性在助力神經(jīng)網(wǎng)絡(luò)自適應(yīng)形成類腦高效結(jié)構(gòu)方面的重要價(jià)值和關(guān)鍵作用,同時(shí)也從一個(gè)側(cè)面驗(yàn)證了這些原理對(duì)于生物腦在發(fā)育過程中將大腦塑造為更具自適應(yīng)性的結(jié)構(gòu)。這項(xiàng)研究將為發(fā)展高適應(yīng)性、高性能的類腦人工智能模型與平臺(tái)提供了有力的理論與技術(shù)支持。”
編輯 岳彩周
校對(duì) 盧茜