劃重點(diǎn)
012024年諾貝爾物理學(xué)獎(jiǎng)授予美國普林斯頓大學(xué)的John Hopfield和加拿大多倫多大學(xué)的Geoffrey Hinton,以表彰他們開發(fā)了理解神經(jīng)網(wǎng)絡(luò)的工具。
02他們的發(fā)現(xiàn)構(gòu)成了機(jī)器學(xué)習(xí)的基石,可以幫助人類做出更快、更可靠的決定。
03Hopfield和Hinton利用物理學(xué)工具提出了驅(qū)動(dòng)人工神經(jīng)網(wǎng)絡(luò)的方法,利用大腦啟發(fā)的分層結(jié)構(gòu)來學(xué)習(xí)抽象概念。
04除此之外,他們的成果在人工智能領(lǐng)域得到了廣泛應(yīng)用,如大型語言模型和機(jī)器學(xué)習(xí)算法。
05Hinton已成為對人工智能采取安全措施的最有力呼吁者之一,認(rèn)為機(jī)器學(xué)習(xí)的進(jìn)步將產(chǎn)生巨大影響,堪比工業(yè)革命。
以上內(nèi)容由騰訊混元大模型生成,僅供參考
原文作者:Elizabeth Gibney & Davide Castelvecchi
John Hopfield和Geoffrey Hinton開創(chuàng)了計(jì)算方法,使神經(jīng)網(wǎng)絡(luò)得以發(fā)展。
瑞典皇家科學(xué)院宣布獲獎(jiǎng)?wù)。來源:Jonathan Nackstrand/AFP via Getty
2024年諾貝爾物理學(xué)獎(jiǎng)授予兩位研究人員,表彰他們開發(fā)了理解神經(jīng)網(wǎng)絡(luò)的工具這一發(fā)現(xiàn)正是今日蓬勃發(fā)展的人工智能(AI)的基矗
瑞典皇家科學(xué)院10月8日宣布了獲獎(jiǎng)名單,美國普林斯頓大學(xué)的John Hopfield和加拿大多倫多大學(xué)的Geoffrey Hinton將分享1100萬瑞典克朗的獎(jiǎng)金(約合100萬美元)。
他們基于物理學(xué)工具提出了驅(qū)動(dòng)人工神經(jīng)網(wǎng)絡(luò)的方法,利用大腦啟發(fā)的分層結(jié)構(gòu)來學(xué)習(xí)抽象概念。他們的發(fā)現(xiàn)“構(gòu)成了機(jī)器學(xué)習(xí)的基石,可以幫助人類做出更快、更可靠的決定”,諾貝爾獎(jiǎng)委員會(huì)主席、瑞典卡爾斯塔德大學(xué)的物理學(xué)家Ellen Moons在發(fā)布會(huì)上表示。“人工神經(jīng)網(wǎng)絡(luò)正在推動(dòng)粒子物理學(xué)、材料科學(xué)和天體物理學(xué)等各種物理學(xué)課題的研究。”
機(jī)器記憶
1982年,有物理學(xué)背景的理論生物學(xué)家Hopfield提出了一種網(wǎng)絡(luò),將虛擬神經(jīng)元之間的連接描述為物理力[1]。它將模式存儲(chǔ)為網(wǎng)絡(luò)的低能狀態(tài),可以在接收到類似的輸入時(shí)再現(xiàn)存儲(chǔ)的模式。這一結(jié)構(gòu)被稱為聯(lián)想記憶,因?yàn)樗?ldquo;回憶”方式類似于大腦根據(jù)相關(guān)信息記住一個(gè)詞或一種概念的方式。
計(jì)算機(jī)科學(xué)家Hinton利用統(tǒng)計(jì)物理學(xué)(描述包含太多部件、無法單獨(dú)追蹤的系統(tǒng))原理,進(jìn)一步發(fā)展了“Hopfield網(wǎng)絡(luò)”。通過在網(wǎng)絡(luò)的分層版本中引入概率,Hinton創(chuàng)建了一種新工具,可以識(shí)別和分類圖像,或生成其訓(xùn)練類型的新示例[2]。
這些流程不同于此前較早的計(jì)算方式,因?yàn)榫W(wǎng)絡(luò)能夠從示例包括復(fù)雜數(shù)據(jù)中學(xué)習(xí)。這對于依賴逐步計(jì)算的傳統(tǒng)軟件來說是很難的。
這些網(wǎng)絡(luò)是“極度理想化的模型,與現(xiàn)實(shí)生物神經(jīng)網(wǎng)絡(luò)的差別就像蘋果和星球”,Hinton 2000年在《自然-神經(jīng)科學(xué)》的一篇文章中寫道。但它們被證明很有用并得到了廣泛應(yīng)用。模仿人類學(xué)習(xí)的神經(jīng)網(wǎng)絡(luò)成為了諸多最先進(jìn)的AI工具的基石,從大型語言模型(LLM)到能夠分析海量數(shù)據(jù)的機(jī)器學(xué)習(xí)算法,包括蛋白質(zhì)結(jié)構(gòu)預(yù)測模型AlphaFold。
在宣布獲獎(jiǎng)時(shí),Hinton在電話里說,得知自己獲諾貝爾獎(jiǎng)“始料未及”。他說:“我驚呆了,完全沒想過這會(huì)發(fā)生。”他補(bǔ)充說,機(jī)器學(xué)習(xí)的進(jìn)步“將產(chǎn)生巨大影響,堪比工業(yè)革命。但它超越的不是人類的身體力量,而將是人的智力水平”。
近年來,Hinton已成為對人工智能采取安全措施的最有力呼吁者之一。他表示,去年他確信數(shù)字計(jì)算已經(jīng)超越了人腦,因?yàn)樗軌蛲ㄟ^并行運(yùn)行的多個(gè)算法副本共享學(xué)習(xí)成果。“在那之前我花了50年時(shí)間想,要是能讓它更像大腦會(huì)讓它變得更好。”他在5月31日于瑞士日內(nèi)瓦 AI for Good全球峰會(huì)上在線發(fā)言時(shí)說。“這讓我覺得(這些系統(tǒng))會(huì)以超乎想象的速度變得比我們更智能。”
受物理學(xué)驅(qū)動(dòng)
Hinton還在2018年獲得了圖靈獎(jiǎng)有時(shí)被稱為“計(jì)算機(jī)科學(xué)的諾貝爾獎(jiǎng)”。Hopfield也獲得了包括狄拉克獎(jiǎng)?wù)略趦?nèi)的多項(xiàng)著名物理學(xué)獎(jiǎng)項(xiàng)。
“Hopfield的動(dòng)力很‘物理’,他發(fā)明了這個(gè)物理模型來理解某些物質(zhì)的相變。”德國電子同步加速器實(shí)驗(yàn)室(DESY)的物理學(xué)家Karl Jansen說,他形容這項(xiàng)工作是“開創(chuàng)性的”。Jansen補(bǔ)充說,經(jīng)過幾十年的發(fā)展,神經(jīng)網(wǎng)絡(luò)已成為分析物理實(shí)驗(yàn)數(shù)據(jù)和理解Hopfield最初研究的相變類型的重要工具。
瑞士洛桑聯(lián)邦理工學(xué)院(EPFL)計(jì)算統(tǒng)計(jì)物理學(xué)專家Lenka Zdeborová表示,她對諾貝爾委員會(huì)認(rèn)可物理學(xué)概念在理解復(fù)雜系統(tǒng)中的重要性感到非常驚喜。“這是個(gè)普遍概念,無論是應(yīng)用于分子層面還是社會(huì)中的人。”
在過去的五年間,阿貝爾獎(jiǎng)和菲爾茲獎(jiǎng)也表彰了數(shù)學(xué)、物理和計(jì)算機(jī)科學(xué)之間的交叉促進(jìn),特別是對統(tǒng)計(jì)物理學(xué)的貢獻(xiàn)。
兩位獲獎(jiǎng)?wù)叨?ldquo;將物理學(xué)中的非常重要的思想引入了人工智能”,計(jì)算機(jī)科學(xué)家Yoshua Bengio表示,他與Hinton以及另一位神經(jīng)網(wǎng)絡(luò)先驅(qū)Yann LeCun共同獲得了2018年的圖靈獎(jiǎng)。開創(chuàng)性的工作和充滿感染力的熱情,使Hinton成為了Bengio在內(nèi)的其他早期神經(jīng)網(wǎng)絡(luò)倡導(dǎo)者的偉大榜樣,F(xiàn)為加拿大蒙特利爾學(xué)習(xí)算法研究所的主任的Bengio說:“當(dāng)我還是大學(xué)學(xué)生時(shí)這極大鼓舞了我。”Bengio提到,許多計(jì)算機(jī)科學(xué)家認(rèn)為神經(jīng)網(wǎng)絡(luò)在幾十年里毫無成果但一個(gè)重大轉(zhuǎn)折點(diǎn)出現(xiàn)在2012年,當(dāng)時(shí)Hinton和其他研究人員用神經(jīng)網(wǎng)絡(luò)贏得了一項(xiàng)重要的圖像識(shí)別比賽。
腦模型的益處
生物學(xué)也從這些大腦的人工模型中受益。挪威科技大學(xué)(NTNU)特隆赫姆分校的神經(jīng)科學(xué)家、2014年諾貝爾生理學(xué)或醫(yī)學(xué)獎(jiǎng)獲獎(jiǎng)?wù)咧坏腗ay-Britt Moser表示,當(dāng)她看到獲獎(jiǎng)?wù)呙麊螘r(shí)“太高興了”。她說,Hopfield網(wǎng)絡(luò)模型的各個(gè)版本對神經(jīng)科學(xué)家非常有用,用于研究神經(jīng)元如何在記憶和導(dǎo)航中協(xié)同工作。她補(bǔ)充說,Hopfield的模型將記憶描述為表面的低點(diǎn),幫助研究人員直觀了解某些思想或焦慮如何在大腦中固定和恢復(fù)。“當(dāng)人們陷入困境時(shí),我喜歡跟他們講這個(gè)比喻。”
如今,神經(jīng)科學(xué)依賴神經(jīng)網(wǎng)絡(luò)理論和機(jī)器學(xué)習(xí)工具自Hopfield和Hinton的工作之后蓬勃發(fā)展起來以同時(shí)理解和處理數(shù)千個(gè)細(xì)胞的數(shù)據(jù),Moser說。“它持久地推動(dòng)我們?nèi)ダ斫馐挛,它們的奧秘在這個(gè)領(lǐng)域剛起步時(shí)是做夢都不敢想的。”
“使用機(jī)器學(xué)習(xí)工具,對數(shù)據(jù)分析和大腦回路如何計(jì)算的可能理解,有著不可估量的影響。”美國布蘭代斯大學(xué)的神經(jīng)科學(xué)家Eve Marder說。“但與機(jī)器學(xué)習(xí)、人工智能在日常生活各方面產(chǎn)生的影響相比,這又相形見絀了。”
參考文獻(xiàn):
原文以Physics Nobel scooped by machine-learning pioneers標(biāo)題發(fā)表在2024年10月8日《自然》的新聞版塊上