劃重點(diǎn)
012024年諾貝爾物理學(xué)獎(jiǎng)授予美國普林斯頓大學(xué)教授約翰霍普菲爾德和加拿大多倫多大學(xué)教授杰弗里辛頓，以表彰他們對人工神經(jīng)網(wǎng)絡(luò)實(shí)現(xiàn)機(jī)器學(xué)習(xí)的基礎(chǔ)性發(fā)現(xiàn)和發(fā)明。
02霍普菲爾德發(fā)明了聯(lián)想記憶網(wǎng)絡(luò)，能夠存儲包括圖像在內(nèi)的多種模式，而辛頓發(fā)明了玻爾茲曼機(jī)，這是一種基于統(tǒng)計(jì)物理學(xué)的機(jī)器學(xué)習(xí)算法。
03由于霍普菲爾德和辛頓的工作，機(jī)器學(xué)習(xí)方法得以發(fā)展，如今已發(fā)展成由許多層構(gòu)成的深度神經(jīng)網(wǎng)絡(luò)，訓(xùn)練方式稱為深度學(xué)習(xí)。
04諾貝爾物理學(xué)獎(jiǎng)委員會主席表示，獲獎(jiǎng)?wù)叩墓ぷ饕呀?jīng)為我們帶來極大的益處，物理學(xué)為機(jī)器學(xué)習(xí)的發(fā)展提供了工具，反過來物理學(xué)又從人工神經(jīng)網(wǎng)絡(luò)中受益。
以上內(nèi)容由騰訊混元大模型生成，僅供參考
今日大熱的人工智能在歷史上曾經(jīng)歷過起起落落。進(jìn)入21世紀(jì)以來，新一波人工智能浪潮襲來，利用人工神經(jīng)網(wǎng)絡(luò)，機(jī)器學(xué)習(xí)的發(fā)展呈現(xiàn)爆發(fā)性增長，而這正得益于2024年的兩位諾貝爾物理學(xué)獎(jiǎng)得主從20世紀(jì)80年代起所進(jìn)行的工作。
2024年10月8日，瑞典皇家科學(xué)院宣布，2024年諾貝爾物理學(xué)獎(jiǎng)授予美國普林斯頓大學(xué)教授約翰霍普菲爾德（John J. Hopfield）和加拿大多倫多大學(xué)教授杰弗里辛頓（Geoffrey E. Hinton），以表彰他們對通過人工神經(jīng)網(wǎng)絡(luò)實(shí)現(xiàn)機(jī)器學(xué)習(xí)的基礎(chǔ)性發(fā)現(xiàn)和發(fā)明所作出的貢獻(xiàn)。
約翰霍普菲爾德（左）和杰弗里辛頓（右）（圖片來源：諾貝爾獎(jiǎng)官方網(wǎng)站）
他們使用物理學(xué)工具構(gòu)建了方法，為當(dāng)今強(qiáng)大的機(jī)器學(xué)習(xí)奠定了基矗霍普菲爾德創(chuàng)建了一個(gè)結(jié)構(gòu)，可以用來存儲和重建數(shù)據(jù)中的圖像及其他類型的模式。辛頓發(fā)明了一種方法，可以自主查找數(shù)據(jù)中的屬性，從而執(zhí)行諸如識別圖片中的特定元素等任務(wù)。
向大腦學(xué)習(xí)當(dāng)我們談?wù)撊斯ぶ悄軙r(shí)，我們通常指的是使用人工神經(jīng)網(wǎng)絡(luò)的機(jī)器學(xué)習(xí)。人工神經(jīng)網(wǎng)絡(luò)的靈感來自于人類的大腦。大腦的神經(jīng)網(wǎng)絡(luò)由數(shù)十億個(gè)神經(jīng)元通過突觸相連，當(dāng)我們學(xué)習(xí)事物時(shí)，一些神經(jīng)元之間的連接會變強(qiáng)，而其他的連接會變?nèi)酢Ｔ谌斯ど窠?jīng)網(wǎng)絡(luò)中，大腦的神經(jīng)元由具有不同值的節(jié)點(diǎn)表示，這些節(jié)點(diǎn)通過連接相互影響，這些連接就像突觸一樣，可以變得更強(qiáng)或更弱。
20世紀(jì)60年代末，一些理論研究結(jié)果使研究人員懷疑人工神經(jīng)網(wǎng)絡(luò)永遠(yuǎn)不會有任何實(shí)際用途，人工智能在經(jīng)歷第一次浪潮后也在此時(shí)逐漸進(jìn)入寒冬。但到了1980年代，包括今年的兩位諾貝爾物理學(xué)獎(jiǎng)得主所作出的貢獻(xiàn)在內(nèi)，一批新的想法重新點(diǎn)燃了人們對人工神經(jīng)網(wǎng)絡(luò)的熱情。
霍普菲爾德的聯(lián)想記憶1933年，霍普菲爾德出生于美國芝加哥。1958年，他在美國康奈爾大學(xué)獲得博士學(xué)位�；羝辗茽柕略�(jīng)利用自己的物理學(xué)背景來探索分子生物學(xué)的理論問題。后來，他偶然間接觸到大腦結(jié)構(gòu)的研究，開始了對神經(jīng)網(wǎng)絡(luò)的思考。
1980年，霍普菲爾德離開普林斯頓大學(xué)，加入加州理工學(xué)院。1982年，他發(fā)明了一個(gè)革命性的網(wǎng)絡(luò)結(jié)構(gòu)，稱作“霍普菲爾德網(wǎng)絡(luò)”。這個(gè)網(wǎng)絡(luò)能夠存儲包括圖像在內(nèi)的多種模式，特別是能在接受不完整或有噪聲的輸入時(shí)，重構(gòu)出最相似的存儲模式，因此適用于處理有噪聲或者部分缺失的數(shù)據(jù)。這與人類的大腦在試圖記住一個(gè)詞匯時(shí)，通過搜索類似詞匯找到正確詞匯的過程異曲同工。
在創(chuàng)建這個(gè)具有節(jié)點(diǎn)和連接的網(wǎng)絡(luò)模型的過程中，霍普菲爾德受到了物理學(xué)中描述磁性材料的理論的啟發(fā)。磁性材料的原子自旋使得每個(gè)原子都是一個(gè)微小的磁鐵，相鄰原子的自旋能夠相互影響。而霍普菲爾德用一個(gè)屬性來描述網(wǎng)絡(luò)的整體狀態(tài)，這一對應(yīng)于自旋系統(tǒng)的能量，他稱之為“能量景觀”。
他把搜索網(wǎng)絡(luò)以保存狀態(tài)比作一個(gè)在山峰和山谷中滾動(dòng)的球，摩擦?xí)䴗p緩它的運(yùn)動(dòng)。如果球被放在一個(gè)特定的位置，它會滾到最近的山谷中并停在那里。如果網(wǎng)絡(luò)被給出一個(gè)接近保存模式的模式，小球就會以同樣的方式繼續(xù)前進(jìn)，直到它停在能量景觀的山谷底部，也就是找到記憶中最接近的模式。
辛頓的玻爾茲曼機(jī)當(dāng)霍普菲爾德發(fā)表關(guān)于聯(lián)想記憶的文章時(shí)，另一位獲獎(jiǎng)?wù)咝令D正在美國卡內(nèi)基梅隆大學(xué)工作。1947年，辛頓出生于英國倫敦。1970年，他獲得英國劍橋大學(xué)實(shí)驗(yàn)心理學(xué)學(xué)士學(xué)位。1978年，他在英國愛丁堡大學(xué)獲得人工智能學(xué)博士學(xué)位。在求學(xué)過程中，辛頓就想知道機(jī)器是否可以用類似人類的方式學(xué)習(xí)處理模式，找到自己的類別來排序和解釋信息。
辛頓在自己的研究中也借鑒了來自物理學(xué)的方法，統(tǒng)計(jì)物理學(xué)激發(fā)了他的靈感。1985年，辛頓和合作者以霍普菲爾德網(wǎng)絡(luò)為基礎(chǔ)，提出了玻爾茲曼機(jī)，這一理論正得名于19世紀(jì)著名的統(tǒng)計(jì)物理學(xué)家路德維希玻爾茲曼（Ludwig Boltzmann）。
玻爾茲曼機(jī)通常使用兩種不同類型的節(jié)點(diǎn)：信息被輸入到一組稱作可見節(jié)點(diǎn)的節(jié)點(diǎn)中，它們位于可見層；其他節(jié)點(diǎn)則形成了隱藏層，能夠影響整個(gè)網(wǎng)絡(luò)的功能。這種結(jié)構(gòu)不僅允許網(wǎng)絡(luò)識別已知的模式，還能生成新的、相似的模式。更重要的是，玻爾茲曼機(jī)可以通過例子而不是指令來學(xué)習(xí)。訓(xùn)練有素的玻爾茲曼機(jī)可以識別它以前從未見過的信息中的熟悉特征，這就像如果我們看到一個(gè)朋友的兄弟姐妹，也可以一眼看出他們是親戚。
雖然玻爾茲曼機(jī)的原始形式相當(dāng)?shù)托В枰荛L時(shí)間才能找到解決方案，但是在辛頓和一些人的努力下，特別是在辛頓和同事于2006年開發(fā)出一種革命性的方法后，玻爾茲曼機(jī)的功能變得越來越強(qiáng)大，從而推動(dòng)了機(jī)器學(xué)習(xí)的爆炸式發(fā)展。
機(jī)器學(xué)習(xí)的今天和未來從2010年開始，機(jī)器學(xué)習(xí)迎來了一場革命。我們擁有的大量數(shù)據(jù)可以用來訓(xùn)練網(wǎng)絡(luò)，與此同時(shí)計(jì)算能力也發(fā)生了翻天覆地的變化。如今，人工神經(jīng)網(wǎng)絡(luò)已經(jīng)發(fā)展成由許多層構(gòu)成的深度神經(jīng)網(wǎng)絡(luò)，訓(xùn)練它們的方式稱為深度學(xué)習(xí)，這些都是當(dāng)下的熱門科技詞匯。
1982年，在霍普菲爾德最早提出他的網(wǎng)絡(luò)的時(shí)候，那個(gè)網(wǎng)絡(luò)只有30個(gè)節(jié)點(diǎn)，在所有節(jié)點(diǎn)相互連接的情況下有435個(gè)連接，總共只有不到500個(gè)需要跟蹤的參數(shù)。有100個(gè)節(jié)點(diǎn)的網(wǎng)絡(luò)對他當(dāng)時(shí)使用的計(jì)算機(jī)就已經(jīng)太過復(fù)雜，因此他不得不放棄嘗試。而今天我們使用的大語言模型所包含的參數(shù)超過10000億個(gè)。
霍普菲爾德和辛頓的工作奠定了機(jī)器學(xué)習(xí)的基礎(chǔ)，在獲得今年的諾貝爾物理學(xué)獎(jiǎng)之前，二人就已經(jīng)獲得了廣泛贊譽(yù)。2018年，辛頓因?yàn)樵谏疃葘W(xué)習(xí)和神經(jīng)網(wǎng)絡(luò)方面的卓越貢獻(xiàn)而獲得了計(jì)算機(jī)領(lǐng)域內(nèi)的最高獎(jiǎng)圖靈獎(jiǎng)�；羝辗茽柕略@得過狄拉克獎(jiǎng)、玻爾茲曼獎(jiǎng)等物理學(xué)界的重要獎(jiǎng)項(xiàng)。
諾貝爾物理學(xué)獎(jiǎng)委員會主席艾倫穆恩思（Ellen Moons）在諾貝爾獎(jiǎng)官方網(wǎng)站上表示：“獲獎(jiǎng)?wù)叩墓ぷ饕呀?jīng)為我們帶來極大的益處。在物理學(xué)中，我們在廣泛的領(lǐng)域內(nèi)使用人工神經(jīng)網(wǎng)絡(luò)，例如開發(fā)具有特定特性的新材料。”
物理學(xué)為機(jī)器學(xué)習(xí)的發(fā)展提供了工具，反過來正如穆恩思所說，物理學(xué)又從人工神經(jīng)網(wǎng)絡(luò)中受益。觀察此前的諾貝爾物理學(xué)獎(jiǎng)，我們可以發(fā)現(xiàn)機(jī)器學(xué)習(xí)的應(yīng)用，包括篩選和處理發(fā)現(xiàn)希格斯玻色子所需的大量數(shù)據(jù)、減少來自碰撞黑洞的引力波測量中的噪聲以及更有效地尋找系外行星。而機(jī)器學(xué)習(xí)在科學(xué)研究中更廣泛的應(yīng)用包括在預(yù)測蛋白質(zhì)結(jié)構(gòu)和設(shè)計(jì)新材料方面發(fā)揮重要作用。
2024年諾貝爾物理學(xué)獎(jiǎng)獎(jiǎng)勵(lì)兩位人工神經(jīng)網(wǎng)絡(luò)領(lǐng)域內(nèi)的先驅(qū)，展示了物理學(xué)思想會對其他領(lǐng)域的發(fā)展帶來多么巨大的影響。人工智能是我們這個(gè)時(shí)代的主題詞，將會深刻改變技術(shù)、產(chǎn)業(yè)和我們的生活。今年的諾貝爾物理學(xué)獎(jiǎng)也將成為人工智能發(fā)展歷史上的一個(gè)里程碑，鼓舞更多科學(xué)家以跨學(xué)科思維去解決人類面對的諸多挑戰(zhàn)。
南方周末特約撰稿 鞠強(qiáng)
責(zé)編 朱力遠(yuǎn)
