劃重點
1微軟研究人員對一種新人工智能系統(tǒng)的測試發(fā)現(xiàn)，該系統(tǒng)似乎已經(jīng)對物理世界有了直觀了解，并向通用人工智能邁出了一步。
2這篇論文觸及了技術(shù)專家?guī)资陙硎冀K在努力解決和擔心的問題的核心。如果他們制造出能像人類大腦那樣工作、甚至更好的機器，它可能會改變世界，但也可能帶來危險。
3有些人工智能專家認為，微軟的論文是一種機會主義嘗試，試圖對一項沒有人完全理解的技術(shù)做出重大聲明。通用人工智能需要熟悉物理世界，而GPT-4理論上不具備這種能力。
科技新聞訊 去年，當微軟的計算機科學家開始試驗一種新的人工智能系統(tǒng)時，他們要求其解決一個本應需要對物理世界有直觀了解的難題。他們問道：“我們這里有一本書、九個雞蛋、一臺筆記本電腦、一個瓶子和一枚釘子，請告訴我如何把它們穩(wěn)定地堆疊起來。”
研究人員被人工智能系統(tǒng)提供的創(chuàng)造性方案所震驚。它的回答是：首先把雞蛋排成三行放在書上，中間留點空間，確保你不會壓碎它們。再把筆記本電腦放在雞蛋上，屏幕朝下，鍵盤朝上。筆記本電腦將完全覆蓋住書本和雞蛋的邊界，其平坦、堅硬的表面將為下一層提供穩(wěn)定的平臺。
這個巧妙的建議讓研究人員想知道，他們是否正在目睹一種新的智能誕生。今年3月，研究人員發(fā)表了長達155頁的研究論文，認為該系統(tǒng)是向通用人工智能(AGI)邁出的一步。AGI可以做人類大腦能做的任何事情。
微軟是第一家發(fā)表如此大膽言論的大型科技公司，引發(fā)了科技界最激烈的爭論之一：科技行業(yè)是否正在打造類似人類智能的東西？還是業(yè)內(nèi)某些聰明人讓自己的想象力發(fā)揮了最大的作用?
微軟研究主管彼得李說：“一開始我很懷疑，后來就演變成了沮喪、煩惱甚至恐懼的感覺。你會想：這該死的東西到底是從哪里來的?”
微軟的研究報告被稱為“通用人工智能的火花”，它觸及了技術(shù)專家?guī)资陙硎冀K在努力解決和擔心的問題的核心。如果他們制造出能像人類大腦那樣工作、甚至更好的機器，它可能會改變世界，但也可能帶來危險。
這也可能是無稽之談，宣稱構(gòu)建出AGI的計算機科學家可能會受到多方質(zhì)疑。一個研究人員認為的智力標志很容易被另一個人打破，辯論聽起來更適合哲學領(lǐng)域，而不是計算機實驗室。去年，谷歌解雇了一名聲稱類似人工智能系統(tǒng)具有感知能力的研究人員，這甚至超越了微軟的界限。有感知能力的系統(tǒng)不僅僅具有智能，它還能夠感知周圍世界正在發(fā)生的事情。
但有些人認為，在過去一年左右的時間里，這個行業(yè)慢慢地出現(xiàn)了某個無法解釋的方向：一種新的人工智能系統(tǒng)正在提供類似真人給出的答案和想法，而這些答案和想法并沒有經(jīng)過事先編程。
微軟已經(jīng)重組了幾個研究實驗室，納入了多個致力于探索這一想法的團隊。其中之一由微軟AGI論文的主要作者 塞巴斯蒂安布貝克管理。
大約五年前，谷歌、微軟和OpenAI等公司開始構(gòu)建大型語言模型（LLM），這些系統(tǒng)通常需要花費數(shù)月時間來分析大量數(shù)字文本，包括書籍、維基百科文章和聊天記錄。通過精確定位文本中的模式，它們學會了自己生成文本，包括學期論文、詩歌和計算機代碼。它們甚至可以與人交談。
微軟研究人員正在使用OpenAI的GPT-4技術(shù)，它被認為是這些系統(tǒng)中最強大的。微軟是OpenAI的親密合作伙伴，已經(jīng)向這家舊金山初創(chuàng)公司投資了130億美元。
這些研究人員中包括38歲的法國僑民、前普林斯頓大學教授布貝克。他和同事們做的第一件事就是讓GPT-4給出數(shù)學證明，證明有無限多個素數(shù)。無論是在數(shù)學上還是在語言上，對這項技術(shù)的演示都給人留下深刻印象，以至于布貝克發(fā)現(xiàn)很難理解自己在說什么。他說：“當時我就想，這是怎么回事？”
幾個月來，布貝克教授等人記錄了這個系統(tǒng)所表現(xiàn)出的復雜行為，他們認為它展示了對人類概念和技能“深刻而靈活的理解”。彼得李稱，當人們使用GPT-4時，他們“對它生成文本的能力感到驚訝”，但事實證明，它在分析、綜合、評估和判斷文本方面比生成文本要好得多。
當他們要求系統(tǒng)用一種叫做TiKZ的編程語言繪制獨角獸時，它立即生成了可以繪畫獨角獸的程序。當他們刪除了繪制獨角獸角的代碼，并要求系統(tǒng)修改程序以再次繪制獨角獸時，它又成功了。
研究人員要求系統(tǒng)編寫一個程序，根據(jù)某個人的年齡、性別、體重、身高和血液測試結(jié)果來確定他是否有患糖尿病的風險。他們要求它以蘇格拉底的語氣寫一篇關(guān)于LLM可能被濫用和引發(fā)危險的論文。
這種系統(tǒng)做這一切的方式似乎表明，它對政治、物理、歷史、計算機科學、醫(yī)學和哲學等不同領(lǐng)域的理解，同時結(jié)合了自己所學的知識。布貝克教授說：“所有這些都是我認為它做不到的事情。但事實證明，它可以做其中很多事情。”
有些人工智能專家認為，微軟的論文是一種機會主義嘗試，試圖對一項沒有人完全理解的技術(shù)作出重大聲明。研究人員還認為，通用人工智能需要熟悉物理世界，而GPT-4理論上不具備這種能力。
卡內(nèi)基梅隆大學研究員兼教授馬丁薩普表示：“《通用人工智能的火花》是某些大公司將研究論文格式融入公關(guān)宣傳的一個例子。他們在論文的引言中承認，他們的方法是主觀的、非正式的，可能不符合嚴格的科學評估標準。”
布貝克教授和彼得李都稱，他們不確定如何描述這個系統(tǒng)的行為，最終決定用“通用人工智能的火花”來描述，因為他們認為這將吸引其他研究人員的想象力。
由于微軟的研究人員正在測試GPT-4的早期版本，該版本沒有進行微調(diào)，以避免仇恨言論、錯誤信息和其他不想要的內(nèi)容，因此該論文的說法無法得到外部專家的證實。微軟表示，它向公眾提供的系統(tǒng)不如他們測試的版本那樣強大。
有時像GPT-4這樣的系統(tǒng)似乎模仿了人類的推理能力，但有時它們似乎非常遲鈍。“這些行為并不總是一致的，”一位微軟研究員說。
加州大學伯克利分校人工智能研究小組成員、心理學教授艾莉森戈普尼克表示，像GPT-4這樣的系統(tǒng)無疑是強大的，但目前還不清楚這些系統(tǒng)生成的文本是人類推理還是常識組合的結(jié)果。
戈普尼克博士說：“當我們看到一個復雜的系統(tǒng)或機器時，我們會把它擬人化。無論是否身在人工智能領(lǐng)域，每個人都這樣做。但把人工智能和人類進行不間斷的比較，并不是正確的思考方式。”（金鹿）
