劃重點：
1許多專家認(rèn)為，人工智能取得的巨大進步正幫助硅谷迎來奇點時刻，我們即將迎來劇烈的、指數(shù)級的、不可逆轉(zhuǎn)的巨變。
2奇點理論的最大擁護者庫茲韋爾預(yù)計，到2030年時，計算機系統(tǒng)將通過圖靈測試，與人類無法區(qū)分。之后再過15年，真正的奇點將會到來，屆時“計算將成為我們自身的一部分，我們的智力將提高100萬倍”。
3反對派的批評人士認(rèn)為，即使大語言模型取得了驚人的進步，也與奇點理論所承諾的不朽的、世界智慧的漫長歷程相去甚遠。
「硅谷封面」系列聚焦硅谷科技大公司動態(tài)、科技大咖訪談、重磅研究報告等，旨在為科技資訊愛好者提供全球最前沿的深度好文。本期為硅谷封面第11期，討論人工智能的“奇點時刻”。
多年來，硅谷始終期待著一種全新的技術(shù)出現(xiàn)，并改變一切。它將把人類和機器結(jié)合起來，變成更高級的智能，并為歷史劃開界限。這個里程碑的時刻被稱為“奇點”。
它可能會以多種方式發(fā)生。一個風(fēng)險是，人們可能會將個人電腦的處理能力添加到他們自己與生俱來的智能中，變成他們自己的超強變種。或者，計算機系統(tǒng)可能會發(fā)展得異常復(fù)雜，以至于它們實際上可能會假設(shè)，創(chuàng)造一個世界性的思維。
在這兩種情況下，隨之而來的改變可能是劇烈的、指數(shù)級的、不可逆轉(zhuǎn)的。一臺具有自我意識的超人機器可能會比任何一組科學(xué)家更快地設(shè)計出自己的增強功能，從而引發(fā)智能大爆炸。幾個世紀(jì)的進步可能在幾年甚至幾個月內(nèi)完成。
人工智能在科技、企業(yè)和政治領(lǐng)域正掀起前所未有的波瀾。留心硅谷發(fā)出的夸張聲明和瘋狂預(yù)言，看來承諾已久的數(shù)字天堂終于觸手可及。
向來低調(diào)的谷歌首席執(zhí)行官桑達爾皮查伊(Sundar Pichai)稱，人工智能的影響“比火、電或我們之前所做的任何事情都要深刻得多”。
億萬富翁投資者里德霍夫曼(Reid Hoffman)表示：“在這個星球上作出建設(shè)性改變的能力即將得到前所未有的重要提升。”
微軟聯(lián)合創(chuàng)始人比爾蓋茨(Invoice Gates)宣稱，人工智能“將改變?nèi)藗児ぷ鳌W(xué)習(xí)、旅行體驗，并獲得健康護理和相互交流的最佳方式。”
然而，這里有一個黑暗的轉(zhuǎn)折。就好像科技公司發(fā)布自動駕駛汽車時警告說，它們可能在你前往沃爾瑪購物途中發(fā)生爆炸。
推特和特斯拉掌舵人埃隆馬斯克(Elon Musk)上月在接受采訪時表示：“通用人工智能的出現(xiàn)被稱為奇點，因為很難預(yù)測之后會發(fā)生什么。”但他表示，他認(rèn)為“一個富足的時代”將會到來，但通用人工智能也“有可能毀滅人類”。
在科技界，人工智能最大的支持者是OpenAI首席執(zhí)行官薩姆奧特曼(Sam Altman)，這家初創(chuàng)公司的聊天機器人ChatGPT引發(fā)了當(dāng)前熱潮。奧特曼說，人工智能很可能是“我們所見過的最好的金融賦權(quán)和許多人致富的力量。”不過，他也表示，馬斯克的觀點可能是對的。馬斯克對人工智能持批評態(tài)度，還創(chuàng)建了致力于開發(fā)腦機接口的組織。
上個月，奧特曼簽署了一封由非營利性組織人工智能安全中心發(fā)起的公開信，信中表示，“減輕人工智能滅絕人類的風(fēng)險應(yīng)該是全球優(yōu)先事項”，它應(yīng)該與“流行病和核戰(zhàn)爭”并列。其他簽名者包括奧特曼的OpenAI同事，以及來自微軟和谷歌的科學(xué)家。
“世界末日”的話題在硅谷已經(jīng)變得耳熟能詳，甚至是許多人所熱衷探討的領(lǐng)域。幾年前，似乎每個科技大咖都在遙遠但仍可到達的地方建有物資儲備充足的末日地堡。2016年，奧特曼表示，他正在收集“武器、黃金、碘化鉀、抗生素、電池、水、防毒面罩，以及可以乘坐飛機到達的大蘇爾(Huge Sur)地區(qū)。”在一段時間內(nèi)，新冠疫情讓這些人覺得自己的做法是正確的。現(xiàn)在，他們正在為奇點的到來做準(zhǔn)備。
01 奇點的根源
奇點的思想根源可以追溯到約翰馮諾伊曼（John von Neumann）身上，他是一位計算機科學(xué)家先驅(qū)，在20世紀(jì)50年代，他談到“技術(shù)的不斷加速進步”將如何產(chǎn)生“人類歷史上一些重要的奇點”。
英國數(shù)學(xué)家歐文約翰古德(Irving John Good)在二戰(zhàn)期間曾在布萊切利公園(Bletchley Park)幫助破譯德國恩尼格瑪密碼系統(tǒng)，他也是奇點理論的支持者。他在1964年寫道：“人類的生存將取決于超智能機器的早期發(fā)展。”導(dǎo)演斯坦利庫布里克(Stanley Kubrick)曾就《2001:A House Odyssey》中的人工智能HAL咨詢過古德，這是電腦科學(xué)和科幻小說之間界限模糊的早期例子。
卡耐基梅隆大學(xué)機器人研究所的兼職教授漢斯莫拉維克（Hans Moravec）認(rèn)為，人工智能不僅對人來說是一大福音，無生命的東西也可以在奇點中被回收。他在《兒童思維：機器人和人類智能的未來》(Mind Children: the Future of Robot and Human Intelligence)中寫道：“我們將有機會重新創(chuàng)造過去，并以一種真實而直接的方式與之互動。”
企業(yè)家兼發(fā)明家雷庫茲韋爾(Ray Kurzweil)始終是奇點理論的最大擁護者。他寫了許多有關(guān)奇點的書，包括1990年發(fā)表的 《智能機器時代》、2005年的《奇點臨近》，現(xiàn)在正在寫《奇點更近了》。
庫茲韋爾預(yù)計，到2030年時，計算機系統(tǒng)將通過圖靈測試，與人類無法區(qū)分。他估計，這之后再過15年，真正的奇點將會到來，屆時“計算將成為我們自身的一部分，我們的智力將提高100萬倍”。到那時，庫茲韋爾可能已經(jīng)97歲了。在營養(yǎng)維生素和膳食補充劑的幫助下，他希望繼續(xù)看看以后的發(fā)展趨勢。
對于有些批評奇點理論的人來說，在軟件編程領(lǐng)域復(fù)制感知系統(tǒng)在智力上是一種可疑的嘗試。美國麻省理工學(xué)院計算機科學(xué)與人工智能實驗室前主任羅德尼布魯克斯(Rodney Brooks)說：“他們都想要永生，而不必因為信仰神明而帶來不便。”
目前推動奇點辯論的創(chuàng)新是因為大語言模型的出現(xiàn)，即為聊天機器人提供動力的那種人工智能系統(tǒng)。在與這些大語言模型進行對話的過程中，它可能會迅速、連貫地給出解決方案。
資深人工智能企業(yè)家、《人工智能：每個人都需要知道的東西》一書的作者杰里卡普蘭（Jerry Kaplan）說：“當(dāng)你提出一個問題時，這些模型會解釋它的意思，確定它應(yīng)該給出的反應(yīng)，然后把它翻譯成文字。如果這不是自然智能是什么?”
卡普蘭表示，他對自動駕駛汽車和加密貨幣等被大肆宣揚的奇跡持懷疑態(tài)度。他對最新的人工智能增長抱有類似的疑慮，但他表示自己已經(jīng)被說服。他說：“如果這不是‘奇點’，那它肯定是一個革命性的技術(shù)爆發(fā)，將廣泛地加速一大批藝術(shù)、科學(xué)和人類知識的發(fā)展，同時也會產(chǎn)生很多問題。”
批評人士反駁說，即使大語言模型取得了驚人的進步，也與奇點理論所承諾的不朽的、世界智慧的漫長歷程相去甚遠。準(zhǔn)確地將炒作與現(xiàn)實區(qū)分開來的不利之處在于，驅(qū)動這種技術(shù)的引擎被隱藏起來了。OpenAI最初是一個利用開放源代碼的非營利組織，現(xiàn)在是一家盈利性企業(yè)，批評人士稱它成功地成為了一個黑匣子。谷歌和微軟也提供了有限的可見性。
大部分人工智能分析都是由公司完成的，從結(jié)果中可以得到很多東西。微軟向OpenAI投資了130億美元，該公司的研究人員在4月份發(fā)表的一篇論文中得出結(jié)論，稱OpenAI的最新模型“表現(xiàn)出許多智能特征”，包括“抽象、理解、視覺、編碼”以及“對人類動機和情感的理解”。
斯坦福大學(xué)計算機科學(xué)博士學(xué)者賴蘭謝弗(Rylan Schaeffer)表示，有些人工智能研究人員錯誤地描繪了這些大語言模型是如何展示“新興才華”的，這些無法解釋的能力在較小的變體中并不明顯。
謝弗與斯坦福大學(xué)的兩位同事布蘭多米蘭達（Brando Miranda）和桑米科耶霍（Sanmi Koyejo）一起，在上月公布的一篇分析論文中研究了這一問題。他們得出結(jié)論：新出現(xiàn)的熱潮是由測量誤差造成的“海市蜃樓”。在IMPACT中，研究人員看到了他們希望看到的東西。
02 永生與永恒的利潤
在華盛頓、倫敦和布魯塞爾，議員們正在討論人工智能的替代方案和引發(fā)的問題，并開始談?wù)摫O(jiān)管。奧特曼現(xiàn)在正進行全球之旅，希望轉(zhuǎn)移早期的批評，并將OpenAI宣傳為奇點的牧羊人。
這包括對監(jiān)管持開放態(tài)度，盡管目前對如何監(jiān)管依然沒有清晰的框架。硅谷通常認(rèn)為，政府的行動過于遲緩，無法監(jiān)督突飛猛進的技術(shù)發(fā)展。谷歌前首席執(zhí)行官埃里克施密特（Eric Schmidt）最近接受采訪時表示，政府中沒有人能把這件事做對，他認(rèn)為人工智能應(yīng)該自我監(jiān)管。
人工智能類似于奇點，已經(jīng)被描述為不可逆轉(zhuǎn)的技術(shù)趨勢。奧特曼和他的幾位同事上個月寫道：“阻止它需要類似于全球監(jiān)管制度的東西，即使是這樣也不能保證奏效。”他們補充說，如果硅谷做不到，其他地方或許會成功。
更少提到的是從這種趨勢中獲得的巨額收入。盡管所有人都在討論人工智能是一臺巨大的財富創(chuàng)造機器，但變得富有的人只是那些已經(jīng)富有的人。微軟今年的市值飆升了5000億美元。得益于人工智能芯片需求激增，英偉達被認(rèn)為是美國最受歡迎的上市公司之一。
奧特曼在推特上寫道：“人工智能是世界一直想要的技術(shù)。”的確，這絕對是科技界一直以來所希望的技術(shù)，在絕對最好的時候到來。去年，硅谷受到裁員和利率上升的打擊，較早增長的加密貨幣領(lǐng)域陷入了欺詐和失望之中。
查爾斯斯特羅斯(Charles Stross)是小說《書呆子的狂熱》的合著者之一，這是一部處理奇點的喜劇作品。他說：“這里的實際承諾是，公司將有能力用某些軟件程序來交換他們有缺陷的、昂貴的、遲緩的、人工信息處理的子模型，從而幫助解決問題并減少管理費用。”
奇點始終被想象成一個偉大的“宇宙時刻”，令人興奮。然而目前人們討論奇點的原因，可能主要是因為美國企業(yè)希望削減人力，癡迷對利潤的增加。用夸張的表述來說，當(dāng)你（指企業(yè)家）在沖刺以使你的市值增加數(shù)萬億美元時，即使是（無法達到）的天堂也可以一直等待下去。（文 / 金鹿）
