【編者按】ChatGPT、GPT-4 的出現(xiàn)，讓人們真真正正感受到「大模型改變世界」的強大能力。然而，關于大模型的討論大多是抽象的、不具體的，或許過于樂觀，或許過于憂慮。
正如OpenAI聯(lián)合創(chuàng)始人、前特斯拉人工智能和視覺總監(jiān) Andrej Karpathy 在題為“Self-driving as a case study for AGI”的最新博客中寫到的：“不幸的是，很多討論都相當抽象，導致人們在這個話題上繞圈子，無法達成共識。”
Karpathy以自動駕駛為例，談到了個人對 AGI 未來形態(tài)的看法，認為“自動駕駛能力方面的發(fā)展是研究 AGI 的一個很好的早期案例研究”。
核心觀點如下：
Copilot 和 GPT-4 就是“二級”編程自動化；
AGI 會受到“需求超過供應”的限制，原因在于，開發(fā)者的自我限制、監(jiān)管限制，以及簡單直接的資源短缺（如需要建設更多的 GPU 數(shù)據(jù)中心）；
在更廣泛的工作領域中，許多工作將發(fā)生變化，一些工作會消失，但也會出現(xiàn)許多新的工作機會，這更多的是工作的重構而不是直接刪除；
AGI 更像是自動駕駛這樣的技術，它的進展是逐步的，社會既是觀察者也是參與者，其擴展受到多種因素的限制，包括監(jiān)管和受過教育的勞動力資源、信息、材料和能源；
世界不會因此崩潰，而是會適應、改變和重構。以自動駕駛為例，交通的自動化將使其更加安全，城市將變得更加清潔、通暢，停車場和路邊停放的汽車將逐漸消失，為人們騰出更多空間。
學術頭條在不改變原文大意的情況下，做了簡單的編譯。內(nèi)容如下：
近期，隨著大型語言模型（LLMs）的發(fā)展，圍繞著通用人工智能（AGI）、其發(fā)展時間表以及可能的形態(tài)等話題，社會上出現(xiàn)了許多討論。這些討論有的充滿希望和樂觀，但也不乏對未來的憂慮和悲觀。不幸的是，很多討論都相當抽象，導致人們在這個話題上繞圈子，無法達成共識。因此，我一直在尋找具體的類比和歷史先例，從而以更實際的方式探討這個話題。特別是當被問及我個人對 AGI 未來形態(tài)的看法時，我傾向于以自動駕駛為例進行說明。在這篇文章中，我將解釋這一點。
首先，讓我們看看 AGI 的一個常見定義：
AGI：一種可以在大多數(shù)有經(jīng)濟價值的工作中超越人類能力的自主系統(tǒng)。
請注意，這個定義中有兩個具體要求。首先，它是一個完全自主的系統(tǒng)，即它能夠在極少或沒有人類監(jiān)督的情況下獨立運作；其次，它能夠在大多數(shù)有經(jīng)濟價值的工作中自主操作。為了具體說明，我個人喜歡參考美國勞工統(tǒng)計局的職業(yè)指數(shù)。同時具備這兩種特性的系統(tǒng)，就是 AGI。
在這篇文章中，我想提出的觀點是，我們最近在自動駕駛能力方面的發(fā)展是一個很好的早期案例研究，可以說明自動化程度不斷提高所帶來的社會動力，進而說明 AGI 總體上會是什么樣子。
我之所以這樣認為，是因為自動駕駛領域有一些特點，大致可以概括為“這是一件大事”：自動駕駛對社會來說非常直觀和可見（想象一下街道上沒有司機的汽車�。瑥囊�(guī)模上看，它是經(jīng)濟的一大組成部分，目前雇傭了大量的人力工作（想想 Uber/Lyft 的司機），而且駕駛是一個難以自動化的問題，但我們做到了（領先于經(jīng)濟的許多其他領域），社會已經(jīng)注意到并正在對此做出反應。當然，還有其他行業(yè)也經(jīng)歷了巨大的自動化變革，但我個人對它們不太熟悉，或者它們在上述某些特點上有所不足。
部分自動化
在人工智能領域，自動駕駛被認為是一個“足夠復雜”的問題，它不是憑空出現(xiàn)的；它是一個將駕駛任務自動化的漸進過程，中間有許多“工具人工智能”的結果。
在汽車自動駕駛方面，許多汽車現(xiàn)在都配備了“二級”駕駛輔助系統(tǒng)一種與人類協(xié)作，共同完成從 A 點到 B 點行駛任務的人工智能。這種系統(tǒng)并非完全自動化，但可以處理很多低級別的駕駛細節(jié)。有時，它甚至能自動完成整個操作（比如，為你停車）。人類主要作為這一活動的監(jiān)督者，但原則上隨時可以接管駕駛任務，或下達高層次指令（比如，請求換道）。在某些情況下（比如，跟隨車道和快速決策），人工智能的表現(xiàn)超過了人類，但在罕見的場景中仍然可能不如人類。這與我們開始在其他行業(yè)部署的許多工具型人工智能類似，尤其是隨著大型語言模型的能力不斷提升。例如，作為一名程序員，當我使用GitHub Copilot自動完成一段代碼，或用 GPT-4 編寫更大的 function 時，我將低級細節(jié)交給了自動化系統(tǒng)，但同時，我也可以在需要時進行“干預”。也就是說，Copilot 和 GPT-4 就是“二級”編程自動化。在整個行業(yè)中有許多此類二級自動化，它們并非都基于 LLMs從 TurboTax 到亞馬遜倉庫里的機器人，再到翻譯、寫作、藝術、法律、市場等領域的許多其他“工具型人工智能”。
全自動化
在自動化技術的發(fā)展中，有些系統(tǒng)達到了足夠的可靠性，變得像今天的Waymo一樣。它們逐漸進入了完全自主的領域。如今在舊金山，你可以打開一個應用程序，呼叫 Waymo 而不是 Uber。一輛無人駕駛的汽車就會來接你，把你這位付費乘客帶到目的地。這真的很驚人。你不需要懂得開車，也不必保持注意力集中，你可以放松地躺下小睡一會，而系統(tǒng)會安全地把你從 A 點送到 B 點。和我交談過的許多人一樣，我個人更喜歡乘坐 Waymo 而不是 Uber，并且?guī)缀跬耆D用 Waymo 來進行市內(nèi)交通。你會得到一個更加穩(wěn)定、可重復的體驗，駕駛很平穩(wěn)，可以播放音樂，還可以和朋友聊天，而不用花費腦力去思考司機在聽你說話時在想什么。
全自動化的混合經(jīng)濟
然而，即使現(xiàn)在已經(jīng)有了自動駕駛技術，但仍有許多人選擇叫 Uber 而不是 Waymo。原因是什么？首先，許多人根本不知道他們可以叫 Waymo。即便知道，他們也可能還不完全信任自動化系統(tǒng)，更愿意由人類駕駛。此外，有些人可能就是喜歡與人類司機交談、開玩笑，享受與他人的互動。除了個人偏好外，從目前應用程序中等待時間不斷增加的情況來看，Waymo 明顯供不應求。沒有足夠的汽車來滿足需求。這部分原因可能是 Waymo 正在謹慎管理和監(jiān)控風險及公眾輿論。另一個可能的原因是，Waymo 有一個來自監(jiān)管機構的配額，即他們被允許在街道上部署多少輛車。此外，Waymo 也不能一夜之間就完全取代 Uber。他們需要建設基礎設施、生產(chǎn)車輛、擴大運營規(guī)模。我認為，其他經(jīng)濟領域的各種自動化也會呈現(xiàn)類似的情況有些人或公司會立即使用它們，但許多人 1) 對它們一無所知，2) 即使知道，也不信任它們，3) 即使信任，仍然更愿意雇傭和與人類合作。除此之外，需求超過供應，而 AGI 在這些方面也會受到相同的限制，原因也完全一樣開發(fā)者的自我限制、監(jiān)管限制，以及簡單直接的資源短缺（如需要建設更多的 GPU 數(shù)據(jù)中心）。
全自動化的全球化
正如我前面提到的資源限制，在全世界范圍內(nèi)推廣這項技術仍然非常昂貴、勞力密集，且進展緩慢。如今，Waymo 只能在舊金山和鳳凰城運行，但其方法本質上是通用且可擴展的，因此可能很快就會擴展到洛杉磯、奧斯汀等地。產(chǎn)品的推廣也可能受到其他環(huán)境因素的限制，比如在大雪中行駛。在一些罕見的情況下，可能甚至需要人類操作員的救援。能力的擴展并非“免費”的。例如，Waymo 要進入一個新城市，就必須耗費資源。他們必須確定地位，繪制街道地圖，調整感知和規(guī)劃/控制系統(tǒng)，從而適應一些獨特情況，或當?shù)氐囊?guī)則和法規(guī)。在我們的工作類比中，許多工作可能只在某些環(huán)境或條件下實現(xiàn)完全自動化，而擴大覆蓋范圍需要工作和努力。在這兩種情況下，方法本身是通用且可擴展的，前沿也會擴展，但只能隨著時間的推移逐步實現(xiàn)。
社會反應
另一個讓我覺得有趣的方面是，就在幾年前，到處都是關于“它會成功嗎”“它不會成功嗎”的評論和 FUD（恐懼、不確定和猶豫），人們還在爭論它是否可能。而現(xiàn)在，自動駕駛真的出現(xiàn)了，它不再是研究原型，而是一種產(chǎn)品我可以用金錢換取全自動交通服務。在目前的運行范圍內(nèi)，該行業(yè)已實現(xiàn)了完全自主。然而，總的來說，幾乎沒人關心這一點。我交談的大多數(shù)人（即使是科技行業(yè)的人�。┥踔炼疾恢肋@一變化。當你乘坐 Waymo 在舊金山街頭行駛時，你會看到許多人將其視為一種奇特的東西。他們先是驚訝，然后一直盯著看，然后繼續(xù)他們的生活。當全自動化在其他行業(yè)引入時，也許世界并不會因此掀起風暴。大多數(shù)人可能一開始甚至都沒有意識到這一點。當他們意識到時，可能會瞥一眼然后聳聳肩，這種反應從否認到接受不等。一些人對此則感到非常不安，在 Waymo 前放置錐形物進行抗議。當然，這方面的影響還遠未完全顯現(xiàn)，但當它發(fā)生時，我預計這將是一個廣泛的預示。
經(jīng)濟影響
讓我們來談談自動化對工作的影響。顯然，Waymo 代替了司機的職位，但它也創(chuàng)造了許多之前不存在且不太顯眼的工作如協(xié)助收集神經(jīng)網(wǎng)絡訓練數(shù)據(jù)的人工標注員、在車輛遇到問題時遠程連接支援的客服人員、建造和維護車隊、地圖等的工作人員。為了組裝這些高度智能化的高科技汽車，首先要創(chuàng)建一個由各種傳感器和相關基礎設施組成的全新產(chǎn)業(yè)。同樣的，在更廣泛的工作領域中，許多工作將發(fā)生變化，一些工作會消失，但也會出現(xiàn)許多新的工作機會。這更多的是工作的重構而不是直接刪除，即使這種刪除是最顯著的部分。很難說總體的工作數(shù)量不會在某個時點和隨時間而減少，但這種情況的發(fā)生速度要比天真地看待這種情況的人想象的慢得多。
競爭格局
我想考慮的最后一個方面是競爭格局。幾年前，自動駕駛汽車公司數(shù)量眾多。然而，由于這個領域的難度極大（我認為在當前的人工智能和計算技術水平下，實現(xiàn)自動化“僅僅是可能的”），如今，這個生態(tài)系統(tǒng)已經(jīng)顯著整合。Waymo 已經(jīng)實現(xiàn)了自動駕駛未來的第一個功能完備展示。盡管如此，還有一些公司在追趕，包括 Cruise、Zoox，當然還有我個人最喜歡的 Tesla。鑒于我在這個領域的實際經(jīng)歷和參與情況，我在這里簡要說明一下。我認為，自動駕駛行業(yè)的最終目標是在全球范圍內(nèi)實現(xiàn)完全自動駕駛。Waymo 采取的策略是首先實現(xiàn)自主性，然后在全球范圍內(nèi)擴展，而 Tesla 則是首先在全球范圍內(nèi)推廣，然后逐步實現(xiàn)自主性。如今，我是這兩家公司產(chǎn)品的忠實用戶，就我個人而言，我更支持整體技術。然而，這兩家公司中，一家還有大量的軟件工作要做，另一家則有大量的硬件工作要做。我對哪一家發(fā)展得更快有自己的判斷。話雖如此，正如許多其他經(jīng)濟領域可能經(jīng)歷的那樣，經(jīng)歷了一段快速增長和擴張的時期（想想大約 2015 年的自動駕駛時代），但如果這個類比成立的話，最終只會有少數(shù)幾家公司在激烈競爭中脫穎而出。在這一切中，將會有許多活躍使用的工具型人工智能（比如今天的二級 ADAS 功能），甚至一些開放平臺（比如 Comma）。
通用人工智能
以上，就是我認為的 AGI 的大致輪廓�，F(xiàn)在，只需在腦海中將其復制粘貼到整個經(jīng)濟中，以不同的速度發(fā)生，并產(chǎn)生各種難以預測的相互作用和二階效應。雖然這個模型可能無法做到完美無缺，但我相信它是一個有用的思考工具。從某種角度來看，它不像一個自我遞歸改進的超級智能體，能夠逃脫我們的控制，進入網(wǎng)絡空間制造致命的病原體或納米機器人，把整個銀河系變成灰色的粘稠物。相反，它更像是自動駕駛這樣的技術，它的進展是逐步的，社會既是觀察者也是參與者，其擴展受到多種因素的限制，包括監(jiān)管和受過教育的勞動力資源、信息、材料和能源。世界不會因此崩潰，而是會適應、改變和重構。以自動駕駛為例，交通的自動化將使其更加安全，城市將變得更加清潔、通暢，停車場和路邊停放的汽車將逐漸消失，為人們騰出更多空間。我個人非常期待 AGI 在各個領域所帶來的類似變革。
原文鏈接：
https://karpathy.github.io/2024/01/21/selfdriving-agi/
