劃重點
01OpenAI創(chuàng)始人Sam Altman表示，推理模型將是OpenAI未來的重點，以推動科學研究和復雜編程等領域的發(fā)展。
02他認為無代碼工具將有助于初創(chuàng)公司解決短期問題，但長期來看，專注于為技術專家提供工具更為重要。
03Altman指出，開源模型在生態(tài)系統(tǒng)中具有重要地位，同時Agent在實現(xiàn)長期任務方面將發(fā)揮關鍵作用。
04然而，他提醒關注者，AI模型的訓練成本很高，但復利效應和大規(guī)模用戶支持將使其不斷進步。
05最后，他談到了AGI（通用人工智能）時刻的到來，認為社會變化將相對較小，但科學進步將不斷超越普遍預期。
以上內容由大模型生成，僅供參考
人類智力鎖死在了 2021 年。近期，OpenAI CEO Sam Altman 在接受 20VC 的采訪時表示，AGI 或許會在 5 年內到來，然而，AGI 到來如此之快也許是基于一個假設：「人類智力已不再發(fā)展」2021 年，GPT 的主要訓練告一段落。再往后些，ChatGPT 的一夜躥紅，讓我們的生活與 AI 的聯(lián)系變得密不可分。這不僅改變了我們獲取信息的方式，更改變了我們解決問題的思路。但與此同時，更多的 AI 也帶來了更多的 AI 垃圾內容。
我們在利用人類數據訓練 AI 的同時，也在被 AI 反向訓練。可以說，人類知識的整體在進行不斷的低劣的演化，而不是進行有創(chuàng)造力的演化。如同 Garbage in，Garbage out，如果 AI 的 output 不能好于它的 input，那么 AI 輸入的智力則是 AI 有可能達到的天花板。這實際上是「瓦房店化」現(xiàn)象的擴大化。大語言模型本質上歸納了人類的知識，將其統(tǒng)計成了統(tǒng)計規(guī)律，并將其轉化為概率。而從大模型訓練的角度來看，它旨在訓練得到知識的中位數，而不是 99 分位或 95 分位，因為它是歸納回中位數的。所以說，AGI 到最后產生了，或許是因為人類本身的智商降低了。此外，Altman 在這次采訪中還透露了許多信息，比如在大模型浪潮的席卷之下，AI 初創(chuàng)公司應該尋找怎樣的細分市場、當下熱門的 Agent 是否只是曇花一現(xiàn)，以及 Scaling Laws 是否會失效等等。在邁向 AGI 的征途上，人類仍然需要探索更多的路徑。太長省流版：Altman 強調 OpenAI 將致力于推理模型的進步，認為這一方向對推動科學研究和復雜編程等領域至關重要，并且 o 系列模型將迅速進步。OpenAI 計劃為沒有技術背景的創(chuàng)始人開發(fā)無代碼工具，但最初階段將專注于為技術人員提供工具。隨著 OpenAI 模型的快速進步，許多初創(chuàng)公司解決的短期問題會在未來版本的模型中得到解決，因此開發(fā)圍繞這些短板的產品可能并不長久。Altman 認為開源模型將繼續(xù)在生態(tài)系統(tǒng)中發(fā)揮重要作用，并且 AI Agent 的定義是能夠執(zhí)行長期任務并最小化監(jiān)督的智能體。盡管 AI 模型的訓練成本很高，但由于復利效應和大規(guī)模用戶的支持，Altman 認為投資是值得的。在 Altman 看來，推動創(chuàng)新的關鍵在于建立支持創(chuàng)新的文化和組織，而不是僅僅復制他人成功的經驗。
主持人：大家好，歡迎來到 OpenAI 開發(fā)者日。我是 20VC 的 Harry Stebbings，我非常興奮能夠采訪 Sam Altman。歡迎你，Sam，感謝你今天與我一起進行這次采訪。Sam Altman：感謝你的采訪。主持人：現(xiàn)在我們收到了很多觀眾的問題，所以我想從一個問題開始。當我們展望未來，OpenAI 未來是會有更多像 o 這樣的模型，還是會有更多像我們過去可能預期的更大規(guī)模模型？如何看待這個問題？Sam Altman：我們希望在各個方面都取得進展，但推理模型這個方向對我們來說尤為重要。我認為推理將解鎖我們多年來一直期待實現(xiàn)的許多事情，例如使像這樣的模型能夠為新的科學研究做出貢獻，幫助編寫更多復雜的代碼。我認為這將極大地推動我們的進步，所以我們應該期待 o 系列模型的快速進步，這對我們來說是具有戰(zhàn)略意義的。主持人：另一個我覺得非常重要的話題是，當我們展望 OpenAI 的未來計劃時，你如何看待為沒有技術背景的創(chuàng)始人開發(fā)無代碼工具，幫助他們構建和擴展 AI 應用？你怎么看？Sam Altman：這肯定會實現(xiàn)，我認為第一步將是為那些擅長編碼的人提供能提高生產力的工具。但最終，我認為我們可以提供高質量的無代碼工具。目前已經有一些這樣的工具，它們是有意義的，但你不能僅僅通過無代碼的方式，構建一個完整的創(chuàng)業(yè)公司，這需要一段時間。主持人：OpenAI 會向技術棧的哪個層級進軍？如果你花了大量時間調優(yōu)你的 RAG 系統(tǒng)，這是否是在浪費時間，因為 OpenAI 最終可能會認為我將擁有應用層的這一部分，還是說這不是浪費時間？Sam Altman：我們試圖傳達的信息是，我們將盡最大努力，并堅信我們的模型將會不斷進步。如果你正在創(chuàng)建一家公司來解決當前的一些小缺陷，如果我們做得對，這些缺陷在未來將不再那么重要。另一方面，如果你建立的公司能從模型不斷改進中受益，假設今天有人預言 o4 將變得非常強大，能夠完成現(xiàn)在看起來幾乎不可能的任務，而你對此感到高興，那么你可能想錯了。但至少這是我們努力的方向。如果你認為，在許多領域中，你選擇了一個 o1 預覽版表現(xiàn)不佳的領域，并創(chuàng)建了一個僅僅能讓它勉強工作的修補系統(tǒng)，那么你就是在假設模型的下一次改進不會像我們預期的那樣好。這是我們試圖告訴創(chuàng)業(yè)公司的信息：我們相信我們正在走在一個非常陡峭的改進軌道上，今天模型的現(xiàn)有短板將在未來的版本中得到解決。
AI 初創(chuàng)公司的「活路」在哪里？主持人：如果今天你是一個創(chuàng)始人在構建公司，你會在哪里認為 OpenAI 可能會進來碾壓你，而又在哪些地方不會？另外，作為一個投資人，我也在嘗試投資那些不會被影響的機會，那么創(chuàng)始人和我作為投資人，應該如何看待這個問題？Sam Altman：通過使用人工智能來構建以前不可能或相當不切實際的產品和服務，將會創(chuàng)造出數萬億美元的新市場市值。我們試圖使其更具相關性的一個領域是，我們希望模型變得非常好，這樣你就不必費力去讓它們做你想要的事。至于建立在這項新技術上的這些令人難以置信的產品和服務，我們認為它們會變得越來越好。在早期，我感到驚訝的是，在 GPT-3.5 時代（這種情況現(xiàn)在已經改變），大約 95% 的初創(chuàng)公司都在押注模型不會變得更好。當時我們已經預見到 GPT-4 的到來，我們認為它將會非常出色，不再有那些問題。如果你只是創(chuàng)建一個工具來解決模型的某個缺陷，這個缺陷將變得越來越不重要。我們經常忘記僅僅幾年前模型的表現(xiàn)有多糟糕，盡管時間并不長，但那時確實存在很多問題。因此，當時似乎那些領域非常適合構建一些東西來填補這個空白，而不是創(chuàng)建像偉大的 AI 輔導員或 AI 醫(yī)療顧問這樣的產品。所以，我當時覺得 95% 的人都在押注模型不會變得更好，只有 5% 的人認為模型會變得更好。我認為這種情況現(xiàn)在已經發(fā)生了逆轉。人們已經意識到模型改進的速度，并理解了我們計劃做的事情。因此，現(xiàn)在這個問題似乎不再那么嚴重，但那曾是我們非常擔心的問題，因為我們看到了那些非常努力工作的人將面臨的挑戰(zhàn)。主持人：你提到創(chuàng)造數萬億美元的價值。對了，我不確定你是否看到過，杰夫馬薩曾在臺上說過，每年將創(chuàng)造 9 萬億美元的價值，這將抵消他認為需要的 9 萬億美元資本支出。我很好奇，當你看到這一點時是怎么想的？你是如何思考的？
Sam Altman：我無法精確地評估，我認為如果我們能把這一切做到位，達到幾個數量級的改進，就已經足夠好了。目前顯然會有大量的資本支出，同時也會創(chuàng)造大量的價值。這種情況在每一次重大的技術革命中都會出現(xiàn)，而這顯然也是其中的一次。如你所料，明年將是我們邁向下一代系統(tǒng)的重要一年。你提到過可能會出現(xiàn)一個無代碼的軟件代理。我不知道這需要多久才能實現(xiàn)。但如果我們以此為例，向未來想象一下，考慮一下會發(fā)生什么？想一想如果任何人都能簡單地描述出他們想要的整套公司軟件，這會為世界帶來多大的經濟價值。顯然這離我們還有很長的路要走。但當我們到達這個點并實現(xiàn)它時，想一想它是多么困難和昂貴�，F(xiàn)在再想想它所能創(chuàng)造的價值。如果我們能在保持相同價值的前提下，讓它變得更加普及且更加便宜，那就真的是非常強大。我認為我們將看到更多類似的例子，就像我之前提到的醫(yī)療和教育，這兩者對世界的價值是數萬億美元。如果 AI 真正能夠推動這一進程，并以一種與以往完全不同的方式進行，我認為數字本身并不是重點。關于是 9 萬億美元還是 1 萬億美元的爭論，或者其他任何數字你知道，這需要比我更聰明的人來解決。但從價值創(chuàng)造的角度來看，這才是令人難以置信的。怎么看待開源與 Agent？主持人：開源無疑是一個非常重要的交付方式，你怎么看待開源在 AI 未來中的角色？當問到是否應該開源某些模型或全部模型時，內部討論通常是怎樣的？Sam Altman：開源模型在整個生態(tài)系統(tǒng)中顯然占有非常重要的位置�，F(xiàn)在也確實存在一些非常優(yōu)秀的開源模型。我認為也有適當的市場為集成服務和 API 提供良好的解決方案。我認為所有這些東西都可以提供，而人們會根據自己的需求選擇適合自己的交付方式。所以我們有開源作為一種交付給客戶的方式，也是一個傳遞價值的機制，同時也可以通過 Agent 來交付。主持人：關于 Agent，很多時候人們在定義它時存在一些語義上的混亂。你今天如何定義 Agent？你認為什么是 Agent，什么又不是？
