劃重點
01OpenAI CEO Sam Altman在與哈佛大學(xué)教授Patrick Chung的對談中，分享了AI技術(shù)的未來走向和社會影響。
02Altman認(rèn)為AI技術(shù)的潛力遠(yuǎn)未被完全開發(fā)，未來幾年將會有更大的進展，創(chuàng)業(yè)者應(yīng)選擇利用AI技術(shù)快速進步的策略。
03他提到，OpenAI一開始選擇了非營利的模式，但隨著AI研發(fā)規(guī)模和資源需求越來越大，后來轉(zhuǎn)變?yōu)?ldquo;有限利潤”模式。
04此外，OpenAI在技術(shù)開發(fā)過程中非常注重安全性和責(zé)任感，如在決定是否部署重大技術(shù)如GPT-5時，會進行極其慎重的考量。
以上內(nèi)容由騰訊混元大模型生成，僅供參考
奧特曼分享早期創(chuàng)業(yè)經(jīng)驗：創(chuàng)業(yè)就是一場“持久戰(zhàn)”，誰堅持到最后誰贏
近日， OpenAI CEO Sam Altman 與其首位投資人& X Fund 管理合伙人 Patrick Chung 在哈佛大學(xué)展開了一次對談，重點討論了 AI 的未來走向、其對社會的影響，以及 Sam Altman 和 OpenAI 團隊在這一領(lǐng)域的最新研究方向。
Altman 強調(diào)， AI 技術(shù)的進步不會像許多人預(yù)測的那樣很快進入停滯期，反而會持續(xù)帶來戲劇性的發(fā)展。他認(rèn)為， AI 的潛力遠(yuǎn)未被完全開發(fā)，未來幾年將會有更大的進展。創(chuàng)業(yè)者應(yīng)該預(yù)見到 AI 技術(shù)會不斷變得更強大，而不是基于現(xiàn)有技術(shù)做短期投資決策。
AI 創(chuàng)業(yè)者的戰(zhàn)略通常有兩種選擇：一種是賭 AI 技術(shù)已接近頂峰，另一種是賭技術(shù)會大幅提升。他建議創(chuàng)業(yè)者選擇第二種策略，即利用 AI 技術(shù)的快速進步，通過基礎(chǔ)模型的增強逐步提升業(yè)務(wù)的有效性，而不是僅僅將有限的資源投入到特定場景中的小幅改進。
他還提到， OpenAI 一開始選擇了非營利的模式，但如果能回到過去，他可能會選擇營利性結(jié)構(gòu)。他解釋說，隨著 AI 研發(fā)的規(guī)模和資源需求越來越大， OpenAI 需要找到可持續(xù)的商業(yè)模式來支持其技術(shù)進步。這也是 OpenAI 后來轉(zhuǎn)變?yōu)?ldquo;有限利潤”模式以確保技術(shù)發(fā)展能夠獲得足夠資金支持的原因。
OpenAI 每年都會推出那些人們曾認(rèn)為不可能實現(xiàn)的技術(shù)。特別是在 GPT 系列模型的發(fā)展上， OpenAI 從 GPT-3 到 GPT-4，不斷通過規(guī)�；图夹g(shù)的提升，創(chuàng)造出更智能、更有價值的產(chǎn)品。
此外，在技術(shù)開發(fā)過程中， OpenAI 非常注重安全性和責(zé)任感，尤其是在決定是否部署重大技術(shù)如 GPT-5 時。他表示， OpenAI 會對這些重要決策進行極其慎重的考量，不會僅憑科學(xué)好奇心推動這些決定。
Altman 還表示， OpenAI 的策略是持續(xù)探索下一個技術(shù)突破，而不是僅僅滿足于當(dāng)前的成就。OpenAI 并不太關(guān)注競爭對手，而是專注于推動新范式的創(chuàng)新，只追隨目前的技術(shù)進展并不是好的創(chuàng)業(yè)策略。真正的挑戰(zhàn)在于找到未來可能實現(xiàn)的突破，并成為第一個實現(xiàn)它的人。
以下為這次對談的主要內(nèi)容，enjoy～
Patrick Chung：
我們認(rèn)識已經(jīng)快 20 年了。那最近你在忙什么呢？說到很久以前，我給你帶來了一個禮物。這是我們第一次見面時，你為你的第一家公司做的第一次融資展示。
Sam Altman：
我還沒見過這個呢，自那以后就沒見過。
Patrick Chung：
這家公司叫 Viendo，后來變成了 Looped。所以當(dāng)你看著這個，如果你可以回到 19 歲的Sam Altman，你會對那時的自己說些什么是你現(xiàn)在知道但當(dāng)時不知道的？
Sam Altman：
我認(rèn)為你可以在這個世界上有所作為，而這并沒有被很好地教授。我 19 歲時肯定不知道，當(dāng)時我對自己期望不高，也在做錯誤的事情。
你會很快學(xué)到這些，但當(dāng)時我不確定自己是否能做到。我認(rèn)為進步的方式就是，人們要非常努力工作，堅定自己的信念，并致力于此。
這是世界變得更好，事情發(fā)生的唯一方式。而且你不需要等待或獲得許可，哪怕你在世界上默默無聞、資源極少，也能取得令人驚訝的成就。我是這么認(rèn)為的。
Patrick Chung：
你 19 歲的時候就知道這些嗎？因為當(dāng)時我見到你時，似乎你已經(jīng)表現(xiàn)出了這種精神。
Sam Altman：
我很快就明白了，一旦你開始行動，你會發(fā)現(xiàn)，哦，原來是這么回事。但在開始公司之前，我肯定沒有這種意識。
Patrick Chung：
大家對 AI 、 OpenAI 以及人類命運都充滿了濃厚的興趣，我們稍后會聊到這些。但今天我們主要的觀眾是學(xué)生，他們看到你，心生向往，夢想著能夠在世界上產(chǎn)生像你一樣的影響。
我覺得你現(xiàn)在連一半的成就還沒有完成，他們可能會想知道你是如何做到的。所以我想回到更早的時候，看看你的“超級英雄起源故事”。
可以和我們談?wù)?0年級時的Sam Altman嗎？你是如何成長的？你的家庭生活是怎樣的？當(dāng)時你一天的生活是怎樣的？
Sam Altman：
我當(dāng)時就是個電腦迷。我不知道，我基本就是坐在家里玩電腦。
Patrick Chung：
用的是什么電腦？
Sam Altman：
當(dāng)時我已經(jīng)有一臺 iMac了，算是第二代。我不是只玩游戲，雖然也確實玩游戲，但更多的是學(xué)習(xí)編程之類的事情。我有一個很普通的高中生活，沒什么特別值得講的。我上學(xué)，和朋友們一起玩，做運動，當(dāng)然也會用電腦。
Patrick Chung：
你玩什么運動？
Sam Altman：
我打水球，這是我最常做的運動。我也游泳，還練擊劍。
Patrick Chung：
在典型的美國高中電影里，會有一些小團體，比如運動健將、書呆子等等。你屬于哪個小團體？
Sam Altman：
我肯定更偏向書呆子那一類。
Patrick Chung：
結(jié)果對你來說還挺不錯的，對吧？
Sam Altman：
不過我也很喜歡運動。
Patrick Chung：
除了水球，你還玩其他運動嗎？
Sam Altman：
嗯，主要是水球，不過我也游泳，因為他們讓我練游泳。
Patrick Chung：
不錯。
Sam Altman：
所以我平時訓(xùn)練時會游泳。
Patrick Chung：
那你在高中時，你最大的恐懼是什么？你在高中有什么害怕的事情嗎？
Sam Altman：
我不知道，就像是普通的青春期煩惱吧。我沒特別大的擔(dān)憂。
Patrick Chung：
你很快樂？
Sam Altman：
是的，沒有什么特別煩惱的事。
Patrick Chung：
所以你并沒有在擔(dān)心人類的命運？
Sam Altman：
沒有，當(dāng)時我只是享受當(dāng)下，每天過得很開心。
Patrick Chung：
不過你在高中應(yīng)該學(xué)得很好，因為你申請并被斯坦福和哈佛錄取了。
Sam Altman：
對，我也被哈佛錄取了。
Patrick Chung：
是什么讓你選擇了斯坦福？你是怎么考慮大學(xué)的？是因為大家都申請大學(xué)，所以你也申請，還是你真的很想去斯坦福？
Sam Altman：
完全是默認(rèn)的選擇，從來沒想過不上大學(xué)。我知道我想學(xué)計算機科學(xué)，所以我去了斯坦福。我覺得那是個很棒的地方，特別是計算機科學(xué)系，那里的人就是我想要待在一起的。
Patrick Chung：
你到斯坦福后，還做了什么其他事情？你當(dāng)時是一年級新生，對吧？
Sam Altman：
有趣的是，雖然我確實上了計算機科學(xué)課，但我不記得為什么，決定也選了很多其他的課程。事后看來，這些課程都比我當(dāng)時預(yù)料的要有用得多。學(xué)科學(xué)課很棒，寫作課也很棒。
Patrick Chung：
寫作？真的嗎？是創(chuàng)意寫作嗎？
Sam Altman：
對，創(chuàng)意寫作課。
Patrick Chung：
也許預(yù)示了未來的發(fā)展？
Sam Altman：
哈哈，我也在想。但斯坦福提供的廣泛視角真的很棒。而且，像很多人一樣，最重要的是，我身邊有一群非常聰明的人，他們都在追求各種有趣的想法。
我在大一到大二的暑假期間在 AI 實驗室工作。當(dāng)時人工智能完全不奏效，但我仍然覺得它非�？�。后來我花了一段時間才重新回到這個領(lǐng)域。
Patrick Chung：
你是在 AI 實驗室里找到你最感興趣的人嗎？是在計算機科學(xué)系、創(chuàng)意寫作課，還是其他地方？
Sam Altman：
嗯，計算機科學(xué)系是我的“部落”，確實是這樣。
Patrick Chung：
當(dāng)時你是在 Andrew Ng 的實驗室，對吧？
Sam Altman：
是的，就是他的實驗室。
Patrick Chung：
是什么讓你感到興奮？因為當(dāng)時，正如 Andrew 所說， AI 還在邊緣地帶，沒什么核心的影響。
Sam Altman：
我喜歡那些一旦成功就會產(chǎn)生巨大影響的事物，哪怕它們成功的概率不高。如果 AI 能成功，它會是最酷、最重要、最激動人心的事物之一，所以值得去追求。
盡管成功的幾率不大，但預(yù)期價值很高，所以我想去研究它。不過當(dāng)時的感覺是，我們對如何做完全沒有頭緒。
Patrick Chung：
你看到了這一點。
Sam Altman：
事實證明我們確實不知道該怎么做。神經(jīng)網(wǎng)絡(luò)并不是一個新概念。
Patrick Chung：
這很有趣，因為你得到了啟發(fā)，然后你在大二時決定休學(xué)創(chuàng)業(yè)，帶著你手上的商業(yè)計劃書開始了公司運營。這也是我們認(rèn)識的方式。
我們花了很長時間在 Looped上，遇到了許多困難，比如要與運營商達(dá)成合作。你在 19 歲時是如何完成那些大公司都難以做到的事情的？你在那個年紀(jì)能與這些大公司達(dá)成合作，這是怎么做到的？
Sam Altman：
Paul Graham 常常說的一句話，雖然沒有成為備受推崇的建議，但我覺得應(yīng)該如此，那就是你應(yīng)該盡力保持“resolutely resourceful”。令人驚訝的是，如果你不斷尋找新的解決問題的方式，你就能找到解決方案。
我認(rèn)為這是生活中最重要的技能之一，而且這種能力出乎意料地是可以學(xué)習(xí)或傳授的，并且在幾乎所有場景中都能奏效。
Patrick Chung：
能給我們舉個例子，說明這種方法是如何奏效的嗎？
Sam Altman：
比如你剛提到的例子，我們需要與一家移動運營商達(dá)成合作，但他們通常不會與初創(chuàng)企業(yè)或技術(shù)公司合作。
我們大概嘗試了 30 多種方式接觸這家公司。有一次，關(guān)鍵的決策者最終決定見我們，理由是“我見你們是因為你們太煩了”。
我們不斷嘗試，直到成功。而大多數(shù)人可能在第一次被忽略的郵件或第一條未找到合適聯(lián)系人時就會放棄，但我們堅持了很多次。對
于我們來說，這是公司的生死攸關(guān)的問題，所以我們非常有動力去做，最終確實通過了大概 30 個不同的接觸點。
Patrick Chung：
你是如何判斷什么時候該放棄的？19 歲時，你給一家大公司的首席技術(shù)官發(fā)郵件，他們不斷忽略你。你怎么知道什么時候該停止呢？
Sam Altman：
我認(rèn)為這里確實有個平衡點，你可能會走得太遠(yuǎn)，沒有及時學(xué)習(xí)或調(diào)整。我在 YC 期間遇到的一個問題是，創(chuàng)業(yè)者總是問我，如何知道該放棄創(chuàng)業(yè)？我花了很多時間試圖總結(jié)出一個標(biāo)準(zhǔn)，但從未成功。
這些事情都是判斷性的，你可以通過大量數(shù)據(jù)和多次嘗試來學(xué)習(xí)，但很難說有一個適用于所有場景的固定公式。
Patrick Chung：
你在 YC 任職很長時間，見證了世界上一些最杰出的創(chuàng)始人、初創(chuàng)公司和技術(shù)的發(fā)展，遠(yuǎn)早于其他人。你顯然在那段時間沒有被任何一家吸引，或者自己啟動什么新項目。但最終當(dāng)你決定創(chuàng)辦 OpenAI 時，為什么選擇了非營利組織的形式？
Sam Altman：
當(dāng)時我知道我想做一些與 AI 相關(guān)的事情，但你得回到2015年的心態(tài)。我們知道深度學(xué)習(xí)有些有趣的事情正在發(fā)生，且隨著規(guī)模的增加表現(xiàn)會更好，但除此之外我們一無所知。
我們成立了 OpenAI ，第一天的早上我清楚地記得，大家坐在一起面面相覷，不知道接下來要做什么。我們決定先做一些研究，寫論文，想出一些點子。最初我們甚至沒有任何產(chǎn)品或收入來源的想法，語言模型的概念也遠(yuǎn)未成型。
當(dāng)時我們完全不知道會做出一些人們真正愿意使用的產(chǎn)品，只想著做些研究，看看能否實現(xiàn)一些東西。這就是為什么我們選擇了非營利形式，因為我們起初只是想看看能否搞清楚 AI 的方向，而不是想著如何盈利。
Patrick Chung：
你當(dāng)時怎么能有這樣的信念？因為你說你剛開始研究實驗室，感覺就像是在瞎碰運氣，看看有什么成功的可能。
Sam Altman：
其實也不完全是碰運氣。2012 年，我的聯(lián)合創(chuàng)始人 Ilya 和其他人在做 AlexNet 時，我認(rèn)為那是我們應(yīng)該醒悟的時刻。
我們知道深度學(xué)習(xí)有效，也知道它隨著規(guī)模的擴大而表現(xiàn)得更好。雖然我們后來才學(xué)到它會以可預(yù)測的方式隨著規(guī)模增長而提升，但這已經(jīng)是個重大突破了。
大家當(dāng)時應(yīng)該意識到這一點，但花了我?guī)啄甑臅r間才完全接受這個現(xiàn)實。最終我覺得，我們真的應(yīng)該在這方面做點什么，應(yīng)該推動這個領(lǐng)域的發(fā)展。
即便如此，盡管我們知道這些“秘密”，要找到具體的方向還是非常困難。我們坐在那里思考，“我們該怎么做？”
最后我們決定用電子游戲作為實驗環(huán)境，因為它提供了一個很有趣的測試環(huán)境，你能通過得分或?qū)箤＜襾砗饬窟M展。
我們也覺得機器人技術(shù)很酷，所以也做了一些機器人項目。經(jīng)過多次摸索，我們最終證明了深度學(xué)習(xí)有效并且隨著規(guī)模的擴大表現(xiàn)更好。
然后某個時候，有人對無監(jiān)督學(xué)習(xí)和語言模型產(chǎn)生了好奇，這促成了 GPT-1 的誕生。然后又有人提議，既然我們已經(jīng)知道規(guī)模很重要，那我們就把它擴大到 GPT-2 。
Patrick Chung：
在那個時間點，你是全職投入 OpenAI 了嗎？
Sam Altman：
差不多是那個時候吧。
Patrick Chung：
能不能回溯一下，是什么讓你決定全職投入？是哪一條線讓你覺得，“好吧，現(xiàn)在這件事足夠真實了，我要全職投入了”？
Sam Altman：
這是一個漸進的過程，但就在那個時候，我們開始真正理解語言模型的潛力，能夠衡量它的進展，比如后來成為著名的“規(guī)模損失”論文。
我們發(fā)現(xiàn)，這不僅僅是隨著規(guī)模的增大變得更好，而且它以驚人的可預(yù)測方式變得更好。只要我們投入更多資源，或者找到更有效的提升方式，這個系統(tǒng)就會變得越來越智能。
對我來說，這可能是我有生之年聽到的最重要的新知識。當(dāng)然，歷史上有更重要的東西，但這是我在親歷的事情中，最重要的發(fā)現(xiàn)之一。我曾經(jīng)有過一種奇怪的體驗，告訴別人這些發(fā)現(xiàn)，試圖讓別人給我們資金去推動這項研究。
很多人不理解，當(dāng)時我就在想，“我是瘋了嗎？還是我們都陷入了某種迷信？”因為這明明應(yīng)該像地震一樣震撼整個世界。但是那時候，我們已經(jīng)意識到我們需要繼續(xù)推動，接下來是 GPT-3 ，然后是 3.5，接著是 4。
Patrick Chung：
你當(dāng)時有了這樣的洞見，為什么世界上其他人沒有意識到呢？
Sam Altman：
其實，自從2012年的突破以來，我覺得世界應(yīng)該更加關(guān)注這個領(lǐng)域。在那之后，我們也經(jīng)歷了很多時刻，比如 GPT-2 、規(guī)模損失論文、 GPT-3 ，然而為什么直到 GPT-3.5，世界才開始真正關(guān)注？我到現(xiàn)在也不完全明白為什么是那個時刻，而不是其他時候。
Patrick Chung：
是不是因為你把它商品化了，做成了一個產(chǎn)品？
Sam Altman：
GPT-3 已經(jīng)通過 API 被很多人使用了，尤其是在技術(shù)行業(yè)內(nèi)部有很多興奮點，但它似乎還沒有完全達(dá)到突破的點。
我們未來會做出比 ChatGPT 更好的東西，但為什么是 ChatGPT ，而不是別的版本，我至今仍覺得不太容易解釋清楚。
Patrick Chung：
作為 CEO，你需要做很多產(chǎn)品決策，能不能跟我們分享一個你在 OpenAI 做出的艱難的產(chǎn)品決策？
Sam Altman：
我們的產(chǎn)品決策通常是研究決策的延伸，我們選擇研究的方向以及決定不研究哪些方向，往往是最困難、也是最重要的。
在產(chǎn)品方面， ChatGPT 的行為是一個例子，決定它應(yīng)該拒絕什么、不拒絕什么，它的使用邊界在哪里，如何找到對齊點（alignment），這些都是最難的產(chǎn)品決策。
Patrick Chung：
能給我們舉一個具體的例子嗎？
Sam Altman：
例如， ChatGPT 應(yīng)該提供法律建議嗎？
Patrick Chung：
你是說提供法律建議？
Sam Altman：
有很多理由不這樣做，特別是由于 ChatGPT 的“幻覺”問題或者常見的不準(zhǔn)確性，認(rèn)為它不應(yīng)該提供法律建議是很合理的。但另一方面，世界上有很多人無法負(fù)擔(dān)法律建議。如果我們能提供，即便不完美，或許也是比沒有更好的選擇。
Patrick Chung：
那么，你們是怎么思考這個問題的，最后做出了什么樣的決定？
Sam Altman：
現(xiàn)在大多數(shù)情況下它不會提供法律建議，但在某些場景下、某些方式下，它還是可以做到。不過考慮到我們運營的不同地區(qū)的法律規(guī)定，以及這種情況出錯時可能帶來的后果，目前我們基本上不提供這類功能。
