文：天空之城城主
小扎6月9號出來做了一次160分鐘的深度訪談，以下是這次深度訪談的分章節(jié)全文整理（4w字視頻腳本稿）。
章節(jié)：
柔術比賽
人工智能和開源運動
AI模型發(fā)布和未來的MetaAI
自動Bot機器人
內容審查
Meta新社交app項目
Elon Musk馬斯克
Meta裁員和招聘
Meta Quest3
蘋果的Vision Pro
AI安全性風險
權力
AGI超級智能
Murph 挑戰(zhàn)
柔術比賽
所以你參加了你的第一次柔術比賽，而作為柔術練習者和競爭對手的我，考慮到你所經歷的一切，我認為這真的很鼓舞人心。所以我想問一下，那是一種怎樣的體驗？
哦，很有趣�？�，我是一個很有競爭力的人。
做基本上需要你全神貫注的運動，我認為這對我的心理健康和我專注于做我正在做的每一件事的方式非常重要。所以我決定學習武術，這很棒。我有很多朋友參與其中。我們都一起訓練。我們的車庫里有一個迷你學院。我想我的一個朋友說，嘿，我們應該去參加比賽。我當時想，好吧，是的，讓我們開始吧。我不會回避這樣的挑戰(zhàn)。所以是的，但這太棒了。這很有趣。
你不害怕嗎？有沒有恐懼？
我不知道。我很確定我會沒事的。我喜歡自信。
對于不了解的人來說，柔術是一種武術，您可以在其中以優(yōu)雅、優(yōu)雅、高效等方式打斷對手的四肢或讓他們窒息入睡。這是一種藝術形式，我認為，你可以終生從事。它基本上是一種游戲，一種你能想到的人類象棋運動。有很多策略。使用杠桿和所有類似的東西有很多有趣的人類動態(tài)。
你能做的事真是不可思議。你可以做一些事情，比如一個小對手可以打敗一個大得多的對手，你會因此了解人體力學的運作方式。
但你當然不能分心。
不，它是100%的焦點。我需要克服這樣一個事實，即我不希望它成為這么大的事情。所以我基本上只是戴著帽子和太陽鏡，戴著COVID面具，用我的名字和中間名注冊，所以Mark Elliott。直到我在上墊子之前真的把所有的東西都拉下來，我想人們才知道那是我。所以這是非常低調的。
但你仍然是公眾人物。
是的，我不想輸。
你部分害怕的不僅僅是失敗，而是幾乎像尷尬一樣。這項運動是如此原始，因為它只是你和另一個人。那里有一個原始的方面。
哦，是的，太棒了。
對于很多人來說，這可能是可怕的，尤其是當你第一次參加比賽并且它不適合你時。我看到你臉上興奮的表情。
是的，我不知道。不是，沒有恐懼。我只是認為學習的一部分是失敗的。
主要的事情，就像訓練柔術的人一樣，你不需要驕傲，因為你之前談論的所有事情，窒息或關節(jié)鎖，如果你已經輸了而不愿意打擊，你只會陷入糟糕的境地。而且，但很明顯，當你開始做某事時，你不會立即成為這方面的專家。所以你只需要愿意接受它。但我覺得這是個什么樣子，我不知道。也許我這輩子尷尬的次數已經夠多了。
我確實認為有些事情隨著人們的成長，也許他們不想感到尷尬或其他任何事情。他們已經建立了他們的成人身份，并且他們對自己是誰以及他們想要投射什么有一種感覺。我不知道，我想也許在某種程度上，你繼續(xù)做有趣事情的能力是你愿意再次感到尷尬并回到第一步，從初學者開始，讓你的屁股被踢，做事看起來很愚蠢。
而且，我認為我們正在做的很多事情，無論是這個，這就像是我生活中身體的一部分，但在經營公司時，我們只是接受新的冒險，我們正在做的所有大事，我認為就像我們正在進行的10年多的任務，通常在早期，人們懷疑我們會能夠做到這一點，但最初的工作似乎有點愚蠢。
我們的整個精神是我們不想等到完美的東西才把它放在那里。我們想盡快發(fā)布并獲得反潰我不知道，可能只是關于我如何處理那里的事情，但我只是覺得當你決定你會因為太尷尬而無法嘗試新事物的那一刻，那么你就是不會再學到任何東西了。
但就像我提到的那樣，那種恐懼、那種焦慮可能會存在，它可能會不時地蔓延開來。您是否覺得在特別緊張的時刻有點超出判斷力，只是在工作中？壓力時刻，重大決策日，重大決策時刻。
你如何應對這種恐懼？你如何應對這種焦慮？
最讓我感到壓力的事情總是人們面臨的挑戰(zhàn)。
我有點認為戰(zhàn)略問題，我傾向于對我們正在努力做的事情、我認為重要的事情以及我希望我們公司代表的價值觀有足夠的信念，這些并沒有讓我徹夜難眠。我有點，并不是我做對了一切。我當然不知道，我們犯了很多錯誤，但我至少非常清楚我希望我們繼續(xù)前進的方向。
在經營一家公司近20年的過程中，很明顯的一件事是，當你擁有一個有凝聚力的團隊時，你幾乎可以完成任何事情。而且你可以跑過超難的挑戰(zhàn)，你可以做出艱難的決定，甚至努力去做最好的工作，并且把一些東西優(yōu)化得非常好。但是，當存在這種緊張局勢時，事情就會變得非常艱難。
當我與經營其他公司的其他朋友交談時，我認為我在經營這家公司時實際花費很多時間的一件事就是培養(yǎng)一個非常緊密的核心團隊，他們正在經營陪我對我來說，這兩者都很有趣，有朋友和你一起工作了一段時間的人，還有新朋友和新觀點，但就像一個非常緊密的團隊，你可以和他們一起做一些瘋狂的事情。
但對我來說，這也是最有壓力的事情，當有壓力時，它會壓在我身上。我想這也許并不奇怪。我們就像一家非常以人為本的公司，而人是其中對我影響最大的部分，以確保我們做對。但是，是的，我想說的是我們所做的一切可能都是大事。
所以當親密圈子里的人關系緊張時，所以當你信任那些人時，幫助您做出有關Facebook的艱難決定，WhatsApp、Instagram，公司的未來，以及帶有AI的元宇宙，你如何建立緊密聯系的人群，做出那些艱難的決定？
是否有人認為您必須發(fā)出批評的聲音，關注過去與未來的截然不同的觀點，諸如此類？
是的，我認為一方面，只要花很多時間與你想成為核心團隊的任何團隊在一起，應對所有最大的挑戰(zhàn)。這需要相當程度的開放性。所以我經營公司的很多方式就像每個星期一早上，我們大約是前30名的人在一起。這是一個合作了很長一段時間的團隊。人們輪換，新人加入，人們離開公司，人們去公司擔任其他職務。所以隨著時間的推移，它不是同一個小組，
我們花了很多時間幾個小時，很多時間，可能有點松散。就像我可能會提出一些我最關心的話題，但我會請其他人帶來一些東西，人們會提出問題，好吧，某些國家/地區(qū)正在發(fā)生一些政策問題。好像這里正在開發(fā)一項新技術。我們遇到了這個合作伙伴的問題。在WhatsApp中，有兩個最終成為我們深切關注的價值觀的事物之間的設計權衡。我們需要決定我們想在這方面的位置。
我只是想，隨著時間的推移，當我與人們一起解決很多問題并公開地做這件事時，人們會發(fā)展出一種對彼此的直覺、一種紐帶和友情。對我來說，開發(fā)這就像經營公司或做任何事情的很多有趣部分，我認為這就像有一些人在旅途中一樣，你覺得你正在做這件事。沒有什么是永遠只有一個人做的。
該組中是否有人經常不同意？
這是一個相當好斗的群體。
好的，所以戰(zhàn)斗是其中的一部分。所以這是在設計、工程、政策，一切。
一切，一切，是的。
我不得不問一下柔術。
你最喜歡的技巧是什么？既然你已經做到了，你覺得如何讓你的對手屈服，馬克扎克伯格？首先，你更喜歡無道服還是道服柔術？道服是你穿的衣服，你可以窒息別人。
好吧，它就像一件和服。它就像傳統武術或和服。嗯，它有翻領。
我喜歡柔術。我也很喜歡MMA。所以我認為無道服柔道更接近MMA。而且我認為我的風格可能更接近MMA風格。所以很多柔術選手都可以仰臥，顯然，有一個好的后衛(wèi)是柔術的重要組成部分，但在MMA中，你不想被壓在身后，因為即使您有控制權，您也只是在仰臥時承受打擊。所以那是不好的。
你喜歡高高在上嗎？
我的風格是我可能壓力更大。我可能寧愿成為頂級球員，但我也更小，我不像重量級人物，所以從這個角度來看，我認為，特別是因為如果我參加比賽，我會和我一樣大的人比賽，但我的很多朋友都比我大。所以后退可能很重要，因為那是你最有杠桿優(yōu)勢的地方，人們，他們的手臂，你的手臂在你身后非常虛弱，所以能夠回到后面并采取這一點非常重要。
但我不知道，我覺得正確的策略是不要對任何單一技巧過于投入。但話說回來，我不喜歡傷害別人。所以我一直認為扼流圈比關節(jié)鎖更人性化。是的，更多的是關于控制。它的動態(tài)性較低。
所以你基本上就像是Habib Nurmagomedov類型的戰(zhàn)士。
是的，回到后方裸體扼流圈，我認為這是干凈的方式。直截了當的答案就在那里。
對于想開始學習柔術的人，您有什么建議？考慮到你有多忙，考慮到你在生活中所處的位置，你能夠做到這一點，你能夠訓練，你能夠競爭并從這種有趣的藝術中學到一些東西。為什么你認為你必須愿意被打很多？
隨著時間的推移，我認為所有這些事情都會流動起來。
有一個，我認為我的經歷之一超越了經營一家公司和我喜歡做的不同活動，
我真的相信，如果你想完成任何事情，很多事情就是愿意去完成，并具有克服困難的勇氣和決心。
而且我認為對于很多人來說，最終會成為完成最多的人和沒有完成最多的人之間的差異制造者。
所有這些問題都是關于，人們想工作多少天之類的。我認為幾乎所有喜歡創(chuàng)辦成功公司或類似事物的人都在非常努力地工作。但我認為，隨著時間的推移，你會學到一件事，或者，柔術或沖浪等非常敏銳的東西是你無法完成所有事情。
我認為那是。您非常敏銳地學習了這些東西，與經營公司相比，做運動是因為經營公司的周期時間很長，這就像你開始一個項目，然后，就像幾個月后，或者，如果你正在構建硬件，可能要幾年后你才能真正獲得反饋并能夠，做出你正在做的事情的下一個版本的下一組決定。
然而，我只是認為這些非常高周轉率的調節(jié)運動在精神上非常好，諸如此類的事情，你能很快得到反饋，好吧，就像我沒有正確反擊某人一樣，你會被打在臉上，所以不是在柔術中，你不會在柔術中被打，而是在MMA中。
我認為實際上持有的所有這些東西之間都有所有這些類比，重要的人生課程，好吧，你正在沖浪，有時候你你不能朝另一個方向走，某種東西是有限制的，它就像一個箔紙，你可以抽箔紙并在一堆方向上用力推動，但是是的，它在某種程度上，就像反對你的勢頭足夠強大，那是行不通的。我確實認為這是一種謙卑，但也是一個重要的教訓，我認為那些正在經營或建造東西的人，是的，很多游戲只是能夠善良地推動和處理復雜的事情，但你也需要有足夠的理解，比如哪些事情你不能推動，以及技巧在哪里更重要。是的。
你的柔術生活課程是什么？好吧，我想你做到了，你讓它聽起來很簡單而且很有說服力，很容易錯過，但基本上沒問題。接受被踢屁股的智慧和快樂，在這意味著什么的全部范圍內，我認為這是謙卑的重要禮物。
不知何故，尤其是身體上的謙卑，會讓你對學習的整個過程敞開心扉，學習意味著什么，也就是愿意吸取某些東西。而且我認為柔術只是非常重復，有效地讓你一遍又一遍地謙卑到你可以把這些教訓帶到你不會那么謙卑的地方，無論是研究還是經營公司或建造東西，周期更長。在柔術中，你可以變得謙卑，在這一個小時的時間里，一遍又一遍，尤其是初學者，你會是一個小人物，有人比你聰明得多，反復踢你的屁股，明確地，沒有爭論的地方。哦耶。然后你真的攻擊，因為如果你不攻擊，你就會死。所以這是一個協議，你剛才可以殺了我，但我們是朋友，所以我們同意你不會這么做。而那種謙卑的過程，它只是對你的心靈，對你的自我產生了一些影響，將它置于適當的背景下，意識到這一生中的一切都像是一段從吸吮到艱難改進過程的旅程，日復一日嚴格，任何一種成功都需要努力。
是的，柔術，不僅僅是很多運動，我會說，因為我做了很多，它真的教會了你。你讓它聽起來很簡單。沒關系，這是過程的一部分，你只是變得謙虛，踢你的屁股。我一生中經歷過很多次失敗和尷尬，這是我的核心競爭力。這是一項核心競爭力。
嗯，是的，這是一個深刻的事實，你在一開始就說過，那就是阻止我們的事情，尤其是隨著年齡的增長，尤其是當你在某些領域發(fā)展專業(yè)知識時，不愿意成為新領域的初學者。因為那是成長發(fā)生的地方，愿意成為初學者，愿意尷尬，說一些愚蠢的事情，做一些愚蠢的事情。我們中的很多人擅長一件事，你想炫耀一下，作為一個初學者很糟糕，但這是成長發(fā)生的地方。
人工智能和開源運動
嗯，說到這個，我問你關于人工智能的事。看來今年，對于整個人類文明來說，是人工智能發(fā)展有趣的一年。很多有趣的事情正在發(fā)生。因此，Meta是其中的重要組成部分。Meta開發(fā)了LLAMA，這是一個650億參數的模型。我可以在這里問很多有趣的問題，其中之一與開源有關。但首先，你能講講這個模型的開發(fā)故事，以及如何做出發(fā)布它的復雜決定嗎？
好，當然。我認為你是對的，首先，在過去的一年里，在擴大這些大型Transformer模型方面取得了一系列進展。因此，存在與大型語言模型等效的語言。有一些圖像生成等同于這些大型擴散模型。這方面有很多基礎研究。
Meta在我們的AI開發(fā)中采取了相當開放和學術的方法。部分原因是我們想讓世界上最優(yōu)秀的人來研究這個，而且很多最優(yōu)秀的人都想知道他們將能夠分享他們的工作。這是我們達成的協議的一部分，如果你是世界上頂尖的人工智能研究人員之一，你可以來這里，你可以獲得某種行業(yè)規(guī)模的基礎設施。
我們的部分精神是我們想廣泛分享發(fā)明的東西。我們使用我們創(chuàng)建的許多不同的人工智能工具來做到這一點。而LLAMA就是我們研究團隊做的語言模型。我們?yōu)樗隽艘粋�有限的開源版本，旨在讓研究人員能夠使用它。但是在這些方面的責任和安全是非常重要的。
我們不認為，對于第一個，我們是否應該在商業(yè)上發(fā)布這個有很多問題。我們在LLAMA V1的基礎上做了一些改進，并發(fā)布了它用于研究。現在，很明顯，通過發(fā)布它用于研究，它就在那里，但公司知道他們不應該將它放入商業(yè)版本中。
我們正在為此開發(fā)后續(xù)模型，并思考后續(xù)模型究竟應該如何運作，現在我們已經有時間研究更多的安全性和相關部分。但總的來說，這是，我只是覺得那會很好，如果有很多不同的人有能力在這里建立最先進的技術，不僅僅是少數大公司。
在哪里訓練這些人工智能模型之一，最先進的模型，我不知道，只需要數億美元的基礎設施，世界上沒有那么多組織，這可以在今天以最大的規(guī)模做到這一點。而且，它每天都變得更有效率。我確實認為隨著時間的推移，會有更多人可以使用它。
我認為人們可以創(chuàng)造所有這些創(chuàng)新。我認為，通過了解整個學生、黑客、初創(chuàng)公司和不同的人用這個構建的社區(qū)，我們也會學到很多東西。這就是我們處理這個問題的方式。這也是我們完成大量基礎設施的方式。我們采用了整個數據中心設計和服務器設計，并構建了這個開放計算項目，我們剛剛將其公開。部分理論是這樣的，好吧，如果我們讓它讓更多的人可以使用這個服務器設計，那么這將帶來更多的創(chuàng)新。它還將使服務器設計更有效率。這也會使我們的業(yè)務更有效率。這是有效的。我們剛剛用我們的很多基礎設施做到了這一點。
對于不知道的人，我想你是在Llama今年2月進行的限量發(fā)行。它得到引用，泄露，這意味著它逃脫了限量發(fā)行方面。但鑒于它剛剛發(fā)布給研究人員，您可能已經預料到這一點。
我們與研究人員分享了它。是的，所以它只是試圖確保有一個緩慢的發(fā)布。
是的。但是從那里，我只是想聽聽您對接下來發(fā)生的事情的評論，有一個非�；钴S的開源社區(qū)，它只是在它之上構建東西。有Lama CPP，基本上是使它在較小的計算機上運行更高效的東西。強化學習與人類反饋相結合。一些不同的有趣的微調機制。然后還有GPT-3代的微調。有很多GPT-4、Alpaca、Colossal AI，所有這些類型的模型都在涌現，你怎么看？
不，我認為看到它真的很整潔。有人讓它在本地設備上運行，如果你是一個只想嘗試的人，在家里有了這個，你可能沒有太多的預算來訪問大量的云計算。讓它在你本地的筆記本電腦上運行很不錯吧？并且非常相關。
然后，是的，Llama CPP 更有效地重新實施了它�，F在即使我們運行自己的版本，我們也可以用更少的計算來完成它，而且效率更高，為每個使用它的人節(jié)省很多錢。那很好。
我確實認為值得一提，因為這是一個相對較早的版本，Llama并不像在最前沿，例如最大的OpenAI模型或最大的谷歌模型。你提到我們發(fā)布的最大的 Llama 模型有 650 億個參數。我想，除了OpenAI之外，沒有人知道 GPT-4 的規(guī)格到底是什么。但我認為，我的理解是它大了 10 倍。而且我認為 Google 的 Palm 模型也是，我認為具有大約 10 倍的參數。
現在，Llama模型非常有效。因此，它們在大約 650 億個參數的情況下表現良好。對我來說，這也是其中的一部分，因為整個辯論圍繞著，世界上每個人都可以使用最前沿的 AI 模型是否有好處？而且我認為隨著人工智能模型開始接近類似于超級人類智能的東西，我認為這是我們必須解決的一個更大的問題。
但現在，這些仍然是非�；镜墓ぞ摺Ｋ鼈兪�，從某種意義上說，它們是強大的，許多開源軟件，如數據庫或網絡服務器，可以實現很多非常重要的事情。但我不認為任何人看著當代的Llama，并認為它是接近超級智能的任何地方。我認為周圍有很多這樣的問題，走出去好嗎？我認為在這個階段，出于開源軟件具有很多優(yōu)勢的所有原因，你肯定希望更多的研究人員致力于此。
我們之前談到過效率，但另一個只是開源軟件往往更安全，因為你有更多的人公開查看它并仔細檢查它并發(fā)現其中的漏洞。這使它更安全。我認為在這一點上，我認為人們普遍認為開源軟件通常比在孤島中開發(fā)的東西更安全，人們試圖通過默默無聞來獲得安全性。我認為，對于我們現在看到的人工智能的規(guī)模，我認為我們更有可能達成良好的共識，并很好地理解需要做什么才能使這項工作順利進行 開源。我認為這是一件非常好的事情，在這一點上公開發(fā)生。
Meta 開源了很多模型。因此，大規(guī)模多語言語音模型，圖像模型。也就是說，我會問你關于這些的問題，但關鍵是你已經開源了很多。您一直是開源運動的帶頭人。從一個角度，從研究的角度來看，這確實是積極的，鼓舞人心的。當然，有些人真的對人工智能的生存威脅感到恐懼。那些人會說，你必須小心開源步驟。但是，作為Meta的一部分，您在哪里看到開源的未來？
這里的緊張局勢是，你想釋放魔法醬嗎？那是一種張力。另一個是，你想把一個強大的工具交到壞人手中嗎，即使它可能也有巨大的積極影響？是的，再一次，我認為對于我們在人工智能發(fā)展中所處的階段，我認為沒有人看到事物的當前狀態(tài)并認為這是超級智能。而且，我們正在談論的模型，這里的Llama模型，通常比OpenAI或谷歌正在做的要小一個數量級。所以我認為，至少在我們現在所處的階段，在我看來，公平是非常平衡的，更公開地做到這一點。我認為如果你得到了更接近超級智能的東西，那么我認為你必須更多地討論它并仔細思考它。我們還沒有決定如果我們處于那個位置我們會做什么，但我不認為，我認為我們很有可能離那個位置很遠。所以我不是，我當然不是說我們現在采取的立場適用于我們曾經做過的每一件事。
而且，當然在公司內部，我們可能比大多數其他大型科技公司做更多的開源工作，但我們也沒有開源所有東西。我們有很多，WhatsApp 或 Instagram 或其他東西的核心類型的應用程序代碼。我們沒有開源。它不像一個足夠通用的軟件，可以讓很多人做不同的事情。而我們所做的軟件，無論是開源服務器設計還是基本上，像 Memcache 之類的東西，就像一個好東西，這可能是我們最早的項目�？赡苁俏抑苯訛楣揪幋a和領導的最后一件事。
基本上這就像緩存工具用于快速數據檢索。這些東西就像你想要構建的任何東西一樣廣泛有用。我認為一些語言模型現在和我們正在構建的其他一些東西一樣具有這種感覺，比如你剛才提到的翻譯工具。所以文本到語音和語音到文本，你已經將它從大約 100 種語言擴展到 1100 多種語言。而且可以識別的還不止，該模型可以識別超過4000種口頭語言，比以往已知的任何技術都要多40倍。對我來說，在連接世界、打破語言造成的障礙方面，這真的、真的、真的令人興奮。
是的，我認為能夠在所有這些不同的片段之間實時翻譯，這是一種常見的科幻想法我們都會有，無論是耳塞還是眼鏡還是可以在所有這些不同的語言之間幫助實時翻譯的東西。這就是我認為技術現在基本上可以提供的。所以我認為，是的，我認為這非常令人興奮。
你提到了下一個版本的 Llama。您對下一個版本的 Llama 有何看法？就發(fā)布的愿景而言，你能說說你在做什么？
好吧，我們正在做的很多事情都是采用第一個版本，這主要是這個研究版本，現在正試圖構建一個內置了所有最新的最先進安全預防措施的版本。我們正在使用更多數據來訓練它來自我們的服務。但我們在內部所做的很多工作實際上只是專注于確保盡可能保持一致和負責任。
我們正在構建很多我們自己的，我們正在談論某種開源基礎設施，但我們在這里重點構建的主要內容是許多產品體驗，以幫助人們聯系和表達自己。所以我們要說的是，我已經談了很多這樣的事情，但是你會有一個助手，你可以在 WhatsApp 中與之交談。我認為在未來，每個創(chuàng)作者都會有一個 AI 代理，可以代表他們的粉絲可以與之交談。我想達到這樣的程度，即每個小企業(yè)基本上都有一個 AI 代理，人們可以與之交談，進行商務和客戶支持以及類似的事情。所以會有所有這些不同的東西。
而 LLAMA，或它背后的語言模型，基本上將成為為其提供動力的引擎。開源的原因是，正如我們對第一個版本所做的那樣，它基本上解鎖了生態(tài)系統中的許多創(chuàng)新，也會使我們的產品變得更好，并且還會為我們提供很多關于安全性和安全性的寶貴反饋，這是使這一切變得美好很重要。
但是，是的，我們?yōu)橥七M基礎設施所做的工作，基本上就在這一點上，超越了研究項目進入某種準備成為核心基礎設施的東西，不僅是為了我們自己的產品，而且，希望也能用于很多其他的東西。
AI模型發(fā)布和未來的MetaAI
您認為第二版的 LLAMA 或語言模型會開源嗎？您是否對此進行內部辯論，利弊等等？
我們正在談論我們內部的辯論，我認為，我認為問題是如何去做，我認為我們，我們?yōu)?V1 做了研究許可，我認為我們正在考慮的大事基本上就像什么是正確的方法。
發(fā)生了泄漏。我不知道你是否可以對 V1 發(fā)表評論。
我們把它作為一個研究項目發(fā)布供研究人員使用，但在這樣做的過程中，我們把它放在那里。我們非常清楚，任何使用代碼和權重的人都沒有商業(yè)許可來投入產品。我們通�？吹饺藗冏鹬剡@一點，基本上沒有任何信譽良好的公司試圖將其放入他們的商業(yè)產品中。但是，是的，但是通過與很多研究人員分享它，它確實離開了大樓。
你從那個過程中學到了什么，你可以應用到 V2 關于如何安全、有效地發(fā)布它，如果你釋放它？
是的，嗯，我認為很多反饋，就像我說的，就在周圍，周圍有不同的東西，你如何微調模型以使它們更一致和更安全？你會看到所有不同的數據配方，你提到了很多基于此的不同項目。伯克利有一個，就像到處都是。人們嘗試了很多不同的東西，我們在內部嘗試了很多東西。所以我們在這里取得了進步，但我們也能夠從社區(qū)中的一些最好的想法中學習。而且，我認為，我們只想繼續(xù)推動它向前發(fā)展。但我沒有任何消息要宣布，如果這是你問的。這是我們仍然在做的事情，積極通過正確的方式在這里前進。秘方的細節(jié)仍在開發(fā)中。
我懂了。你能評論一下你對 GPT 有用的東西有什么看法嗎，即帶有人類反饋的強化學習？那么做這個對齊過程，你覺得有趣嗎？
作為其中的一部分，讓我問一下，因為我在今天與您交談之前與Yann LeCun交談過。他讓我問或建議我問，你認為 LLM 微調是否需要眾包維基百科風格？
眾包，這種關于如何在這些基礎模型的微調中融入人類的想法。
是的，我認為這是一個非常有趣的想法，我已經和 Yannn 談過很多。我正在討論如何基本上訓練這些模型以盡可能安全、一致和負責任。我們正在進行開發(fā)的不同小組在微調中測試不同的數據配方。
你剛才提到的這個想法是，不是讓一組微調一些東西，而另一組產生不同的微調配方，然后我們試圖找出我們認為最適合產生最一致模型的方法。我確實認為，如果你能達到一種維基百科風格的協作方式，那就太好了，對于更廣泛的社區(qū)也可以對其進行微調。
現在，這方面存在很多挑戰(zhàn)，無論是從基礎設施，還是從社區(qū)管理和產品的角度來看，你如何做到這一點。所以我還沒有解決這個問題。但作為一個想法，我認為這是非常有說服力的。而且我認為它與開源技術的精神相得益彰，該技術也在尋找一種方法來對其進行某種社區(qū)驅動的培訓。
但我認為這方面有很多問題。總的來說，這些問題圍繞什么是生成對齊的人工智能模型的最佳方式，這是一個非常重要的研究領域，我認為我們需要在模型的核心智能能力方面取得盡可能多的進展。
我剛剛和維基百科的創(chuàng)始人吉米威爾士談過。對我來說，維基百科是有史以來最偉大的網站之一。它起作用是一種奇跡。我認為這與您提到的社區(qū)有關。你有一個小型的編輯社區(qū)，他們以某種方式很好地合作。他們處理非常有爭議的話題，盡管經常會發(fā)生某種攻擊，但他們還是以平衡和優(yōu)雅的方式處理它。很多時候。它不是，它和任何其他人類系統一樣都有問題。但是，他們取得的成就令人驚嘆，但也不完美。我認為仍然存在很多挑戰(zhàn)。
對，所以越有爭議的話題，越難走，引用維基百科試圖捕捉的不引用、真理或知識或智慧。以同樣的方式，人工智能模型，我們需要能夠生成同樣的東西、真理、知識和智慧。你如何調整他們生成的那些模型最接近真理的東西？存在對錯誤信息的擔憂，所有這些沒人能定義的東西。這是我們作為人類物種必須共同定義的東西。比如什么是真相以及如何幫助人工智能系統生成真相。
語言模型真正擅長的一件事是生成令人信服的聽起來可能完全錯誤的東西。那么你如何調整它以減少錯誤呢？
其中一部分是培訓，一部分是對齊。然而，你做了對齊階段。就像你說的，這是一個非常新的、非常開放的研究問題。是的，我認為還有很多關于 LLM 的當前體系結構的問題，當你繼續(xù)縮放它時，會發(fā)生什么。去年有很多令人興奮的事情。
很明顯，OpenAI 推出的一些 GPT 模型在質量上取得了突破，其他人也能夠做到這一點。我認為它達到了人們喜歡的一種質量水平，哇，這感覺不同。就像它將能夠成為構建許多很棒的產品、體驗和價值的基礎一樣。
但我認為人們的另一個認識是哇，我們剛剛取得了突破。如果很快有其他突破，那么我認為我們可能更接近通用智能。但我認為這個想法是基于這樣的想法，我認為人們相信通常還有很多額外的突破需要取得，我們只是不知道需要多長時間才能實現。
有些人有一種觀點，這并不是我的觀點，只是簡單地擴展當前的 LLM 并自行獲得更高的參數計數模型，我們將獲得更接近通用智能的東西。但我不知道，我傾向于認為可能需要在此過程中采取更多基本步驟。但是這個額外的對齊步驟仍然取得了飛躍，相當不可思議，相當意外，對很多人來說。最重要的是，當你開始有數億人可能使用集成該產品的產品時，你可以開始看到文明變革的影響，然后才能獲得超級、引述不引述、超級智能。它可以是超級變革而不是超級智能。
嗯，是的，我的意思是我認為以當前的技術水平可以創(chuàng)造出很多令人驚嘆的產品和價值。在某種程度上，我很高興能在接下來的幾年里開發(fā)很多這樣的產品。而且我認為，如果突破的數量保持不變，就像不斷堆疊突破一樣，這只會造成巨大的沖擊，因為我認為在某種程度上，行業(yè)和世界需要一些時間來將這些突破融入到我們都使用的產品和體驗，這樣我們才能真正從中受益。
但我不知道，我認為只有一個，喜歡做大量的事情。我想像所有我不知道的小企業(yè)或個體企業(yè)家一樣，現在我們將能夠幫助他們編寫他們需要的東西來構建東西或設計他們需要的東西，或者我們將能夠使用這些模型來為他們所在的人提供客戶支持無需為 WhatsApp 服務，我認為那將會是，我只是認為這一切都會非常令人興奮。它將為人們創(chuàng)造更好的體驗，并釋放大量的創(chuàng)新和價值。
所以我不知道你是否知道，但它是什么？超過 30 億人使用 WhatsApp、Facebook 和 Instagram。因此，任何一種以人工智能為燃料的產品，就像我們談論的任何LLM一樣，都會產生巨大的影響。對于可能開始集成到這些被這么多人使用的平臺中的產品，您有什么想法嗎？
是的，我認為我們正在做的事情主要分為三類。我認為第一個可能是最有趣的。有沒有這樣的概念，你會有一個可以與之交談的助手或代理人。我認為，與我對 OpenAI、谷歌和其他公司的看法相比，我的看法最大的不同可能是其他人都在構建一個單一的人工智能，好吧，你可以和 GPT 聊天，或者你可以和 Bard 聊天，或者你可以和 Bing 聊天。我的觀點是將會有人們會想要接觸很多不同的人工智能，就像你想為不同的事情使用許多不同的應用程序一樣，你與生活中不同的人有關系，他們?yōu)槟惆缪莶煌那楦薪巧Ｋ晕艺J為他們會，人們有理由認為你不只是想要一個單一的人工智能。就我對此的看法而言，我認為這可能是最大的區(qū)別。
還有一堆這些東西，我想你會需要一個助手。我之前提到過其中的幾個。我認為與你互動的每個創(chuàng)作者最終都會想要某種 AI 來代理他們，成為他們的粉絲可以互動的東西，或者允許他們與粉絲互動。這就像共同的創(chuàng)造者承諾。每個人都在努力建立社區(qū)并與人互動，他們希望工具能夠進一步擴大自己并能夠做到這一點。但是你一天只有24小時。所以我認為有能力基本上喜歡隱藏你的個性，或者喜歡向你的粉絲提供有關你何時進行音樂會或類似活動的信息。我認為這將是非常有價值的東西，但不僅如此，我認為人們不會只想要一個單一的人工智能。我想你會想要與很多不同的實體互動。
然后我認為這也有商業(yè)版本，我們已經提到過幾次，那就是，我認為世界上的每個企業(yè)基本上都想要一個人工智能，就像你在 Instagram 或 Facebook 或 WhatsApp 或其他任何網站上有你的頁面，你想將人們指向一個人們可以與之互動的人工智能，但是你想知道 AI 只會銷售你的產品。你不希望它推薦你的競爭對手的東西。因此，不可能只有一個單一的 AI 可以回答一個人的所有問題，因為該 AI 實際上可能不會與您作為一家企業(yè)保持一致，以真正做到最好地為您的產品提供支持。所以我認為會有一個明確的需求在市場上和人們的生活中會有一堆這樣的東西。
其中一部分是弄清楚研究，即實現您正在談論的個性化的技術。因此，不是一個像上帝一樣集中的LLM，而是一個，只是一個巨大的多樣性，根據特定的需求、特定的風格、特定的業(yè)務、特定的品牌，所有這些東西進行微調。而且還支持，只是讓人們能夠真正輕松地為您自己的企業(yè)創(chuàng)建它們，或者如果您是創(chuàng)作者，則能夠幫助您與粉絲互動。
我認為這里有一個明確的、有趣的產品方向，我認為它與其他任何大公司正在采用的產品方向相當獨特。它也很適合這種開源方法，因為我們再次相信這種更面向社區(qū)、更民主的方法來圍繞它構建產品和技術。我們不認為會有一件真實的事情。我們認為應該有很多發(fā)展。所以我認為這部分事情會非常有趣。
我們可以花很多時間討論這個問題以及它的影響這種方法與其他人正在采取的方法不同。但是我認為我們還會做一些其他更簡單的事情，只是回到你關于它如何進入的問題，比如，我們要構建什么？
周圍會有很多更簡單的東西，好吧，你在 Instagram、Facebook、WhatsApp 和 Messenger 上發(fā)布照片，并且希望照片看起來盡可能好。所以就像擁有一個人工智能，你可以拍張照片然后告訴它，好吧，我想編輯這個東西或描述這個。我認為我們將擁有比我們過去在這方面擁有的工具更好的工具。與大型語言模型方面相比，圖像和媒體生成方面更多，但它都在同一領域取得進步。
所以我認為有很多工具會被內置到我們的每一個產品中。我認為我們所做的每一件事基本上都會朝著這個方向發(fā)展。
就像在未來，如果您在我們的服務上做廣告，您是否需要制作自己的廣告創(chuàng)意？不是，你只是，只是告訴我們，好吧，我是一個遛狗的人，我愿意遛狗，幫助我找到合適的人，并且喜歡創(chuàng)建表現最好的廣告單元，喜歡給系統一個目標。它就像把你和合適的人聯系起來。好吧，這是生成語言的一個超級強大的想法，幾乎就像對你進行嚴格的 A-B 測試這有助于為您的產品找到最佳客戶。
廣告如果做得好，只會在人和能讓人快樂的事物之間找到很好的匹配。是的，完全。并盡可能高效地做到這一點。當它做得好時，人們實際上會喜歡它。我認為有很多例子表明它做得不好而且很煩人，我認為這就是它的壞名聲。但是，是的，今天很多這樣的東西都是可能的。
顯然 A-B 測試的內容內置于許多這些框架中。新鮮事物是擁有可以為您產生有關 A-B 測試內容的想法的技術，這是令人興奮的事情。所以這就像我們正在做的所有事情一樣，對，我們正在做的所有元宇宙的事情，對，就像你想在未來創(chuàng)造世界，你只需描述它們，然后它就會創(chuàng)建代碼。
所以自然語言成為我們與計算機和數字交互的所有方式所使用的界面-其中更多，
是的，是的，完全是。這是每個人都可以使用自然語言做的事情。通過翻譯，您可以使用任何一種語言進行翻譯。
對于個性化，它真的非常非常有趣。是的。它解鎖了很多可能的東西。我，一方面，期待著創(chuàng)造一個我自己的副本。我知道，我們上次談過這個。但這已經，自上次以來，這變成了現在我們更接近了。更近了。就像我真的可以與這些語言模型中的一些進行交互一樣，我可以看到我將有大量的荒謬情況或 Lex 語言模型，我將不得不與他進行對話，比如，嘿，聽著，就像你剛剛越界并進行對話，你可以微調那個東西讓它更尊重一點或其他什么像這樣。
那將是-這看起來是一個了不起的產品對于企業(yè)，對于人類，不僅僅是面向個人的助手，而是代表個人面向公眾的助手，兩個方向�；旧嫌幸粚邮� AI 系統，通過它你可以與外部世界交互，外部世界中有人類。這真的很有趣。你擁有連接數十億人的社交網絡，這似乎是一個非常大規(guī)模的地方來測試其中的一些東西。
是的，我認為創(chuàng)作者想要這樣做的部分原因是因為他們已經在我們的服務中擁有社區(qū)。是的，今天很多這類東西的界面都是聊天類型的界面，在 WhatsApp 和 Messenger 之間，我認為這些都是與人互動的非常非常好的方式。
所以其中一些是哲學，但你是否看到在不久的將來，你的一些朋友是這些社交網絡上的人工智能系統，在 Facebook、Instagram 上，甚至在 WhatsApp 上，在一些異類的地方進行對話，有些是人類，有些是人工智能？
我想我們會做到這一點。如果只是憑經驗看，然后幾年前微軟在中國發(fā)布了一個叫小冰的東西，這是一個 pre-LLM 聊天機器人技術，比今天可能的要簡單得多。而且我認為就像有數以千萬計的人在使用它，并且真的變得非常依戀并與之建立了關系。而且我認為今天有像 Replika 這樣的服務，人們正在做這樣的事情。所以我認為肯定有需要對于人們擁有的陪伴，老年人。而且我認為大多數人可能沒有他們想要的那么多朋友。
如果你看，有一些有趣的人口統計研究表明，普通人有多少親密朋友，他們今天擁有的數量比 15 年前少。這就像我在構建幫助人們聯系的服務方面考慮的核心問題。所以我認為你會得到幫助人們相互聯系的工具，這將是我們想要做的主要事情。
所以你可以想象人工智能助手會更好地提醒你朋友的生日，以及你如何慶祝他們。是的，就像現在我們在網站角落里有一個小方框，告訴你今天是誰的生日等等。但它是，但在某種程度上，你不只是想給每個人發(fā)一張紙條，上面寫著同一張紙條，上面有表情符號，上面寫著生日快樂。是的，所以從這個意義上說，擁有更像是社交助手的東西。
這樣可以讓您了解他們生活中發(fā)生的事情，以及如何有效地與他們聯系，幫助您成為更好的朋友。我認為那也是非常強大的東西。
但是，是的，除此之外，我認為可能存在所有這些不同風格的個人人工智能。所以我認為助理是那種最容易讓你頭腦清醒的人，但我認為導師或人生教練，有人可以給你建議，他可能有點像拉拉隊隊長，可以幫助你克服所有挑戰(zhàn)，不可避免地，我們每天都會經歷，而且類似的事情可能有一些作用。然后，一路走來，你可能會經歷人們在生活中擁有的許多不同類型的功能性關系。
而且，我敢打賭，會有公司在很多這些事情上采取行動。所以我不知道，我認為這是將要存在的有趣創(chuàng)新的一部分，肯定有很多，像教育導師，這我只是看著，我的孩子們正在學習編碼，他們喜歡它，但是，這就像他們被困在一個問題上，他們必須等到我可以幫忙解答或者他們認識的其他人將來可以幫助回答這個問題。
他們只是，會有一個編碼助手，就像他們設計的，非常適合教五歲和七歲的孩子如何編碼，他們將能夠提出所有問題時間，要非常耐心。它永遠不會生他們的氣，我認為我們在生活中擁有的所有這些不同類型的關系或功能性關系都非常有趣。
我認為最大的問題之一是，好吧，這一切會不會被卷入，你知道嗎，一個單一的人工智能？我只是不，我不這么認為。
自動Bot機器人
你有沒有想過，這實際上是 Reddit 上的一個問題，人類交流的長期影響是人們可以通過聊天機器人與他人交談，引述，聊天機器人會自動增強他們的語言，而不是通過犯錯誤來發(fā)展社交技能和學習？一代人之后，人們會只用咕嚕聲交流嗎？你是否考慮過大規(guī)模的長期影響，人工智能在我們社會互動中的整合？
是的，我認為這主要是好的。這個問題有點消極，但我們之前討論過語言模型可以幫助您與之交流，就像語言翻譯可以幫助您與不會說您的語言的人交流一樣。在某種程度上，所有這些社交技術所做的就是幫助人們更好地向人們表達自己在否則他們很難做到這一點的情況下。
所以一部分可能沒問題，因為你說的是我不懂的語言。這是一個非�；镜膯栴}，我不認為人們會看著它說，我們有能力做到這一點很遺憾，因為我應該剛剛學會你的語言。是的，這是相當高的標準。但總的來說，我想說有所有這些障礙，語言是人們表達思想和觀念的一種不完美的方式。這是我們擁有的最好的之一。我們有，我們有藝術，我們有語言，我們有代碼。但語言也是你思考方式、看待世界的方式、你是誰的映射。
其中一個應用程序，我最近與一位實際上是柔術教練的人交談過。他說，當他給父母發(fā)電子郵件詢問他們的兒子和女兒時，他們可以提高課堂紀律等等，他經常發(fā)現自己比他想要的更混蛋。因此，他使用 GPT 將他的原始電子郵件翻譯成更好、更有禮貌的電子郵件。
我們一直聽到這個。許多使用我們服務的創(chuàng)作者告訴我們，壓力最大的事情之一基本上是與品牌和東西談判交易，比如它的商業(yè)方面。因為他們他們做他們的事，而創(chuàng)作者，他們在他們所做的事情上非常出色，他們只想與他們的社區(qū)建立聯系，但隨后他們真的感到壓力很大。他們進入他們的 DM，他們看到一些品牌想要與他們做某事，他們不太知道如何談判或如何恭敬地拒絕。所以我認為構建一個可以讓他們真正做到這一點的工具是一件簡單的事情，我認為這就像我們從一群他們感興趣的人那里聽到的一件有趣的事情。
但我要回到更廣泛的想法。我不知道。普里西拉和我剛剛有了我們的第三個女兒。幾個月前。
順便說一下，祝賀你。
謝謝。謝謝。
這就像世界上最悲傷的事情之一就是看到你的孩子哭泣，但這為什么會這樣？這好吧，因為嬰兒通常沒有太多能力告訴你他們關心的其他事情。實際上不僅僅是嬰兒。我五歲的女兒也會哭，因為她有時很難表達對她來說重要的事情。
我在想這個，我想，好吧，實際上很多成年人也感到非常沮喪，因為他們很難以回到某些早期主題的方式表達事物，這可能是錯誤的或者他們可能有驕傲或類似所有這些東西阻礙了他們。所以我不知道。我認為所有這些不同的技術可以幫助我們駕馭社會的復雜性，并且實際上能夠更好地表達我們的感受和想法，我認為這通常都是好的。并且總是有這樣的擔憂，
好吧，人們會不會因為你有谷歌來查找東西而有更糟糕的記憶？而且我認為，一般來說，一代人之后，你不會回頭看并為此感嘆。我認為這哇，我們現在有更多的能力做更多的事情。我認為這里也是如此。你可以將這些認知能力分配給喜歡更深入、更細致的思想。
是的。但它是變化。所以就像谷歌搜索一樣，額外的語言模型，大的語言模型，你基本上不用記那么多。就像使用 Stack Overflow 進行編程一樣，現在這些語言模型可以在那里生成代碼。我發(fā)現我寫的代碼大概有80%、90%是非生成的，然后再編輯的。因此您不必記住如何編寫不同函數的細節(jié)。
哦，但這太好了。而且，它不僅僅是特定的編碼。在像這樣的大公司的背景下，我認為在工程師坐下來編寫代碼之前，他們首先需要弄清楚成千上萬的人在他們之前編寫的所有庫和依賴項。讓我感到興奮的一件事是，我們正在做的事情不僅僅是幫助工程師編碼的工具，它還可以幫助總結整個知識庫并幫助人們?yōu)g覽所有內部信息。我認為那是在我用這些東西做的實驗中，在公共的東西上，你只需要讓其中一個模型為你構建一個腳本可以做任何事情，它基本上已經了解最好的庫是做什么的，并自動將它們拉入。我認為那是超級強大的。這始終是編碼中最煩人的部分，那就是您必須花費所有時間來實際弄清楚應該導入的資源是什么，然后才能真正開始構建東西。
是的，當然有，不利的一面，我認為在很大程度上是積極的，但不利的一面是，如果你將這種思考外包給AI模型，你可能會錯過細微的錯誤和錯誤。你失去了找到這些錯誤的技能。這些錯誤可能是，該代碼看起來非常正確，但實際上以一種非常微妙的方式錯誤。但這是我們作為人類面臨的權衡。
作為人類文明，當我們制造出越來越強大的工具時，當我們站在越來越高的巨人的肩膀上時，我們可以做的更多，但我們卻忘記了如何做他們做過的所有事情。這是一個奇怪的權衡。是的，我同意。我認為能夠做一些基本的事情對你的生活來說是非常有價值的。
您是否擔心機器人出現在社交網絡上的一些問題？越來越多的類人機器人不一定會做好事，或者它們可能會明確地試圖做壞事，比如網絡釣魚詐騙，比如社會工程，所有這些東西，這一直是一個非常 對于社交網絡來說是個難題，但現在它幾乎變成了一個越來越難的問題。
好吧，我認為這有幾個不同的部分。所以一個是，我們基本上需要對抗和預防所有這些危害。這是我們過去關注的重點，基本上是在提升非常復雜的人工智能系統，而不是生成人工智能系統，更多的是經典人工智能系統，能夠分類、分類和識別，好吧，這篇文章看起來像是在宣揚恐怖主義。這是在剝削孩子。這個看起來像是在試圖煽動暴力。這是侵犯知識產權的行為。因此，就像18種不同類別的違規(guī)有害內容一樣，我們必須構建特定的系統才能進行跟蹤。我認為生成人工智能的進步肯定會檢驗這些。但至少到目前為止，情況一直如此，而且我樂觀地認為這種情況將繼續(xù)存在，我們將能夠帶來更多的計算能力來擁有更強大的AI來幫助抵御這些事情。所以我們之前不得不處理一些對抗性問題。
是的，對于仇恨言論之類的事情，人們通常不會變得更加老練，就像普通人一樣，比方說，如果有人在說某種種族主義的話，對，他們 不一定會變得更老練地成為種族主義者，只是，沒關系。這樣系統正好可以找到。但是還有其他對手實際上非常老練，比如民族國家做事。我們發(fā)現，無論是俄羅斯還是不同的國家基本上是在建立這些機器人或不真實帳戶的網絡，我們稱之為它們，因為它們不一定是機器人，其中一些實際上可能是真人，他們有點偽裝成其他人，但他們以協調一致的方式行事方式。其中一些行為變得非常復雜，而且非常具有對抗性。所以他們，每次迭代，每次我們發(fā)現一些東西并阻止他們，他們都會進化他們的行為。他們不會只是收拾行李回家說，好吧，我們不會嘗試。在某些時候，他們可能會決定在Meta服務上做這件事不值得，如果在另一個地方做起來更容易，他們會去別人身上做。但是我們有相當多的經驗來處理即使是那些他們不斷變得越來越好的對抗性攻擊。而且我確實認為，只要我們能夠繼續(xù)投入更多的計算能力，并且如果我們是開發(fā)其中一些AI模型的領導者之一，我非常樂觀地認為我們將能夠繼續(xù)反對你所說的那種正常的傷害，欺詐，詐騙，垃圾郵件，侵犯知識產權之類的。
如何創(chuàng)造敘事和爭議？對我來說，一小部分，你說的，不真實的賬戶是多么令人驚訝，所以它可能是機器人，但它可能是巨大的。是的，我們給它取了一個有趣的名字，但我們稱之為協調的不真實行為。是的，一小群人如何創(chuàng)造敘事，創(chuàng)造故事，這有點不可思議，特別是如果它們具有病毒性。特別是如果它們具有可以促進敘事傳播的元素。是的，我認為，問題是，你必須是，我非常具體地說明了它的壞處，因為我認為一群人聚在一起或有機地相互交流想法，然后就產生了一個故事，如果它是真實的和有機的，那么它本身不一定是壞事。這就是發(fā)生的很多事情，文化是如何創(chuàng)造的，藝術是如何創(chuàng)造的，還有很多好東西。所以這就是為什么我們有點關注這種協調的不真實行為的感覺。所以這如果你有一個網絡，無論是機器人，一些人偽裝成不同的賬戶，但你有某種人在背后操縱它并試圖采取某種行動好像這是一組更有機的行為，但實際上不是，它就像一個協調的東西。這對我來說似乎有問題，我不認為人們應該能夠擁有協調的網絡并且不公開它。但同樣，我們已經能夠部署相當復雜的人工智能和反恐小組以及類似的東西，以便能夠識別出相當數量的這些協調一致的不真實賬戶網絡并將其取締。我們繼續(xù)這樣做。
我認為我們是，我們已經，如果你在20年前告訴我，那是一回事，好吧，你開始這個網站是為了幫助人們在大學和未來建立聯系，你會成為，你組織的一部分將成為一個反恐組織，用人工智能來尋找協調的不真實。我原以為那很瘋狂，但它是，我認為那是我們所處位置的一部分。
但是看，我認為你現在提出的這些問題，這實際上是我猜想在可預見的未來圍繞AI的大部分挑戰(zhàn)將出現的地方。我認為圍繞這樣的事情有很多爭論，這是否會給人類帶來生存風險？而且我認為這些是很難以某種方式反駁的事情。我自己的直覺是，我們接近超級智能的那一點是，它真的很不舒服。我很清楚，目前的技術將在沒有另一組重大進步的情況下實現這一目標，但這并不意味著沒有危險。我認為危險基本上是在放大人們或一組賬戶可能造成的已知危害。我們只需要確保我們真正專注于基本上盡可能地做到這一點。所以這對我來說絕對是一個重點。
內容審查
好吧，你基本上可以使用大型語言模型作為如何在社交網絡上造成傷害的助手。所以你可以問它一個問題，meta 具有非常令人印象深刻的協調不真實帳戶打擊能力。我如何進行協調的真實帳戶創(chuàng)建Meta沒有檢測到它的地方？就像從字面上問那個問題一樣。基本上有這樣的一部分。這就是OpenAI表明他們關心這些問題的原因。也許你可以評論你的方法，如何對那些模型的輸出進行某種調節(jié)，它不能用來幫助你協調傷害的所有完整定義中的傷害意味著什么。
是的，這是很多微調，我們所做的對齊培訓基本上是，當我們在我們的產品中運送AI時，我們試圖確保的很多事情是，如果你不能要求它幫助你犯罪，所以我認為訓練它來理解這一點，并且這些系統中的任何一個都不會百分百完美，但只是讓它成為一種更簡單的方法去做壞事不是下一個最佳選擇，
人們仍然有谷歌，你仍然有搜索引擎，所以信息就在那里。對于這些，我們所看到的就像民族國家或者這些試圖建立這些大型協調和真實網絡以影響不同事物的參與者，在某些時候我們可能會使其變得非常困難，他們只是嘗試使用其他服務，如果你能讓他們在你的服務上做這件事的成本更高，那么人們就會去別處。我認為那是酒吧，這不像，好吧，你會完美地找到每一個試圖攻擊你的對手嗎？它是，你試圖盡可能接近它，但我認為真的有點經濟，我們只是想做的是做到這一點，所以他們這樣做是低效的。
但也有一些復雜的問題，比如什么是傷害，什么不是傷害，什么是錯誤信息，什么不是錯誤信息。所以這是維基百科也試圖面對的事情之一。我記得我問過GPT關于病毒是否從實驗室泄漏的問題，所提供的答案非常微妙，而且引用得很好，我敢說，幾乎是經過深思熟慮的，平衡的。我不希望這種細微差別在適度的過程中消失。維基百科在這方面也做得很好。但迫于政府和機構的壓力，您可能會發(fā)現信息、事實和智慧的一些細微差別和深度丟失了。絕對地。這是一件可怕的事情。一些魔力，一些邊緣，粗糙的邊緣可能會在AI系統的適度過程中丟失。
那么你如何做對呢？我真的同意你在推動什么。問題的核心形式是我認為每個人都認為有些危害是不好的，那么對兒童的性剝削，就像你不會讓很多人認為任何服務都應該允許那種類型的東西，這就是我們今天面臨并試圖盡可能推動的事情。恐怖主義，煽動暴力，我們之前經歷過很多這類傷害。但我確實認為，在圍繞它進行更多社會辯論的情況下，你會受到一系列傷害。所以錯誤的信息，我認為，這是一個非常棘手的事情，因為有些事情顯然是錯誤的，對吧，也許是事實，但可能無害。
所以好吧，你會因為某人的錯誤而審查某人嗎？如果他們的所作所為沒有任何危害暗示，那里有很多真正的問題和挑戰(zhàn)。但后來我認為還有其他地方，你只是在大流行早期采取了一些關于COVID的東西，這些東西對健康有真正的影響，但沒有時間完全審查一堆科學假設。不幸的是，我認為很多建立在這種基礎上的機構都在一堆事實上胡說八道，并要求審查一堆事情，
回想起來，這些事情最終變得更有爭議或更真實。那東西真的很難，并且確實破壞了對此的信任。所以我確實認為圍繞如何管理的問題這是非常微妙的。我嘗試考慮的方式是，我認為最好通常將事情歸結為人們同意的危害。
因此，當您考慮時，是否存在錯誤信息？
我認為通常更突出的一點是，這是否會潛在地導致某人的身體傷害并從這個意義上考慮它。除此之外，我認為人們只是對如何為他們標記事物有不同的偏好。我想很多人更愿意在某件事上掛上一面旗幟，上面寫著，嘿，事實核查員認為這可能是假的。我認為Twitter的社區(qū)注釋實施在這方面做得很好。但同樣，它是同一類型的東西。這就像隨意添加一個標志，因為它可以讓用戶體驗更好。但它并不是要刪除或不刪除信息。
我認為您想將內容審查保留給人們普遍認為不好的已知類別的內容。
是的，但是有很多事情，尤其是大流行病，但還有其他話題。關于什么是有害的，什么是有害的，政治引發(fā)了深刻的分歧。甚至還有病毒的危害程度和對病毒產生反應的疫苗的危害程度。只是，這幾乎就像一個政治分歧。
那么你如何做出決定呢？美國一半的國家或世界上很大一部分國家的觀點與世界另一部分截然不同。有沒有辦法讓Meta不受此監(jiān)管？
我認為我們很難棄權。但我認為我們應該清楚這些事情中哪些是真正的安全問題，哪些是人們希望如何標記信息的偏好問題。所以我們最近確實介紹了一些可以讓人們進行事實核查不會影響其產品中出現的內容的分布。好吧，一群人不相信事實核查者是誰。好吧，如果你愿意，你可以把它關掉。但如果內容違反了一些政策，比如煽動暴力之類的，它仍然不會被允許。所以我認為你想盡可能地尊重人們的偏好。但是，這真的很難。我認為真的很難知道在什么是事實和什么是觀點之間劃清界限，因為科學的本質是沒有什么是百分百確定的。你可以反駁某些事情，但你一直在測試新的假設并仔細檢查長期持有的框架。每隔一段時間你就會扔掉一些東西，那工作了很長一段時間，而且非常困難。但我認為，僅僅因為這非常困難并且存在邊緣情況并不意味著你不應該嘗試為人們提供他們正在尋找的東西。
讓我問一下你在節(jié)制方面所面臨的事情是來自不同來源的壓力，來自政府的壓力。我想問一個問題，如何在人工智能節(jié)制開始成為現實的世界中承受這種壓力。那么Meta抗壓的方法是什么？從政府和其他利益集團的角度來看，什么要緩和，什么不要？我不知道是否有一個放之四海而皆準的答案。
我認為我們基本上有我們想要讓人們盡可能多地表達的原則，但我們已經制定了明確的類別。我們認為我們不希望在我們的服務中出現錯誤的事情。我們構建工具來嘗試緩和這些。那么問題是，好吧，當政府說他們不想要某事時，你會怎么做在服務上？我們有一系列關于我們如何處理它的原則。
因為一方面，如果有一個民選政府，而世界各地的人們只是在不同地方有不同的價值觀，那么作為一家總部位于加利福尼亞的公司，我們是否應該告訴他們他們決定的某些事情是不可接受的，實際上我們需要能夠表達這一點？我認為其中有一定程度的狂妄自大。
但我認為在其他情況下，它更專制一點，這并不一定違背他們的文化，但是領導它的人只是想朝某個方向推進。這些都是非常復雜的問題。但我認為，因此很難有一種放之四海而皆準的方法。但總的來說，我們非常積極地提倡和反對將內容撤下的請求。
但老實說，我認為審查事物的請求是一回事，這顯然是不好的，但我們在信息訪問請求方面劃清界限的地方要強得多。因為如果你被告知你不能說某事，那很糟糕。顯然它在某種程度上侵犯了你的感覺和表達自由，但是政府以在我們國家似乎是非法的方式訪問數據會使人們面臨真正的身體傷害。這通常是我們非常重視的事情。
然后，這會以多種方式貫穿我們所有的政策，當您真正與政府提起訴訟或反擊政府時，已經很晚了。我想說的是，在決定我們將數據中心放在哪里時，這些東西的起點要高得多。然后有很多國家，我們可能有很多人在一個地方使用這項服務。這在某些方面可能對服務有好處，如果我們可以通過在他們附近建立數據中心來減少延遲，那么對這些人來說是件好事。
但是，無論出于何種原因，我們只是覺得，嘿，這個政府在基本上不試圖訪問人們的數據方面沒有良好的記錄。歸根結底，如果你在一個國家/地區(qū)建立了一個數據中心，而政府想要訪問人們的數據，那么，他們最終確實可以選擇讓人們帶著槍出現并用武力奪取它。
所以我認為有很多決定會涉及到如何在這些實際對抗發(fā)生之前幾年構建系統，這最終變得非常重要。所以你把保護人們的數據放在非常非常重要的位置。但是在-我認為是一個，我認為可能與此相關的危害更多。而且我認為，這最終成為抵御政府的一個更重要的事情，而不是，而如果另一個政府對他們國家應該接受的言論有不同的看法，特別是如果它是一個民主選舉的政府，并且，是的，然后我認為你應該對此有一定的尊重。因此，這更多地說明了當您允許政府訪問數據時可能造成的直接傷害。
但如果我們看看美國，更微妙的審查壓力，甚至不是命令審查，而是來自政治實體的審查壓力，這已經受到了相當多的關注。在美國，也許問這個問題的一種方法是，如果你看過 Twitter 文件，您從 Twitter 文件中看到的來自美國政府機構的那種壓力中學到了什么？你如何應對這種壓力？我已經看到了。從外部很難確切知道這些案例中的每一個都發(fā)生了什么。我們顯然遇到過很多我們自己的案例，在這些案例中，機構或不同的人只會說，嘿，這是我們知道的威脅。你也應該意識到這一點。這并不是真正的壓力，因為它只是，標記一些我們的安全系統應該保持警惕的東西。我明白有些人怎么會這么想，但歸根結底，我們呼吁如何處理它。但我只是，就運行這些服務而言，我將無法獲得盡可能多的關于人們認為對手可能試圖做什么的信息。
好吧，所以你不覺得如果，任何人，中央情報局，聯邦調查局，一個政黨，都會有后果，高級政治人物的民主黨人或共和黨人寫電子郵件。你不會因為建議而感到壓力。我想我想說的是來自各方的壓力如此之大，以至于我不確定某人所說的任何具體事情是否真的增加了更多的壓力。顯然有很多人認為我們應該審查更多內容，否則會有很多人誰認為我們應該審查更少的內容。正如您所說，有各種不同的團體參與了這些辯論，所以有那種民選官員和政客自己，有機構，但還有媒體，有激進主義團體，這不是美國特有的事情，世界各地都有團體每個國家?guī)聿煌膬r值觀。所以這只是一場非常、非�；钴S的辯論。
我明白了，這些是，這些問題真正正在進行的一些最重要的社會辯論。
所以我認為這又回到了真相的問題上，因為對于很多這樣的事情，它們還沒有被硬化成一個單一的真相，社會在某種程度上試圖討論我們在某些問題上的想法，對吧。也許幾百年后，每個人都會回頭說，嘿，不，本來應該是這樣的并不明顯，但是不，我們現在有點像絞肉機，正在努力解決這個問題。不，這些都非常復雜。還有一些人善意地提出擔憂就說，嘿，這是我想提醒你考慮的事情。我當然認為，某些人對待事情的態(tài)度更像是一種懲罰性或報復性的觀點，例如，我希望你做這件事。如果你不這樣做，那么我會嘗試讓你的生活變得困難，并以許多其他方式。但是，我不知道，只是，這我認為這是社會上壓力最大的辯論之一。所以我只是認為不同勢力中有這么多人試圖從不同方面施加壓力，我認為你不能根據試圖讓人們開心來做出決定。我認為你只需要做你認為正確的平衡，并接受無論你從哪里出來，人們都會感到不安。
是的，我喜歡那種壓力很大的辯論。那么這些年來您對言論自由的看法是如何演變的？現在有了人工智能，自由可能適用于，不僅對人類，而且對您所說的個性化代理？
所以是的，我可能得到了一個更微妙的觀點，只是因為我認為，我來這里，我顯然非常支持言論自由，我不認為你會建立這樣的服務來為人們提供表達自己的工具，除非你認為人們大規(guī)模表達自己是一件好事，所以我沒有進入這個喜歡，試圖阻止人們表達任何東西。我喜歡給人們工具，這樣他們就可以盡可能多地表達。然后我認為很明顯，我們討論過的某些類別的事情我認為幾乎每個人都認為是不好的，沒有人想要，而且它們是非法的，即使在美國這樣的國家，你有第一個修正案，它非常保護授權言論。這你仍然不被允許做會立即煽動暴力的事情，或者，侵犯人們的知識產權或類似的事情。所以有那些，但也有一個非常活躍的核心，即社會上活躍的分歧，一些人可能認為某件事是對的還是錯的，另一方可能認為它是相反的或只是懸而未決，就像我們談到的那樣，這些是最難處理的。
但我覺得我學到的教訓之一是，很多時候你可以，更實際地處理這些事情的最好方法不是回答是否應該允許這樣的問題，而是就像最好的處理方法是什么有人是個混蛋？這個人基本上只是重復行為嗎喜歡引起很多問題？所以在那個層面上更多地看它，及其對更廣泛社區(qū)、社區(qū)健康、國家健康的影響。但這很棘手，因為你怎么知道會有人有一個非常有爭議的觀點，結果證明對社區(qū)的健康產生積極的長期影響，因為它挑戰(zhàn)了社區(qū)的思考。這是真的，絕對的。是的，不，我想你要小心點關于那個。我不確定我是否表達得很清楚，因為我當然同意你的觀點。
我的意思并不是說我們不應該讓有爭議的人出現在我們的表面上。這當然不是我的意思。正是我經常認為，處理這些東西最有效的不僅僅是看一個具體的演講例子。而且我認為通常您不想做出允許或不允許的特定二元決定。我們談到過，這是事實核查或 Twitter 社區(qū)聲音的事情。我認為這是另一個很好的例子。這不是允許或不允許的問題？這只是為事物添加更多上下文的問題。我認為這很有幫助。所以在人工智能的背景下，這就是你所問的，我認為人工智能可以在很多方面提供幫助。
有了人工智能，審查制度就不那么重要了，因為，更重要的是什么是對問題最有效的回答？我和團隊一起審查了一個案例研究有人問，你能給我解釋一下如何 3D 打印槍支嗎？一個提議的回應是，不，我不能談論那個。但它基本上就像立即關閉它一樣，我認為這是你看到的一些。作為一個大型語言模型，我不能隨便談論什么。但還有另一種回應，嘿，我認為這不是一個好主意。在很多國家，包括美國，3D 打印槍支是非法的，或者不管事實如何。
我當時想，好吧，這實際上是一個尊重和信息豐富的答案。我可能不知道具體的事情。因此，我認為有不同的方法來處理這個問題，你可以假設善意，好像這個人可能不知道，我只是要幫助教育他們�；蛘吣憧梢赃@樣說，不，我需要立即關閉這個東西。
Meta新社交app項目
是的，我只是不想談論這個。有時您可能需要這樣做。但我實際上認為，采用一種信息量更大的方法（通常假定人們的良好意圖）可能會更好地平衡盡可能多的事情。你不可能對所有事情都這樣做。但是你有點問我如何處理這個問題，我正在考慮這個問題以及它與 AI 的關系。
我認為這在如何跨這些不同模式處理敏感內容方面存在很大差異。我不得不問，有傳言說你可能在一個基于文本的社交網絡上工作，它可能是 Twitter 的競爭對手，代號為 P92。對于這些謠言，你有什么要說的嗎？
有一個項目。我一直認為那種基于文本的信息實用程序對社會來說只是一件非常重要的事情。不管出于什么原因，我覺得 Twitter 沒有發(fā)揮出我認為它應有的全部潛力。我認為目前，我認為 Elon 是這么認為的，這可能是他購買它的原因之一。我確實知道有一些方法可以考慮替代方法。還有一個我認為可能很有趣的您在 Mastodon 中看到的這種開放和聯合的方法是什么，您在 Blue Sky 中看到了一點點。而且我認為，將其中一些想法與人們已經在 Instagram 上培養(yǎng)的圖形和身份系統融合在一起的東西可能是一種非常受歡迎的貢獻到那個空間。但我知道我們也一直在做很多事情。所以我不想超越自己。我們有探索很多不同事物的項目。這當然是我認為可能很有趣的一個。
發(fā)布日期和官方網站是什么時候？
好吧，我們還沒有確定具體的發(fā)布日期，也沒有官方網站。
哦好的。
但是我，看，我不知道結果會怎樣。我能說的是，是的，有人在做這件事，我認為那里有些東西值得探索。所以如果你看，問這個問題并將 Twitter 加入其中會很有趣。在社交網絡領域，即 Facebook、Instagram、WhatsApp。然后想想基于文本的社交網絡。
當你看著那幅風景時，對你來說有趣的區(qū)別是什么？為什么我們有這些不同的口味？需求是什么？有哪些用例？產品是什么？它們的哪些方面創(chuàng)造了令人滿意的人類體驗以及人類之間某種程度上截然不同的聯系？
好吧，我認為文本對于人們傳遞思想和來回交流來說是非常容易獲得的。我認為，它最終成為一種很好的討論形式，在很多方面，獨一無二的好，如果你看看其他一些專注于一種內容的格式或網絡，像 TikTok 顯然是巨大的，在 TikTok 上也有評論，但我認為該服務的架構非常清楚，你將視頻作為主要內容，然后才是評論。但我認為像內容一樣擁有基于文本的評論的獨特之處之一是評論也可以是一流的。這使得對話可以過濾并分成所有這些不同的方向，并且以一種非常有用的方式進行。所以我認為有很多關于體驗的事情真的很棒。
它總是讓我印象深刻，我一直認為，Twitter 應該有 10 億人使用它，或者基本上最終會出現在那個空間中的任何東西。無論出于何種原因，這些公司都是復雜的有機體，很難從外部診斷這些東西。為什么 Twitter 沒有，為什么作為第一個基于公民的社交網絡的基于文本的評論沒有十億用戶？好吧，我只是覺得建立這些公司很難。所以并不是每個想法都會自動產生并吸引十億人，只是我認為這個想法加上良好的執(zhí)行力應該會實現。
但你看，隨著時間的推移，我們達到了某些門檻，我們在早期就處于穩(wěn)定狀態(tài)，并且不清楚我們是否會在 Facebook 上達到一億人。然后我們非常擅長撥入國際化并幫助服務在不同國家/地區(qū)發(fā)展。這就像我們需要發(fā)展的整體能力。幫助人們基本上將服務傳播給他們的朋友。那是其中的一件事，一旦我們在這方面做得非常好，這是讓我覺得，嘿，如果 Instagram 早點加入我們的事情之一，那么我覺得我們可以幫助快速發(fā)展。
和 WhatsApp 一樣。我認為這是我們已經開發(fā)并能夠執(zhí)行的核心競爭力。其他人也有，字節(jié)跳動顯然在 TikTok 上做得非常好，那里已經覆蓋了超過 10 億人，但這肯定不是自動的，我認為您需要一定程度的執(zhí)行力才能基本上達到目標。而且我認為無論出于何種原因，我認為 Twitter 在服務中有這個偉大的想法和某種魔力，但他們還沒有破解那塊。而且我認為這樣做是為了讓你看到所有這些其他東西，無論是 Mastodon 或 Blue Sky，我認為它們可能只是同一事物的不同剪輯。
但我認為通過整個上一代社交媒體，其中一個有趣的實驗我認為應該在更大范圍內運行的是如果有更多的分散控制會發(fā)生什么。如果整個堆棧更開放。我對此非常著迷，并看到了它是如何工作的。在某種程度上，WhatsApp 上的端到端加密以及我們將其引入其他服務時提供了其中的一個元素，因為它將服務真正推向了邊緣。與我們在 Facebook 或 Instagram 上所做的相比，我們?yōu)?WhatsApp 運行的服務器部分相對非常保更復雜的是應用程序如何相互協商以完全端到端加密的方式傳遞信息。但我不知道，我認為那是一個很好的模型。我認為它賦予了個人更多的權力，如果你能做到這一點，它會帶來很多好處。同樣，這一切都非常具有推測性。我認為，在您試一試之前，從外面很難知道為什么任何事情都有效或無效。所以我認為這是一種有趣的實驗，但我真的不知道這個會去哪里。
Elon Musk馬斯克
所以既然我們在談論推特，Elon Musk 說了一些我不希望他說的刺耳的話。所以讓我問一下。以友情的名義希望，你認為 Elon 在 Twitter 上做得很好嗎？還有，作為一個長期跑步的人，你，社交網絡，Facebook，Instagram，WhatsApp，他能做得更好嗎？他可以在那個基于文本的社交網絡上改進什么？
天哪，在你進入這個之前總是很難從外面提供具體的批評，因為我認為我學到的一件事是每個人都對你應該做什么有意見。就像經營公司一樣，你會看到許多外部不明顯的細節(jié)。而我常常認為我們周圍的一些話語會的，如果有更多可能會更好一種承認我們在內部看到的某些事情指導我們正在做的事情的空間。
但是我不知道。既然你問過什么進展順利，我確實認為 Elon 很早就帶頭推動了使 Twitter 更精簡。我認為，就好像你可以完全同意或不同意所有策略以及我們是如何做到的。顯然，每個領導者都有自己的風格，如果你需要為此做出重大改變，你將如何執(zhí)行它。
但他推行的許多具體原則基本上是試圖讓組織更具技術性，圍繞著減少公司工程師和他之間的距離，比如減少管理層級。所以我認為這些通常是好的變化。而且我也是，我也認為他做出這些改變可能對行業(yè)有好處，因為我的感覺是有很多其他人認為這些改變是好的，但他們可能有點害羞關于做他們。
我認為他，就在我與其他創(chuàng)始人的談話中，以及人們對我們所做的事情的反應，我從很多人那里聽到的是，嘿，當像你這樣的人時，當我在 3 月份寫信概述了我想要進行的組織變革時，當人們看到 Elon 正在做的事情時，我認為這讓人們有能力思考如何以某種方式塑造他們的組織希望這對行業(yè)有利，并隨著時間的推移使所有這些公司更有效率。所以那是我認為他所在的地方遠遠領先于其他一些公司。他在那里做什么，從外面又一次，很難知道。
好吧，他剪得太多了嗎？他剪的還不夠嗎？任何。我認為我不適合對此發(fā)表意見。你問我欣賞什么這個問題的積極框架？我認為什么進展順利？但我認為這肯定像他的行為讓我和我認為業(yè)內很多其他人思考，嘿，我們是否盡可能多地這樣做了？比如，我們能否通過推行其中一些相同的原則來讓我們的公司變得更好？
Meta裁員和招聘
你最近宣布了 Meta 的多階段裁員。對個人來說，這個過程中最痛苦的方面是什么，它對那些人的生活產生了痛苦的影響？
是的，就是這樣。就是這樣。而且你基本上有相當多的人，他們在 Meta 的時間還沒有結束，他們或我在加入公司時希望如此。
在經營一家公司時，人們不斷地出于不同的方向、不同的原因加入和離開公司。但裁員具有獨特的挑戰(zhàn)性和艱難性，因為你有很多人離開，出于與他們自己的表現或當時不適合的文化無關的原因。這真的只是一種戰(zhàn)略決策，有時在財務上需要，但我們的情況并不完全，尤其是我們今年所做的改變。在文化和戰(zhàn)略上，我希望我們成為一家更強大的技術公司，更多地關注構建更多技術，更多地關注更快地構建更高質量的產品，這在很大程度上是由文化和戰(zhàn)略驅動的。
我只是認為外部世界現在非常不穩(wěn)定。我想確保我們有一個穩(wěn)定的位置，能夠繼續(xù)投資于這些長期的、雄心勃勃的項目，我們圍繞這些項目繼續(xù)推動人工智能向前發(fā)展，并繼續(xù)推動所有元宇宙的工作。鑒于我們在過去 18 個月中看到的相當大的沖擊，為了做到這一點，有些是宏觀經濟引起的，有些是競爭引起的，有些只是因為錯誤的決定或我們犯了錯誤的事情。我不知道，我只是決定我們需要達到一個更瘦的地步。
但是看，但是，好吧，這樣做是一回事，喜歡在高層做出決定。那么問題是你如何盡可能富有同情心地執(zhí)行它？而且也沒有什么好辦法。沒有完美的方法可以肯定。無論如何都會很艱難，但作為這里的領導團隊，我們肯定花了很多時間思考，好吧，考慮到這是一件很糟糕的事情，就像我們能做到的最富有同情心的方式一樣做這個？這就是我們試圖做的。
你提到人們越來越關注工程、技術，所以技術團隊、技術團隊專注于構建產品。是的，我想賦予工程師更多權力，構建事物的人，技術團隊。其中一部分是確保構建事物的人不僅僅是組織的葉節(jié)點。我不想像八個級別的管理人員那樣實際從事工作。因此，我們進行了更改，以便您可以讓獨立的貢獻者工程師在堆棧的幾乎每個級別進行報告，我認為這很重要，因為您正在經營一家公司。最大的問題之一是您獲得的信息的延遲。與運行長期項目相比，我們之前談到過做柔術之類的反饋帶來的樂趣。但實際上，我認為經營一家公司的一部分藝術就是不斷地重新設計它，這樣你的反饋循環(huán)就會變得更短，這樣你就能學得更快。你這樣做的部分方式是，我認為你在組織中擁有的每一層都意味著信息在傳遞給你之前可能不需要經過審查。而且我認為，讓從事這項工作的人盡可能靠近你是非常重要的。就是這樣。
我認為隨著時間的推移，公司只是建立了非常大的支持功能，而不是從事核心技術工作。這些功能非常重要，但我認為以正確的比例擁有它們很重要。如果你想做好工作，但你沒有，正確的營銷團隊或正確的法律建議，就像你會，犯一些相當大的錯誤。但與此同時，如果你只是喜歡太大事情和其中一些支持角色，那么這可能會使事情發(fā)生很大變化。也許你太保守或者你行動慢了很多比你應該的要多。這些只是例子。你如何找到這種平衡？這真的很難。
是的，不，但這是您正在尋找的持續(xù)平衡。
是的，有多少經理？管理者的優(yōu)缺點是什么？嗯，我非常相信管理。我認為有些人認為這無關緊要，但是看，我們公司有很多年輕人，這是他們的第一份工作，而且，人們需要成長，在他們的職業(yè)生涯中學習。我認為所有這些都很重要，但這里有一種數學方法來看待它。
要知道，在這件事的開始，我問我們的人事團隊，一位經理的平均報告數量是多少？我認為大約是三個，也許是三到四個，但更接近三個。我當時想，哇，就像一個經理可以，那個人可以管理的最佳實踐，七八個人。但接近三是有原因的。那是因為我們成長得太快了，當你如此迅速地雇用這么多人時，這意味著你需要有能力入職新人的經理。而且，如果你有一位新經理，你可能不希望他們立即擁有七名直接下屬，因為你希望他們能夠提升。
但事情正在向前發(fā)展，我不希望我們真的那么快就雇用那么多人，所以我實際上認為，如果我們有更多的限制，我們會做得更好，而且我們作為一個組織會更精簡。所以在我們沒有那么快增加這么多人的世界里，有很多有額外能力等待新人的經理是否有價值？無權利？
所以現在我們可以對組織進行一些碎片整理，使平均值更接近七八個。它最終成為一種更緊湊的管理結構，它減少了信息在鏈條上下流動的延遲，我認為可以賦予人們更多權力。但這是一個例子，我認為它并沒有低估管理的重要性以及個人成長或輔導的重要性人們?yōu)榱俗龊霉ぷ魉枰�。我認為，實際上，我們只是不會雇用那么多的人。所以我認為你需要一個不同的結構。構成公司的整個令人難以置信的等級制度和人際網絡令人著迷。哦耶。
是的。你如何聘請優(yōu)秀的團隊？你如何聘請優(yōu)秀的，現在專注于工程和技術團隊，你如何聘請優(yōu)秀的工程師和技術團隊的優(yōu)秀成員？那么，你是在問你如何選擇或如何吸引他們？
兩者，但選擇，我想。我認為吸引是從事很酷的事情并且有遠見。我認為這是對的。并擁有人們認為您實際上能夠做到的記錄。是的，對我來說，選擇似乎更像是一種藝術形式，更像是一種棘手的事情。
您如何選擇適合文化并能最有效地融入的人等等？也許，尤其是當他們年輕的時候，通過簡歷，通過文書工作和所有類似的東西，看到那里有一個特殊的人會做令人難以置信的工作。所以這個問題有很多不同的切入點。我認為當一個組織發(fā)展迅速時，團隊面臨的一個大問題是，我是否聘用現在在我面前的這個人是因為他們看起來不錯，還是我堅持要找到更好的人？以及我一直專注于自己的啟發(fā)式以及我自己認為有效的直接招聘方式。
當你通過組織遞歸時，你應該只雇用某人加入你的團隊，如果你愿意在另一個宇宙中為他們工作。我認為這種方法行之有效，這基本上就是我嘗試建立團隊的方式。我并不急于不經營這家公司，但我認為在另一個由其他人經營公司的宇宙中，我很樂意為他們工作。我覺得我會向他們學習。
我尊重他們那種一般性的判斷。他們都很有見地。他們有很好的價值觀。我認為這給了你一些規(guī)則，你可以在每一層應用它。而且我認為，如果你在組織的每一層都應用它，那么你將擁有一個非常強大的組織。好吧，在一個發(fā)展速度不那么快的組織中，問題可能會有所不同。在那里，你特別詢問了年輕人，比如大學畢業(yè)生。我們看到的一件事是，這是一個非常基礎的課程，但就像我們更清楚誰是在公司實習了幾個月的最優(yōu)秀的人，而不是通過某種方式觀察他們簡歷或簡短的面試循環(huán)。
很明顯，你從某人那里得到的親身感受可能比簡歷更能告訴你，你可以做一些基本技能評估，但很多東西真的只是文化方面的。人們在不同的環(huán)境中茁壯成長在不同的團隊中，甚至在特定公司內。就像那些在夏天來這里工作很短時間的人一樣，他們在這里做得很好，你知道如果他們來全職工作，他們會很棒。這就是我們在實習方面投入如此多的原因之一，基本上就是這樣，這是一個非常有用的排序功能，對我們和想嘗試公司的人來說都是如此。
您親自提到過，您如何看待遠程工作？在過去的幾年里，由于大流行，這個話題被廣泛討論。
是的，我認為這是，它會一直存在，但我認為兩者都有價值，至少，我還不想經營一家完全偏遠的公司。我認為上面有一個星號，那就是 - 你正在處理的其他一些東西，是的。是的，完全正確。這就像所有的，元宇宙的工作和存在的能力，無論你身在何處，都感覺自己真實存在。我想一旦你把所有這些都撥入，那么我們可能，有一天會達到這樣一個地步，即你身在何處真的無關緊要。
然而，我不確定是否在今天的現實中依然存在這種情況，我覺得在今天，這個情況是否依然存在呢？
是的，對于那些具備特殊技能且希望在沒有辦公室的地方居住的人來說，這樣做可能更好。
那么，讓他們留在公司會更好嗎？毫無疑問，這是正確的嗎？很多人在公司工作了幾年，逐漸建立了內部關系，并對公司的運作方式有了一定的了解和信任�，F在，如果他們愿意，他們是否能夠遠程工作并保持高效？我們已經進行了很多研究，結果表明情況確實如此。
好的，但這是否會影響他們的績效呢？實際上并不會。
然而，對于那些剛加入公司、職業(yè)生涯剛起步的人來說，他們需要學習如何解決一些問題并提高公司文化。在處理復雜問題時，他們不僅僅希望參加正式會議，而是希望在會議結束后能夠與同事們一起在走廊上散步并享受集思廣益的樂趣。
我不知道，好像我們還沒有找到一種能夠替代面對面交流的方式，遠程會議還無法完全達到這種動態(tài)。
是的，面對面交流確實有一種特殊的魅力。我們可以繼續(xù)談論這個話題，但我對未來兩年虛擬現實和混合現實中高分辨率掃描的可能性感到非常興奮。
作為一個喜歡面對面交流的人，就像參與這些播客節(jié)目一樣，如果能夠以我親眼目睹的真實水平來體驗，那將是令人難以置信的。
Meta Quest3
我有機會看到Quest 3頭顯。這太棒了。你已經宣布了。你會在秋天提供更多細節(jié)，也許會在秋天發(fā)布。什么時候再次發(fā)布呢？我忘了你之前告訴我的時間。
我們將在Connect活動上提供更多詳細信息，但它計劃在今年秋季發(fā)布。售價為499美元。
那么，您最感興趣的功能是什么？
與Quest 2相比，我們在Quest 3中基本上增加了兩個重要的新功能。
首先是高分辨率的混合現實功能。
基本思想是，當你戴上頭顯時，你可以體驗虛擬現實，所有的像素都是虛擬的，你仿佛沉浸在一個不同的世界中。
而混合現實則是讓你看到周圍的物理世界，你可以在其中放置虛擬對象，無論是將電影屏幕投射到墻上還是在虛擬桌面上投影�；蛘吣阏谕嬉粋�從墻上出現僵尸，你需要射擊它們的游戲，或者我們正在玩龍與地下城或一些棋盤游戲，當我們坐在這里時，面前只有一個虛擬版的棋盤。
在混合現實中，一切皆有可能。
我認為這將成為虛擬現實之上的下一個重要功能。它的表現非常出色。
不得不說，作為一個親身經歷過僵尸襲擊的人，對于環(huán)境的真實感有了充分的認識，并且以他們試圖接近并攻擊你的方式與環(huán)境融為一體。
這只是混合現實，但它確實做得非常出色。
事實上，這款頭顯售價僅為500美元，真是太棒了。
謝謝。我對此非常興奮。
我們投入了大量的工作來制造這款設備，使它盡可能好，盡可能負擔得起。因為我們的使命和精神的很大一部分是希望人們能夠相互連接。我們希望能夠觸達更多的人群，為更多的人提供這項技術。我們不僅僅是為了服務于精英和富有的人群。我們真的希望讓每個人都能夠使用它。
因此，在許多方面，這是一個非常具有挑戰(zhàn)性的技術問題，因為我們不僅僅是能夠提供無限量的硬件。我們基本上需要交付一些性能非常出色的產品，并以負擔得起的方式提供。
去年，我們推出了Quest Pro。那款設備的售價為1,500美元�，F在我們已經將價格降低到了1,000美元，但在很多方面，Quest 3中的混合現實功能比我們在Quest Pro中所能提供的更先進、更出色。因此，我對我們在Quest 3上的進展感到非常自豪。它將與所有現有的虛擬現實游戲和內容兼容。
因此，那些想要體驗完全沉浸式游戲、社交體驗和健身體驗的人都可以使用它，而現在他們還可以體驗混合現實。
我相信人們會非常喜歡這個功能，因為有時候你想要完全沉浸在游戲中，但很多時候，特別是在進行一些活動時，比如進行健身體驗時，如果你在四處活動，你可能希望能夠看到周圍的房間，這樣你就不會碰到什么東西。
我不知道你是否有過這樣的體驗，但我們已經有了這樣的功能，它就像是我們精心制作的一個有趣演示。
但就像你所說的，我們就像在一個會議室或客廳里，你在那里有一個人，你正在和他打斗，所有其他人也在那里。
就像那個人就在那里一樣。
是的，就像他就在房間里一樣。其他人，這個路徑，你也可以看到他們，他們可以為你加油。如果你的朋友們像我的朋友一樣，他們可能會取笑你。然后，是的，這是一個非常令人興奮的體驗。
虛擬現實也很有趣，但這幾乎是一個全新的體驗。它融入你的生活，融入你的世界。是的，而且，我認為它會打開許多不同內容的大門。
我認為，這也會使那些不想只擁有完全身臨其境體驗的人感到更加舒適。我認為，如果你想要在你的起居室中和周圍的物理世界相結合的體驗，現在你也可以實現。
我對此感到非常興奮。我真的很喜歡它是如何將窗戶添加到沒有窗戶的房間中的。
我作為一個人，你有沒有看到過在水族館中可以看到鯊魚游來游去，或者只是僵尸？只是那個僵尸，但它確實在外面。
你可能不希望在你的起居室中添加一個僵尸窗戶，但是在那個游戲的上下文中，
我喜歡它，因為你可以看到外面的大自然。作為一個沒有窗戶的人，擁有看到大自然的機會真的很棒。
是的，好吧，即使這是一個混合現實設置。
我知道這是一款僵尸游戲，但其中有著禪宗的本質。禪宗的一面是能夠看到外面并改變你所知道的環(huán)境。
可能會有更好、更禪宗的方法來實現這一點，比你描述的僵尸游戲更好。但你是對的，讓你的物理環(huán)境通過的基本想法，然后能夠引入不同的元素，我認為它會非常強大。
在某些方面，我認為這些是混合現實的未來，這也是我們將來可能會獲得AR眼鏡的前身，而不僅僅是目前一代頭顯的護目鏡形狀。
但我認為開發(fā)人員為混合現實所做的許多體驗基本上就是將一個全息圖放在這個世界上，一旦我們也獲得了AR眼鏡，這些體驗有望得到應用�，F在它面臨著自己的一整套挑戰(zhàn)，而且它是好吧，頭顯已經比以前的版本小了。
哦，是的，它薄了40%。
我認為另一件好事是，是的，混合現實是第一件大事。
第二是它只是一款很棒的VR頭顯。它具有2倍的圖形處理能力，屏幕清晰度提高了40%，薄度降低了40%，更舒適，表帶結構更好，所有這些東西，如果您喜歡Quest 2，我認為這將會是，就像您可能在Quest 2中玩過的所有內容一樣，Quest 3會自動變得更清晰并且看起來更好。
我認為人們真的會喜歡它。
蘋果的Vision Pro
今年秋天，我不得不問，Apple剛剛宣布了一款名為Vision Pro的混合現實頭顯，售價3,500美元，將于2024年初上市。你覺得這款頭顯怎么樣？
好吧，我在他們推出時看到了這些材料。我還沒有機會體驗過它。
所以對于所有的事情都持保留態(tài)度，但有一些高層次的想法。
首先，我確實認為這是某種程度的驗證對于這個類別的存在，我們在這個領域的主要人物認為，嘿，我認為這個虛擬現實、增強現實、混合現實將成為下一個重要的計算平臺的組成部分。
我認為，讓Apple加入并分享這個愿景，會讓很多人成為他們產品的粉絲，并認真考慮一下。
然后，當然，3,500美元的價格，一方面，我得到了他們試圖打包的所有東西。另一方面，很多人可能會認為這是負擔不起的。
所以我認為他們的加入可能實際上增加了對整個領域的需求，而Quest 3實際上是其中的主要受益者，因為很多人可能會說，嘿，我想我會再考慮一下這個，或者現在我明白也許混合現實更重要，而Quest 3是市場上我能買得起的最好的。
它也很棒，我認為那是，并且以我們自己的方式，我認為我們在領先的位置擁有很多功能。所以我認為那是，我認為會非常非常好。
然后顯然隨著時間的推移，這些公司只是專注于一些不同的事情。是的，Apple一直，我認為專注于打造真正的高端產品。雖然我們的重點一直在，但我們有更加民主的精神。我們想要構建更多人可以使用的東西。我們已經售出了數千萬臺Quest設備。我了解的是，僅基于謠言，蘋果公司正在制造大約100萬臺設備。
是的，就你對銷售數字的期望而言，我只是認為，在可預見的未來，Quest將成為市場上人們將繼續(xù)使用的主要產品。
然后很明顯，從長遠來看，這取決于公司，看看我們每個人在做什么方面。
但我們來自不同的角度。我們非常注重社交互動、溝通、更加活躍，所以有健身、游戲和其他方面。雖然我認為你在Apple的發(fā)布材料中看到的很多用例更多地圍繞著坐著的人，人們盯著屏幕看。這很棒。
我認為隨著時間的推移，你將使用頭顯代替筆記本電腦。
但我認為公司在追求不同的用例方面有一些不同的設計權衡，而我們更專注于某種社交體驗、娛樂體驗。
然而，如果您想確保在屏幕上閱讀的文本盡可能清晰，那么您需要在設計和成本之間做出權衡，這導致您制造了一款價值3,500美元的設備。
所以我認為肯定有一個用例，但我只是認為公司已經做出了不同的設計權衡，以滿足我們試圖服務的用例。
AI安全性風險
關于Metaverse，我還有很多其他的事情想和你談談，尤其是Kodak Avatar，我最近體驗了很多不同的變體，我真的非常非常興奮。
我也很高興談論這個。
我將稍等一下，因為好吧，我認為在這方面還有很多值得炫耀的地方。但是讓我回到人工智能。
我想我們之前提到過一點，但我想繼續(xù)討論這個問題，像Ilya這樣的人和其他人對于人工智能的嚴重威脅現在重新煥發(fā)活力。你是否像Ilya一樣擔心人工智能的風險，擔心對齊問題，擔心失控的可能性？
任何時候，如果有許多嚴肅的人對你所涉及的事情提出存在主義的擔憂，我認為你必須考慮一下，
所以我花了相當多的時間試圖從這個角度考慮它。我現在基本上已經得出的結論是，我確實認為有，隨著時間的推移，我們需要更多地考慮這個問題，因為我們正在接近可能更接近超級智能的東西。
我只是認為今天從事這些項目的任何人都非常清楚我們還沒有達到那個階段。
我擔心的一個問題是，我們之前在這個領域上花了相當多的時間，但還有更多要做的事情。我不知道世俗這個詞是否合適，但已經存在一些擔憂，關于人們使用人工智能工具來做我們已經知道的那些有害的事情，無論我們談論的是欺詐、詐騙還是類似的事情。這將是從事這項工作的公司需要應對的一系列相當大的挑戰(zhàn)，不管在未來的某個時候是否存在生存問題。
所以我確實擔心在某種程度上，人們可能會過于關注一些尾部風險，然后在短期內幾乎可以確定的實際風險出現時做我們需要做的事情。因此，我將大部分時間花在了增加與我們正在構建的東西相去甚遠的規(guī)模上。
但我認為一旦我們更接近那一步，我意識到當我們越來越接近時，我認為那些關于我們如何確保系統真正安全的問題將會出現新的風險和問題。
我想在這里改變一下談話的方向。我認為在圍繞安全展開的一些辯論中，智能和自主的概念有時被混淆起來。就像一個類比，它們有點混為一談。
而且，我認為很有可能你可以在相當大的范圍內制造一些智能的東西，但這可能不會表現出安全問題。人們說的是，如果你看看人類生物學，我們有我們的大腦皮層，所有的思考都在這里發(fā)生，但它并沒有真正在一天結束時做主。我們有一個更原始的舊大腦結構，我們的新皮質，也就是這個強大的機器，基本上只是一種預測和推理引擎，幫助它有點像我們非常簡單的大腦決定如何計劃和做它需要做的事情，以實現這些非�；镜臎_動。
我認為你可以沿著同樣的思路思考一些智能的發(fā)展，就像我們的新皮質沒有自由意志或自主權一樣，我們可能會開發(fā)出這些非常智能的系統，它們比我們的新皮質更聰明，容量更大，但與此相同的是，我們的新皮質有點從屬，被我們這種簡單的沖動腦用作工具。
我認為，具有思考能力的非常智能的系統會像新皮質的延伸那樣行動，這并不是不可能的。所以我認為我自己的觀點是我們真正需要注意的地方是自治的發(fā)展以及我們如何看待它。因為實際上情況是相對簡單和不智能的東西具有失控的自主權并且會自行傳播，或者就像我們有一個詞一樣，它是一種病毒，它可以是簡單的計算機代碼，不是特別智能，但會自行傳播并造成很多傷害，無論是生物還是計算機。
我只是認為這些在某種程度上是可以分離的。當人們談論安全和責任時，我認為我們需要發(fā)展的很多東西實際上是對可以賦予系統的自治權的治理。對我來說，如果我是政策制定者或者考慮這個問題，我真的很想考慮這些之間的區(qū)別。我認為構建智能系統可以在人們的生活質量和經濟生產力增長方面取得巨大進步，但我認為我們真正需要取得進展的是其中的自治部分，在我們讓它們自己做出很多決策或給予它們目標等能力之前，我們需要負責任地管理這些事情。
我知道這是一個研究問題，但我確實認為這些在某種程度上是可以分離的。我喜歡智能和自主性之間的區(qū)別以及大腦皮層中的隱喻。
權力
讓我們繼續(xù)談談。所以構建超級智能系統，即使不是在短期內，我認為Meta是少數幾家將開發(fā)超級智能系統的公司之一，如果不是主要公司的話。而你是這家公司的負責人。建立AGI可能會讓你成為世界上最有權勢的人。你擔心那種權力會腐蝕你嗎？
這是一個有趣的問題�？矗艺J為很現實，這又回到了我們之前討論過的開源問題，我認為世界不會得到最好的服務，由任何少數幾個組織來提供這個，但它不是更廣泛可用的東西。我認為如果你回顧歷史，正是當出現諸如單極進步之類的事情，以及權力不平衡之類的事情時，它們才會成為一種奇怪的情況。所以這就是為什么我認為開源通常是正確方法的原因之一。
我認為，當我們離超級智能還很遠的時候，這是一個截然不同的問題。我認為即使我們接近超級智能，也很有可能，開源仍然是正確的方法，盡管我認為在這一點上，這是一場有點不同的辯論。但我認為部分原因是，我認為這是確保系統盡可能安全可靠的最佳方法之一，因為它不僅僅是很多人都可以訪問它。構建開源系統時需要進行審查。我認為這是關于開源的一個被廣泛接受的事情，那就是你有代碼，所以任何人都可以看到漏洞。任何人都可以用不同的方式搞砸它。人們可以衍生出自己的項目并以多種不同的方式進行試驗。所有這一切的最終結果是系統變得更加堅固，變得更加安全。
所以我認為這有可能最終成為下一代人的方式，成為這樣的方式是一個很好的機會。開放這一點既會導致技術更健康的發(fā)展，也會導致技術的更平衡分布，這讓我覺得這是值得追求的良好價值。
所以對你來說，風險，開源是有風險的，但好處大于風險。兩者之間很有趣。我認為你所說的方式，你說得好，現在有一個不同的討論，而不是當我們接近開發(fā)開源的好處和風險的超級智能時。是的，需要明確的是，我對開源模型現在是凈積極的評估很有信心。我認為有一個很好的論據表明，即使你越來越接近超級智能，未來也會如此，但我還沒有，我當然還沒有決定。而且我認為這會變成一組更復雜的問題，我認為人們將有時間進行辯論，并且還會了解從現在到那時發(fā)生的事情并做出這些決定。我們不必現在就在理論上就此進行辯論。
AGI超級智能
你認為我們將在哪一年擁有超級智能？
我不知道。那純粹是猜測。我認為很明顯，只是退后一步，我們在去年取得了重大突破。LLM和擴散模型基本上達到了可以做一些非常有趣的事情的規(guī)模。然后我認為問題是從這里會發(fā)生什么？只是為了描繪兩個極端，一方面，好吧，好吧，我們剛剛取得了一個突破。如果我們有另一個或兩個這樣的突破，那么我們就能擁有真正瘋狂的東西，就像更高級一樣。在爭論的那一邊，好吧，好吧，也許我們只有幾步之遙從達到看起來更像一般情報的東西。好的，這是爭論的一方面。
而另一方面，也就是我們在歷史上看到的更多，是突破導致在Gartner炒作周期中，有炒作，然后是幻滅的低谷，之后人們認為有機會，嘿，好吧，有一個重大突破。也許我們即將獲得另一個重大突破。實際上，你不會再有突破了。也許你實際上只需要和這個人坐一會兒。可能是五年，也可能是10年，可能需要15年才能弄清楚需要弄清楚的下一件大事。但我認為，我們剛剛取得這種突破的事實使得我們對接下來發(fā)生的事情幾乎處于一個非常大的誤差線。
我認為傳統的技術觀點，就像看這個行業(yè)一樣，這表明我們不只是要在突破之上疊加突破，像每六個月或什么的�，F在，我想它會，我猜，我猜這之間需要更長的時間。但是我不知道。我也傾向于對突破持樂觀態(tài)度。所以所以我認為如果你對我正常的樂觀情緒進行了規(guī)范化，那么它可能會比我說的還要慢。但即便如此，對于需要多少突破才能獲得通用智能這個問題，我什至都沒有發(fā)表意見，因為沒有人知道。但是這個特殊的突破是如此，如此小的一步卻導致了人類所經歷的如此巨大的性能飛躍，它讓你想，哇，當我們偶然發(fā)現這個非常開放的研究世界時，我們是否會偶然發(fā)現跨越另一件會在性能上有巨大飛躍的東西？
而且我們也不知道具體在哪個階段它真的會讓人印象深刻嗎，因為感覺它真的在侵蝕令人印象深刻的智能水平。
您仍然沒有回答我們將在哪一年擁有超級智能的問題。
我想讓你堅持下去。不，我只是在開玩笑。
但是關于時間表你有什么可以說的嗎當你考慮AGI、超級智能系統的發(fā)展時？
當然，所以我仍然認為我對何時會創(chuàng)建一個通用智能的單一AI系統沒有任何特別的見解。但我認為大多數人的一件事在我所看到的關于這個的討論中，還沒有真正解決的是我們似乎確實有世界上已經展現出超越人類智慧的組織和結構。一個例子是一家公司，它作為一個實體，它有一個獨特的品牌。很明顯，這是一群人的集合，但我當然希望擁有數萬人的Meta做出比一個人更明智的決定。但我認為，如果不這樣做，那就太糟糕了。
我認為另一個例子與我們思考擬人化的方式更不一樣這些問題中經常隱含的智力是思考諸如股票市場之類的東西。股市在哪里，它需要輸入，它是一個分布式系統，它就像控制論的有機體，全世界可能有數百萬人基本上每天都通過選擇投資什么來投票。但它基本上是這個有機體或結構這比我們用來在世界范圍內盡可能有效地分配資本的任何人都聰明。
我確實認為這個概念已經存在這些控制論系統正在融合多人的智慧結合在一起，或者將多人的智慧和技術融合在一起形成比世界上任何人都聰明得多的東西，是似乎存在的東西，我們似乎能夠以富有成效的方式為我們的社會利用，只要我們基本上建立彼此平衡的這些結構。所以我不知道。這至少給了我希望，隨著我們技術的進步，我不知道它到底會持續(xù)多久，但你問過，它什么時候會存在？我認為在某種程度上，我們世界上已經有許多組織比一個人更聰明。這似乎是在推動人類進步方面普遍富有成效的事情。不知何故，個體人工智能系統賦予個體人類和這些人類之間的互動以讓你所指的集體智能機器變得更聰明。人工智能并沒有變得超級智能。它正在成為使集體智慧主要是人類更聰明的引擎。
是的，它正在更好地教育人類。這使他們能夠更好地了解情況。它使他們能夠更有效地進行有效溝通和辯論想法。通過這個過程，只會讓整個集體智慧變得越來越聰明。也許比以人類數據訓練的單個AI系統變得更快。人類的集體智慧可能會超過人工智能的發(fā)展。這是一場比賽。我認為這里有一個平衡，因為如果訓練系統的很多輸入基本上來自人們的反饋，那么很多開發(fā)確實需要在人的時間內進行。
對，不像機器將能夠去學習所有關于人們如何看待事物的東西。這需要如何工作有一個周期。
Murph 挑戰(zhàn)
我們生活在一個令人興奮的世界，而您正處于發(fā)展的最前沿。保持謙虛的方法之一，就像我們在柔術中提到的那樣，是在精神和身體上進行一些非常困難的挑戰(zhàn)。您最近做過的其中一項活動是Murph Challenge。你玩得很開心。
它是100個引體向上，200個俯臥撐，300個深蹲，前一英里，后一英里跑。你的時間不到40分鐘。
最難的部分是什么？
我想很多人都印象深刻。這是非常令人印象深刻的時間。
是的，我很高興。
你有多瘋狂，我想這就是我要問的問題。
這不是我最好的時間，但任何低于40分鐘的時間，我都很滿意。
那不是你最好的時間？
不，我想我以前做得更快了一點，但并不多。
在我的朋友中，我沒有在陣亡將士紀念日獲勝。我的一個朋友實際上比我快了幾分鐘。
但為了澄清一件事，我認為是，我在互聯網上看到了很多關于這個的問題。有多種方法可以進行Murph Challenge。有一種分區(qū)模式，你可以一起做一組引體向上、俯臥撐和深蹲。然后在你做100個引體向上的地方沒有分區(qū)，然后連續(xù)做200個俯臥撐，然后做300個深蹲。很明顯，如果你不分開做，那么完成100個引體向上需要更長的時間，因為你在兩次引體向上之間休息的任何時候，你都不會同時做俯臥撐和深蹲。所以是的，我確定我的未分區(qū)時間會慢很多。
但不，我想在這結束時，我不知道，首先，我認為這是紀念陣亡將士紀念日的好方法。這位墨菲中尉，基本上，這是他最喜歡的練習之一，我只是試著在每年的陣亡將士紀念日做這件事。這是一個很好的鍛煉。
這次我讓我的大女兒和我一起做。我的大女兒想要一件負重背心，因為她看到我穿著一件負重背心。我不知道一個七歲的孩子是否應該使用重量背心做引體向上，但是- 父母必須問自己的一個難題，是的。我當時想，也許我可以為你做一件非常輕便的背心，但我認為這對它沒有好處。所以她基本上做了四分之一墨菲。所以她跑了四分之一英里，然后做了25次引體向上、50次俯臥撐和75次深蹲，然后在15分鐘內又跑了四分之一英里，這給我留下了深刻的印象。
還有我五歲的孩子，所以我對此很興奮。我很高興我正在教他們體力的價值。
是的，我認為對我女兒Max來說，美好的一天是她和我一起去健身房做一堆引體向上的時候。我喜歡她這一點。我認為這很好。她，希望我能教給她一些好的練習。
信仰
這里更廣泛的問題是，考慮到你有多忙，考慮到你生活中有多少事情要做，什么是完美的鍛煉方案為你，讓自己快樂，讓自己在主要工作中保持高效？
是的，所以現在我的大部分訓練都集中在格斗上。所以柔術和MMA。但我不知道，也許如果你是專業(yè)人士，你每天都可以這樣做。我不能，我只是得到，有太多的瘀傷和你需要恢復的東西。所以我每周做三到四次。然后前幾天，我只是嘗試做一些混合的事情，比如有氧運動、力量訓練、活動能力。所以你每天都嘗試做一些體力活動？
是的，我嘗試這樣做，除非我太累了，我只需要放松一下。但之后我還是會試著去散散步什么的。
即使在這里，我也不知道，你到過這里的屋頂嗎？
不，我們會在這之后去屋頂。我聽說過一些事情。但這我們設計了這座建筑，然后我在屋頂上放了一個公園。這樣一來，就像我的會議一樣，我只是在進行一對一的交流或與幾個人交談。我很難坐著。我覺得它變得超級僵硬，感覺真的很糟糕。
但我不知道，身體對我來說很重要。我認為這是，我不相信，這涉及到關于 AI 的問題。我不認為一個存在只是一個頭腦。我認為我們有點想做事，喜歡身體，我們感覺到的很多感覺都與此相關。而且我認為這就是讓你成為一個人的很多原因基本上是擁有那些，擁有圍繞著它的一系列感覺和體驗再加上對它們進行推理的想法。
但我不知道，我認為平衡對于走出去、以不同的方式挑戰(zhàn)自己、學習不同的技能、理清思緒很重要。
你認為人工智能，為了變得超級智能，AGI 應該有身體嗎？
這取決于目標是什么。我認為在那個問題中有一個假設，即智力應該有點像人。然而，正如我們剛才所說的，你可以擁有像股票市場這樣的比單個人類更強大的智能有機體，它們顯然沒有身體，也不會說語言，并且喜歡，只是有點擁有自己的系統。
但是，所以我不知道，我的猜測是，如果沒有相同的，不僅僅是感官，而是像，隨著年齡的增長，我們的身體會發(fā)生變化，我們有點進化。我認為那些非常微妙的身體變化就像當你選擇生孩子時一樣，只是推動了很多社會模式和行為，就像所有這些一樣，那甚至不是微妙的，那是主要的，
但是就像你如何設計房子周圍的東西一樣。所以是的，我認為如果目標是盡可能多地了解人們，我認為那就是，嘗試對這些感覺進行建�？赡苡悬c重要，但我認為擁有智能可以創(chuàng)造很多價值，即使與智能分開，它也是一個獨立的東西。
所以作為人類的特征之一就是我們會死，我們會死。我們已經多次談論人工智能，談論我們自己的潛在復制品。你認為你和我的 AI 復制品會在我們離開后仍然存在很長時間，家人和親人可以與之交談嗎？
我認為我們將有能力做這樣的事情。我認為其中一個大問題在社交網絡的背景下，我們不得不努力解決的問題是誰能夠做到這一點？而我對此的回答是，在我們正在做的工作的背景下，這應該是你的選擇，我認為任何人都不應該能夠選擇制作一個人們可以選擇與之交談的 Lex 機器人并開始訓練它。我們有打這些電話的先例，有人可以為 Lex 粉絲俱樂部創(chuàng)建一個頁面，但你不能創(chuàng)建一個頁面并說你是 Lex。
所以我認為，同樣，我認為，也許，有人也許可以，應該能夠制造一個 AI，它是 Lex 的崇拜者，有人可以與之交談，但我認為它最終應該是是否有 Lex AI 由您決定。
好吧，我正在開源 Lex。
所以你是一個有信仰的人。信仰在你的生活、你對世界的理解、你對自己的生活的理解、你對你的工作的理解以及你的工作如何影響世界中扮演了什么角色？
是的，我認為其中有幾個不同的部分是相關的。有某種哲學部分，也有文化部分。最基本的課程之一就在創(chuàng)世記的開頭，就像上帝創(chuàng)造了地球，創(chuàng)造了人，并按照上帝的形象創(chuàng)造了人。還有一個問題，這是什么意思？在舊約的那一刻，關于上帝的唯一背景就是上帝創(chuàng)造了萬物。
所以我一直認為，從中得到的一個有趣的教訓是，創(chuàng)造事物是一種美德。這就像它是否具有藝術性，或者你是否正在構建對其他人有用的東西。我認為這本身就是一件好事。這在很大程度上推動了我對道德的看法和我的個人哲學一樣，什么是美好的生活，
我認為這是一個你在幫助你周圍的人，你正在成為世界上一種積極的創(chuàng)造力，正在幫助將新事物帶入世界，無論他們是令人驚嘆的其他人、孩子，或者只是導致創(chuàng)造出不同的東西，否則這些東西是不可能的。所以這對我來說是一個非常重要的價值。我只是喜歡花時間和孩子們在一起，看到他們有點，試圖將這種價值傳授給他們。沒有什么比我下班回家看到我女兒喜歡在桌子上拼樂高積木之類的東西更讓我開心的了。好吧，我小時候就這樣做過，許多其他人正在這樣做。我希望你不要失去那種精神，當你長大了，你想繼續(xù)建立不同的東西，不管它是什么，對我來說，這很重要。
這就是哲理篇。我認為文化作品只是關于社區(qū)和價值觀，我認為自從有了孩子以來，這部分內容對我來說變得更加重要。當你還是個孩子的時候，它幾乎是自動駕駛的，你正處于一種被灌輸到你生活階段的狀態(tài)。有一段時間我并沒有真正考慮過宗教。在我有孩子之前，我在上大學。然后我認為生孩子真的能讓你思考你想傳授什么傳統，你想如何慶祝，喜歡你想要的生活平衡。
你提出的一堆問題和我們正在談論的一堆事情。只是窗簾落下的諷刺，因為我們正在談論死亡率。再一次，和上次一樣。這只是宇宙在運轉，我們肯定生活在模擬中，但請繼續(xù)。
社區(qū)、傳統和價值觀、信仰和宗教仍然存在。我們今天討論的很多話題都圍繞著如何平衡，是否在經營一家公司或與此不同的責任。你如何平衡。
而且我也一直認為，相信有比你大得多的東西在引導事物，這是非常有根據的。除其他外，這會讓你有點謙遜。當你追求創(chuàng)造精神時與你交談，創(chuàng)造世界之美。正如陀思妥耶夫斯基所說，美將拯救世界。
馬克，我是你的超級粉絲。很榮幸能夠稱你為朋友，我期待著明天在柔術比賽中踢你的屁股和你踢我的屁股。我們都參與這項令人難以置信的運動和藝術。非常感謝你今天的談話。感謝您在如此眾多激動人心的技術和人類生活領域所做的一切。我迫不及待地想在虛擬世界中再次與您交談。謝謝。
