劃重點
01人工智能有望在5-10年內治愈或預防大多數(shù)精神疾病，提高生活質量。
02人工智能發(fā)展將推動神經(jīng)科學領域的進步，包括疾病治療、心理健康改善和認知功能提升。
03然而，人工智能發(fā)展也可能帶來挑戰(zhàn)，如不平等、財富分配和選擇退出問題。
04為此，人工智能公司和政策制定者需共同努力，確保發(fā)展中國家受益，實現(xiàn)全球健康、經(jīng)濟和糧食安全目標。
05另一方面，人工智能在改善和平、民主和自由等方面具有潛力，但實現(xiàn)這些目標仍需人類付出巨大努力。
以上內容由騰訊混元大模型生成，僅供參考
Anthropic，OpenAI前研究負責人Dario Amodei 成立的AI公司。
這幾天，Dario發(fā)表一篇展望AGI對世界影響的長文，提出AI將把一個世紀的科研進展壓縮到5-10年。
原文翻譯如下：
《仁慈的機器》Machines ofLoving Grace
人工智能如何讓世界變得更美好
2024 年 10 月我經(jīng)常琢磨強人工智能的風險。作為Anthropic的CEO，做了大量關于如何降低這些風險的研究。所以，人們有時會覺得我是個悲觀派，或者“末日預言者”，認為人工智能帶來的大多是壞處或危險。我完全不這么想。其實，我關注風險的主要原因之一是，只有解決了這些風險，才能迎來我認為的，根本上積極的未來。我覺得大多數(shù)人低估了人工智能可能帶來的巨大好處，就像大多數(shù)人低估了風險可能有多糟糕一樣。本文中，我試著描繪一下這種好處可能的樣子如果一切順利，一個擁有強人工智能的世界會是什么樣。當然，沒人能確切預知未來，強人工智能的影響可能比過去的技術變革更難預測，所以這一切都不可避免地會包含一些猜測。但我至少的目標是做出有根據(jù)的、有用的猜測，即使很多細節(jié)最終是錯的，也能抓住未來發(fā)展的大致方向。我之所以寫這么多細節(jié)，主要是因為我認為具體的設想比高度回避和抽象的描述更有利于推進討論。不過，首先，我想簡單解釋一下為什么我和 Anthropic 沒有過多談論強人工智能的益處，以及為什么我們總體上可能會繼續(xù)更多地談論風險。具體來說，我做出這個選擇是出于以下幾個考慮：最大化影響力。人工智能技術的基本發(fā)展及其諸多（并非所有）好處似乎是不可避免的（除非風險毀掉一切），而且從根本上是由強大的市場力量驅動的。另一方面，風險不是注定的，我們的行動可以極大地改變風險發(fā)生的可能性。避免被認為是宣傳。人工智能公司如果成天鼓吹人工智能的好處，可能會讓人覺得像是在做宣傳，或者像是在試圖掩蓋它的缺點。我也認為，原則上，花太多時間“王婆賣瓜，自賣自夸”對你的靈魂不好。避免自命不凡。我經(jīng)常很反感一些人工智能風險領域的公眾人物（更不用說人工智能公司領導）談論后 AGI（通用人工智能）世界的方式，好像他們的使命是像先知引導信徒走向救贖一樣，單槍匹馬地創(chuàng)造未來。我認為把公司視為單方面塑造世界的力量是危險的，把實際的技術目標用近乎宗教的口吻來描述也是危險的。避免“科幻”色彩。雖然我覺得大多數(shù)人低估了強人工智能的優(yōu)勢，但確實討論過激進人工智能未來的人，通常會用一種過于“科幻”的口吻 (比如，上傳意識、太空探索，或者一股賽博朋克風)。我覺得這會導致人們不把這些說法當回事，覺得它們不切實際。說白了，問題不在于這些技術是否可能或大概率會實現(xiàn)（正文會詳細討論這一點）更多的是這種“氛圍”暗藏著許多文化包袱和未說明的假設，比如什么樣的未來才是好的，各種社會問題會如何發(fā)展等等。最終往往會讀起來像是一小撮亞文化群體的幻想，而讓大多數(shù)人感到反感。盡管有以上顧慮，但我真的覺得我們有必要討論一下，一個擁有強人工智能的美好世界應該是什么樣，同時要盡力避免以上那些問題。其實，我覺得擁有一幅真正鼓舞人心的未來圖景至關重要，而不僅僅是一個應對危機的方案。強人工智能的很多影響確實具有對抗性或危險性，但歸根結底，我們必須有為之奮斗的目標，有一些能讓每個人都過得更好的雙贏結果，有一些能團結大家，讓人們放下爭吵，共同應對未來挑戰(zhàn)的東西�？謶质且环N動力，但這還不夠：我們還需要希望。強人工智能的積極應用清單很長（包括機器人、制造業(yè)、能源等等），但我準備重點討論幾個在我看來最有可能直接改善人類生活質量的領域。我最感興趣的五個方向是：
1.生物學和身體健康
2.神經(jīng)科學和心理健康
3.經(jīng)濟發(fā)展和扶貧
4.和平與治理
5.工作和意義我的預測用大多數(shù)標準來看（科幻“奇點”之類的設想除外），都會顯得比較激進，但我表達得很認真、很真誠。我說的每一點都可能出錯（再說一遍我之前的觀點），但我至少嘗試用對各個領域發(fā)展速度以及實際意義的分析評估作為基矗我很幸運在生物學和神經(jīng)科學領域都有專業(yè)經(jīng)驗，在經(jīng)濟發(fā)展領域也算是個比較資深的愛好者，但我肯定還是會犯很多錯誤。寫這篇文章讓我意識到，找一幫各領域的專家（生物學、經(jīng)濟學、國際關系等等）一起合作，寫一個比我寫得更好、更專業(yè)的版本會很有價值。最好把我的這篇文章看作是這個團隊的初步構思。基本假設和框架為了讓整篇文章更準確、更扎實，我們需要明確“強人工智能”（也就是 5-10 年倒計時開始的節(jié)點）指的是什么，以及建立一個思考這種人工智能出現(xiàn)后的影響的框架。強人工智能（我不喜歡 AGI這個詞）會是什么樣子，以及它什么時候（或者是否）會出現(xiàn)，這本身就是一個很大的話題。我之前公開討論過這個問題，也可以專門寫一篇文章（我以后可能會寫）。顯然，很多人懷疑強人工智能能不能很快造出來，有些人甚至懷疑它能不能造出來。我覺得它最早 2026 年就能出現(xiàn)，當然也可能會晚很多。但就本文而言，我想先把這些問題放一邊，假設它很快就會出現(xiàn)，重點討論它出現(xiàn)之后 5-10 年會發(fā)生什么。我還想預設一下這種人工智能系統(tǒng)的樣子、它的能力以及它的交互方式，即使在這個問題上存在分歧。我說的強人工智能，是指一種人工智能模型形式上可能類似于現(xiàn)在的大型語言模型（LLM），雖然它可能基于不同的架構，可能包含幾個相互作用的模型，訓練方式也可能不一樣它有以下幾個特點：單從智力來看，它在大多數(shù)相關領域生物學、編程、數(shù)學、工程、寫作等等都比諾貝爾獎得主聰明。這意味著它可以證明未解決的數(shù)學定理，寫出特別優(yōu)秀的小說，從零開始寫復雜的代碼，等等。它不只是一個“能跟你聊天的聰明東西”，它還擁有所有人類在虛擬世界工作時能用的“交互方式”，包括文字、音頻、視頻、鼠標鍵盤控制，以及上網(wǎng)。它可以進行任何這種交互方式支持的操作、溝通或者遠程操控，包括在網(wǎng)上做事，給人下指令或者接受指令，訂購材料，指導實驗，看視頻，制作視頻，等等。它完成所有這些任務的水平，都遠超世界頂尖的人類。它不只是被動地回答問題；它可以被分配需要幾個小時、幾天甚至幾周才能完成的任務，然后像一個聰明的員工一樣獨立完成這些任務，需要的時候還會問問題。它沒有實體（除了在電腦屏幕上），但它可以通過電腦控制現(xiàn)有的實體工具、機器人或者實驗室設備；理論上，它甚至可以給自己設計機器人或設備來用。訓練這個模型用的資源，可以用來運行它的數(shù)百萬個副本（這跟預計到 2027 年的集群規(guī)模差不多），這個模型吸收信息和做出行動的速度大概是人類的 10 到 100 倍。不過，它可能會受到物理世界或者它交互的軟件的響應速度的限制。人工智能時代，我們應該討論智能的額外收益，并弄清楚哪些其他因素能跟智能互補，哪些因素會在智能很高的時候成為瓶頸。我們不習慣這么想問題問“更聰明對這個任務有多大幫助，在什么時間尺度上有幫助？”但這似乎才是思考強人工智能世界的好方法。
