作者：亨利基辛格、埃里克施密特、丹尼爾胡滕洛赫爾
在一個機器越來越多地執(zhí)行過去只有人類才能勝任的任務(wù)的時代， 我們作為人類的身份又如何體現(xiàn)？正如前面章節(jié)所探討的，人工智能將擴展我們對現(xiàn)實的了解。它將改變我們溝通、聯(lián)系和共享信息的方式，也將改變我們發(fā)展的理論和部署的戰(zhàn)略。當我們不再親自探索和塑造現(xiàn)實，而是將人工智能作為我們感知和思想的輔助工具時，我們將如何看待自己以及我們在世界上的角色？我們將如何調(diào)和人工智能與人類自主和自尊等概念？
在先前的時代，人類始終將自己置于敘事的中心。盡管大多數(shù)社會都承認人類并不完美，但它們同樣視人類的能力和經(jīng)驗為世間眾生可以實現(xiàn)的最高成就。這些社會頌揚那些體現(xiàn)人類精神巔峰的個人，這實際折射出的正是我們對自己的期許。這些英雄在不同的社會、不同的時代有著不同的形象，比如領(lǐng)導(dǎo)者、探險家、發(fā)明家、 殉道者，但他們都體現(xiàn)了人類成就的各個方面，也因此體現(xiàn)了人的獨特性。在現(xiàn)代，我們對英雄的崇拜集中在那些探索和塑造我們所處現(xiàn)實的理性先驅(qū)身上，比如宇航員、發(fā)明家、企業(yè)家、政治領(lǐng)袖，莫不如是。
如今，我們正在邁入一個新時代，作為人類的創(chuàng)造物，人工智能正日益被賦予以前只能由人類心智完成或嘗試的任務(wù)。隨著人工智能不斷執(zhí)行這些任務(wù)，產(chǎn)生接近乃至超越人類智能所能完成的結(jié)果，它挑戰(zhàn)了人何以為人的決定性屬性。此外，人工智能能夠?qū)W習、演化并變得“更好”(根據(jù)它被賦予的目標函數(shù))。這種動態(tài)學習能力使人工智能能夠?qū)崿F(xiàn)復(fù)雜的結(jié)果，而這些結(jié)果直到目前還都是人類和人類組織的專利。
隨著人工智能的崛起，對人類角色、人類愿望和人類成就的定義都將發(fā)生變化。在這個時代，人類的哪些品質(zhì)值得頌揚？其指導(dǎo)原則是什么？人們有兩種認識世界的傳統(tǒng)方式：信仰和理性；如今人工智能又添上了第三種。這種轉(zhuǎn)變將考驗(在某些情況下還將改變)我們對這個世界以及我們?nèi)祟愒谄渲兴幬恢玫暮诵募僭O(shè)。理性不僅革新了科學，也改變了我們的社會生活、藝術(shù)和信仰。在其浸染之下，封建等級制度瓦解了，而民主，即理性的人應(yīng)該自治的理念崛起了�，F(xiàn)在，人工智能將再次檢驗我們的自我認知所依據(jù)的原則到底為何。
在一個人工智能可以評估我們生活中的諸般事物，預(yù)測接下來會發(fā)生什么，并決定該做什么的時代，即一個現(xiàn)實可以被預(yù)測、近似和模擬的時代，人類理性的角色將會改變。我們對個人和社會的目標感也會隨之改變。在某些領(lǐng)域， 人工智能可能會增強人類的理性。在其他領(lǐng)域，人工智能則可能會讓人類產(chǎn)生一種置身事外的感覺。對根據(jù)一種無法解釋的(實際上也未被言說的)計算而選擇了不同的車道或路線的司機來說，對根據(jù)人工智能協(xié)助的審查而被延長或被拒絕信貸的借款人來說，對根據(jù)類似程序被決定是否獲得面試機會的求職者來說，對在認真開始研究工作之前就被人工智能模型告知最可能答案的學者來說，這種體驗可能會是高效的，但并不總是令人滿意的。對習慣了獨斷專行、以自我為中心，并壟斷了復(fù)雜智力活動的人類而言，人工智能將挑戰(zhàn)其自我認知。
到目前為止，我們所設(shè)想的種種進步，說明人工智能正在以多種途徑改變我們與世界的互動方式，從而改變我們看待自己和自己在世界中所扮演角色的方式。人工智能會進行預(yù)測，比如一個人是否處于乳腺癌早期；它會做出決定，比如在國際象棋對弈中該走哪步棋；它能突顯和過濾信息，比如該看什么電影或持有什么投資；它 還能生成類人風格的文本， 從句子到段落，乃至整個文檔。隨著這種能力變得日趨復(fù)雜，它們將迅速成為大多數(shù)人眼中具有創(chuàng)造性或?qū)I(yè)性的存在。人工智能能夠做出某些預(yù)測或決定、生成某些材料的事實本身，并不表明它具有類似于人類的復(fù)雜性。但在許多情況下，這些結(jié)果可以與以前只有人類才能給出的結(jié)果相媲美，甚至有過之而無不及。
想想 GPT-3 之類的生成模型能夠創(chuàng)建的文本吧。幾乎任何受過初等教育的人都能合理地預(yù)測一個句子怎樣才能補充完整。但是編寫文檔和代碼(GPT-3 可以做到)需要復(fù)雜的技能，人類需要花費數(shù)年時間接受高等教育來培養(yǎng)這些技能。因此，我們曾經(jīng)的信念，即像補充完整句子這樣的任務(wù)與寫作是不同的，而且比寫作更簡單，正遭遇生成模型的挑戰(zhàn)。隨著生成模型的不斷改進，人工智能將引領(lǐng)我們對人類能力的獨特性和相對價值產(chǎn)生新的認識。這將把我們置于何處？
借助與人類互補的現(xiàn)實感知，人工智能可能會成為對人類有用的同伴。在科學發(fā)現(xiàn)、創(chuàng)造性工作、軟件開發(fā)和其他類似的領(lǐng)域中，有一個持不同視角的對話者會大有裨益。但這種合作的實現(xiàn)要求人類適應(yīng)這樣一個世界：在這個世界中，我們的理性并不是認識或駕馭現(xiàn)實的唯一方式，或許也不是最具廣泛性的方式。這預(yù)示著，人類如今所經(jīng)歷的這場轉(zhuǎn)變的意義比自活字印刷機問世近 6 個世紀以來所發(fā)生的任何轉(zhuǎn)變都更加重大。
各個社會都有兩個選擇：一個是各自為戰(zhàn)；另一個則是帶著合作意向開始對話，舉全人類的進步之力來界定人工智能的角色，同時明晰我們自己的角色。前一種路徑是棄權(quán)式的默認，而后一種則需要領(lǐng)導(dǎo)人和哲學家、科學家和人文主義者，以及其他各種團體的清醒參與。
最終，個人和社會將不得不決定，生活的哪些方面應(yīng)該留給人類智能，哪些方面則應(yīng)交由人工智能或人類與人工智能的合作。人類與人工智能的合作并不是一種對等關(guān)系。歸根結(jié)底，人工智能既由人類構(gòu)建，也由人類指揮。但隨著我們逐漸習慣和依賴人工智能，對其加以限制可能會導(dǎo)致更高昂的成本、更困難的心理挑戰(zhàn)，甚至更復(fù)雜的技術(shù)。我們的使命將是了解人工智能給人類經(jīng)驗帶來的變化、它對人類身份的挑戰(zhàn)，以及這些發(fā)展變化的哪些方面需要由其他的人類義務(wù)來加以調(diào)節(jié)或制衡。人類未來將如何呈現(xiàn)，這取決于人類在人工智能時代的角色界定。
改變?nèi)祟惤?jīng)驗
對一些人來說，人工智能的體驗將會賦予他們力量感。在大多數(shù)社會中，了解人工智能的人數(shù)雖少，但也在不斷增長。對這些對人工智能進行構(gòu)建、培訓、指派和監(jiān)管的個人，以及擁有技術(shù)顧問的決策者和商業(yè)領(lǐng)袖來說，這種伙伴關(guān)系應(yīng)該是讓他們頗為心滿意足的，盡管有時也會令人吃驚。事實上，在許多領(lǐng)域，借助專業(yè)化的技術(shù)超越傳統(tǒng)理性的體驗，如人工智能在醫(yī)學、生物、化學和物理方面取得的突破，往往會令人頗有成就感。
那些缺乏相應(yīng)技術(shù)知識的人，或者主要以消費者身份參與人工智能托管過程的人，也會經(jīng)常發(fā)現(xiàn)這些過程令人滿意，比如一個大忙人可以在乘坐自動駕駛汽車旅行時閱讀或查看電子郵件。將人工智能嵌入消費產(chǎn)品確實可以廣泛傳播該技術(shù)帶來的福祉。然而，人工智能也將運行并非出于任何特定個人用戶的利益而設(shè)計的網(wǎng)絡(luò)和系統(tǒng)，而且超出任何個人用戶的控制范圍。在這些情況下，遭遇人工智能可能會讓人感到不安或泄氣，比如由人工智能推薦某個人而非其他人獲得理想的升職或調(diào)任時，或人工智能鼓動或慫恿對主流觀點持挑戰(zhàn)甚至蔑視態(tài)度時。
對管理者來說，人工智能的部署可以帶來很多優(yōu)勢。人工智能的決策在準確性方面比起人類可以說是有過之而無不及，而且在適當?shù)谋Ｕ洗胧┫拢瑢嶋H上也可能更少有偏見。同樣，人工智能在分配資源、預(yù)測結(jié)果和推薦解決方案方面可能更為行之有效。事實上，隨著生成式人工智能變得愈加普及，它產(chǎn)生全新文本、圖像、視頻和代碼的能力甚至可能使它在通常被認為需要創(chuàng)造性的角色(如起草文件和制作廣告)中表現(xiàn)得和人類同行一樣出色。對提供新產(chǎn)品的企業(yè)家、掌握新信息的管理者，以及創(chuàng)造日益強大人工智能的開發(fā)者來說，這些技術(shù)的進步可能會增強他們的主導(dǎo)感和選擇感。
優(yōu)化資源配置和提高決策準確性對社會是有益的，但對個人來說，其實所謂意義，更多地來自其自主性，以及基于一系列行動和原則解釋結(jié)果的能力。解釋提供了意義并呈現(xiàn)其目的，對道德原則的公共認可和明確應(yīng)用則提供了正當性。但算法不會提供基于人類經(jīng)驗的理由，來向公眾解釋其結(jié)論。有些人，尤其是那些了解人工智能的人，可能會覺得這個世界還是可以理解的；但更多的人可能并不理解人工智能的所作所為究竟為何，這將削弱他們的自主性和賦予世界意義的能力。
隨著人工智能改變了工作的性質(zhì)，它可能會危及許多人的身份認同感、成就感和財務(wù)安全。受這種變化和潛在錯位影響最大的可能是藍領(lǐng)和中層管理人員，這些人的工作需要專門的培訓，并涉及審查或解釋數(shù)據(jù)，或是起草標準格式文件之類的專業(yè)工作。雖然這些改變不僅可以帶來更高的效率，而且會創(chuàng)造新的崗位，但對在這個過程中經(jīng)歷了哪怕短暫錯位與混亂的失意者而言，他們就算知道這只是過渡期的陣痛，而這些改變終將提升整個社會的生活質(zhì)量和經(jīng)濟生產(chǎn)力，他們恐怕也不會感到有所慰藉。有些人可能會發(fā)現(xiàn)自己可以從單調(diào)沉悶的工作中解脫出來，轉(zhuǎn)而專注于更能激發(fā)成就感的工作；而另一些人則可能會發(fā)現(xiàn)他們的技能不再是優(yōu)勢，甚至不再必要。
盡管這些挑戰(zhàn)令人生畏，但其并非前所未有。以往的技術(shù)革命也曾造成工作的替代和改變。機械紡織機等發(fā)明取代了紡織工人，并激發(fā)了盧德派(Luddites)的233興起。盧德派是一種政治運動的參與者，他們試圖禁止新技術(shù)，以保留舊有生活方式，如果無法達成這一點，就破壞新技術(shù)。農(nóng)業(yè)的工業(yè)化引發(fā)了向城市的大規(guī)模人口遷移。全球化改變了制造業(yè)和供應(yīng)鏈，許多社會在最終吸收這些變化以實現(xiàn)自身的整體改善前，都引發(fā)了新的變數(shù)乃至動蕩。無論人工智能的長期影響究竟如何，在短期內(nèi)，這項技術(shù)都將徹底改變某些經(jīng)濟領(lǐng)域、職業(yè)和身份。社會需要為此做好準備，不僅要為職位被取代者提供替代的收入來源，還要為他們提供新的成就感來源。
決策
在現(xiàn)代，如果我們遭遇一個問題，標準反應(yīng)是尋求解決方案，有時為確定方案還需找出這個問題的肇始者。這種觀念賦予了人類責任和原動力，這兩者都有助于我們建立身份意識�，F(xiàn)在，一個新的參與者正在加入這一均衡，并可能削弱我們在某個特定情境下作為根本思考者和行動者的自我觀感。有時，無論是創(chuàng)造和控制人工智能，還是僅僅使用它，我們所有人都會在不經(jīng)意間與人工智能互動，或者在自己并未提出請求的情況下獲得人工智能提供的答案或結(jié)果。有時，無形的人工智能可能給世界帶來魔法般的默契感，就像一個商店對我們的到來和心血來潮的購物沖動仿佛都能未卜先知一樣。而在其他時候，它則可能產(chǎn)生一種卡夫卡式的荒誕與噩夢感，比如當機構(gòu)做出足以改變個人命運的決定提供就業(yè)機會、發(fā)放車貸和房貸，或由安保公司或執(zhí)法部門做出的決定卻沒有一個人可以解釋這決定是如何做出的時候。
這些合理的解釋與不透明的決策之間、個人與龐大的體制之間、擁有技術(shù)知識和權(quán)威的人與一無所有的人之間的矛盾對立，其實并不新鮮。新鮮之處在于，另一種智能，即一種非人類的、通常無法以人類理性加以測度的智能，成了這些矛盾的源頭。同樣新鮮的還有這種新智能的無處不在與無遠弗屆。那些缺乏人工智能知識或?qū)ζ錈o權(quán)限者可能特別傾向于排斥人工智能。有一些人，或因?qū)θ斯ぶ悄芩坪跄軇儕Z他們的自主權(quán)而感到沮喪，或?qū)ζ洚a(chǎn)生的附加效應(yīng)感到恐懼，因而會尋求盡量減少使用人工智能，并與社交媒體或其他人工智能介導(dǎo)的網(wǎng)絡(luò)平臺斷開聯(lián)系，以避免在日常生活中使用(至少是有意使用)人工智能。
社會的某些群體可能會在這條路上走得更遠，執(zhí)著于自身“實體主義者”而非“虛擬主義者”的定位。就像拒絕現(xiàn)代科技的阿米什人和門諾派教徒一樣，一些人可能會完全拒絕人工智能，固守一個只有信仰和理性的世界。但隨著人工智能的日益普及，“斷開連接”將變成一種離群索居、孤家寡人般的自我孤立。事實上，即使是這種斷開連接的可能性也是虛幻的：隨著社會日益數(shù)字化，人工智能日益融入政府和產(chǎn)品，其影響可能使我們避無可避。
科學發(fā)現(xiàn)
科學認識的發(fā)展往往涉及理論和實驗之間的巨大差距以及大量的試錯。隨著機器學習的進步，我們開始看到一種新的范式出現(xiàn)，在這種范式中，模型不是像傳統(tǒng)上那樣來自理論認識，而是由基于實驗結(jié)果得出結(jié)論的人工智能來建立。這種方法需要的專業(yè)知識不同于開發(fā)理論模型或傳統(tǒng)計算模型。它不僅需要對問題有深刻的理解，還需要知道哪些數(shù)據(jù)，以及數(shù)據(jù)的哪些表征，將有助于訓練一個人工智能模型來解決問題。例如，在發(fā)現(xiàn) Halicin 的過程中，選擇哪些化合物以及將這些化合物的哪些屬性輸入模型，既至關(guān)重要，又充滿偶然。
機器學習對科學認識的重要性日益增加，這對我們看待自己的方式和我們在世界上所扮演的角色提出了另一個挑戰(zhàn)�？茖W歷來是人類的專業(yè)知識、直覺和洞察力的巔峰組合。在理論和實驗的長期相互作用中，人類的聰明才智推動了科學探索的各個方面，但人工智能為科學探究、發(fā)現(xiàn)和理解增加了一種非人的、與人類相異的世界概念。機器學習產(chǎn)生的結(jié)果正日益令人感到驚訝，這些結(jié)果也催生了新的理論模型和實驗。正如國際象棋大師已經(jīng)采納了 AlphaZero 那些出人意料的原創(chuàng)策略，并將其解釋為一項可以提高自身對棋局理解的挑戰(zhàn)一樣，許多學科的科學家也開始亦步亦趨。在整個生物、化學和物理科學領(lǐng)域，一種混合的伙伴關(guān)系正在成形，人工智能正在促成新的發(fā)現(xiàn)，那是一些人類雖未能親自發(fā)現(xiàn)，卻可以努力去做出相應(yīng)理解和解釋的發(fā)現(xiàn)。
人工智能在生物和化學科學領(lǐng)域推動廣泛發(fā)現(xiàn)的一個突出例子是 AlphaFold 的開發(fā)，這一程序使用強化學習構(gòu)建了高效的蛋白質(zhì)新模型。蛋白質(zhì)是復(fù)雜的大分子，在生物系統(tǒng)的組織、器官的結(jié)構(gòu)與功能， 以及生物過程的調(diào)節(jié)中起著核心作用。一個蛋白質(zhì)分子是由數(shù)百個(或數(shù)千個)被稱為氨基酸的小單位組成的，這些小單位彼此連接在一起形成長鏈。因為在蛋白質(zhì)的形成過程中有 20 種不同類型的氨基酸，一種常見的方法是將蛋白質(zhì)視為一個包含數(shù)百(或數(shù)千)個字符的序列，其中每個字符都是從一個由 20 個字符組成的“字母表”中選出的。
雖然氨基酸序列對研究蛋白質(zhì)非常有用，但其未能呈現(xiàn)這些蛋白質(zhì)的一個關(guān)鍵方面：由氨基酸鏈形成的三維結(jié)構(gòu)。我們可以把蛋白質(zhì)想象成需要在三維空間中結(jié)合在一起的復(fù)雜形狀，就像鎖和鑰匙一樣，以實現(xiàn)特定的生物或化學結(jié)果，比如疾病的進展或治愈。在某些情況下，蛋白質(zhì)的結(jié)構(gòu)可以通過晶體照相術(shù)等頗為辛苦的實驗方法來測量。但在許多情況下，這種方法會扭曲或破壞蛋白質(zhì)，使其結(jié)構(gòu)無法測量。因此，從氨基酸序列中確定三維結(jié)構(gòu)的能力至關(guān)重要。自 20 世紀 70 年代以來，這一挑戰(zhàn)被稱為“蛋白質(zhì)折疊”。
在 2016 年之前，學界在提高蛋白質(zhì)折疊的準確性方面沒有太多建樹，直到一個名為 AlphaFold 的新程序取得了重大進展。正如其名稱所暗示的，AlphaFold 的靈感來自開發(fā)人員教 AlphaZero 下棋時采取的方法。與AlphaZero 一樣，AlphaFold 使用強化學習來模擬蛋白質(zhì)，而不需要人類的專業(yè)知識， 即之前的方法所依賴的已知蛋白質(zhì)結(jié)構(gòu)。AlphaFold 將蛋白質(zhì)折疊的準確性從大約 40% 提高了一倍多，達到約 85%，這使得世界各地的生物學家和化學家能夠重新審視他們以前無法回答的問題，并提出關(guān)于如何對抗人類、動物和植物中病原體的新問題。2 像 AlphaFold 這樣的進步若沒有人工智能參與便不可想象。人工智能正在超越以往在測量和預(yù)測方面的極限，其結(jié)果是改變了科學家為治療疾并保護環(huán)境和解決其他基本挑戰(zhàn)而獲取相應(yīng)知識的方式。
教育與終身學習
人工智能時代的到來將改變我們與他人，以及我們與自己的關(guān)系。正如今天“數(shù)字原生代”和之前的幾代人之間存在代溝一樣，“人工智能原生代”和他們的前輩之間也會出現(xiàn)差異。未來，孩子們可能在比 Alexas和谷歌 Homes 更先進的人工智能助手的陪伴下長大，這個助手將保姆、導(dǎo)師、顧問、朋友等多種角色融于一身。這樣的助手幾乎可以教孩子任何語言，也可以訓練孩子學習任何科目，并根據(jù)每個學生的表現(xiàn)和學習風格來因材施教，使他們獲得最佳的學習成果。當孩子感到無聊時，人工智能可以作為玩伴；當孩子的父母不在時，人工智能又可以成為監(jiān)護者。隨著由人工智能提供和量身定制的教育被引入，普通人的能力既會有所提高，也會面臨挑戰(zhàn)。
人類和人工智能之間的界限將會驚人地模糊。如果孩子在年幼之時就用到了數(shù)字助手，他們就會對此習以為常。同時，數(shù)字助手將與它們的主人一起成長發(fā)展，并隨著他們的成熟，將他們的喜好和偏見逐漸內(nèi)在化。數(shù)字助手的任務(wù)是通過個性化來最大化其人類同伴的便利感或滿足感，它們給出的建議和信息可能會被人類用戶視為必不可少，即使人類用戶無法確切解釋為什么它們要好于其他任何替代資源。
長此以往，個人可能會更偏愛自己的數(shù)字助手，而不是人類，因為人類不懂得投其所好，而且更“令人討厭”(即使僅僅因為某人的個性和欲望與其他人不同)。結(jié)果，我們對彼此的依賴、對人際關(guān)系的依賴，可能都會被削弱。到那時，那些童年時代妙不可言的特質(zhì)和無可替代的教訓將是什么模樣呢？一種并不能感知或體驗人類情感(但可能會模仿人類情感)卻給予無處不在陪伴的機器，將如何影響孩子對世界的感知及其社會化？它將如何塑造想象力？它將如何改變游戲的本質(zhì)？它將如何改變交友或融入社會的過程？
可以這么說，數(shù)字信息的唾手可得已經(jīng)改變了一代人的教育和文化體驗�，F(xiàn)在，世界正在開展另一項“偉大實驗”，在這個實驗中，孩子們將在機器的陪伴下成長，這些機器將在許多方面充當以前世代人類教師那樣的角色，卻沒有人類的感覺、洞察力和情感。最終，實驗參與者可能會問，他們的經(jīng)歷是否以他們未曾預(yù)料或不能接受的方式被改變了呢？
父母也許會因為擔心這種接觸會對孩子產(chǎn)生不確定的影響而排斥這種技術(shù)。就像上一代的父母限制孩子看電視的時間，現(xiàn)在的父母限制孩子使用數(shù)碼設(shè)備的時間一樣，未來的父母可能會限制人工智能陪伴孩子的時間。但那些希望推動孩子取得成功的人， 或者沒有意愿或能力讓孩子得到人類父母養(yǎng)育或人類導(dǎo)師教導(dǎo)而只能依賴人工智能的人，或者只是想滿足孩子結(jié)交人工智能朋友愿望的人，可能會贊成讓孩子與人工智能為伴。因此，這些尚處在學習與發(fā)展階段、易受影響的孩子，可能通過與人工智能的對話形成他們對世界的印象。
具有諷刺意味的是，盡管數(shù)字化讓越來越多的信息變得可用，但它卻壓縮了深入、專注思考所需的空間。今天幾乎持續(xù)不斷的媒體流增加了思考的成本，因此減少了思考的頻率。算法為了回應(yīng)人類對刺激的渴望而力推那些奪人眼球的事物，而能夠奪人眼球的，往往也是戲劇性的、出人意料的和有感染力的。一個人能否在這種環(huán)境中找到思考的空間是一個問題，而如今占主導(dǎo)地位的交流形式不利于促進有節(jié)制的理性，這是另一個問題。
新信息中介
正如我們在第四章中所述，人工智能正日益塑造我們的信息領(lǐng)域。為了傳播和組織人類經(jīng)驗，中介機構(gòu)應(yīng)運而生。這些組織和機構(gòu)提煉復(fù)雜的信息，強調(diào)個人需要了解的內(nèi)容，并將結(jié)果廣而告之。隨著體力勞動分工的細化，社會也開始分配腦力勞動，報紙和期刊紛紛創(chuàng)建，用以向公民發(fā)布信息，大學也被用來對公民進行�？平逃哪菚r起，此類組織和機構(gòu)便負責收集、提煉和傳播信息，并確定其意義。
現(xiàn)在，從金融到法律，在每一個以密集腦力勞動為特征的領(lǐng)域，人工智能都正在被整合到學習的過程中。但人類并不是總能驗證人工智能呈現(xiàn)的內(nèi)容是否具有代表性，就像我們不是總能解釋為什么 TikTok 和YouTube 等應(yīng)用會推廣某些視頻而非其他。而真人編輯和主播可以解釋他們選擇呈現(xiàn)內(nèi)容的原因所在，無論其是否準確。只要人們還期望這樣的解釋，人工智能時代就會讓大多數(shù)不了解其技術(shù)過程和機制的人感到失望。
人工智能對人類知識的影響是自相矛盾的。一方面，人工智能中介能夠瀏覽和分析的數(shù)據(jù)的規(guī)模，比人類在無此協(xié)助之前所能想象的要大得多。另一方面，這種處理大量數(shù)據(jù)的能力，可能也會加大對數(shù)據(jù)的操縱和誤導(dǎo)。人工智能能夠比傳統(tǒng)宣傳機構(gòu)更有效地利用人類的激情，它會根據(jù)個人偏好和本能進行調(diào)整，以給出其創(chuàng)造者或用戶所希望的回應(yīng)。同樣，人工智能中介的運用也可能放大固有偏見，即使這些中介在技術(shù)上還在人類掌控之下。市場競爭的起伏變化促使社交媒體平臺和搜索引擎競相呈現(xiàn)用戶最感興趣的信息。結(jié)果，那些被認為是用戶喜聞樂見的信息獲得了優(yōu)先排序，扭曲了現(xiàn)實的本來面貌。就像技術(shù)在 19 世紀和 20 世紀加速了信息生產(chǎn)和傳播的速度一樣，在這個時代，信息正因人工智能在傳播過程中的參與而發(fā)生改變。
有些人會尋求信息過濾不被扭曲，或者至少察覺到這種扭曲。有些人會權(quán)衡各個過濾途徑，從而獨立地衡量結(jié)果。還有一些人則可能會選擇完全排斥人工智能，而更偏愛通過傳統(tǒng)的人工信息中介進行過濾。然而，當社會中的大多數(shù)人接受人工智能中介時無論將其作為一種默認選項，還是作為從網(wǎng)絡(luò)平臺賦能的代價那些仍在通過研究和理性來追求傳統(tǒng)形式的個人探究者，可能會發(fā)現(xiàn)自己無法跟上時代發(fā)展的步伐。他們肯定會發(fā)現(xiàn)自我塑造的能力日益受限。
如果信息和娛樂變得沉浸化、個性化和合成化，比如人工智能挑選的“新聞”證實了某些人長期持有的信念，或者人工智能制作的電影讓去世多年的演員擔任了“主演”，一個社會還會對其歷史和時事有共同的理解嗎？它還會有共同的文化嗎？如果一個人工智能被指示掃描一個世紀以來的音樂或電視，并以此制作出“轟動一時”的作品，它是在創(chuàng)作，還是僅僅在組裝？那些傳統(tǒng)上被視為人類與現(xiàn)實和生活經(jīng)驗產(chǎn)生獨特接觸的勞動者，比如作家、演員、藝術(shù)家和其他創(chuàng)作者，屆時將如何看待自己，又如何被他人看待？
人類的全新未來
傳統(tǒng)的理性和信仰將在人工智能時代繼續(xù)存在，但其性質(zhì)和范圍必將因為引入一種新的、強有力的、機器運作的邏輯形式受到深刻影響。人類身份可能會繼續(xù)停留在“生命智能”的頂峰，但人類理性將不再被視為致力于理解現(xiàn)實的智能的全部。為了厘清我們在這個世界上的地位，我們的側(cè)重點可能需要從“以人類理性為中心”轉(zhuǎn)移到“以人類尊嚴和自主性為中心”。
啟蒙運動的特點是試圖界定人類理性，并根據(jù)理性與先前人類時代的關(guān)系，在與這些時代的對比中對其加以理解�；舨妓埂⒙蹇�、盧梭及其他啟蒙運動時期的政治哲學家從理論上的“自然狀態(tài)”中導(dǎo)出他們的概念，并從中勾勒出關(guān)于人類屬性和社會結(jié)構(gòu)的系列見解。當時的領(lǐng)導(dǎo)人又轉(zhuǎn)而提出問題：如何才能匯集人類知識并進行客觀的傳播，以實現(xiàn)開明的政府和人類的繁榮？如果我們未能像前人那樣全力以赴地去理解人性，那么人工智能時代將注定讓我們迷失其中。
謹慎者可能會尋求限制人工智能，將其使用局限于零散功能，并限定其使用時間、場所和方式。社會或個人可能會保留自己的首席和裁判者角色，將人工智能置于輔助的次要位置。然而，競爭帶來的活力與變化將對這些限制構(gòu)成挑戰(zhàn)，我們在前一章提出的安全困境就是最鮮明的例證。除非受到基本的道德或法律限制，否則又有哪家公司會甘愿放棄掌握競爭對手用來提供新產(chǎn)品或服務(wù)的與人工智能功能相關(guān)的知識呢？如果人工智能讓行政官員、建筑師或投資者能夠輕松預(yù)測結(jié)果或結(jié)論，那么有什么理由可以讓他們不使用人工智能？考慮到實施限制措施將會承受的壓力，需要在全社會或國際層面上對那些表面上可取的人工智能用途制定限制。
人工智能可能在探索和管理現(xiàn)實世界和數(shù)字世界方面發(fā)揮主導(dǎo)作用。在特定領(lǐng)域，人類可能會對人工智能言聽計從， 更青睞人工智能的數(shù)據(jù)處理而非人類心智的局限。這種遵從，可能使許多人甚至大多數(shù)人退回到一個自我定制、自我封閉的個體化領(lǐng)域中。在這種情境下，人工智能的力量加上它的普遍性、隱蔽性和不透明性，將引發(fā)人們對自由社會甚至自由意志前景的懷疑。
在許多領(lǐng)域，人工智能和人類將成為探索事業(yè)中的平等伙伴。由此，人類身份將反映出與新關(guān)系的和解，無論是與人工智能還是與現(xiàn)實。不同的社會將為人類領(lǐng)導(dǎo)權(quán)保留各自不同的領(lǐng)地。同時，它們將形成必要的社會結(jié)構(gòu)和習慣，以理解人工智能并與其有效互動。為了與人工智能融洽相處，社會需要建立相應(yīng)知識和心理基礎(chǔ)設(shè)施，并運用其獨特才智，盡可能地造福人類。技術(shù)將迫使政治和社會生活的許多方面(實際上是大多數(shù)方面)做出調(diào)整。
在每個獨立的人工智能新運用布局中，建立平衡至關(guān)重要。各個社會及其領(lǐng)導(dǎo)人將不得不選擇何時告知社會中的個人，他們正在與人工智能打交道，以及他們在這些互動中擁有何種權(quán)力。最終，通過這些選擇，一個人工智能時代的全新人類身份呼之欲出。
一些社會和制度可能會逐步適應(yīng)，然而，另一些卻可能會發(fā)現(xiàn)，它們的基本假設(shè)與它們感知現(xiàn)實和自身的方式相沖突。由于人工智能促進了教育和信息獲取，同時也增加了信息被夸大和操縱的可能性，這些沖突可能會愈演愈烈。個人的消息會更靈通、準備會更充分、觀點會有更大影響力，他們可能據(jù)此對政府提出更多要求。
每個社會必須在一開始先確定人工智能在各個領(lǐng)域的全部可允許和不可允許的使用范圍。對某些強大的人工智能，如通用人工智能的使用權(quán)，將需要嚴格把關(guān)，以防止被濫用。因為通用人工智能的建造成本可能相當高昂，只有少數(shù)組織能夠建造，所以其使用會受此固有限制。某些限制可能違反一個社會的自由企業(yè)和民主進程的理念。而在其他方面，如限制在生物武器生產(chǎn)中使用人工智能的必要性，應(yīng)該很容易達成一致，但需要國際合作。
截至本書撰寫時，歐盟已經(jīng)勾勒出規(guī)范人工智能的計劃綱要，旨在將隱私和自由等歐洲推崇的價值觀，與經(jīng)濟發(fā)展的需要和對歐洲本土人工智能公司的支持相平衡。該監(jiān)管框架包括對人工智能的各種用途進行風險評估，并限制甚至禁止政府使用某些被視為高風險的技術(shù)，如人臉識別(盡管人臉識別有一些有益用途，如尋找失蹤人口和打擊人口販運)。毫無疑問，這些初步概念會面臨廣泛的爭議和修改，但這也是一個社會決定限制人工智能范圍，并相信此舉能夠使其推動生活方式進步和未來發(fā)展的先例。
假以時日，這些努力將會被制度化。在美國，學術(shù)團體和咨詢機構(gòu)已經(jīng)開始研究現(xiàn)有流程和結(jié)構(gòu)與人工智能崛起之間的關(guān)系。其中包括學術(shù)界的努力，例如麻省理工學院提出的解決未來工作的倡議；也包括政府的參與，比如國家人工智能安全委員會。有些社會可能完全放棄對此的解析，它們將落后于另一些社會。后者會進行相應(yīng)探究，提前調(diào)整自身制度，或如我們在下一章中討論的那樣建立全新的制度， 從而減少過渡期的錯位，并最大化與人工智能的伙伴關(guān)系帶來的物質(zhì)和知識利益。隨著人工智能的發(fā)展，建立這樣的制度將至關(guān)重要。
對現(xiàn)實和人性的感知
由人工智能探索或在人工智能輔助下探索的現(xiàn)實，可能會超越人類想象。它可能包含我們從未察覺或無法概念化的模式；它被人工智能所洞察的底層結(jié)構(gòu)，可能是無法用人類語言表達的。正如我們的一位同行對AlphaZero 加以觀察后所說：“像這樣的例子表明，有一些認知方式是人類意識無法實現(xiàn)的。”
為了探索當代認知的未知疆域，我們可能需要委派人工智能前往那些我們自身無法進入的領(lǐng)域；而當它返航時，也可能帶回我們不能完全理解的模式或預(yù)言。諾斯替派(Gnostic)哲學家關(guān)于存在“超越普通人類經(jīng)驗的內(nèi)在現(xiàn)實”的預(yù)言，可能闡發(fā)新意。我們可能會發(fā)現(xiàn)， 自己離純粹知識的概念更近了一步，而不再受我們的心智結(jié)構(gòu)和傳統(tǒng)人類思維模式的拘束。我們不僅必須重新界定我們的角色，我們已不再為現(xiàn)實的唯一知者，還須重新界定我們以為自己正在探索的現(xiàn)實。而且， 即使現(xiàn)實沒有令我們?nèi)绱嗣曰�，人工智能的出現(xiàn)仍可能改變我們與現(xiàn)實以及我們彼此之間的關(guān)系。
隨著人工智能的普及，一些人可能認為，人類比以往任何時候都更有能力認識和組織周遭的環(huán)境。另一些人則可能會宣稱，我們并沒有自己想象的那么無所不能。這種對我們自身和我們所處現(xiàn)實的重新界定， 將改變關(guān)于我們的基本假設(shè)，并讓社會、經(jīng)濟和政治布局也隨之而變。中世紀世界有它的神圣旨意，比如它的封建農(nóng)業(yè)模式、它對王權(quán)的崇敬，還有它那高聳的大教堂尖頂所體現(xiàn)的向往。理性時代則有“我思故我在”的省思和對新疆域的追求，以及隨之而來的在個人和社會的命運觀念中對“推動者”的全新主張。至于人工智能時代，則尚未定義其自身的組織原則、道德概念或其抱負感和局限性。
人工智能革命發(fā)生之迅猛，將超過大多數(shù)人的預(yù)期。除非我們發(fā)展出新的概念來解釋、演繹和組織其所帶來的轉(zhuǎn)變，否則無論是對人工智能還是對其所產(chǎn)生的影響，我們都無法駕馭。在道德上、哲學上、心理上、實踐上，亦即在各個方面，我們均發(fā)現(xiàn)自己正處于一個新時代的邊緣，身后卻已無路可退。我們必須動用自己最根本的素養(yǎng)和資源，比如理性、信仰、傳統(tǒng)和技術(shù)，來調(diào)整我們與現(xiàn)實的關(guān)系，從而讓現(xiàn)實仍是人的現(xiàn)實。
本文節(jié)選自亨利基辛格、埃里克施密特、丹尼爾胡滕洛赫爾《人工智能時代與人類未來》，由中信出版社出版。
書名：人工智能時代與人類未來
作者：亨利基辛格；埃里克施密特；丹尼爾胡滕洛赫爾
出版時間：2023年6月
