孫樹強(qiáng)/文
2017年底，谷歌旗下的DeepMind公司開發(fā)的人工智能程序AlphaZero擊敗了當(dāng)時(shí)世界上最強(qiáng)大的國際象棋程序Stockfish，在100場對弈中，Alp－h(huán)aZero的戰(zhàn)績是28勝72平0負(fù)。在2018年與Stockfish進(jìn)行的1000場對弈中，AlphaZero的戰(zhàn)績是155勝6負(fù)839平；可以說，AlphaZero獲得了壓倒性的勝利。AlphaZero的勝利之所以引起了廣泛關(guān)注，是因?yàn)槌绦驑?gòu)建者只給它提供了一套國際象棋規(guī)則，并指示它基于規(guī)則制定戰(zhàn)略，從而最大限度地提高自己的勝負(fù)比。僅僅經(jīng)過4個(gè)小時(shí)的自我對弈后，AlphaZero便成了世界上最強(qiáng)大的國際象棋程序。到目前為止，還沒有任何人或其他程序能夠戰(zhàn)勝它。
AlphaZero與之前的其他國際象棋程序存在一個(gè)顯著的差別，即之前的程序需要人類棋手先構(gòu)思棋路，然后程序按照這些棋路進(jìn)行對弈，簡單來說，這些程序依賴于人類的經(jīng)驗(yàn)、知識(shí)和戰(zhàn)略。AlphaZero則完全不同，它的走法并非源自人類的指導(dǎo)，而且在許多情況下，很多走法是人類根本未曾考慮過的。國際象棋大師加里卡斯帕羅夫在觀察和分析了AlphaZero的棋局后稱：“AlphaZero徹底動(dòng)搖了國際象棋的根基。”
2022年末，由OpenAI開發(fā)的自然語言處理工具ChatGPT橫空出世，這個(gè)工具能夠根據(jù)人類提供的簡單指示而生成非常專業(yè)的文本，一些文本的質(zhì)量顯然超出了某個(gè)人甚至某些人共同能夠達(dá)到的水平，這激發(fā)了社會(huì)各界對于人工智能的極大興趣，支持者看到了人工智能有利的一面，反對者則擔(dān)憂人工智能的發(fā)展會(huì)對現(xiàn)有的社會(huì)結(jié)構(gòu)產(chǎn)生嚴(yán)重沖擊，視其如洪水猛獸。
毋庸置疑的是，我們已經(jīng)進(jìn)入了人工智能時(shí)代，無論喜歡與否，人工智能已經(jīng)滲透到我們生活和工作中的方方面面，小到我們?nèi)粘Ｉ硖幤渲械母鞣N算法，大到企業(yè)和國家的發(fā)展與競爭，人工智能都在發(fā)揮作用，而且會(huì)發(fā)揮越來越大的作用。更重要的是，人工智能與之前的技術(shù)存在很大不同，其發(fā)展將會(huì)在很大程度上重塑人類社會(huì)。
由美國前國務(wù)卿亨利基辛格、谷歌前CEO、執(zhí)行董事長埃里克施密特和麻省理工學(xué)院蘇世民計(jì)算機(jī)學(xué)院院長丹尼爾胡騰洛赫爾合著的《人工智能時(shí)代與人類未來》一書從非技術(shù)角度探討了人工智能對人類社會(huì)可能產(chǎn)生的影響。正如作者在前言中所說：“在本書中，我們既不褒揚(yáng)人工智能，也不試圖去貶低它。因?yàn)闊o論你怎樣看待人工智能，它都已變得無所不在。我們試圖去做的，是在人工智能帶來的影響尚在人類理解范圍之內(nèi)時(shí)，對這種影響加以考量。”這是一本在思想層面探討人工智能的書，三位作者在書中探析了人類與人工智能的關(guān)系；人工智能的出現(xiàn)和演化將如何影響人類的感知、認(rèn)知和互動(dòng)；人工智能又將會(huì)對我們的文化、人性觀念、歷史產(chǎn)生什么影響，等等。在人工智能快速發(fā)展的當(dāng)下，該書有助于我們從更高的層面來審視人工智能的善惡是非，盡量避免出現(xiàn)“不識(shí)廬山真面目，只緣身在此山中”的情況。
人工智能是一種與眾不同的技術(shù)
技術(shù)是人類社會(huì)進(jìn)步的重要推動(dòng)力，正是技術(shù)的持續(xù)發(fā)展才塑造了今天的世界。就如作者在書中所指出的，縱觀歷史人類并非沒有經(jīng)歷過技術(shù)變革；然而，從根本上改變我們這個(gè)社會(huì)的社會(huì)架構(gòu)和政治架構(gòu)的技術(shù)卻屈指可數(shù)。在人類發(fā)展的歷史進(jìn)程中，偶爾會(huì)經(jīng)歷非常大的技術(shù)變革，但過往的這些技術(shù)變革有一個(gè)共同特點(diǎn)，即都處于人類的控制之下，并且能夠被人類所很好地理解。工業(yè)革命是技術(shù)發(fā)展的一個(gè)分水嶺，工業(yè)革命以來出現(xiàn)的各項(xiàng)技術(shù)更多的是賦能型的技術(shù)，也就是說新技術(shù)的出現(xiàn)擴(kuò)展了人類可以觸及的邊界，提高了生產(chǎn)效率，各種技術(shù)完全在人類的指示下按照特定的規(guī)則運(yùn)行，技術(shù)本身基本上沒有能動(dòng)性。人工智能則明顯不同，雖然它是人類創(chuàng)造出來的，但它具有較強(qiáng)的能動(dòng)性，它的很多行為和做法并不被人類所理解，或者說完全超出了人類所能夠理解的范圍。AlphaZero和ChatGPT就是很好的例子。作者在書中還提到了另外一個(gè)例子，麻省理工學(xué)院的研究人員利用人工智能來發(fā)現(xiàn)一種新的抗生素，這種抗生素能夠滅殺此前對所有已知抗生素都有耐藥性的細(xì)菌菌株。這個(gè)項(xiàng)目的負(fù)責(zé)人表示，通過傳統(tǒng)方法發(fā)現(xiàn)抗生素的成本太高，而通過訓(xùn)練一個(gè)軟件程序來識(shí)別已被證明能有效抗菌的分子結(jié)構(gòu)模式，識(shí)別過程就會(huì)變得高效和經(jīng)濟(jì)得多。在這個(gè)過程中，人工智能可以識(shí)別出那些人類察覺不到，甚至可能超越人類描述的分子關(guān)系。
幾千年來，人類一直以探索現(xiàn)實(shí)和求知為己任，一直希望通過對現(xiàn)實(shí)世界和自然規(guī)律的認(rèn)識(shí)來更好地獲得掌控感。人們認(rèn)為，只要勤奮和專注，運(yùn)用人類的理性來處理問題，就能產(chǎn)生可衡量的結(jié)果。但必須承認(rèn)的是，至少到現(xiàn)在為止，人類對于我們生活的世界以及更廣闊空間的認(rèn)識(shí)還是非常有限的，對于很多問題和現(xiàn)象，要么認(rèn)識(shí)不清，要么還根本無法理解。人工智能的出現(xiàn)則可能在一定程度上改變這種現(xiàn)象，它有可能會(huì)觸及與人類所接觸的迥然不同的現(xiàn)實(shí)層面。換句話說，人工智能可能會(huì)突破人類理性的限制，拓寬人類的視野，更深入地觸及事物的本質(zhì)。
作者在書中指出，人類身份可能會(huì)繼續(xù)停留在“生命智能”的頂峰，但人類理性將不再被視為致力于理解現(xiàn)實(shí)的智能的全部；人工智能賦能的技術(shù)將成為人類感知和處理信息的永久伴侶，無論我們視其為工具、伴侶還是對手，它都會(huì)改變我們作為理性生物的經(jīng)驗(yàn)，并永久地改變我們與現(xiàn)實(shí)的關(guān)系。
人工智能與人類認(rèn)識(shí)世界的關(guān)系
柏拉圖在《理想國》中談到了著名的“洞穴之喻”，該寓言以蘇格拉底和格勞孔之間的對話形式展開，將人類比做一群被鎖鏈?zhǔn)`在洞穴里的囚徒，囚徒們看到從陽光下的洞口投射在洞壁上的影子，便相信那是所謂的真實(shí)。蘇格拉底認(rèn)為，哲學(xué)家就如同一個(gè)掙脫束縛、沿著坡路走出洞穴，在陽光下感知真實(shí)世界的囚徒。
人們一直試圖全面理解我們的經(jīng)歷和生活環(huán)境的各個(gè)方面。每個(gè)社會(huì)都在以自己的方式探究現(xiàn)實(shí)的本質(zhì)：如何理解現(xiàn)實(shí)，如何預(yù)測現(xiàn)實(shí)，如何塑造現(xiàn)實(shí)，又如何調(diào)和現(xiàn)實(shí)。在試圖解決這些問題的過程中，每個(gè)社會(huì)都找到了屬于自己的一套適應(yīng)世界的方法，這些適應(yīng)的核心是有關(guān)人類心智與現(xiàn)實(shí)之間關(guān)系的概念，即人類認(rèn)識(shí)周圍環(huán)境的能力。
歷史之中，宗教、政治等都曾作為解釋現(xiàn)實(shí)世界的權(quán)威，與權(quán)威相悖的觀點(diǎn)（即使是正確的）則被視為異端，實(shí)際上此時(shí)就出現(xiàn)了話語權(quán)壟斷。例如，當(dāng)伽利略等早期現(xiàn)代思想家和科學(xué)家開始直接探索世界，并根據(jù)科學(xué)觀察改變?nèi)藗儗κ澜绲慕忉寱r(shí)，便因?yàn)槟懜液雎宰鳛橹薪榈纳駥W(xué)而受到懲罰和迫害。近代以來，隨著數(shù)學(xué)、天文學(xué)和自然科學(xué)的發(fā)展，人們逐漸以自身的理性和心智來認(rèn)識(shí)和感知現(xiàn)實(shí)世界�？茖W(xué)家們能夠基于個(gè)人及同行的觀察進(jìn)行迭代式的探究：當(dāng)一個(gè)理論或預(yù)測可以被經(jīng)驗(yàn)驗(yàn)證時(shí)，新的事實(shí)就會(huì)被揭示出來，而這又可以作為認(rèn)識(shí)其他問題的出發(fā)點(diǎn)。
總的來看，人類對于依靠自己的理性來認(rèn)識(shí)世界越來越自信，笛卡爾的格言“我思故我在”將理性思維奉為人類的決定性能力，并宣稱它具有歷史中心地位。但人類的理性和心智是存在局限性的，借用《莊子養(yǎng)生主》里的一句話，“吾理性也有涯，而知也無涯”，對于客觀現(xiàn)實(shí)和事物本質(zhì)的認(rèn)識(shí)，每一代人都只能做一些邊際貢獻(xiàn)。人工智能則可能會(huì)以機(jī)器智能的形式極大地拓展人類理性的邊界，揭示那些以往我們無法察覺但可能至關(guān)重要的現(xiàn)實(shí)層面，在一些情況下，人工智能將以不同于人類的邏輯形式提出新的見解和發(fā)現(xiàn)。另外，非常有可能的情況是，人工智能會(huì)使人類對現(xiàn)實(shí)世界和事物本質(zhì)的認(rèn)識(shí)出現(xiàn)跳躍式發(fā)展。這就提出了這樣一個(gè)問題：如果人工智能會(huì)“思考”，或者近似于思考，那么“我們”又是誰？
人工智能與人類的關(guān)系
人工智能正日益被賦予以前只能由人類心智完成或嘗試的任務(wù)，隨著人工智能不斷執(zhí)行這些任務(wù)，產(chǎn)生接近甚至超越人類智能所能實(shí)現(xiàn)的結(jié)果，它挑戰(zhàn)了人何以為人的決定性屬性。作者在書中還提到了這樣一個(gè)例子，2016年，DeepMind的分支機(jī)構(gòu)DeepMindAp－plied開發(fā)了一種人工智能來優(yōu)化谷歌溫度敏感數(shù)據(jù)中心的冷卻操作，盡管最優(yōu)秀的工程師已經(jīng)在一定程度上解決了這個(gè)問題，但人工智能程序進(jìn)一步優(yōu)化了冷卻操作，能耗又降低了40%。這就提出了如下的問題：當(dāng)人工智能比我們?nèi)祟愖龅酶茫瑥亩鴮?dǎo)致我們不再親自探索和塑造現(xiàn)實(shí)，而是將人工智能作為我們感知和思想的輔助工具時(shí)，我們將如何看待自己以及我們在世界上的角色，我們將如何看待人類與人工智能的關(guān)系。作者指出，人工智能有望在人類體驗(yàn)的所有領(lǐng)域帶來變革，但變革的核心最終將發(fā)生在哲學(xué)層面，即改變?nèi)祟惱斫猬F(xiàn)實(shí)的方式以及我們在其中所扮演的角色。
在一些關(guān)鍵領(lǐng)域，當(dāng)人工智能能夠?qū)崿F(xiàn)比人類理性所能達(dá)到更好的結(jié)果時(shí)，固執(zhí)地對此視而不見無異于掩耳盜鈴，“盧德主義”并不是應(yīng)對技術(shù)變革的合理方式。我們會(huì)認(rèn)識(shí)并接受這樣一個(gè)結(jié)果，即人類的理性并不是認(rèn)識(shí)或駕馭現(xiàn)實(shí)的唯一方式，或許也不是最先進(jìn)的方式。人工智能的出現(xiàn)和發(fā)展將使人類迎來一個(gè)以三種主要方式做出決策的世界：一是由人類做出決策；二是由機(jī)器做出決策；三是由人機(jī)合作做出決策。而且，人工智能不僅僅是一種被動(dòng)的工具，而是上升到人類伙伴的層面。但需要注意的一點(diǎn)是，人類與人工智能并不是完全對等的，歸根結(jié)底，人工智能是由人類構(gòu)建的，也是由人類指揮的，只不過人工智能可以在一定程度上發(fā)揮能動(dòng)性，而不僅僅是完全被動(dòng)地聽從人類的指揮。
在特定領(lǐng)域，人類可能會(huì)對人工智能言聽計(jì)從，更喜歡人工智能的數(shù)據(jù)處理過程，而非受人類思維局限的限制。例如，在科學(xué)研究方面，人工智能能夠突破人類理性的局限，在這些領(lǐng)域充分發(fā)揮人工智能的作用是有益的，也是應(yīng)該的。但在一些涉及心理、情感、道德等人類特有的領(lǐng)域，人工智能則需要在人類的控制下發(fā)揮作用。如果完全不顧及人類理智、情感和道德，任由人工智能自主行動(dòng)，那么人類社會(huì)將會(huì)發(fā)生翻天覆地的變化。理智、道德、情感是無形的，但正是這些無形的東西使人類社會(huì)充滿了溫情，道德的淪陷必然造成整個(gè)社會(huì)價(jià)值觀的混亂以及底線的缺失，而一個(gè)價(jià)值觀混亂、沒有底線的社會(huì)必定是一片狼藉的，其中的每一個(gè)人都將付出代價(jià)。
人工智能與國家安全的關(guān)系
自有記載的人類歷史起，安全始終是一個(gè)有組織的社會(huì)追求的最低目標(biāo)。不同文化的價(jià)值觀念各異，不同政治單元的利益和渴求相殊，但無論是獨(dú)立自保還是共同御敵，任何不能保證自己安全的社會(huì)都無法避免覆亡的命運(yùn)。因此，多數(shù)社會(huì)都會(huì)付出大量的資金和精力來構(gòu)筑自己的安全網(wǎng)，在此過程中，大量的軍事研發(fā)活動(dòng)所產(chǎn)生的新技術(shù)甚至可以用于經(jīng)濟(jì)領(lǐng)域，從而提高了勞動(dòng)生產(chǎn)率，促進(jìn)了經(jīng)濟(jì)增長。
作者在書中指出，傳統(tǒng)上，有三個(gè)特性促成了軍事和民用領(lǐng)域的技術(shù)分野：技術(shù)差異、集中控制和影響規(guī)模。所謂技術(shù)差異是指專門軍用或民用的技術(shù)是有很大差異的；集中控制則是指可以輕易被政府管控；影響規(guī)模則是指一種技術(shù)的破壞性潛力。迄今為止，幾乎找不到某種技術(shù)同時(shí)具備軍民兩用、易于傳播和具有巨大的潛在破壞性這三個(gè)特征。以核技術(shù)為例，核能可以軍民兩用，如果不正確使用破壞性巨大，但核技術(shù)非常復(fù)雜，這就使得政府可以相對集中地控制核技術(shù)。人工智能的出現(xiàn)打破這種狀況，很明顯，人工智能可以軍民兩用，也很容易傳播，同時(shí)，如果不審慎使用，也會(huì)產(chǎn)生非常大的破壞性。
在傳統(tǒng)的沖突中，對手的心理是戰(zhàn)略行動(dòng)瞄準(zhǔn)的關(guān)鍵點(diǎn)，心理博弈是某些戰(zhàn)略的根本。但算法則只知道指令和目標(biāo)，卻不知士氣和心理為何物。人工智能可能是現(xiàn)代國家之間的戰(zhàn)略競合更加復(fù)雜化，即使各國不廣泛部署人工智能類自主武器，但人工智能仍有可能賦能常規(guī)武器、核武器和網(wǎng)絡(luò)能力，從而使對手之間的安全關(guān)系更加難以預(yù)測和維護(hù)。人工智能可能會(huì)識(shí)別出對手甚至都沒有計(jì)劃或注意到的行為模式，然后給出相應(yīng)的反擊方法。對于一種能感知到人類可能無法感知或無法那么快感知的環(huán)境層面，而且在某些情況下能通過超過人類思維速度或思維廣度的過程進(jìn)行學(xué)習(xí)和改變的事物，我們又如何去制定一項(xiàng)有針對性的進(jìn)攻或防御戰(zhàn)略呢？由于人工智能具有適應(yīng)其所遇現(xiàn)象的潛力，當(dāng)兩個(gè)人工智能武器系統(tǒng)被用于彼此對抗時(shí)，雙方都很難準(zhǔn)確理解最終可能產(chǎn)生的結(jié)果和影響。
國際體系的矛盾之處在于，每個(gè)大國都被驅(qū)使采取行動(dòng)，也必須采取行動(dòng)，從而最大限度地保障自己的安全。然而，為了避免危機(jī)接踵而至，每個(gè)國家都必須對維持普遍和平具有一定的責(zé)任感。這個(gè)過程涉及對限制的認(rèn)識(shí)。為了防止人工智能在國家之間的競爭過程中產(chǎn)生嚴(yán)重的后果，各國都需要克服，或者至少遏制完全自動(dòng)化的現(xiàn)象，必須防止運(yùn)行速度比人類決策者更快的人工智能做出一些具有戰(zhàn)略后果、不可挽回的行為。
人工智能帶來的挑戰(zhàn)
任何事物都具有兩面性，人工智能在帶來好處的同時(shí)，也提出了一些新的挑戰(zhàn)有待解決。作者在書中提到了以下幾方面需要特別關(guān)注的問題：
人工智能帶來的挑戰(zhàn)之一是，具備了創(chuàng)造人工智能所需的技能和資源的人并非必然具有理解其更廣泛內(nèi)涵的哲學(xué)視角。許多人工智能的創(chuàng)造者主要關(guān)注的是他們試圖實(shí)現(xiàn)的應(yīng)用和想要解決的問題，他們可能不會(huì)停下來考慮這個(gè)解決方案是否會(huì)產(chǎn)生一場歷史性革命，或者他們的技術(shù)將如何影響不同的人群。例如，如果人工智能有效地解決了一個(gè)問題，但給其他的某一群體帶來了非常大的負(fù)面影響（如導(dǎo)致其失業(yè)），那么綜合來看，這個(gè)結(jié)果是可取的嗎？這就涉及到價(jià)值判斷的問題。
人工智能可能會(huì)加速人類理性消解的勢頭：社交媒體減少了反思的空間，在線搜索削弱了概念化的動(dòng)力，人工智能可以更好地完成任務(wù)降低了人類深入思考的動(dòng)力，等等。人工智能出現(xiàn)之前的算法就擅長向人類傳遞“令人沉迷”的內(nèi)容，人工智能則更精于此道。人工智能影響人類思想的能力與日俱增；相反，人類在理解信息和認(rèn)識(shí)現(xiàn)實(shí)方面的作用被削弱了。且不論更高級的人工智能如何改變?nèi)祟惿鐣?huì)，已經(jīng)出現(xiàn)很久并且在我們?nèi)粘９ぷ魃钪邪l(fā)揮了非常重要作用的搜索引擎都在很大程度上壓縮了人類思考的空間。搜索引擎帶來了極大的便利，這是有利的一面，但也有不利的一面，遇到問題時(shí)我們首先想到的是搜索一下，思考的過程被省略和代替了，而恰恰是這個(gè)思考的過程才能使我們對一些問題的認(rèn)識(shí)更加深化。又如，數(shù)據(jù)算法所構(gòu)造的“信息繭房”將我們桎梏在自己感興趣的內(nèi)容之中，有些時(shí)候我們甚至樂此不疲、難以自拔，這難免會(huì)使我們的認(rèn)知偏狹、孤陋，只見樹木，不見森林，甚至所見的樹木也不是真實(shí)的。
人工智能無法感受到道德或哲學(xué)沖動(dòng)，不能像人類一樣考慮情境或進(jìn)行反思，也沒有憐憫和同情；另外一方面，人工智能則可能會(huì)有歧視和偏見，這就需要特別關(guān)注它所帶來的挑戰(zhàn)。人工智能只是運(yùn)用人類可能無法實(shí)現(xiàn)的方法產(chǎn)生特定的結(jié)果，而不管這個(gè)結(jié)果從人類的角度來看是平庸還是深刻，是善還是惡。對人工智能的目標(biāo)和授權(quán)都需要謹(jǐn)慎地設(shè)計(jì)，尤其是在其決策可能致命的領(lǐng)域，我們既不應(yīng)將人工智能視為自動(dòng)運(yùn)作、無需照管的存在，也不應(yīng)允許其在無人監(jiān)督、監(jiān)視或直接控制的情況下采取不可撤銷的行動(dòng)。曼哈頓計(jì)劃的技術(shù)負(fù)責(zé)人羅伯特奧本海默后來對軍方鼓吹核戰(zhàn)爭提出了批評：“如果一個(gè)文明一直把倫理道德視為人類生活的核心，但它對所有人都可能遭屠戮的前景緘口不提，只允許討論如何克敵制勝，我們又該如何看待這樣的文明？”例如，最近北京大學(xué)、倫敦國王學(xué)院和倫敦大學(xué)的聯(lián)合研究小組針對汽車自動(dòng)駕駛系統(tǒng)進(jìn)行了一項(xiàng)研究，通過檢驗(yàn)市面上車企常規(guī)使用的8種行人專用探測系統(tǒng)，結(jié)果顯示，自動(dòng)駕駛系統(tǒng)對于深膚色的人群和兒童檢測的準(zhǔn)確率大幅下降，這意味著這兩個(gè)人群在自動(dòng)駕駛汽車附近更容易遭遇危險(xiǎn)。研究團(tuán)隊(duì)表示，通過這個(gè)研究結(jié)果，希望技術(shù)人員在開發(fā)汽車自動(dòng)駕駛系統(tǒng)時(shí)考慮更多的場景和多樣性，避免因考慮不周而出現(xiàn)偏見和歧視。
人工智能的強(qiáng)大還可能使人類生出盲目崇拜之感。作者在書中指出，面對非專業(yè)人士無法理解的技術(shù)，一些人可能會(huì)將人工智能的決策視為近乎天意的判斷。這種宗教式的沖動(dòng)雖屬誤解，但并非全無道理。如果一種人類無法理解或控制的智能，能夠給出十分靈驗(yàn)又透著幾分神異的結(jié)論，在這樣一個(gè)世界中，遵從這種智能的判斷難道是愚蠢的嗎？在這種邏輯的推動(dòng)下，世界可能會(huì)隨之“復(fù)魅”，人工智能則會(huì)因其發(fā)布的“神諭”而使一些人對其深信不疑，言聽計(jì)從。特別是通用人工智能（AGI），一種能夠像人類一樣處理各種任務(wù)的智能系統(tǒng)，可能會(huì)被不少人奉若神明。
當(dāng)人們經(jīng)歷新事件、發(fā)現(xiàn)新事物，或是遭遇其他文化，便會(huì)催生思想革命，一個(gè)新時(shí)代也會(huì)應(yīng)運(yùn)而生。我們已經(jīng)步入了人工智能時(shí)代的大門，人工智能技術(shù)正在如火如荼的發(fā)展，其積極和消極作用正在逐漸顯現(xiàn)，到目前為止我們還無法清晰地預(yù)測其發(fā)展路徑和全部影響。但由于人工智能與以往的技術(shù)變革存在很大差異，其具有較大的能動(dòng)性，有很多結(jié)果完全超出人類思維可能觸及的邊界，甚至不受人類的控制，因此有必要認(rèn)真考慮人工智能對人類社會(huì)所帶來的革命性影響。正如作者所說的，要在人工智能帶來的影響尚在人類理解范圍之內(nèi)時(shí)，對其進(jìn)行認(rèn)真審視和考量。
人工智能革命正在成為新一輪科技變革和產(chǎn)業(yè)轉(zhuǎn)型的核心，不抓住這個(gè)技術(shù)革新的機(jī)遇，必將在后期的國際競爭中處于劣勢地位。黨的二十大報(bào)告強(qiáng)調(diào)，“推動(dòng)戰(zhàn)略性新興產(chǎn)業(yè)融合集群發(fā)展，構(gòu)建新一代信息技術(shù)、人工智能、生物技術(shù)、新能源、新材料、高端裝備、綠色環(huán)保等一批新的增長引擎”。鑒于人工智能技術(shù)的特殊性，在有效利用人工智能的同時(shí)，要深入認(rèn)識(shí)其對人類社會(huì)、法律、文化、哲學(xué)、精神和道德層面產(chǎn)生的影響，從而避免面人工智能所產(chǎn)生的消極后果，以及在面對出乎意料的變化時(shí)而出現(xiàn)的措手不及和無助之感。
