機(jī)器之心報(bào)道
編輯：張倩、杜偉
「目前，沒(méi)有哪個(gè)人工智能系統(tǒng)是有意識(shí)的，但構(gòu)建有意識(shí)的人工智能系統(tǒng)沒(méi)有明顯的障礙」
在 AI 領(lǐng)域，「意識(shí)」是一個(gè)充滿爭(zhēng)議的話題，很多研究者都會(huì)回避關(guān)于這個(gè)問(wèn)題的討論。
這是因?yàn)�，首先，從定義上來(lái)說(shuō)，科學(xué)界和哲學(xué)界對(duì)于什么是意識(shí)以及如何產(chǎn)生意識(shí)仍然存在廣泛的爭(zhēng)議和不同的理論，因此，在 AI 領(lǐng)域討論意識(shí)很難達(dá)成共識(shí)，也容易產(chǎn)生混淆；其次，從實(shí)現(xiàn)難度來(lái)看，理解和模擬意識(shí)是一個(gè)極其復(fù)雜的科學(xué)難題，盡管 AI 在很多任務(wù)上已經(jīng)取得了顯著的進(jìn)展，但要理解和復(fù)制人類意識(shí)的本質(zhì)仍然是一個(gè)巨大的挑戰(zhàn)；最后，部分研究者認(rèn)為，過(guò)度關(guān)注意識(shí)可能導(dǎo)致我們忽視解決實(shí)際 AI 挑戰(zhàn)的更重要的問(wèn)題。
在去年年初的一次訪談中，圖靈獎(jiǎng)得主 Yann LeCun 甚至表示，「意識(shí)是一個(gè)非常模糊的概念，一些哲學(xué)家、神經(jīng)科學(xué)家和認(rèn)知科學(xué)家認(rèn)為這只是一種錯(cuò)覺(jué)（illusion），我非常認(rèn)同這種觀點(diǎn)�！顾�認(rèn)為，「意識(shí)是我們大腦存在局限的結(jié)果。」
圖源：《懟完 OpenAI，LeCun 回應(yīng)：我認(rèn)為意識(shí)只是一種錯(cuò)覺(jué)》
不過(guò)，也有不少研究者選擇直面話題，另一位圖靈獎(jiǎng)得主 Yoshua Bengio 便是其中之一。早在 2017 年，Bengio 就在 arXiv 上發(fā)布過(guò)一篇題名為《意識(shí)先驗(yàn)》（The Consciousness Prior）的文章；在 2019 年的 NeurIPS 大會(huì)上，Bengio 又發(fā)表了題為「從 System 1 深度學(xué)習(xí)到 System 2 深度學(xué)習(xí)」的主題演講，提出深度學(xué)習(xí)正在從直觀的、無(wú)意識(shí)的靜態(tài)數(shù)據(jù)集學(xué)習(xí)，向具有意識(shí)、推理和邏輯的新型架構(gòu)研究轉(zhuǎn)變。
「在許多科學(xué)社區(qū)，人們往往會(huì)避免談及跟『意識(shí)』有關(guān)的概念。但是在過(guò)去的幾十年中，神經(jīng)科學(xué)家和認(rèn)知科學(xué)家對(duì)『意識(shí)』的認(rèn)識(shí)更加清晰了�！笲engio 在一次采訪中說(shuō)。
可見(jiàn)，人類對(duì)于「意識(shí)」的認(rèn)識(shí)是一個(gè)「撥云見(jiàn)日」的過(guò)程，適當(dāng)?shù)挠懻撌潜夭豢缮俚�。因此，最近，Bengio 等人發(fā)布了一篇 88 頁(yè)的系統(tǒng)性的論文，深入探討了當(dāng)前主流的意識(shí)科學(xué)理論以及構(gòu)建有意識(shí)的人工智能系統(tǒng)的可能性。在論文中，他們得出結(jié)論：目前，沒(méi)有哪個(gè)人工智能系統(tǒng)是有意識(shí)的，包括谷歌的 PaLM-E 等前沿具身智能研究，但構(gòu)建有意識(shí)的人工智能系統(tǒng)沒(méi)有明顯的障礙。
論文地址：https://arxiv.org/pdf/2308.08708.pdf
但這些結(jié)論也引發(fā)了一個(gè)新的問(wèn)題：我們真的「想」構(gòu)建有意識(shí)的 AI 嗎？
這篇論文由來(lái)自哲學(xué)、神經(jīng)科學(xué)和人工智能領(lǐng)域的 19 位作者共同完成，一作和通訊作者是來(lái)自牛津大學(xué)的 Patrick Butlin 和 Center for AI Safety 組織的 Robert Long。
以下是論文的內(nèi)容簡(jiǎn)介。
人工智能與「意識(shí)」
AI 系統(tǒng)是否具有意識(shí)這一問(wèn)題正變得越來(lái)越緊迫。隨著 AI 領(lǐng)域以驚人的速度取得進(jìn)展，領(lǐng)先的研究人員正受到人類大腦中與意識(shí)相關(guān)的功能的啟發(fā)，努力增強(qiáng) AI 的能力。與此同時(shí)，令人信服地模仿人類對(duì)話的 AI 系統(tǒng)的興起可能讓很多人相信與他們互動(dòng)的系統(tǒng)是有意識(shí)的。
在這篇論文中，作者認(rèn)為，要想知道 AI 中是否存在意識(shí)，最好是通過(guò)神經(jīng)科學(xué)意識(shí)理論來(lái)評(píng)估。他們描述了此類著名的理論并探究了這些理論對(duì) AI 的影響。
本文的主要貢獻(xiàn)表現(xiàn)在以下幾個(gè)方面：
首先，論文表明了 AI 中意識(shí)的評(píng)估在科學(xué)上是易于處理的，這是因?yàn)橐庾R(shí)可以通過(guò)科學(xué)的方式進(jìn)行研究，并且研究的發(fā)現(xiàn)適用于 AI；
其次，論文利用從科學(xué)理論中得出的一系列指標(biāo)屬性，提出了評(píng)估 AI 中意識(shí)的標(biāo)準(zhǔn)；
最后，論文提供了初步證據(jù)，證明使用當(dāng)前技術(shù)可以在人工智能系統(tǒng)中實(shí)現(xiàn)許多指標(biāo)屬性，盡管當(dāng)前 AI 系統(tǒng)似乎沒(méi)有一個(gè)表現(xiàn)出了強(qiáng)烈的意識(shí)屬性。
不過(guò)，作者也表示，他們提出的標(biāo)準(zhǔn)是臨時(shí)性的，并預(yù)計(jì)隨著研究的繼續(xù)，包含的指標(biāo)屬性將發(fā)生變化。
研究 AI 意識(shí)的三個(gè)主要原則
具體來(lái)講，作者用于 AI 意識(shí)研究的方法主要遵循以下三個(gè)原則。
首先，作者采用計(jì)算功能主義作為一種工作假設(shè)，即執(zhí)行正確類型的計(jì)算對(duì)于意識(shí)而言是必要且充分的。該理論是心靈哲學(xué)的主流立場(chǎng)，不過(guò)仍存有爭(zhēng)議。作者出于務(wù)實(shí)的考慮采用了這一假設(shè)：不同于其他觀點(diǎn)，它意味著在 AI 中，意識(shí)在原則上是可能存在的，并且研究 AI 系統(tǒng)的工作原理與確定它們是否可能具有意識(shí)相關(guān)。這意味著，如果計(jì)算功能主義成立，那么考慮其對(duì) AI 意識(shí)的影響將會(huì)是富有成效的。
其次，作者聲稱神經(jīng)科學(xué)意識(shí)理論具有有意義的實(shí)證支持，可以幫助評(píng)估 AI 中的意識(shí)。這些理論旨在確定對(duì)于人類意識(shí)必要且充分的功能，而計(jì)算功能主義意味著類似的功能對(duì)于 AI 中的意識(shí)也是充分的。
最后，作者認(rèn)為，偏理論的方法最適合研究 AI 中的意識(shí)，這包括研究 AI 系統(tǒng)是否執(zhí)行類似于科學(xué)理論中與意識(shí)相關(guān)的功能，然后根據(jù) (a) 功能的相似性、(b) 相關(guān)理論的證據(jù)強(qiáng)度和 (c) 一個(gè)人對(duì)計(jì)算功能主義的信任來(lái)分配信任度。這一方法的主要替代方法是使用意識(shí)行為測(cè)試，但并不可靠，畢竟 AI 系統(tǒng)可以被訓(xùn)練來(lái)模仿人類行為，同時(shí)以截然不同的方式工作。
目前，意識(shí)科學(xué)中存在多種理論，因此作者不支持任何一種理論。相反，他們從意識(shí)理論的調(diào)查中得到了一系列指標(biāo)屬性。這些指標(biāo)屬性中的每一個(gè)都被一個(gè)或多個(gè)理論認(rèn)為是意識(shí)的必要條件，并且某些指標(biāo)屬性的子集一同存在時(shí)就被認(rèn)為是充分的。然而，作者認(rèn)為擁有更多指標(biāo)屬性的 AI 系統(tǒng)更有可能具有意識(shí)。為了判斷現(xiàn)有的或擬議的 AI 系統(tǒng)是否具有意識(shí)，我們應(yīng)該評(píng)估它們是否具有或?qū)⒕哂羞@些指標(biāo)屬性。
具體地，作者討論的科學(xué)理論包括循環(huán)加工理論、全局工作空間理論和計(jì)算高階理論等。作者沒(méi)有考慮集成信息論，因?yàn)樗c計(jì)算功能主義不兼容。他們還考慮了代理與具身成為指標(biāo)屬性的可能性，不過(guò)這二者必須根據(jù)它們暗示的計(jì)算特征來(lái)理解。指標(biāo)屬性列表如下表 1 所示。
作者還列出了這些屬性所依據(jù)的理論，并在文中第 2 章節(jié)描述了支持這些屬性的證據(jù)和論據(jù)，詳細(xì)解釋了表中的設(shè)想。
在制定了指標(biāo)屬性列表之后，作者在 3.1 節(jié)中討論了如何利用每個(gè)指標(biāo)屬性來(lái)構(gòu)建 AI 系統(tǒng)或已經(jīng)構(gòu)建的 AI 系統(tǒng)是怎么做的。在大多數(shù)情況下，標(biāo)準(zhǔn)機(jī)器學(xué)習(xí)方法可以用于構(gòu)建擁有此列表中單個(gè)屬性的系統(tǒng)，盡管需要實(shí)驗(yàn)來(lái)學(xué)習(xí)如何構(gòu)建和訓(xùn)練結(jié)合多個(gè)屬性的功能性系統(tǒng)。
作者表示，現(xiàn)有的 AI 系統(tǒng)（比如使用算法遞歸的輸入模塊 RPT-1）顯然能夠滿足列表中的一些屬性。其他研究者還實(shí)驗(yàn)了旨在實(shí)現(xiàn)特定意識(shí)理論的系統(tǒng)，包括全局工作空間理論和注意圖式理論。
全局工作空間示意圖。
在 3.2 節(jié)中，作者考慮了現(xiàn)有一些特定的 AI 系統(tǒng)是否擁有上表中的指標(biāo)屬性，包括基于 Transformer 的大型語(yǔ)言模型和 Perceiver 架構(gòu)，并根據(jù)全局工作空間理論進(jìn)行分析。作者還分析了 DeepMind 的 Adaptive Agent（一個(gè)在 3D 虛擬環(huán)境中運(yùn)行的強(qiáng)化學(xué)習(xí)智能體）、谷歌的 PaLM-E（一個(gè)經(jīng)過(guò)訓(xùn)練可以操縱機(jī)器人的多模態(tài)視覺(jué)語(yǔ)言模型）。這些 AI 系統(tǒng)被用作案例研究來(lái)說(shuō)明有關(guān)代理與具身的指標(biāo)屬性。但結(jié)果并沒(méi)有表明任何現(xiàn)有 AI 系統(tǒng)是有意識(shí)的「有力候選者」。
DeepMind 的 Adaptive Agent
谷歌的 PaLM-E。
當(dāng)然，作者也指出，他們并沒(méi)有通過(guò)這篇論文給出很多問(wèn)題的最終結(jié)論，他們強(qiáng)烈建議大家進(jìn)一步研究意識(shí)科學(xué)及其在人工智能中的應(yīng)用。他們還呼吁社區(qū)盡快將構(gòu)建有意識(shí)的人工智能系統(tǒng)的道德和社會(huì)風(fēng)險(xiǎn)納入討論。他們考慮的證據(jù)表明，如果計(jì)算功能主義是正確的，有意識(shí)的人工智能系統(tǒng)實(shí)際上可以在近期內(nèi)建立起來(lái)。
更多細(xì)節(jié)內(nèi)容請(qǐng)參閱原論文。
