人工智能驅(qū)動(dòng)的神經(jīng)技術(shù)發(fā)展如此之迅猛，聯(lián)合國(guó)組織也在醞釀對(duì)其進(jìn)行全球監(jiān)管。
13日，聯(lián)合國(guó)教科文組織（UNESCO）舉辦國(guó)際會(huì)議探索神經(jīng)技術(shù)在解決難治性神經(jīng)系統(tǒng)和精神障礙問(wèn)題上的巨大潛力，并將開始制定針對(duì)神經(jīng)技術(shù)的“通用道德框架”。
負(fù)責(zé)撰寫UNESCO《神經(jīng)技術(shù)倫理問(wèn)題報(bào)告》的主要作者斯奎恰里尼（Mariagrazia Squicciarini）表示：“當(dāng)你添加AI時(shí)，你就給神經(jīng)技術(shù)注入了類固醇。”
神經(jīng)技術(shù)，包括用于診斷和治療大腦相關(guān)疾病的植入物，正在開始改善殘疾人的生活，但對(duì)基于人工智能（AI）程序的投資增加，這些程序可以讀取人們的思想并存儲(chǔ)神經(jīng)數(shù)據(jù)，這引起了人們對(duì)其使用的擔(dān)憂。
為全球倫理框架奠定基礎(chǔ)
神經(jīng)技術(shù)可以幫助人類解決許多健康問(wèn)題，但它也可能觸及并操控大腦結(jié)構(gòu)，生成與我們的身份、情感相關(guān)的信息。聯(lián)合國(guó)方面認(rèn)為，急需在全球?qū)用鏋樯窠?jīng)技術(shù)行業(yè)建立共同的倫理框架，此前UNESCO已經(jīng)在人工智能領(lǐng)域完成了這一任務(wù)。
據(jù)悉，在13日舉行的UNESCO國(guó)際會(huì)議上，各方將探索神經(jīng)技術(shù)在解決難治性神經(jīng)系統(tǒng)和精神障礙問(wèn)題上的巨大潛力及其威脅。
該會(huì)議的最終目標(biāo)是促進(jìn)更好地理解與神經(jīng)技術(shù)治理相關(guān)的倫理問(wèn)題，為制定倫理框架做準(zhǔn)備。該框架將由UNESCO的會(huì)員國(guó)審議并投票表決。有關(guān)程序?qū)⒆裱愃朴赨NESCO為人類基因組（1997年）、人類基因數(shù)據(jù)（2003年）和AI（2021年）建立全球倫理框架的方法。
UNESCO認(rèn)為，生成式AI有關(guān)最新發(fā)展，以及AI技術(shù)的普及和其對(duì)人類、民主和就業(yè)構(gòu)成的風(fēng)險(xiǎn)，這些都證實(shí)了其制定的AI倫理全球標(biāo)準(zhǔn)的有效性和及時(shí)性。神經(jīng)數(shù)據(jù)和AI的融合將帶來(lái)更為嚴(yán)峻的挑戰(zhàn)。
歐洲工商管理學(xué)院（INSAED）的決策科學(xué)和技術(shù)管理教授埃夫根尼奧（Theos Evgeniou）對(duì)第一財(cái)經(jīng)記者解釋道，生成性AI涉及人類語(yǔ)言和人類身份。而人類語(yǔ)言是幫助我們定義“我們是誰(shuí)”和“我們做什么”的重要部分。因此，如果技術(shù)可以模仿那些能夠定義人類身份認(rèn)同的東西，就帶來(lái)了新潛在風(fēng)險(xiǎn)和新可能性。
“譬如像ChatGPT這樣的生成性AI技術(shù)是所謂‘根基模型’（foundation models）。人們可以在這種模型的基礎(chǔ)上開發(fā)大量產(chǎn)品，并能夠進(jìn)行微調(diào)。換言之，它們不是單純的產(chǎn)品，而是核心技術(shù)，是人們可以開發(fā)的產(chǎn)品之核心所在。這種核心技術(shù)本身已經(jīng)非常強(qiáng)大，我們甚至無(wú)法預(yù)測(cè)人們將依靠它們開發(fā)出什么。我們也從未仔細(xì)考慮過(guò)如何管控和規(guī)范根基模型。這是一種新概念。”他解釋道。
神經(jīng)技術(shù)更是如此。神經(jīng)技術(shù)涵蓋任何用于“訪問(wèn)、監(jiān)測(cè)、調(diào)查、評(píng)估、操縱和/或模擬動(dòng)物或人類神經(jīng)系統(tǒng)的結(jié)構(gòu)和功能”的設(shè)備和程序。神經(jīng)技術(shù)設(shè)備包括“可穿戴設(shè)備”，如智能手表和手環(huán)，以及非侵入式腦機(jī)接口，如機(jī)械肢體，及目前正在開發(fā)的用于治療癱瘓等殘障的腦植入物。
根據(jù)UNESCO給出的數(shù)據(jù)，全球每8人中就有1人患有精神或神經(jīng)障礙，相關(guān)治療費(fèi)用占到發(fā)達(dá)國(guó)家總醫(yī)療支出的三分之一，在中低收入國(guó)家也成為日益沉重的負(fù)擔(dān)。
世衛(wèi)組織的數(shù)據(jù)則顯示，到2050年，60歲以上人口預(yù)計(jì)將翻番，達(dá)到21億，上述支出亦將持續(xù)增長(zhǎng)。神經(jīng)技術(shù)有降低癲癇、阿爾茨海默并帕金森病和中風(fēng)等神經(jīng)系統(tǒng)障礙導(dǎo)致的死亡和殘障的巨大潛力。
UNESCO認(rèn)為，然而，如果沒有倫理護(hù)欄，這些技術(shù)可能會(huì)帶來(lái)嚴(yán)重風(fēng)險(xiǎn)，因?yàn)榇竽X信息可以被訪問(wèn)和操縱，威脅到基本權(quán)利和自由，而這些是人類身份、思想自由、隱私、記憶等概念的核心。
加劇全球不平等并產(chǎn)生新的不平等風(fēng)險(xiǎn)
UNESCO的數(shù)據(jù)顯示，目前，50%的神經(jīng)技術(shù)公司位于美國(guó)，35%位于歐洲和英國(guó)。由于神經(jīng)技術(shù)可能引領(lǐng)新一代的“超級(jí)人類”，這將進(jìn)一步擴(kuò)大國(guó)家之間在教育、技能和財(cái)富方面的差距，使擁有最先進(jìn)技術(shù)的人獲得不公平的優(yōu)勢(shì)。
根據(jù)其研究人員估計(jì)，自2010年以來(lái)的10年間，對(duì)Onward Medical和馬斯克的 Neuralink等神經(jīng)科技公司的私人投資增加了二十多倍，到2020年達(dá)到73億美元。到2027年，神經(jīng)科技設(shè)備市場(chǎng)預(yù)計(jì)將超過(guò)240億美元。
神經(jīng)科學(xué)論文數(shù)量從2011年的57899篇增加到2021年的94456篇，而全球與神經(jīng)技術(shù)相關(guān)的專利從2010年的418項(xiàng)增加到2020年的1531項(xiàng)。
紐約哥倫比亞大學(xué)神經(jīng)技術(shù)中心主任尤斯特（Rafael Yuste）是一位領(lǐng)先的神經(jīng)生物學(xué)家，也是“保護(hù)精神隱私”國(guó)際監(jiān)管的倡導(dǎo)者。
他表示，在去年發(fā)表的四項(xiàng)研究中，并非所有研究都經(jīng)過(guò)同行評(píng)審，“研究人員使用不需要神經(jīng)外科手術(shù)插入的非侵入性設(shè)備，解碼了人類志愿者大腦中的語(yǔ)音和圖像”。
“所有四項(xiàng)研究都采用了先進(jìn)的人工智能模型來(lái)解碼大腦數(shù)據(jù)，”尤斯特說(shuō)，“新算法將使人們能夠解碼高度敏感的信息，這使得保護(hù)心理隱私變得更加緊迫。”
他補(bǔ)充說(shuō)，監(jiān)管是必要的，因?yàn)?ldquo;美國(guó)和加拿大的神經(jīng)科技公司幾乎無(wú)一例外地在其消費(fèi)者用戶協(xié)議中完全擁有客戶神經(jīng)數(shù)據(jù)”。
“我們需要保護(hù)精神財(cái)產(chǎn)否則公司將開始儲(chǔ)存大腦數(shù)據(jù)。他們今天可能無(wú)法解碼它，但人工智能明天將使他們能夠解碼它。”他表示。
尤斯特自己的實(shí)驗(yàn)室已經(jīng)解碼并操縱了小鼠視覺皮層的神經(jīng)處理，以便研究人員能夠“植入幻覺”讓它們看到他們實(shí)際上沒有看到的東西。
斯奎恰里尼表示：“我們并不反對(duì)神經(jīng)技術(shù)或要求暫停研究，因?yàn)樗哂袦p少神經(jīng)系統(tǒng)疾病造成的死亡和殘疾的巨大潛力。但我們需要一種全球協(xié)調(diào)的神經(jīng)技術(shù)監(jiān)管方法，不僅在醫(yī)學(xué)領(lǐng)域，而且在消費(fèi)市常”
要看到的是，神經(jīng)數(shù)據(jù)，即捕捉個(gè)體反應(yīng)和基本情緒的數(shù)據(jù)，在消費(fèi)市場(chǎng)上需求旺盛。與社交媒體平臺(tái)收集的數(shù)據(jù)不同，大部分神經(jīng)數(shù)據(jù)是在無(wú)意識(shí)狀態(tài)下生成，因此無(wú)法許可其使用。如果敏感數(shù)據(jù)被提取，然后落入壞人之手，個(gè)體將承受其有害后果。
UNESCO并表示，在兒童或青少年仍處于神經(jīng)發(fā)育重要階段時(shí)植入腦機(jī)接口可能會(huì)干擾大腦的“正常”發(fā)育。它可能會(huì)改變年輕人的思維，影響人格塑造，并產(chǎn)生長(zhǎng)期甚至永久的影響。
