7月18日,聯合國教科文組織(UNESCO)在法國巴黎舉行的“國際生物倫理委員會”(IBC)會議發(fā)表報告,警告埃隆馬斯克首創(chuàng)的腦芯片技術可能會被濫用于“神經監(jiān)控”,侵犯“精神隱私”,甚至“實施各種形式的強制再教育”,威脅到全世界的人權。
據報道,近兩個月前,美國食品藥品管理局(FDA)批準馬斯克的大腦芯片植入公司Neuralink進行人體試驗。
馬斯克一直強調Neuralink在治療多種嚴重疾病方面的潛力。
馬斯克一直強調Neuralink在治療癱瘓、失明、肥胖癥、自閉癥、抑郁癥和精神分裂癥等嚴重疾病方面的潛力,偶爾也會強調一些比較瑣碎的應用,比如網頁瀏覽或“心靈感應”。
但聯合國教科文組織國際生物倫理委員會特別提請注意“雙重用途”人工智能腦芯片技術帶來的威脅,因為這些技術很容易被重新編程或改造,用于對人類大腦不那么有益的應用。
聯合國教科文組織在巴黎舉行“國際生物倫理委員會”(IBC)會議。
委員會發(fā)布的報告警告說,像Neuralink這樣的神經技術如果不受監(jiān)管,將導致“通過神經成像監(jiān)控和操縱人類心理的新可能性”和“改變人格”的技術。
聯合國教科文組織目前正在制定一個全球性的“倫理框架”,以保護人類免受這項技術可能被濫用的影響,他們擔心人工智能的進步會加速這種濫用。
聯合國教科文組織負責社會和人文科學的助理總干事加芙列拉拉莫斯。
聯合國教科文組織負責社會和人文科學的助理總干事加芙列拉拉莫斯(Gabriela Ramos)表示,鑒于神經技術的突破可以“直接操縱”人類的“大腦機制”,“作為其意圖、情感和決策的基礎”,其影響“深遠且可能有害”。
據悉,Neuralink 植入物這樣的神經技術通過縫在大腦某些區(qū)域的線狀電極將大腦與計算機連接起來。
Neuralink通過縫在大腦某些區(qū)域的線狀電極將大腦與計算機連接起來。
Neuralink的電極將與芯片通信,讀取大腦中被稱為“神經元”的特殊細胞產生的信號。
由于神經元信號可以直接轉化為運動控制,Neuralink 可以讓人類用意念控制計算機或智能手機等外部技術,或者控制失去的身體功能或肌肉運動。
馬斯克曾表示,這就像用智能手表取代了一塊頭骨。
但正如聯合國教科文組織小組所警告的那樣,這些通信途徑是雙向的。
今年5月,美國得克薩斯大學奧斯汀分校的科學家透露,他們能夠訓練人工智能有效地讀懂人的思想,通過功能性磁共振成像(fMRI)將測試對象的大腦數據轉換成書面文字。
聯合國教科文組織專門研究人工智能問題的經濟學家斯奎恰里尼(Mariagrazia Squicciarini)指出,機器學習算法能夠從復雜數據(如fMRI腦部掃描數據)中快速提取模式,這將加速腦芯片進入人類大腦。
事實上,Neuralink 一直是美國國會審查的對象,四年來,FDA曾多次拒絕Neuralink的人體試驗審批申請,最近一次是在2022年初。
國際生物倫理委員會在其長達 91 頁的報告中提出了大量建議,其中包括呼吁工業(yè)界和學術界提高神經技術研究的透明度,以及起草“神經權”以納入國際人權法。
國際生物倫理委員會的報告將新技術描述為對“人類尊嚴的某些基本方面,如精神生活隱私或個人能動性”的挑戰(zhàn)。
報告認為,必須采取措施防止神經技術被用于雙重用途,這樣對醫(yī)學有益的神經技術就不會被黑客、企業(yè)暴發(fā)戶甚至政客所扭曲。
聯合國教科文組織會議的大多數發(fā)言人都表示強烈支持建立一個類似于聯合國教科文組織《人工智能倫理建議書》的神經技術行動框架。
文/南都記者 陳林