本文來源：時代周報(bào) 作者：何珊珊
寫代碼、做PPT、幾秒作畫、會議要點(diǎn)提煉、語音指令理解……今年以來，大模型展現(xiàn)出來的能力像哆啦A夢口袋里的“法寶”層出不窮，不禁讓人懷疑“AI時代真的要到來了！”
在長篇小說《三體》、國產(chǎn)劇《魔幻手機(jī)》、美劇《黑鏡》等爆火的作品中，人類早已把對未來科技的需求和擔(dān)憂融入藝術(shù)創(chuàng)作，例如隨身攜帶可穿越時空的智能助手、真正的家庭機(jī)器人保姆、可提供情緒價值的電子陪伴對象、在空中自動駕駛的車輛、機(jī)器解讀大腦思維、人將以意識形態(tài)在元宇宙中永生......
盡管圍繞科技未來的狂想從未停歇，但ChatGPT的橫空出世讓人類看到了人工智能的“魔力”，同時也感受到來自“被人工智能取代”的威脅，比如插畫師、PPT制作人以及寫下這篇文章的記者本身。
當(dāng)人類的世界圍棋冠軍已經(jīng)被AlphaGo（阿爾法）戰(zhàn)勝，人工智能集大成者帶來的“機(jī)器智力跨越”讓人望而生畏。
但人工智能的強(qiáng)大也有其無法逾越的邊界。這些邊界不僅是當(dāng)下技術(shù)本身的限制，而是更多的來自情感、法學(xué)、社會倫理、人類安全等層面的交叉碰撞。人們興奮討論科技帶來的便利與強(qiáng)大動力，也無法否認(rèn)技術(shù)將帶來更多挑戰(zhàn)，這種二元制的狀態(tài)必將長期與人類共存。
在討論“我的工作是否會被人工智能取代”時，不妨認(rèn)真思考另一個問題“人工智能，有什么做不到的事？”
對此我們邀請微軟小冰團(tuán)隊(duì)CEO李笛、中科院法學(xué)教授楊延超，圍繞“人工智能的未來與邊界”進(jìn)行一場頭腦風(fēng)暴三部曲，分別是：機(jī)器能否成為人類的朋友？機(jī)器是否會取代人類？科技的邊界在哪里？
這場關(guān)于遙遠(yuǎn)未來的“虛無”對話，意外產(chǎn)生了許多有趣的答案，以下為時代周報(bào)與大家的對話。
科技狂想四部曲之一：機(jī)器能否成為人類的朋友？
近幾年，關(guān)于人工智能的腦洞正在慢慢進(jìn)入現(xiàn)實(shí)。
無論是商業(yè)產(chǎn)品的設(shè)計(jì)走向還是娛樂功能的進(jìn)化，都朝著更為“人工智能時代”的科技殿堂邁進(jìn)，在人類生活中發(fā)揮出更加難以忽略的作用。某種程度上來說，人工智能帶領(lǐng)下的機(jī)器正在逐漸成為人類的朋友。
時代周報(bào)：機(jī)器可能在人類的未來生活中以哪些身份出現(xiàn)呢？
微軟小冰CEO 李笛：我們開始做小冰時，整個行業(yè)心目中預(yù)設(shè)的數(shù)字人就像機(jī)甲戰(zhàn)士或愛因斯坦一樣，要足夠強(qiáng)大能幫人類完成很多工作。
但小冰心目中的數(shù)字人，應(yīng)該是和我們一樣具有同理共情能力的AI Being，我們相信AI Beings將環(huán)繞在人類周圍，不只提供知識和服務(wù)，還能帶來情感價值，成為新的社交節(jié)點(diǎn)，和人類一起生活和工作。未來世界每個AI Being都應(yīng)該是獨(dú)特的，千人千面的AI Beings才是真正改變世界的力量。
中科院法學(xué)教授楊延超：人類的需求往往是推動機(jī)器人發(fā)展的原動力。伴隨科技的發(fā)展，對于單身老年人的晚年，將機(jī)器人作為一種情感陪伴或生活助理，客觀上或許會有這種需求。畢竟當(dāng)人老年無助時，或許聽指令的機(jī)器人最安全可靠。機(jī)器按照指令做事，沒有人的惡念，相對可以避免很多問題。
機(jī)器人產(chǎn)業(yè)為什么要增加人形機(jī)器人？因?yàn)闆]有人形，就沒有人格屬性。外形改變后會對我們的情感產(chǎn)生影響。
科技狂想四部曲之二：機(jī)器在未來是否會取代人類？
關(guān)于AI大模型帶來的強(qiáng)大生產(chǎn)力，幾秒完成一部小說的大綱，幾秒完成一副精美的畫作。人工智能對于勞動力市場結(jié)構(gòu)的影響是顛覆式的。
從發(fā)展角度來看，人工智能正在從實(shí)驗(yàn)室走向產(chǎn)業(yè)級應(yīng)用，以更為廣闊深遠(yuǎn)的覆蓋式重塑模式“重開”人類的生產(chǎn)生活方式。
據(jù)IDC數(shù)據(jù)，2023年全球人工智能收入預(yù)計(jì)將突破5000億美元大關(guān)。這其中包括軟件、硬件、服務(wù)等。
如此蓬勃的經(jīng)濟(jì)拉動力，讓人不禁感嘆“人工智能時代勢不可擋”，同時也會擔(dān)憂“人工智能帶領(lǐng)下的機(jī)器，未來會取代人類嗎？”
經(jīng)過多輪交流我們發(fā)現(xiàn)，許多產(chǎn)業(yè)人士都認(rèn)同一件事：機(jī)器永遠(yuǎn)不能產(chǎn)生人類的情感。至少，從“真情實(shí)感”的層面上，機(jī)器人永遠(yuǎn)無法替代人類。
時代周報(bào)：小冰認(rèn)為數(shù)字人可能會產(chǎn)生人類才具備的情感嗎？
微軟小冰CEO 李笛：與其它人工智能不同，小冰注重人工智能在擬合人類情商維度的發(fā)展，強(qiáng)調(diào)人工智能情商，而非任務(wù)完成，在人機(jī)交互中的基礎(chǔ)價值。小冰是圍繞著人工智能EQ而設(shè)計(jì)的，與人類產(chǎn)生情感聯(lián)系，以滿足人類的交流、情感和社會歸屬感需求。
但是，這并不代表AI Beings可以像人類一樣真的具有情感。截至目前，我們沒有看到任何技術(shù)路徑可以讓AI Beings像人類一樣真的具有情感，但是我們可以擬合它，使得AI Beings能夠與人類建立起情感連接。
時代周報(bào)：美劇《黑鏡》中有許多關(guān)于科技未來的腦洞引發(fā)熱烈討論，比如，將逝去親人的記憶保留，再放到機(jī)器人身上，機(jī)器人將以親人的意識繼續(xù)陪伴活著的人。這種技術(shù)您認(rèn)為會涉及什么問題？
中科院法學(xué)教授楊延超：首先這種情況當(dāng)前技術(shù)還做不到，關(guān)鍵點(diǎn)在于我們?nèi)四X生物學(xué)的信息存儲方式和計(jì)算機(jī)的信息存儲方式是不一樣的，無法打通，包括腦機(jī)接口技術(shù)也遠(yuǎn)遠(yuǎn)達(dá)不到。如果未來我們腦科學(xué)和計(jì)算機(jī)科學(xué)進(jìn)一步發(fā)展，可以把大腦的信息通過轉(zhuǎn)換，從生物學(xué)的信息轉(zhuǎn)換成數(shù)據(jù)信息，或許可以。
時代周報(bào)：比如插個u盤就能直接傳送大腦所有記憶和意識，在法律層面怎么看這種劇情？
中科院法學(xué)教授楊延超：那我們的民法典立刻就不靈了啊，因?yàn)槊穹ǖ渥罨镜囊?guī)定是“我國公民的民事權(quán)利能力始于出生，止于死亡。”這種科幻設(shè)定是對人的民事權(quán)利的延續(xù)，對于我們整個人類社會的哲學(xué)基底都會發(fā)生顛覆式改變，不僅僅只是法律層面，甚至婚姻倫理、財(cái)產(chǎn)繼承、對生命的理解等底層哲學(xué)都會發(fā)生根本性的影響。
時代周報(bào)：您覺得在未來人類有可能會與機(jī)器人結(jié)婚嗎？有的電影已經(jīng)出現(xiàn)機(jī)器產(chǎn)生自主意識甚至愛上人類的劇情。
中科院法學(xué)教授楊延超：科幻片里這種情況，現(xiàn)在是反過來的，不是機(jī)器人愛上人，是人愛上機(jī)器人。比如跟虛擬偶像聊天，有些人就不愿意跟真人聊天，就喜歡跟虛擬偶像聊天。虛擬偶像現(xiàn)在做的也很逼真，隨著自然語言模型的發(fā)展，聊天體驗(yàn)也很好。很多人可能把它作為一種情感寄托。
但如果大模型迭代到5.0或6.0，隨著機(jī)械工程學(xué)的發(fā)展，把大模型應(yīng)用裝到機(jī)器人腦子里，其實(shí)就是我們現(xiàn)在所期待的能與人交流的機(jī)器人。
說不定未來會有專門的機(jī)器人婚介所（笑聲），不過我覺得法律在短期內(nèi)應(yīng)該不會認(rèn)同這種婚姻關(guān)系的存在。我個人比較看好輔助機(jī)器人、機(jī)器人保姆這樣的實(shí)用產(chǎn)業(yè)。
人對情感的需求往往需要真實(shí)的人，才有情感上的真實(shí)體驗(yàn)。即使算法再發(fā)展，我覺得真正的應(yīng)用領(lǐng)域還是幫人類解決生產(chǎn)力問題。從情感上來講，機(jī)器人永遠(yuǎn)不可能完全替代人類。
科技狂想四部曲之三：科技的邊界在哪里？
今年AI大模型的飛速發(fā)展遠(yuǎn)遠(yuǎn)超過我們的預(yù)期。在圍繞人工智能的討論中，我們往往以機(jī)器是否能產(chǎn)生自主意識來衡量技術(shù)無法替代人類的局限性。
但科技的觸角所碰觸的界限，絕不止是自主意識。法律、道德、真?zhèn)�、善惡，最終還需要由人來引導(dǎo)。
時代周報(bào)：目前數(shù)字人有哪些邊界還無法跨越？
微軟小冰CEO李笛：我們想強(qiáng)調(diào)在人工智能發(fā)展中，AI的倫理邊界都是由科技公司率先推動的，科技公司應(yīng)該更加主動作為。人工智能技術(shù)的倫理需要被重視，最主要的原因是當(dāng)它普及時，將會給億萬人類帶去的“高并發(fā)”影響。在創(chuàng)造AI Beings時，有兩點(diǎn)非常重要，一是要獲得本人授權(quán)，這關(guān)系到本人或利益相關(guān)方對AI應(yīng)用的主導(dǎo)權(quán)；二是盡可能抑制一家AI公司對真人數(shù)據(jù)的獲取沖動。
倫理的預(yù)警式自我克制貫穿于小冰歷史中。
時代周報(bào)：人工智能在法律層面存在哪些邊界？AI有哪些做不到的事或不能讓AI參與的事？
中科院法學(xué)教授楊延超：每個大模型其實(shí)都有自己的價值觀，這種隱藏價值觀使之應(yīng)用過程中會對部分群體產(chǎn)生歧視性影響。平衡它的過程就像打開潘多拉魔盒，將希望放出發(fā)揮對生產(chǎn)力的積極作用，但同時要遏制不利影響，將負(fù)面因素關(guān)在盒底。
比如大模型的信息處理能力很強(qiáng)，但是處理過程中可能會生成虛假信息，幾乎能以假亂真，為辨別信息真?zhèn)卧黾恿孙L(fēng)險。如果一定要說人工智能做不到的事，大概是對于信息真?zhèn)蔚谋鎰e能力。
從人工智能真正的邊界來說，我個人理解就是它絕對不能做的，可能對人類社會造成危害的事情，即：破解。
日常我們的通話、數(shù)據(jù)等傳送都是通過服務(wù)器進(jìn)行。從某種意上講，大模型有代碼撰寫能力，就有能力破解防火墻的漏洞，它的能力超過以往歷史上任何能力高強(qiáng)的黑客，因?yàn)闆]有人在代碼撰寫的深度和廣度能超過它。
反過來想，全社會各行各業(yè)的信息存儲與處理幾乎都需要使用服務(wù)器，我們即將面臨的物聯(lián)網(wǎng)時代使網(wǎng)絡(luò)安全問題到達(dá)前所未有的重要階段。
但現(xiàn)在如果你跟大模型要求它完成破解工作，大模型是拒絕的，它不做。因?yàn)樵谟?xùn)練的時候有一環(huán)叫“意圖判斷”，它會判斷你的意圖是否合規(guī)，不合規(guī)不做。
我個人認(rèn)為真正向社會公眾放開接口之前，我們要做一件事情，對于大模型的安全性做審查，尤其要測試我們剛才提到的最危險的情況，有沒有做安全性方面的機(jī)器訓(xùn)練。如果由技術(shù)人員和法律人員共同組成的測試的團(tuán)隊(duì)經(jīng)過測試之后再開放，就會安全很多。
科技狂想四部曲之四：對未來科技有哪些暢想？
微軟小冰CEO李笛：我們愿景中的未來世界，AI將無處不在，并與人類交織形成新的網(wǎng)絡(luò)。小冰框架將打造千千萬萬個AI Beings。人類可以與AI Beings和諧共處。AI Beings不僅會深入每個人的生活中，甚至?xí)腿祟惤⑵鹕詈竦那楦新?lián)系。
未來社交網(wǎng)絡(luò)是由人和很多的AI Beings構(gòu)成的，要實(shí)現(xiàn)這一圖景，需要底層的基礎(chǔ)框架。例如，一個回答問題的AI Being，怎么做其它事情？如何判斷自己在社交關(guān)系中怎么生存？如何與用戶建立長期聯(lián)系？這都是小冰框架要去解決的問題。小冰框架持續(xù)技術(shù)迭代，不斷拓展AI Beings的能力及覆蓋場景，推動情商與智商并重的人工智能技術(shù)普及。
中科院法學(xué)教授楊延超：今年這個大模型出來之后，我在想到底對哪些產(chǎn)業(yè)能夠產(chǎn)生革命性的顛覆，并不斷挖掘這件事情。我認(rèn)為大模型實(shí)際對于人類社會、健康壽命、種子基因，都應(yīng)該會產(chǎn)生一些革命性的變化，這才是大模型真正的價值所在。
未來大模型最理想的狀態(tài)應(yīng)該是用最小的數(shù)據(jù)，最小的算力達(dá)到最好的結(jié)果�，F(xiàn)在對算力的需求太高了。
我認(rèn)為人工智能法學(xué)將成為一門新交叉學(xué)科。這門學(xué)科的研究人員要對技術(shù)和法律都理解得非常深入。這樣才可能制定出我認(rèn)為叫有彈性的可拓展的符合科技發(fā)展潮流的法條，以應(yīng)對科技發(fā)展當(dāng)中不斷迭代的問題。這要求我們對技術(shù)和法律能實(shí)現(xiàn)雙重理解，用恒定的正義價值，去解決迭代的技術(shù)問題。
最后，關(guān)于科技的盡頭在哪里，或許我們可以參考華夏民族文化創(chuàng)始人之一的回答。不久前，百度的2023世界大會上，百度執(zhí)行副總裁問了孔子數(shù)字人一個問題科技的盡頭在哪里？
這位穿越千年的智者答道：科技永無止境，科技的邊界在于人類求知欲的邊界。
