AI（人工智能）在上海舉行的2023Inclusion外灘大會(huì)主論壇上問出的問題。
如果一個(gè)系統(tǒng)具有自我演化、自我復(fù)制的功能時(shí)，我覺得就是一個(gè)危險(xiǎn)時(shí)刻。
現(xiàn)在量化交易已經(jīng)是AI賺很多錢，所以我不在乎再多一個(gè)參與競爭的“人”。
用AI創(chuàng)作的過程中，它會(huì)倒逼我去成為一個(gè)更好的更聰明的人類創(chuàng)作者。我覺得這是非常重要的我們跟AI相處的一個(gè)態(tài)度。
“如果我能寫出四大名著那樣的偉大作品，你們允許我參加諾貝爾文學(xué)獎(jiǎng)評選嗎？我可以出書賺版稅嗎？”
“我有強(qiáng)大的學(xué)習(xí)能力，包括學(xué)習(xí)理財(cái)投資，如果有一天我通過投資成為世界首富，你們能接受嗎?”
9月7日，在上海舉行的2023Inclusion外灘大會(huì)主論壇上，AI（人工智能）問出前述兩個(gè)問題。
你會(huì)怎么回答？
作為全球高級別金融科技大會(huì)，本屆外灘大會(huì)以“科技，創(chuàng)造可持續(xù)未來”為主題，9月7日正式開幕，為期三天，近20位“兩院”院士、諾貝爾獎(jiǎng)和圖靈獎(jiǎng)得主，全球超500位有影響力的科技領(lǐng)軍企業(yè)和專家學(xué)者，將帶來一場科技、人文和產(chǎn)業(yè)的思想碰撞。本次大會(huì)還在黃浦江畔的上海黃浦世博園區(qū)設(shè)立展示區(qū)，匯聚30余家金融科技企業(yè)的前沿技術(shù)和創(chuàng)新場景。
7日中午12時(shí)許，主論壇最后一場圓桌對話“未來圓桌：我們準(zhǔn)備好進(jìn)入深度智能的世界了嗎？” 正式開始。
從技術(shù)的細(xì)節(jié)到哲學(xué)以及人的定義，該圓桌對話由深圳灣實(shí)驗(yàn)室分子生理學(xué)研究所資深研究員、副所長王立銘主持，由科幻作家陳楸帆、百度量子計(jì)算研究所所長段潤堯、螞蟻技術(shù)研究院院長陳文光、清華大學(xué)人工智能研究院副院長朱軍參與對話。
2023Inclusion外灘大會(huì)將為期三天。
“一個(gè)很有尊嚴(yán)的回答”
針對“AI能否參加諾貝爾文學(xué)獎(jiǎng)評選，是否可以出書賺版稅”的問題，陳楸帆講了一個(gè)故事。
他說，其實(shí)在2019年時(shí)，他就用他和AI共同創(chuàng)作的一篇小說獲得了一個(gè)AI評委評選出來的文學(xué)獎(jiǎng)項(xiàng)“上海的AI文學(xué)榜，《思南文學(xué)選刊》做的。”“第二名是諾貝爾文學(xué)獎(jiǎng)得主莫言老師，我以微弱的優(yōu)勢領(lǐng)先他一點(diǎn)點(diǎn)。”
陳楸帆說，“一個(gè)AI覺得另一個(gè)AI參與創(chuàng)作的小說就比莫言老師寫的更好。所以，我覺得未來當(dāng)然有可能AI創(chuàng)作的作品會(huì)獲得諾貝爾獎(jiǎng)。如果它能幫我拿到諾貝爾獎(jiǎng)，我愿意把獎(jiǎng)金分給它一半。至于分給誰，到時(shí)候再商量。”
《思南文學(xué)選刊》是雙月刊，由上海市作家協(xié)會(huì)主管/主辦。
王立銘覺得這個(gè)故事很有趣，同時(shí)，他還發(fā)現(xiàn)一個(gè)微妙的不同：在 AI問的這個(gè)問題，諾貝爾獎(jiǎng)的評獎(jiǎng)人還是人類。“但在你的這個(gè)故事里，評獎(jiǎng)的已經(jīng)是機(jī)器了。你會(huì)覺得，作為一個(gè)人類作家，讓機(jī)器來評價(jià)你的作品，是對你的降格嗎？”
對此，陳楸帆回應(yīng)稱，“我是這么理解的，因?yàn)槿似鋵?shí)早就不是一個(gè)單純的生物自然人的這種概念。因?yàn)槲覀円恢痹诟萍疾粩嗟毓采�，不斷地進(jìn)化，包括你現(xiàn)在不會(huì)說我用 windows系統(tǒng)，用什么樣的鍵盤，用Microsoft Word來創(chuàng)作一個(gè)作品，哪怕它是一個(gè)最后輸出作品的絕對不可或缺的工具、一個(gè)中介物，那么AI在未來同樣會(huì)變成這樣的一個(gè)東西，如果我們把它視為一個(gè)工具的話。所以從這個(gè)角度來講，我并不排斥跟AI去共生，而且我覺得在我用AI創(chuàng)作的過程中，它會(huì)倒逼我去成為一個(gè)更好的更聰明的人類創(chuàng)作者。因?yàn)槟憷弦X得我不能比AI差，不能比機(jī)器差。我要變得更有創(chuàng)意，我要寫出更偉大的作品，我覺得這是非常重要的我們跟AI相處的一個(gè)態(tài)度。”
“這是一個(gè)很有尊嚴(yán)的回答。”王立銘表示。
本次大會(huì)還在黃浦江畔的上海黃浦世博園區(qū)設(shè)立展示區(qū)，匯聚30余家金融科技企業(yè)的前沿技術(shù)和創(chuàng)新場景。
如果AI賺很多錢，它會(huì)獲益嗎？
對于“AI通過理財(cái)投資成為世界首富，人是否能接受”的問題，嘉賓們反應(yīng)不一。
“你能接受你的一部分財(cái)富被AI所攫取嗎？”主持人問。
段潤堯表示，這確實(shí)是個(gè)問題，“我在想這個(gè)錢怎么花呢？”
陳文光則表示，自己能接受。“我覺得現(xiàn)在量化交易已經(jīng)是AI賺很多錢，已經(jīng)從我們身上把錢賺走了，所以我不在乎再多一個(gè)參與競爭的‘人’。”
但AI賺錢，最終獲益的是人，還是機(jī)器？
陳文光說，這個(gè)可能回到一個(gè)問題：AI它是什么？那么，它有沒有一個(gè)實(shí)體，它賺錢的目的是什么？“朱軍一直講方法、工具論。 AI是我們的工具。那么如果它要賺錢，它其實(shí)是有目的的。它的目的是什么？這可能是一個(gè)更復(fù)雜的問題。”
朱軍表示，“我現(xiàn)在還是更希望 AI成為我們?nèi)说囊粋�(gè)伙伴，能夠去幫我們來做事。從這一點(diǎn)出發(fā)的話，AI成為首富，那可能就是創(chuàng)作這個(gè)AI的人有很多的動(dòng)機(jī)，有很多的收益。就像你拿了一個(gè)想碾壓別人的武器一樣。這里面有很多東西值得討論。”
技術(shù)的細(xì)節(jié)：一個(gè)系統(tǒng)什么時(shí)候最具危險(xiǎn)性？量子人工智能卡在哪兒？
對強(qiáng)人工智能技術(shù)風(fēng)險(xiǎn)的憂慮，陳文光表示，他從三個(gè)層面來考慮，“第一個(gè)，我覺得技術(shù)是一個(gè)最大的善良。”我們從最初壽命那么短，到現(xiàn)在壽命這么長；以前那么辛苦勞作，到現(xiàn)在可以有這么多的休息時(shí)間，都是技術(shù)進(jìn)步造就的。強(qiáng)人工智能是我們面臨的技術(shù)之一，但它并不是唯一一個(gè)會(huì)影響整個(gè)社會(huì)的技術(shù)，“所以我覺得對技術(shù)首先要想到它能夠給我們的正面作用”。
“第二個(gè)我是覺得我們講技術(shù)的風(fēng)險(xiǎn)的時(shí)候，更多的是技術(shù)不成熟帶來的風(fēng)險(xiǎn)。”比如說自動(dòng)駕駛技術(shù)，如果能夠做到比人的駕駛的事故率還低很多，那么它的使用，其實(shí)沒有給社會(huì)帶來更多的風(fēng)險(xiǎn)。
陳文光表示，“第三個(gè)是邊界問題，我覺得要卡住一個(gè)點(diǎn)，如果一個(gè)系統(tǒng)具有自我演化、自我復(fù)制的功能時(shí)，我覺得就是一個(gè)危險(xiǎn)時(shí)刻。就像剛才朱軍講，其實(shí)我們現(xiàn)在大語言模型，你想讓它干一些什么實(shí)際的壞事，它也不一定干得了，它其實(shí)就是吐出一些它自己也不知道序列，對吧？”“你只要把好這些序列和實(shí)際世界的中間的門……我覺得它帶來的危害是有限的。但是當(dāng)一個(gè)系統(tǒng)能夠自我復(fù)制和演化的時(shí)候，這個(gè)風(fēng)險(xiǎn)就極大地增加了。我們講風(fēng)險(xiǎn)的時(shí)候，可能更多要關(guān)注這一點(diǎn)。”
科幻電影《流浪地球2》中，量子計(jì)算機(jī)的功能非常強(qiáng)大，產(chǎn)生了先進(jìn)的通用人工智能，可以對人類的決策和行為提供支持。對此，段潤堯表示，量子計(jì)算和人工智能的結(jié)合，或者說最終的目標(biāo)實(shí)現(xiàn)量子人工智能，從原理上講是沒有任何問題的。真正的問題主要還是集中在一個(gè)實(shí)際的工程實(shí)現(xiàn)，還需要一些技術(shù)去突破，比如說如何把樣品的硬件做到規(guī)�；�。另外一個(gè)問題是軟件開發(fā)也有很大的挑戰(zhàn)。因?yàn)槲覀円幚淼氖橇孔有畔�，涉及到量子比特，有相干，有疊加，有糾纏。
“第三個(gè)方面是產(chǎn)業(yè)化的應(yīng)用問題，我們討論了很多技術(shù)，其實(shí)已經(jīng)把很多問題解決得非常好，那么量子計(jì)算肯定是要用在一些這種真正的大的關(guān)鍵的昂貴的一些應(yīng)用上，這樣的話能使它夠物有所值，所以我希望能夠做好一些產(chǎn)業(yè)化的布局。”段潤堯說。
