編者按
近年來(lái)，隨著人工智能、高性能計(jì)算、邊緣計(jì)算等技術(shù)的持續(xù)突破，計(jì)算機(jī)領(lǐng)域掀起了新一輪的變革浪潮。以往被視為遙不可及的智能化愿景，如今正逐漸成為現(xiàn)實(shí)。與此同時(shí)，此輪浪潮也帶來(lái)了數(shù)據(jù)安全、隱私保護(hù)、倫理道德等一系列亟待解決的挑戰(zhàn)。
如何擁抱技術(shù)革新？如何確保技術(shù)可持續(xù)發(fā)展？如何在創(chuàng)新與責(zé)任之間尋找平衡點(diǎn)？日前，封面新聞?dòng)浾邔ＴL多位圖靈獎(jiǎng)得主。本期獨(dú)家對(duì)話約瑟夫希發(fā)基思（Joseph Sifakis）。
對(duì)話人物
約瑟夫希發(fā)基思，1946年出生于希臘，中國(guó)科學(xué)院外籍院士，美國(guó)人文與科學(xué)院外籍院士，美國(guó)國(guó)家工程院外籍院士，美國(guó)國(guó)家科學(xué)院外籍院士，法國(guó)科學(xué)院院士，法國(guó)Verimag實(shí)驗(yàn)室榮譽(yù)科研主任，中國(guó)南方科技大學(xué)杰出訪問(wèn)教授。
2007年圖靈獎(jiǎng)得主約瑟夫希發(fā)基思。受訪者供圖
美國(guó)計(jì)算機(jī)協(xié)會(huì)（ACM）將2007年圖靈獎(jiǎng)授予愛(ài)德蒙克拉克、艾倫愛(ài)默生和約瑟夫希發(fā)基思，以表彰將模型檢測(cè)（Model Checking）發(fā)展成為一種高度有效的驗(yàn)證技術(shù)。該技術(shù)已經(jīng)被廣泛應(yīng)用于計(jì)算機(jī)硬件、軟件、通信協(xié)議、安全認(rèn)證協(xié)議等領(lǐng)域，成為分析、驗(yàn)證并發(fā)系統(tǒng)性質(zhì)的重要技術(shù)。
對(duì)話獎(jiǎng)項(xiàng)
圖靈獎(jiǎng)（Turing Award），美國(guó)計(jì)算機(jī)協(xié)會(huì)于1966年設(shè)立，目的之一是紀(jì)念世界計(jì)算機(jī)科學(xué)先驅(qū)、英國(guó)曼徹斯特大學(xué)教授艾倫圖靈。
圖靈獎(jiǎng)獎(jiǎng)杯。圖片來(lái)源：圖靈獎(jiǎng)網(wǎng)站
作為計(jì)算機(jī)界最負(fù)盛名的獎(jiǎng)項(xiàng)，圖靈獎(jiǎng)有“計(jì)算機(jī)界諾貝爾獎(jiǎng)”之稱。圖靈獎(jiǎng)對(duì)獲獎(jiǎng)?wù)叩囊髽O高，獲獎(jiǎng)?wù)弑仨氃谟?jì)算機(jī)領(lǐng)域作出卓越且影響深遠(yuǎn)的貢獻(xiàn)。其評(píng)獎(jiǎng)程序也極嚴(yán)，一般每年只獎(jiǎng)勵(lì)一位計(jì)算機(jī)科學(xué)家，只有極少數(shù)年度有兩名以上在同一方向上作出貢獻(xiàn)的科學(xué)家同時(shí)獲獎(jiǎng)。
正文
“人工智能目前只處于‘嬰兒期’，離實(shí)現(xiàn)人工通用智能還有很遠(yuǎn)的距離。”圖靈獎(jiǎng)得主約瑟夫希發(fā)基思在接受封面新聞專訪時(shí)認(rèn)為，AI暫時(shí)并無(wú)主宰人類的意愿和能力，它們只是拔掉電源就無(wú)法工作的機(jī)器。
但他同時(shí)強(qiáng)調(diào)了AI的潛在風(fēng)險(xiǎn)，“如果人類過(guò)度依賴機(jī)器進(jìn)行決策，將喪失部分技能與智力，成為‘奴隸的奴隸’。”
他還特別提到越來(lái)越多的孩子借助ChatGPT等AI軟件完成作業(yè)，認(rèn)為“這十分危險(xiǎn)”。
在通過(guò)封面新聞寄語(yǔ)年輕人時(shí)，他建議年輕人努力培養(yǎng)自己的創(chuàng)造力，因?yàn)樗c創(chuàng)新精神、批判性思維和領(lǐng)導(dǎo)力緊密相連。
談AI發(fā)展階段：
目前仍處于“嬰兒期 ”
“中國(guó)可以利用自身龐大的工業(yè)系統(tǒng)，在邁向自主人工智能的道路上取得領(lǐng)先地位。”這是今年3月，約瑟夫希發(fā)基思在中國(guó)發(fā)展高層論壇期間提出的觀點(diǎn)。
在科技迅速發(fā)展的當(dāng)下，關(guān)于人工智能（AI）能力及其對(duì)人類未來(lái)的影響，存在諸多討論，其中一些觀點(diǎn)認(rèn)為人工智能超越人類智能的“奇點(diǎn)”（Singularity Point）即將到來(lái)，機(jī)器甚至可能將統(tǒng)治人類。
而在希發(fā)基思看來(lái)，這顯然是無(wú)稽之談。他認(rèn)為，盡管AI在近幾年取得了很大的進(jìn)步，但目前仍處于“嬰兒期”，離實(shí)現(xiàn)人工通用智能（Artificial General Intelligence, AGI）還有很遠(yuǎn)的距離。
AGI被認(rèn)為是強(qiáng)人工智能的一種表現(xiàn)形式，但希發(fā)基思認(rèn)為，這只是科技公司提出的概念，很難去定義什么是真正的AGI，因?yàn)槿祟惸壳安⒉恢繟I將會(huì)向何處發(fā)展。
希發(fā)基思表示，人們總是樂(lè)此不疲地談?wù)撊斯ぶ悄�，但大多�?shù)人對(duì)智能沒(méi)有清晰的概念。在人工智能出現(xiàn)之前，智能的定義就已經(jīng)存在�！杜＝蛟~典》將智能定義為學(xué)習(xí)、理解和理性思考世界的能力。
他向封面新聞?dòng)浾弑硎荆壳癆I能力還比較弱，它只提供了構(gòu)建智能系統(tǒng)的要素，但人們并不具備綜合這些要素的原理和技術(shù)。
他認(rèn)為，未來(lái)信息通信領(lǐng)域技術(shù)和AI之間的加速融合，會(huì)導(dǎo)致自主系統(tǒng)的產(chǎn)生。“當(dāng)人們可以搭建出能可靠地替代人類執(zhí)行任務(wù)的自主系統(tǒng)時(shí)，就說(shuō)明機(jī)器智能已經(jīng)接近人類智能。這將是從弱AI跨越到AGI的一大步，自主系統(tǒng)將超越機(jī)器學(xué)習(xí)系統(tǒng)。”
此外，希發(fā)基思對(duì)AI將統(tǒng)治人類的言論也持否定態(tài)度。他認(rèn)為，AI暫時(shí)并沒(méi)有主宰人類的意愿和能力。問(wèn)題的關(guān)鍵是人類要權(quán)衡機(jī)器在生活中扮演何種角色。過(guò)度依賴機(jī)器進(jìn)行決策，可能喪失批判性思維，才是真正的危險(xiǎn)。“一些科技公司和媒體喜歡神化AI的發(fā)展進(jìn)程，但AI暫時(shí)只是拔了電源就無(wú)法工作的機(jī)器。”
談AI與人類智能差別：
人類擅長(zhǎng)協(xié)調(diào)多重任務(wù)
“人類智能的獨(dú)特優(yōu)勢(shì)在于能夠結(jié)合和協(xié)調(diào)多重任務(wù)，而不局限于單一技能。”希發(fā)基思指出，與機(jī)器相比，人類在完成某些單一任務(wù)時(shí)，其優(yōu)勢(shì)不能完全發(fā)揮出來(lái)，人類真正擅長(zhǎng)的是將許多不同的任務(wù)融會(huì)貫通。
在希發(fā)基思看來(lái)，機(jī)器在執(zhí)行某些特定任務(wù)時(shí)可能會(huì)有更出色的表現(xiàn)，比如機(jī)器擁有更強(qiáng)的“計(jì)算智能”，即分析數(shù)據(jù)并從中學(xué)習(xí)。而人類在對(duì)世界的理解、想象和適應(yīng)能力，以及在復(fù)雜情境中進(jìn)行創(chuàng)新和決策上表現(xiàn)得更好。“智能涵蓋多個(gè)層面和階段，不能僅從某個(gè)單一維度來(lái)定義。”
他舉例，比如向某些聊天型人工智能模型發(fā)送一段生產(chǎn)內(nèi)容的指令，這些機(jī)器有一種生產(chǎn)內(nèi)容的機(jī)制，即計(jì)算句子中下一個(gè)單詞出現(xiàn)的概率，但它并不知道自己在做什么，只是在“擺弄”這些單詞。他認(rèn)為，如何基于數(shù)據(jù)知識(shí)與符號(hào)知識(shí)聯(lián)系起來(lái)，從而實(shí)現(xiàn)某種理解，是AI領(lǐng)域未來(lái)最大的挑戰(zhàn)。
他表示，人類從高維數(shù)據(jù)中提取知識(shí)時(shí)，會(huì)受到認(rèn)知復(fù)雜性的限制，而機(jī)器目前創(chuàng)造和應(yīng)用符號(hào)知識(shí)的能力有限。“我希望未來(lái)能將人工智能與人類智能相結(jié)合，實(shí)現(xiàn)最佳效用。”
談AI風(fēng)險(xiǎn)：
過(guò)度依賴將喪失部分技能與智力
希發(fā)基思表示，技術(shù)的進(jìn)步與創(chuàng)新提供大量服務(wù)，減輕了人類管理、決策的負(fù)擔(dān)，讓人們生活變得更加舒適。與此同時(shí)，這也減少了人類獨(dú)自解決問(wèn)題的必要性，越來(lái)越多的知識(shí)和技能不再是人類必須掌握的。
“比如以前的人類學(xué)會(huì)運(yùn)用杠桿來(lái)搬石頭，那他們就不再需要肌肉力量生存了，但喪失肌肉力量遠(yuǎn)不如我們喪失思考和生產(chǎn)知識(shí)的能力那般嚴(yán)重。”他說(shuō)。
希發(fā)基思告訴封面新聞?dòng)浾�，他曾簽署一系列警惕AI風(fēng)險(xiǎn)的請(qǐng)?jiān)笗?shū)，其中一封呼吁暫停AI大模型研發(fā)至少6個(gè)月。“這并不意味著我反對(duì)發(fā)展AI，而是我認(rèn)為目前技術(shù)的發(fā)展速度遠(yuǎn)高于監(jiān)管跟進(jìn)的速度。我們應(yīng)該停下來(lái)花些時(shí)間思考AI的影響，并建立起有效的監(jiān)管框架”。
他舉例，比如現(xiàn)在越來(lái)越多的孩子借助ChatGPT等AI軟件完成作業(yè)，這是十分“危險(xiǎn)”的。“教育的目的是訓(xùn)練孩子的思維，而現(xiàn)在讓孩子過(guò)度依賴AI來(lái)完成作業(yè)，他們將無(wú)法獨(dú)立思考，注意力將無(wú)法集中，創(chuàng)造力也將受損，所以我希望各國(guó)政府采取措施，禁止在基礎(chǔ)教育中使用這些系統(tǒng)。”
他表示，如果對(duì)AI的發(fā)展不加限制，長(zhǎng)此以往，人們將形成技術(shù)依賴，進(jìn)而喪失部分技能與智力。“你要求他做一些事，他按照你說(shuō)的去做，隨后你將越來(lái)越依賴他，成為‘奴隸的奴隸’。”
欄目
圖靈獎(jiǎng)得主
給年輕人的寄語(yǔ)
我認(rèn)為年輕人應(yīng)該致力于掌握豐富的技術(shù)和科學(xué)文化知識(shí)，盡可能地涉獵多個(gè)學(xué)科。雖然大學(xué)提供的專業(yè)課程可能更符合就業(yè)市場(chǎng)的需要，但過(guò)于狹窄的專業(yè)背景可能會(huì)限制職業(yè)生涯的發(fā)展。因此，終身學(xué)習(xí)至關(guān)重要，從一開(kāi)始就建立廣泛的知識(shí)基礎(chǔ)是明智的選擇。
我還建議年輕人努力培養(yǎng)自己的創(chuàng)造力。創(chuàng)造力是極其重要的，因?yàn)樗c創(chuàng)新精神、批判性思維和領(lǐng)導(dǎo)力緊密相連。
此外，年輕人應(yīng)當(dāng)明確自己的人生愿景，這應(yīng)該是基于個(gè)人的興趣和喜好，能通過(guò)努力實(shí)現(xiàn)的夢(mèng)想。每一次的成功，都是對(duì)自己才能的認(rèn)可，所以首先培養(yǎng)自己的技能和天賦，在某個(gè)領(lǐng)域努力耕耘，并樂(lè)在其中。因?yàn)楣ぷ髡紦?jù)了我們大部分的時(shí)間，所以選擇一份能帶來(lái)滿足感的事業(yè)至關(guān)重要。
約瑟夫希發(fā)基思
封面新聞?dòng)浾?張馨心
