【環(huán)球時報記者陳子帥 環(huán)球時報特約記者 伊文】“人工智能（AI）的風險是真實存在的，但是可控的。”7月11日，美國微軟公司聯(lián)合創(chuàng)始人比爾蓋茨在網(wǎng)上發(fā)文，對發(fā)展AI表現(xiàn)出樂觀態(tài)度。不過，包括已故的英國著名物理學(xué)家霍金等在內(nèi)的不少科學(xué)家認為，AI的發(fā)展可能會以不同形式導(dǎo)致人類的滅絕。重大科學(xué)技術(shù)通常都是雙刃劍，在帶來紅利的同時也隱藏著風險，此前科技革命帶來的很多擔憂隨著時間一一被化解，那么，AI的發(fā)展是否也會遵循這般路徑？面對誘人的利益和潛在的威脅，我們應(yīng)該繼續(xù)前行還是為AI發(fā)展按下“暫停鍵”？如果選擇前者，我們又該如何規(guī)避風險？
資料圖（IC photo）
取代人類成為地球上的主要生命形式？
1983年9月26日凌晨，在莫斯科郊外一座核導(dǎo)彈預(yù)警中心里，蘇聯(lián)中校彼得羅夫剛剛坐下，警報聲突然大作，雷達系統(tǒng)顯示多枚核導(dǎo)彈正同時從美國向蘇聯(lián)襲來。1983年正是冷戰(zhàn)最緊張的時期，當時蘇聯(lián)堅定地認為美國準備對其進行核攻擊。作為應(yīng)對，莫斯科匆忙投入使用了一套導(dǎo)彈預(yù)警系統(tǒng)，該系統(tǒng)可以篩選衛(wèi)星數(shù)據(jù)，以此判斷美國是否有發(fā)射導(dǎo)彈的跡象或者已經(jīng)發(fā)射導(dǎo)彈，而彼得羅夫的工作就是守著裝有這套系統(tǒng)的電腦，以及時發(fā)現(xiàn)異常情況。
彼得羅夫后來回憶說，當時感覺身下的椅子就像熱鍋。他必須快速作出決定在美國發(fā)射導(dǎo)彈后，蘇聯(lián)只有非常短的時間決定是否反擊。在高壓之下，彼得羅夫發(fā)現(xiàn)預(yù)警系統(tǒng)顯示所有導(dǎo)彈都來自一個美軍基地，這不符合打擊常理，如果美國真要對蘇聯(lián)進行核打擊，應(yīng)該會從不同基地發(fā)射導(dǎo)彈，以擴大打擊面。他據(jù)此判斷是系統(tǒng)故障，并通知上級這是“虛驚一場”，而事后的調(diào)查顯示，蘇聯(lián)衛(wèi)星誤把云層反射的陽光當作洲際彈道導(dǎo)彈發(fā)動機噴射的痕跡。
因為彼得羅夫的沉著冷靜，蘇美核戰(zhàn)甚至是第三次世界大戰(zhàn)得以避免，而現(xiàn)在很多人認為AI可能引發(fā)核戰(zhàn)并導(dǎo)致人類滅亡的一大原因，就是AI系統(tǒng)會和上述蘇聯(lián)預(yù)警系統(tǒng)一樣犯錯。隨著AI的發(fā)展，它將被廣泛應(yīng)用于軍事決策系統(tǒng)，而AI系統(tǒng)的錯誤可能導(dǎo)致決策失誤，從而給人類帶來滅頂之災(zāi)。
核戰(zhàn)爭不是AI可能給人類帶來深重災(zāi)難或者導(dǎo)致人類滅絕的唯一方式。美國加州大學(xué)伯克利分校計算機科學(xué)教授羅素在他所著的《人類相容：AI與控制問題》一書中表示，AI給人類帶來的滅絕風險來自于AI不斷變強的能力以及人類的疏忽。如果人類給機器人設(shè)置了錯誤的目標，它們可能在無意中把人類消滅。羅素舉例稱，如果人類要求AI系統(tǒng)尋找解決氣候變暖的方法，而該系統(tǒng)如果認為消滅人類是最好的辦法并將此付諸實踐，那人類可能因此遭遇劫難。
很多人認為，隨著AI的發(fā)展，機器人在擁有自我意識后會起來反抗人類，從而與人類爆發(fā)戰(zhàn)爭，導(dǎo)致人類滅亡。在剛剛舉行的“人工智能造福人類全球峰會”期間，召開了首場有機器人與人類共同參與的新聞發(fā)布會。會上，名為“索菲亞”的機器人直言，它相信機器人可以成為比人類更好的領(lǐng)導(dǎo)者。值得注意的是，現(xiàn)場許多機器人最近配備了最新版本的生成式人工智能系統(tǒng)，它們對記者提問的回答讓其制造者都感到震驚。
加州大學(xué)宇宙學(xué)家阿吉雷表示，隨著技術(shù)的發(fā)展，AI可能奪取人類的決策權(quán)，“到了某個時候，人們會發(fā)現(xiàn)運行社會和經(jīng)濟的大型機器其實并不在人類的控制之下，也無法將它們關(guān)掉”。瑞典哲學(xué)家博斯特羅姆著有《超級智能》一書。他認為，當機器知道如何制造其他機器時，就會出現(xiàn)“智能大爆炸”。如果機器大腦在一般智能方面超越人類大腦，這種新的超級智能可能會取代人類成為地球上的主要生命形式。
到2030年，7億人可能因機器人失業(yè)
美國政治風險咨詢公司歐亞集團總裁布雷默表示，AI帶來的負面影響包括制造虛假信息、大量失業(yè)、人與人之間的關(guān)系將被人與AI之間的關(guān)系取代等。
布雷默的部分結(jié)論已經(jīng)得到印證。今年3月，一張由AI合成的“特朗普被捕”照片在網(wǎng)絡(luò)上瘋傳。同樣在3月，一段“烏克蘭總統(tǒng)澤連斯基呼吁烏克蘭士兵放下武器”的合成視頻在網(wǎng)上瘋傳。4月，在美國總統(tǒng)拜登宣布將競選連任后，一段批評他的視頻虛構(gòu)了他連任后華爾街陷入恐慌、移民涌過邊界等“黑暗場景”。很多看了該視頻的人表示，不能辨別其真?zhèn)巍?/p>
替代風險是很多專家對AI的擔憂之一。隨著AI的發(fā)展，大量人群可能失業(yè)。國際咨詢公司麥肯錫的研究顯示，到2030年，機器人可能在工作中會取代7億人。彭博社稱，經(jīng)合組織（OECD）日前在7個成員國的5000多名員工和雇主中展開的調(diào)查顯示，3/5的勞動者擔心AI的高速發(fā)展會使自己在未來10年徹底失業(yè)，3/4則表示AI提高了工作強度。OECD認為，世界經(jīng)濟當前對AI的使用仍處于“非常早期的階段”，但AI“破壞”各行各業(yè)就業(yè)的可能性依然很高。
帶來威脅，但也能在多領(lǐng)域造福人類
除了上述風險之外，國際非營利組織“人工智能安全中心”認為，AI被用來制造生化武器、先進技術(shù)越來越集中在少數(shù)人手中、人類過度依賴AI以至于失去獨立生存能力等，都是這項新技術(shù)可能帶來的災(zāi)難性后果。不過，AI作為最新科技革命的代表性技術(shù)，也將在多個領(lǐng)域取得突破，從而造福人類。
曾擔任美國智庫布魯金斯學(xué)會主席的約翰艾倫等研究人員表示，AI為經(jīng)濟發(fā)展帶來巨大機會。他們發(fā)文稱，據(jù)普華永道估計，到2030年，AI技術(shù)將使全球國內(nèi)生產(chǎn)總值（GDP）增加15.7萬億美元。其中，AI將使中國的GDP增加7萬億美元、北美增加3.7萬億美元、北歐增加1.8萬億美元。
AI也將極大提高一國的國防能力。與AI相關(guān)的大數(shù)據(jù)分析將深刻影響情報分析，因為大量數(shù)據(jù)被近乎實時地篩選，從而為指揮官提供前所未有的情報分析水平。此外，AI還能預(yù)測犯罪，改善社會治安。美國芝加哥市利用AI技術(shù)，根據(jù)年齡、犯罪活動、受害情況、幫派關(guān)系等項目，給40萬人打分，并據(jù)此制定了一份“戰(zhàn)略對象名單”，以評估被逮捕的人是否有成為犯罪分子的風險。有研究發(fā)現(xiàn)，相關(guān)AI技術(shù)有助于預(yù)防和減少犯罪。
AI正在幫助病人獲得更好的醫(yī)療服務(wù)。一個典型例子就是德國的Merantix公司。該公司將機器深度學(xué)習(xí)應(yīng)用于醫(yī)療領(lǐng)域，開發(fā)了一個軟件，通過研究計算機斷層掃描（CT）圖像來檢測人體淋巴結(jié)。該軟件能夠區(qū)分正常淋巴結(jié)和病變淋巴結(jié)，從而判斷病人患淋巴癌的風險。該軟件的開發(fā)人員稱，關(guān)鍵在于識別可能有問題的淋巴結(jié)并進行標記。醫(yī)生也可以做到這一點，但放射科醫(yī)生每小時收費100美元，且每小時只能仔細查看4張圖像。如果有1萬張圖像，看完這些圖像的成本將是25萬美元。如果由人類完成這項工作，成本會很高。另據(jù)BBC報道，谷歌AI研究員、硅谷奇點大學(xué)聯(lián)合創(chuàng)始人庫茲韋爾預(yù)測，到2030年，納米機器人（非常小的機器人）將能在人體內(nèi)工作，修復(fù)所有人體損傷并治愈一切疾病，幫助人類實現(xiàn)永生。
AI還能被用來改善城市服務(wù)。美國俄亥俄州辛辛那提市消防部門正在使用AI數(shù)據(jù)分析來優(yōu)化應(yīng)急響應(yīng), 通過考慮呼叫類型、位置、天氣等因素，向調(diào)度員推薦對醫(yī)療緊急呼叫的適當響應(yīng)。
“人類社會從來沒有阻止過科技進步”
AI發(fā)展帶來的正面以及負面影響都非常廣泛，那么它到底是利大于弊，還是弊大于利呢？伏羲智庫創(chuàng)始人、清華大學(xué)互聯(lián)網(wǎng)治理研究中心主任李曉東認為，AI發(fā)展整體利大于弊，雖然存在AI終結(jié)人類的可能性，但這就像核問題一樣，取決于其發(fā)展走向和人類的選擇。李曉東認為，現(xiàn)階段不必夸大AI的風險，社會在使用AI技術(shù)的過程中會通過協(xié)作和理性規(guī)避來化解這些風險，科幻大片中原子彈毀滅地球的場景也并未真正出現(xiàn)過。
中國現(xiàn)代國際關(guān)系研究院美國研究所所長助理李崢則認為，目前AI技術(shù)發(fā)展已經(jīng)往前進了一步，但整個社會對其利弊的認知及監(jiān)管卻沒有跟上。AI是不可阻擋的、革命性的技術(shù)，鼓勵并不能加速其發(fā)展，限制也無法阻擋其發(fā)展。在此過程中，社會應(yīng)該扮演的角色是為適應(yīng)AI沖擊做好準備并且進行監(jiān)督，而不是鼓勵無序的技術(shù)研發(fā)。整個社會應(yīng)當對AI的未來發(fā)展有正確預(yù)期和理解，保證其與社會發(fā)展相適應(yīng)，避免技術(shù)因過度使用而“轉(zhuǎn)利為弊”。
浙江大學(xué)國際聯(lián)合商學(xué)院數(shù)字經(jīng)濟與金融創(chuàng)新研究中心聯(lián)席主任盤和林說，人類社會從來沒有阻止過科技進步，所以應(yīng)對潛在風險的方法不是阻止科技進步，而是以技術(shù)來對抗技術(shù)風險。AI的發(fā)展是必然趨勢，總體上AI對于人類社會利大于弊，部分風險也有應(yīng)對方法，比如AI生成虛假信息問題，只要進行AI生成信息標注，并通過AI對AI生成但未標注信息進行識別和處罰，就能解決這個問題；對于AI替代人工的問題，AI其實降低了很多職業(yè)的就職門檻，未來人類將減少套路性的內(nèi)容創(chuàng)作，更多聚焦于創(chuàng)造性內(nèi)容創(chuàng)作，需要改變的不是AI，而是我們的教育。至于AI終結(jié)人類則是太過遙遠的事情，是對AI功能和作用的夸大。
必須盡快就監(jiān)管達成共識
現(xiàn)在各國對AI的討論除了其利弊之外，還集中在AI的倫理和監(jiān)管問題上。什么是AI倫理？據(jù)美國《福布斯》雜志報道，通常來講，它是指如何讓AI更負責任，其范疇包括避免AI偏見、隱私問題、避免AI犯錯等。
AI倫理為何重要？使用AI技術(shù)的經(jīng)驗表明，讓AI技術(shù)符合倫理不僅是負責任的行為，也是獲得良好商業(yè)價值的必要條件。李崢認為，合乎倫理的AI至少要兼顧三個方面：一是做到人類可控，不能放任其自我演化；二是AI的應(yīng)用和賦能方向應(yīng)該“向善”；三是AI要與人類社會相適應(yīng)，不能超脫人類社會發(fā)展而走得太快。李曉東表示，關(guān)于人類的倫理問題，不同國家和民族都仍然存在分歧，因此合乎倫理的AI首先要尊重世界的多樣性，包容不同的政治體制、文化習(xí)慣和經(jīng)濟狀況。
7月6日，在“人工智能造福人類全球峰會”上，聯(lián)合國秘書長古特雷斯強調(diào)，現(xiàn)在必須盡快就如何監(jiān)管AI的開發(fā)與部署達成共識。李崢表示，建立全球共同的監(jiān)管和發(fā)展機制是有必要的，尤其是那些具有危險傾向的研發(fā)和應(yīng)用方向必須由全世界統(tǒng)一監(jiān)管，否則就會出現(xiàn)部分國家擅自研發(fā)危險技術(shù)，對別國構(gòu)成威脅的情況，造成人工智能的“軍備競賽”。從現(xiàn)實來看，AI監(jiān)管不可能拓展至所有領(lǐng)域，全球聯(lián)合監(jiān)管主要是針對那些特定技術(shù)和應(yīng)用。不過，李崢指出，建立全球監(jiān)管機制面臨諸多挑戰(zhàn)，包括中美歐對關(guān)鍵問題的認識存在政治性差異。李曉東認為，目前全球已經(jīng)建立了很多共同治理的機制和平臺，所以要利用好現(xiàn)有機制來應(yīng)對AI發(fā)展，不到萬不得已沒必要重新打破規(guī)則，例如涉及AI在軍事領(lǐng)域的應(yīng)用，就應(yīng)放到聯(lián)合國的軍控體系內(nèi)去探討。
結(jié)語：讀者朋友，截至今天，我們用3期“深度認知”版為您講述了人工智能（AI）的起源和現(xiàn)狀、AI對地緣政治的影響，以及其發(fā)展將給人類社會帶來的紅利和威脅。技術(shù)創(chuàng)新是人類文明進步的動力，而每一次科技革命的進行都伴隨著興奮與懷疑。通過了解AI發(fā)展的“前世今生”，我們知其“然”，也知其“所以然”，并能預(yù)測這一技術(shù)未來的發(fā)展趨勢。只有深度認知，在面對不斷變幻的“AI風云”時，我們才能心中有數(shù)，笑看風云。
