財(cái)聯(lián)社9月5日訊（編輯 牛占林）對(duì)于人工智能(AI)可能帶來的風(fēng)險(xiǎn)以及哪些風(fēng)險(xiǎn)最可怕，目前仍是輿論場(chǎng)上最熱鬧的話題之一，每隔幾天就要拿出來炒一炒，人工智能行業(yè)的先驅(qū)們也為此爭(zhēng)論不休，而這背后又隱藏著什么樣的秘密呢？
簡(jiǎn)單來講，專家們主要分為兩大陣營(yíng)，其中一個(gè)陣營(yíng)主要包括一些開發(fā)先進(jìn)人工智能系統(tǒng)的高管，他們認(rèn)為人工智能的發(fā)展可能會(huì)帶來災(zāi)難，相對(duì)“務(wù)虛”一些。他們更加關(guān)注存在風(fēng)險(xiǎn)(Existential Risk)，即能夠威脅到人類或其他生命形式存在的一種極端風(fēng)險(xiǎn)，這種風(fēng)險(xiǎn)可能導(dǎo)致人類或其他生物種群的滅絕，或者使其無法繼續(xù)存在。
另一派陣營(yíng)則主要是以科學(xué)家為主，他們認(rèn)為關(guān)注的重點(diǎn)應(yīng)該放在人工智能目前可能導(dǎo)致的風(fēng)險(xiǎn)，以及它會(huì)對(duì)我們的日常生活造成怎樣的傷害，相對(duì)更為"務(wù)實(shí)" 一些，聚焦當(dāng)前實(shí)際的問題和解決具體的困難。
人工智能初創(chuàng)公司Anthropic首席執(zhí)行官兼聯(lián)合創(chuàng)始人Dario Amodei是對(duì)存在風(fēng)險(xiǎn)發(fā)出警告的人之一。今年夏天，他在國(guó)會(huì)作證時(shí)表示，人工智能將比預(yù)料的更接近于超越人類智能，甚至?xí)䦷椭圃齑笠?guī)模殺傷性武器。OpenAI首席執(zhí)行官Sam Altman在世界各地巡回演講時(shí)表示，人工智能有一天可能會(huì)對(duì)人類造成嚴(yán)重傷害，甚至更糟的后果。馬斯克在接受采訪時(shí)表示：“人工智能毀滅人類的可能性很小，但絕非不可能。”
美國(guó)參議院多數(shù)黨領(lǐng)袖查克舒默已經(jīng)宣布從下周(9月13日)開始舉行人工智能論壇的計(jì)劃，屆時(shí)將有許多重量級(jí)人物出席，包括馬斯克、Altman、Meta的扎克伯格、谷歌的桑達(dá)皮查伊、英偉達(dá)的黃仁勛和微軟聯(lián)合創(chuàng)始人比爾蓋茨，討論包括“世界末日情景”在內(nèi)的主題。
爭(zhēng)論不休的背后
人工智能科學(xué)家則警告稱，討論科幻小說中的一些場(chǎng)景會(huì)分散焦點(diǎn)，甚至可能是這些科技公司的一種營(yíng)銷策略。他們表示，人工智能公司和監(jiān)管機(jī)構(gòu)應(yīng)將有限的資源集中在該技術(shù)現(xiàn)有的和迫在眉睫的威脅上，比如制造有關(guān)選舉的錯(cuò)誤信息，或者放大人類偏見影響的系統(tǒng)。
隨著世界各地的公司和政府都在努力決定將資源和注意力集中在人工智能的某些方面，以使這項(xiàng)可能改變世界的技術(shù)的好處最大化、壞處最小化，這場(chǎng)爭(zhēng)端正在加劇。
人工智能治理智庫Future Society聯(lián)合創(chuàng)始人Nicolas Miailhe指出，關(guān)于人工智能風(fēng)險(xiǎn)的討論越來越分割和對(duì)立，這是“月底風(fēng)險(xiǎn)”和“世界末日”之間的隔閡。
前谷歌律師Daniel Schoenberger表示：“很明顯，仍在升溫的炒作會(huì)使這些科技公司獲益，政策制定者應(yīng)該更多地關(guān)注當(dāng)下的風(fēng)險(xiǎn)，比如人工智能使傳播虛假和誤導(dǎo)信息變得更容易，或者人工智能主導(dǎo)權(quán)問題。”
所謂的末日論者并沒有說人工智能一定會(huì)像《終結(jié)者》電影中的天網(wǎng)那樣崛起，最后摧毀人類。一些人擔(dān)心，人工智能系統(tǒng)最終可能會(huì)有追求權(quán)力的沖動(dòng)，無意中傷害人類，或者干脆超越人類，控制我們的命運(yùn)。
相比之下，人工智能倫理和公平領(lǐng)域的專家擔(dān)心的是，這些工具是如何無意或有意地剝削工人，加劇人類之間的不平等。他們希望科技公司和監(jiān)管機(jī)構(gòu)實(shí)施某些規(guī)則和技術(shù)，以減少這種威脅。
人工智能科學(xué)家Melanie Mitchell在一次采訪中說，關(guān)于存在風(fēng)險(xiǎn)的討論“都是基于猜測(cè)，真的沒有科學(xué)依據(jù)”。
麻省理工學(xué)院的教授Max Tegmark更加直接，他指責(zé)科技公司在關(guān)注公平問題的人和關(guān)注存在風(fēng)險(xiǎn)的人之間制造分歧，以避免監(jiān)管。
人工智能公司Conjecture首席執(zhí)行官Connor Leahy表示：“我們看到，所有主要參與者都在圍繞人工智能展開一場(chǎng)荒謬的死亡競(jìng)賽。”他補(bǔ)充說，他對(duì)大型科技公司對(duì)存在風(fēng)險(xiǎn)的擔(dān)憂持保留態(tài)度。“需要做的是實(shí)實(shí)在在的行動(dòng)，而不是光靠嘴巴。”
（財(cái)聯(lián)社 牛占林）
