財(cái)聯(lián)社6月8日訊（編輯 牛占林）英國首相里希蘇納克的人工智能(AI)特別工作組顧問警告稱，人工智能系統(tǒng)需要被監(jiān)管和控制，以遏制重大的生存風(fēng)險(xiǎn)。并補(bǔ)充道，在人工智能變得過于強(qiáng)大之前，人類大約有兩年的時(shí)間來控制和監(jiān)管它。
近日，英國政府高級(jí)研究與發(fā)明局主席兼人工智能特別工作組的馬特克利福德在接受媒體采訪時(shí)表示，目前的人工智能系統(tǒng)進(jìn)化速度越來越快，能力也越來越強(qiáng)大。
克利福德對此深感不安，他認(rèn)為，如果人類沒能找到控制該技術(shù)的辦法，或者現(xiàn)在不考慮安全和監(jiān)管問題，人工智能系統(tǒng)將在兩年內(nèi)變得“非常強(qiáng)大”。
他指出，決策者應(yīng)該作好準(zhǔn)備，無論是短期還是長期，都存在許多不同類型的風(fēng)險(xiǎn)，可能出現(xiàn)從網(wǎng)絡(luò)攻擊到制造生物武器等一系列的威脅。“這可能會(huì)對人類生存構(gòu)成非常嚴(yán)重的威脅，僅僅從我們預(yù)計(jì)兩年后會(huì)出現(xiàn)的模型來看，可能會(huì)殺死很多人，當(dāng)然，不是所有人。”
在克利福德接受采訪之前，科技界高管和人工智能科學(xué)家聯(lián)合發(fā)布聲明稱，這項(xiàng)技術(shù)帶來的滅絕風(fēng)險(xiǎn)堪比疫情和核戰(zhàn)。
克利福德解釋道：“他們談?wù)摰氖�，一旦我們有效地�?chuàng)造了一個(gè)新物種，一種比人類更加聰明的物種，會(huì)發(fā)生什么情況。”他還表示，樂觀地看，我們可能在兩年內(nèi)擁有比人類更聰明的人工智能。
這位人工智能專家表示，這聽起來像是電影的情節(jié)，但確實(shí)令人擔(dān)憂，這也是各國需跨境合作來制定規(guī)則的一個(gè)原因。
根據(jù)克利福德的說法，監(jiān)管機(jī)構(gòu)和開發(fā)者的主要關(guān)注點(diǎn)應(yīng)該是了解如何控制這些人工智能系統(tǒng)，然后在全球范圍內(nèi)實(shí)施監(jiān)管。
他提醒道：“正在構(gòu)建最強(qiáng)大人工智能系統(tǒng)的人坦率地承認(rèn)，他們并不完全理解(人工智能系統(tǒng))是如何表現(xiàn)出它們所做的行為的，也就是我最擔(dān)心的事情。”
克利福德強(qiáng)調(diào)，許多構(gòu)建人工智能管理組織的領(lǐng)導(dǎo)者也同意，強(qiáng)大的人工智能模型在部署之前必須經(jīng)過某種審計(jì)和評估過程。
（財(cái)聯(lián)社 牛占林）
