參考消息網(wǎng)1月6日報道據(jù)英國《新科學家》周刊網(wǎng)站1月4日報道，科學家稱，人工智能有5%的可能性導致人類滅絕。
許多人工智能（AI）研究者認為，超人類人工智能的發(fā)展有可能導致人類滅絕，但對此類風險也存在廣泛的分歧和不確定性。
這些發(fā)現(xiàn)來自對2700名人工智能研究者的調查結果，他們最近在6場頂級人工智能會議上發(fā)表了研究成果這是迄今規(guī)模最大的此類調查。這項調查讓參與者分享他們對未來人工智能技術里程碑的可能時間線，以及這些成就的社會影響是好是壞等的看法。將近58%的研究者說，他們認為發(fā)生人類滅絕或其他與人工智能相關的極端糟糕后果的可能性為5%。
論文作者、美國加州機器情報研究所的卡特婭格拉斯說：“這是一個重要的信號，表明大多數(shù)人工智能研究者并不認為先進人工智能毀滅人類是非常難以置信的。我認為，這種認為存在非微小風險的普遍看法比確切的風險百分比更能說明問題。”
但俄亥俄州凱斯西儲大學的埃米爾托雷斯說，目前還沒有必要恐慌。他們說，許多人工智能專家在預測未來人工智能發(fā)展方面“沒有良好的記錄”。格拉斯及其同事承認，人工智能研究者不是預測人工智能未來發(fā)展軌跡的專家，但他們表示，他們2016年的調查在預測人工智能里程碑方面做得“相當好”。
與2022年進行的同一項調查得出的答案相比，許多人工智能研究者預測，人工智能將比此前預測的更早達到某些里程碑。這與2022年11月聊天生成預訓練轉換器（ChatGPT）問世和硅谷急于廣泛部署基于大型語言模型的類似AI聊天機器人的服務吻合。
參與調查的研究人員預測，未來10年人工智能系統(tǒng)有50%或更高的概率成功完成39項樣本任務中的大部分，包括譜寫與泰勒斯威夫特的熱歌難以區(qū)分的新歌，或從頭開始編寫整個支付處理站點的代碼。
其他任務，比如給新家實際安裝電線或解決長期存在的數(shù)學難題預計需要更長的時間。
到2047年，人工智能在每項任務上的表現(xiàn)都超過人類的可能性為50%，而到2116年，所有人類工作實現(xiàn)完全自動化的可能性為50%。這些估計比去年調查結果中給出的時間分別提前了13年和48年。
但托雷斯說，對人工智能發(fā)展的高期望也可能落空。他說：“這些突破有很多是很難預測的。而人工智能領域完全有可能經(jīng)歷另一個寒冬。”他們指的是上世紀七八十年代人工智能領域資金和企業(yè)興趣的枯竭。
在沒有任何超人類人工智能風險的情況下，還存在一些更緊迫擔憂。絕大多數(shù)人工智能研究者認為，涉及深度造假、操縱輿論、基因工程武器、對人口實施獨裁控制和經(jīng)濟不平等日益惡化等的人工智能驅動場景令人嚴重或極度擔憂。托雷斯還強調了人工智能在氣候變化或民主治理惡化等生存問題上助長虛假信息的危險。
