展會信息港展會大全

諾獎新晉得主阿西莫格魯:如何看待當(dāng)前AI的發(fā)展和風(fēng)險
來源:互聯(lián)網(wǎng)   發(fā)布日期:2024-10-15 18:52:17   瀏覽:2486次  

導(dǎo)讀:劃重點 012024年諾貝爾經(jīng)濟學(xué)獎授予達(dá)龍阿西莫格魯、西蒙約翰遜和詹姆斯A羅賓遜,以表彰他們關(guān)于制度如何形成及其對繁榮的影響的研究。 02阿西莫格魯擔(dān)憂AI成為將財富和權(quán)力從普通人轉(zhuǎn)移到一小群科技企業(yè)家的工具,建議企業(yè)關(guān)注提高工人生產(chǎn)力、能力和影響力...

劃重點

012024年諾貝爾經(jīng)濟學(xué)獎授予達(dá)龍阿西莫格魯、西蒙約翰遜和詹姆斯A羅賓遜,以表彰他們關(guān)于制度如何形成及其對繁榮的影響的研究。

02阿西莫格魯擔(dān)憂AI成為將財富和權(quán)力從普通人轉(zhuǎn)移到一小群科技企業(yè)家的工具,建議企業(yè)關(guān)注提高工人生產(chǎn)力、能力和影響力。

03為此,他提出三個原則引導(dǎo)AI發(fā)展:優(yōu)先考慮機器有用性,賦予工人和公民權(quán)力,以及引入一個更好的監(jiān)管框架,讓科技公司承擔(dān)責(zé)任。

以上內(nèi)容由騰訊混元大模型生成,僅供參考

諾獎新晉得主阿西莫格魯:如何看待當(dāng)前AI的發(fā)展和風(fēng)險

當(dāng)?shù)貢r間10月14日,瑞典皇家科學(xué)院宣布,將2024年諾貝爾經(jīng)濟學(xué)獎授予達(dá)龍阿西莫格魯(Daron Acemoglu)、西蒙約翰遜(Simon Johnson)和詹姆斯A羅賓遜(James A. Robinson),以表彰他們“對制度如何形成及其對繁榮的影響的研究”。

評審委員會在新聞稿中稱,這三位經(jīng)濟學(xué)家向大家展示了社會制度對一個國家繁榮的重要性!胺ㄖ尾唤∪约皠兿魅丝诘闹贫鹊纳鐣䶮o法產(chǎn)生增長或帶來積極變化,他們的研究幫助我們理解原因!

阿西莫格魯于1967年出生于土耳其首都伊斯坦布爾,1993年以來在麻省理工學(xué)院任教,2005年獲得克拉克獎,研究領(lǐng)域廣泛涵蓋政治經(jīng)濟學(xué)、經(jīng)濟發(fā)展、經(jīng)濟增長、技術(shù)變革、不平等、勞動經(jīng)濟和網(wǎng)絡(luò)經(jīng)濟學(xué)等。他與本次共同獲獎的另外兩位經(jīng)濟學(xué)家合著了大量論文,與羅賓遜共同著有《國家為什么會失敗》、《狹窄的走廊》等暢銷書。

近年來,阿西莫格魯?shù)难芯恐攸c之一是工業(yè)機器人等自動化技術(shù)對勞動力市場的影響。2023年,他與西蒙約翰遜合著的《權(quán)力與進步》出版,該書論述了AI作為當(dāng)前時代最重要的技術(shù)所面臨的困境。

“我的許多研究集中在政治經(jīng)濟學(xué)和技術(shù)變革之間的相互作用,這是塑造我們能力和成長機遇的兩大力量,同時也在影響我們的政治和經(jīng)濟選擇。”今年6月,阿西莫格魯在接受澎湃新聞專訪時表示。

他研究發(fā)現(xiàn),當(dāng)前AI的發(fā)展軌跡正在重復(fù)并加劇過去幾十年最糟糕的一些技術(shù)性錯誤。例如,過分強調(diào)自動化,而沒有為創(chuàng)造新任務(wù)進行充足的投資。他認(rèn)為,企業(yè)掌管者需要意識到其最大的資產(chǎn)是工人,與其專注于削減成本,應(yīng)該尋找提高工人的生產(chǎn)力、能力和影響力的方法。

阿西莫格魯非常擔(dān)憂AI成為將財富和權(quán)力從普通人轉(zhuǎn)移到一小群科技企業(yè)家的方式,為打破大型科技公司的政治力量,他認(rèn)為“僅僅依靠反壟斷是不夠的,我們更需要將技術(shù)重新引導(dǎo)到對社會有益的方向”。

他提出,可以考慮三個原則引導(dǎo)AI發(fā)展:一是優(yōu)先考慮機器有用性,二是賦予工人和公民權(quán)力,而不是試圖操縱他們,三是引入一個更好的監(jiān)管框架,讓科技公司承擔(dān)責(zé)任。

參考消息網(wǎng)6月15日援引美國有線電視新聞網(wǎng)(CNN)報道,蘋果公司13日超越微軟,成為美國市值最高的上市公司。上周該公司在其一年一度的全球開發(fā)者大會上宣布了包括iPhone的生成式人工智能功能在內(nèi)的一系列消息,其股價因此一路攀升。

蘋果、英偉達(dá)、微軟,一直在激烈爭奪全球最有價值公司的寶座。蘋果公司在重新定義了“AI”一一蘋果智能(Apple Intelligence)后,市值反超因AI芯片而身價暴漲的英偉達(dá),又一路趕超微軟,重奪第一。當(dāng)前蘋果的市值為3.29萬億美元,略高于微軟的3.28萬億美元。生成式人工智能成為推動三大科技巨頭市值上漲的核心動力。

面對這股AI熱潮,美國國家經(jīng)濟研究局近期發(fā)布了一篇由麻省理工學(xué)院教授達(dá)龍阿西莫格魯(Daron Acemoglu)撰寫的論文,指出未來人工智能(AI)進步帶來的生產(chǎn)力提升可能并不大,預(yù)估今后十年AI對全要素生產(chǎn)率(TFP)的增長上限不超過0.66%。

阿西莫格魯在文中指出,生成式人工智能是一項很有前途的技術(shù),但除非行業(yè)進行根本性的重新定位,包括對生成式人工智能模型(例如大語言模型LLMs)的架構(gòu)進行重大改變,以專注于可靠的信息,來提高各行業(yè)工人的邊際生產(chǎn)力,而不是優(yōu)先考慮開發(fā)通用的、類似人類的對話工具。

圍繞人工智能對生產(chǎn)力和經(jīng)濟增長的一些過度樂觀預(yù)測,阿西莫格魯持懷疑態(tài)度。他作為一名出生在土耳其的美國經(jīng)濟學(xué)家,以其政治經(jīng)濟學(xué)方面的研究而聞名,并且長期關(guān)注政治經(jīng)濟學(xué)和技術(shù)變革之間的相互作用。

去年,他與英裔美國經(jīng)濟學(xué)家西蒙約翰遜合著了一本新書《權(quán)力與進》(Powerand Progress)出版,談到了可能顛覆人類社會的AI革命,他們認(rèn)為目前AI發(fā)展已誤入歧途,許多算法的設(shè)計是盡可能地取代人類,“但技術(shù)上取得進步的方式是讓機器對人類有用,而不是取代人類”。

Open AI首席技術(shù)官米拉穆拉蒂(Mira Murati)在5月的一場活動上,就開發(fā)通用人工智能(AGI)的爭議表示,他們不僅專注于增強模型的功能和實用性,同樣著力于確保其安全,使之與人類的價值觀保持一致,不會陷入失控,從而創(chuàng)建造福人類的 AGI。

“隨著我越深入研究AI的能力和發(fā)展方向,越確信它當(dāng)前的發(fā)展軌跡正在重復(fù)并加劇過去幾十年最糟糕的一些技術(shù)性錯誤。”阿西莫格魯教授近日接受澎湃新聞(www.thepaper.cn)專訪時談到,AI領(lǐng)域的大多數(shù)頭部玩家都是由不切實際且危險的夢想驅(qū)動,即實現(xiàn)通用人工智能的夢想,“這是將機器和算法置于人類之上”。

一些分析人士將阿西莫格魯視為AI悲觀主義者。他回應(yīng)澎湃新聞稱,作為一個社會科學(xué)家,會更加關(guān)注一些負(fù)面的社會影響。

阿西莫格魯常常和身為麻省理工學(xué)院電子工程和計算機科學(xué)系負(fù)責(zé)人的妻子奧茲達(dá)格拉爾(Asu Ozdaglar)教授一起工作。雖然領(lǐng)域不同,但夫妻倆對于AI發(fā)展的看法在大方向上是一致的,不過阿西莫格魯也坦言,他的想法可能比妻子更加悲觀。

隨著人工智能商業(yè)化的競速,AI大模型百舸爭流,但毫無疑問,像Open AI 、微軟、谷歌、英偉達(dá)等科技巨頭已經(jīng)搶占了AI發(fā)展的先機。阿西莫格魯說,他非常擔(dān)心AI成為將財富和權(quán)力從普通人轉(zhuǎn)移到一小群科技企業(yè)家的方式,現(xiàn)在我們看到的“不平等”是“煤礦里的金絲雀”。

技術(shù)與社會:最大的資產(chǎn)是人

Q1:您的研究涵蓋了政治經(jīng)濟學(xué)、技術(shù)變革、不平等等多個領(lǐng)域。在怎樣的背景和契機之下,您開始關(guān)注技術(shù)發(fā)展對不平等的作用?您最初對技術(shù)發(fā)展的看法是什么,又如何演變?yōu)楝F(xiàn)在所主張的“當(dāng)前人工智能的發(fā)展路徑既不利于經(jīng)濟也不利于民主”?

阿西莫格魯:我的許多研究集中在政治經(jīng)濟學(xué)和技術(shù)變革之間的相互作用,這是塑造我們能力和成長機遇的兩大力量,同時也在影響我們的政治和經(jīng)濟選擇。

AI已經(jīng)成為這個時代最重要的技術(shù),一方面因為它吸引了大量的關(guān)注和投資,另一方面因為它取得了一些引人矚目的進步,尤其是隨著GPU性能的提高。還有部分原因是AI無處不在的影響。這些因素促使我在這一領(lǐng)域進行研究。

隨著我越深入研究AI的能力和發(fā)展方向,越確信它當(dāng)前的發(fā)展軌跡正在重復(fù)并加劇過去幾十年最糟糕的一些技術(shù)性錯誤過分強調(diào)自動化,就像我們優(yōu)先考慮自動化和其他數(shù)字技術(shù),而沒有為創(chuàng)造新任務(wù)進行充足的投資;以及社交平臺試圖利用人們的數(shù)據(jù)和興趣盈利,因此犯下的所有錯誤。

我還特別關(guān)注這樣一個事實,AI領(lǐng)域的大多數(shù)頭部玩家都是由不切實際且危險的夢想驅(qū)動,即實現(xiàn)通用人工智能的夢想,這是將機器和算法置于人類之上,也通常是這些頭部玩家凌駕于其他人的一種方式。

Q2:先進的計算機技術(shù)和互聯(lián)網(wǎng)讓許多富翁實現(xiàn)了財富轉(zhuǎn)移,并使科技巨頭空前強大。盡管如此,我們依然接受這樣的技術(shù)革新,因為它也帶來了積極的影響。技術(shù)變革有利有弊,從歷史來看社會總能找到適應(yīng)新技術(shù)的方式。新一輪科技浪潮席卷而來,您為什么認(rèn)為不平等問題特別令人擔(dān)憂?

阿西莫格魯:當(dāng)談及社交平臺和人工智能時,我同意上述說法,但是涉及互聯(lián)網(wǎng)情況就不同了,我有不同的意見。我認(rèn)為互聯(lián)網(wǎng)在某些方面使用不當(dāng),當(dāng)然也不否認(rèn)互聯(lián)網(wǎng)是一項非常有益的技術(shù),在達(dá)成人與人的聯(lián)通、向人們提供信息以及為創(chuàng)造新服務(wù)和平臺方面,它發(fā)揮了非常重要的作用。

對于人工智能,我非常擔(dān)心它成為將財富和權(quán)力從普通人轉(zhuǎn)移到一小群科技企業(yè)家的方式。問題是我們沒有任何必要的控制機制以確保普通人從AI中獲利,比如強有力的監(jiān)管、工人參與、公民社會和民主監(jiān)督。我們看到的“不平等”是“煤礦里的金絲雀”,意味著更糟糕的事即將到來。

Q3:您指出自動化造成的不平等是“企業(yè)和社會在選擇如何使用技術(shù)后導(dǎo)致的結(jié)果”。隨著科技巨頭市場能力和影響力壯大甚至可能失控,我們應(yīng)對的關(guān)鍵是什么?如果您擔(dān)任一家大型科技公司的CEO,會如何利用AI來管理這家公司?

阿西莫格魯:我對CEO們的建議是,要意識到他們最大的資產(chǎn)是工人,與其專注于削減成本,應(yīng)該尋找提高工人的生產(chǎn)力、能力和影響力的方法。這表明要使用新技術(shù)為工人創(chuàng)造新的任務(wù)、開拓新的能力。

當(dāng)然,自動化是有益的,我們也必然會在未來更多地應(yīng)用自動化,但這不是為了提高生產(chǎn)力所唯一能做的,自動化也不應(yīng)該是CEO們唯一追求和優(yōu)先考慮的事情。

Q4:美國反壟斷執(zhí)法者已經(jīng)公開表達(dá)了對人工智能的一系列擔(dān)憂,美國司法部和聯(lián)邦貿(mào)易委員會據(jù)稱達(dá)成了一項協(xié)議,為微軟、OpenAI和英偉達(dá)的反壟斷調(diào)查鋪平了道路。這種針對大型科技公司的反壟斷行動是否能真正地增加市場競爭并避免AI發(fā)展被少數(shù)公司所主導(dǎo)?

阿西莫格魯:絕對能夠起到作用,反壟斷很重要,科技行業(yè)一些問題的根源在于美國缺乏反壟斷執(zhí)法。五大科技公司都在他們所在的領(lǐng)域確立了牢固的壟斷地位,因為他們能夠在沒有任何監(jiān)管的情況下收購潛在的競爭對手。在某些情況下,他們?yōu)榱遂柟虊艛嗟匚,購買并停用了可能與他們構(gòu)成競爭的技術(shù),我們絕對需要反壟斷,以打破大型科技公司的政治力量,這種力量在過去三十年變得非常強大。

但我也想強調(diào),僅僅反壟斷是不夠的,我們更需要將技術(shù)重新引導(dǎo)到對社會有益的方向。如果僅僅將Meta拆分為Facebook、Instagram和WhatsApp,是不可能實現(xiàn)(增加市場競爭和避免少數(shù)公司主導(dǎo)AI發(fā)展)。在AI領(lǐng)域,如果擔(dān)心AI技術(shù)被用于操縱、監(jiān)視或其他惡意目的,反壟斷本身不會是解決方案,反壟斷必須與更廣泛的監(jiān)管議程相結(jié)合。

技術(shù)與人:如何避免重蹈覆轍

Q5:您一直強調(diào)“機器有用性”(machine usefulness),即 “試圖讓機器對人類更有利”。您認(rèn)為應(yīng)該如何實現(xiàn)這一目標(biāo)?無法達(dá)成這樣的目標(biāo)會出現(xiàn)什么后果?

阿西莫格魯:這與上述給CEO們的建議有關(guān)。我們想要的是能夠拓展人類能力的機器,就AI而言,有很大的可能性達(dá)成這一點。AI是一種信息技術(shù),所以我們應(yīng)該考慮什么樣的AI工具可以為人類決策者提供有用、情境依賴的即時信息,可以利用AI工具使人類成為更好的問題解決者,能夠執(zhí)行更復(fù)雜的任務(wù)。這不僅僅是針對創(chuàng)意工作者、學(xué)者或記者,對于藍(lán)領(lǐng)工人、電工、水管工、醫(yī)療保健工作者以及所有其他職業(yè)都是如此。更好地獲取信息可以推動產(chǎn)生更明智的決策和執(zhí)行更高層次的任務(wù),這就是機器有用性的意義所在。

Q6:您建議對工人勞動給予公平的稅收待遇。對設(shè)備和軟件像對待人類雇員一樣征稅,或者進行稅收改革以鼓勵就業(yè)而不是自動化,這些是實際可行的解決方案嗎?

阿西莫格魯:是的,我與西蒙約翰遜在《權(quán)力與進步》中共同提出,一個更公平的稅收制度可以作為解決方案的一部分。在美國,在企業(yè)雇傭勞動力時面臨的邊際稅率超過30%。當(dāng)他們使用計算機設(shè)備或其他機械執(zhí)行相同任務(wù)時,稅率不到5%,這就為自動化提供了過度的激勵,同時阻礙了就業(yè)和對培訓(xùn)及人力資本的投資。將資本和勞動力的邊際稅率統(tǒng)一到相同水平是一個合理的政策想法。

Q7:您提議進行稅收改革,以獎勵就業(yè)而不是自動化。這樣的改革將如何影響企業(yè)對自動化技術(shù)的應(yīng)用和投資?

阿西莫格魯:在這方面必須要謹(jǐn)慎,不要打擊投資,特別是在許多國家需要快速增長,需要在可再生能源和醫(yī)療保健技術(shù)等領(lǐng)域注入新的投資。但如果我們能鼓勵技術(shù)以正確的方式發(fā)展,這對企業(yè)也是有好處的。因此我的提議是消除對自動化的過度激勵,并希望它能以一種不會普遍打擊商業(yè)投資的方式實現(xiàn)。

Q8:社交平臺的快速發(fā)展帶來了一些負(fù)面的影響,例如信息泡沫和錯誤信息的傳播。您認(rèn)為我們?nèi)绾伪苊庠谌斯ぶ悄艿倪M一步發(fā)展中重復(fù)同樣的錯誤?

阿西莫格魯:有三個原則有助于避免重蹈覆轍:(1)優(yōu)先考慮機器有用性,正如我主張的那樣;(2)賦予工人和公民權(quán)力,而不是試圖操縱他們;(3)引入一個更好的監(jiān)管框架,讓科技公司承擔(dān)責(zé)任。

技術(shù)與行業(yè):

數(shù)字廣告稅讓行業(yè)更具競爭力

Q9:技術(shù)專家賈倫拉尼爾強調(diào)互聯(lián)網(wǎng)用戶的數(shù)據(jù)所有權(quán)問題。您認(rèn)為在政策上,個人數(shù)據(jù)的所有權(quán)和控制應(yīng)該如何得到更好的保護?

阿西莫格魯:我認(rèn)為這是一個重要的方向。首先,我們將需要越來越多的高質(zhì)量數(shù)據(jù),而生產(chǎn)這些數(shù)據(jù)的最佳方式是通過獎勵創(chuàng)造高質(zhì)量數(shù)據(jù)的人,數(shù)據(jù)市場可以實現(xiàn)這一點。第二,數(shù)據(jù)目前正被科技公司掠奪,這不公平也不高效。

然而,關(guān)鍵在于數(shù)據(jù)市場并不像水果市場那樣,我的數(shù)據(jù)通?梢愿叨忍娲愕臄(shù)據(jù),所以如果科技公司可以與個人談判購買他們的數(shù)據(jù),就會出現(xiàn)“逐底競爭”(race to the bottom),這樣做的行政成本會非常高。所以我認(rèn)為,運行良好的數(shù)據(jù)市場需要某種形式的集體數(shù)據(jù)所有權(quán),可以是數(shù)據(jù)工會或數(shù)據(jù)行業(yè)協(xié)會,或其他集體組織的形式。

Q10:您怎么看引入數(shù)字廣告稅以限制由算法驅(qū)動的錯誤信息進行盈利?這樣的稅收政策可能對數(shù)字廣告行業(yè)和信息傳播產(chǎn)生什么影響?

阿西莫格魯:我支持?jǐn)?shù)字廣告稅,因為基于數(shù)字廣告的商業(yè)模式極具操縱性,它們與創(chuàng)造情感憤怒、數(shù)字成癮、極端嫉妒和信息繭房的策略是協(xié)同的。它們也能與利用個人數(shù)據(jù)的商業(yè)模式相協(xié)同,會導(dǎo)致心理健康問題、社會兩極分化、民主公民減少等負(fù)面后果。

更糟糕的是,如果要像我建議的那樣重新制定AI的發(fā)展方向,我們需要引入新的商業(yè)模式和新平臺,但如今基于數(shù)字廣告的商業(yè)模式使之失去了可能性。你無法基于用戶訂閱啟動一個新的社交平臺,無法復(fù)制維基百科的成功,因為你反對那種提供免費服務(wù)并擁有大量客戶基礎(chǔ)的公司。所以,我將數(shù)字廣告稅視為使科技行業(yè)更具競爭力的一種方式:獲取用戶數(shù)據(jù)并通過數(shù)字廣告盈利的“低級手段”如果能夠被遏制,就會涌現(xiàn)新的商業(yè)模式和更多樣化的產(chǎn)品。

Q11:能否分享一些您所認(rèn)為的未來技術(shù)發(fā)展可能帶來的積極變化,以及我們應(yīng)該如何準(zhǔn)備并推動這些變化?

阿西莫格魯:如果我們正確使用人工智能,可以提高各行各業(yè)工人的職業(yè)技能,也可以改進科學(xué)發(fā)現(xiàn)的過程。我還認(rèn)為有一些方法能夠民主地使用AI。

贊助本站

相關(guān)內(nèi)容
AiLab云推薦
推薦內(nèi)容
展開

熱門欄目HotCates

Copyright © 2010-2024 AiLab Team. 人工智能實驗室 版權(quán)所有    關(guān)于我們 | 聯(lián)系我們 | 廣告服務(wù) | 公司動態(tài) | 免責(zé)聲明 | 隱私條款 | 工作機會 | 展會港