劃重點(diǎn)
1
對(duì)于尖端人工智能模型是否應(yīng)該開(kāi)源，以Meta為代表的老牌科技巨頭與以O(shè)penAI為代表的AI新貴之間產(chǎn)生了分歧。
2
OpenAI、Anthropic和其他專(zhuān)有軟件制造商表示，政府應(yīng)該監(jiān)管最強(qiáng)大的人工智能模型，以防被惡意利用，但此舉可能對(duì)依賴(lài)開(kāi)源模型的其他創(chuàng)企。
3
扎克伯格則認(rèn)為，開(kāi)源模式對(duì)美國(guó)保持競(jìng)爭(zhēng)力至關(guān)重要，而科技行業(yè)可以解決對(duì)開(kāi)源模式安全的擔(dān)憂(yōu)。
人工智能領(lǐng)導(dǎo)者和政策制定者在一個(gè)關(guān)鍵問(wèn)題上存在分歧，即尖端的人工智能模型是否過(guò)于強(qiáng)大，不能隨便交付給任何人?
這個(gè)問(wèn)題讓Meta等科技巨頭與以O(shè)penAl為代表的AI新貴之間產(chǎn)生了分歧，前者最近在互聯(lián)網(wǎng)上免費(fèi)提供了其生成式人工智能的代碼，后者則出售ChatGPT等專(zhuān)有人工智能模型的訪問(wèn)權(quán)限，但不共享代碼。OpenAI、Anthropic和其他專(zhuān)有軟件制造商表示，政府應(yīng)該監(jiān)管最強(qiáng)大的人工智能模型，這樣壞人就不能輕易利用它們。這可能會(huì)阻礙Meta和越來(lái)越依賴(lài)開(kāi)源模式的初創(chuàng)公司的發(fā)展。
許多業(yè)內(nèi)人士表示，開(kāi)源人工智能的進(jìn)步將這個(gè)問(wèn)題推到了科技高管和政策制定者之間的討論中。此外，這個(gè)話(huà)題也在上個(gè)月的美國(guó)參議院人工智能洞察論壇上被提及。當(dāng)時(shí)，包括Meta首席執(zhí)行官馬克扎克伯格（Mark Zuckerberg）在內(nèi)的高管認(rèn)為，開(kāi)源模式對(duì)美國(guó)保持競(jìng)爭(zhēng)力至關(guān)重要，科技行業(yè)可以解決對(duì)開(kāi)源模式安全的擔(dān)憂(yōu)。扎克伯格說(shuō):“最好是由美國(guó)公司制定標(biāo)準(zhǔn)，這些公司可以與我們的政府合作，塑造這些模式，而不是讓其他國(guó)家在開(kāi)源代碼方面發(fā)揮領(lǐng)導(dǎo)作用。”
大語(yǔ)言模型，也就是聊天機(jī)器人ChatGPT和其他生成式AI背后的人工智能系統(tǒng)，它們可以自動(dòng)完成一系列任務(wù)。但它們也引發(fā)了人們的擔(dān)憂(yōu)，即邪惡團(tuán)體或政府可能會(huì)使用免費(fèi)提供的大語(yǔ)言模型或相關(guān)的人工智能程序來(lái)創(chuàng)建圖像或視頻，以傳播虛假信息或利用軟件安全漏洞。
一些政治家和高管，如前谷歌首席執(zhí)行官埃里克施密特(Eric Schmidt)表示，由于美國(guó)公司在這類(lèi)人工智能方面處于領(lǐng)先地位，因此通過(guò)發(fā)布開(kāi)源軟件來(lái)浪費(fèi)這種領(lǐng)先地位會(huì)損害美國(guó)的國(guó)家安全利益。
施密特在今年5月的《華爾街日?qǐng)?bào)》CEO理事會(huì)峰會(huì)上表示:“世界上有一小部分邪惡的人，如果你給他們一個(gè)超大的工具，他們真的可以造成傷害。”
沒(méi)有跡象表明拜登政府或美國(guó)國(guó)會(huì)計(jì)劃立即處理這個(gè)問(wèn)題，這給了科技高管更多的時(shí)間來(lái)展開(kāi)辯論。雖然他們中的大多數(shù)人都同意功能不那么強(qiáng)大的開(kāi)源模型應(yīng)該廣泛使用，但他們?cè)诩舛四Ｐ褪欠褡銐虬踩�、可以廣泛發(fā)布的問(wèn)題上存在分歧，因?yàn)檫@些模型接受了大量數(shù)據(jù)的訓(xùn)練。
例如，Anthropic反對(duì)開(kāi)源高級(jí)人工智能系統(tǒng)，而Meta支持發(fā)布當(dāng)前一代的尖端模型。微軟處于這兩種觀點(diǎn)的中間位置，它繼續(xù)提供某些新模型的開(kāi)源版本，但也支持為未來(lái)的AI版本強(qiáng)制授權(quán)。谷歌尚未明確表示是否希望對(duì)開(kāi)源人工智能進(jìn)行監(jiān)管。
谷歌發(fā)言人朱莉麥卡利斯特(Julie McAlister)表示:“獲得政府批準(zhǔn)，可能是確保前沿人工智能安全的重要依據(jù)。政策制定者需要考慮重要問(wèn)題并權(quán)衡利弊，比如對(duì)創(chuàng)新和新進(jìn)入者的影響。”
什么樣的模型才算強(qiáng)大？
任何監(jiān)管開(kāi)源人工智能模型的努力都將面臨一項(xiàng)艱巨的任務(wù)，即確定哪些模型過(guò)于強(qiáng)大，尤其是在像人工智能這樣發(fā)展迅速的領(lǐng)域。2019年，OpenAI最初推遲發(fā)布完整版GPT-2，因?yàn)閾?dān)心它可能被用來(lái)產(chǎn)生“大規(guī)模的欺騙性、偏見(jiàn)或辱罵性語(yǔ)言”。但是Meta在7月發(fā)布的Llama 2比GPT-2更強(qiáng)大。
Llama 2的發(fā)布迫使行業(yè)和監(jiān)管機(jī)構(gòu)采取行動(dòng)。紐約風(fēng)險(xiǎn)投資工作室Betaworks的創(chuàng)始人約翰博思威克(John Borthwick)說(shuō)，直到最近，大多數(shù)人還認(rèn)為，開(kāi)源大語(yǔ)言模型在技術(shù)上落后于專(zhuān)有模式兩到四年。他說(shuō)，多虧M(mǎn)eta發(fā)布了Llama 2和其他開(kāi)源工具，比如由阿布扎比的一個(gè)團(tuán)隊(duì)開(kāi)發(fā)的Falcon，“一切都改變了”。
解決潛在濫用的一種方法是授權(quán)政府在最大的人工智能模型(包括開(kāi)源模型)發(fā)布之前對(duì)其進(jìn)行評(píng)估，這種方法在最近幾個(gè)月得到了廣泛的關(guān)注。然后，政府將檢查它們的創(chuàng)建者是否已采取措施，防止用戶(hù)將它們用于有害目的，如進(jìn)行網(wǎng)絡(luò)攻擊。
OpenAI首席執(zhí)行官薩姆奧特曼(Sam Altman)今年5月在國(guó)會(huì)作證時(shí)呼吁進(jìn)行此類(lèi)評(píng)估，稱(chēng)聯(lián)邦政府應(yīng)該考慮對(duì)研發(fā)最先進(jìn)模型的公司(包括開(kāi)源模型)提出許可要求。這樣的審查將確保系統(tǒng)不會(huì)失控。
與OpenAI一樣，向企業(yè)銷(xiāo)售專(zhuān)有人工智能軟件的Anthropic也支持這樣的政府評(píng)估。該公司首席執(zhí)行官達(dá)里奧阿莫代伊(Dario Amodei)在9月份的TechCrunch Disrupt上說(shuō)：“我們需要確保這些大型模型經(jīng)過(guò)適當(dāng)?shù)臏y(cè)試，以確保它們不會(huì)被用于開(kāi)發(fā)生物武器等目的。”
對(duì)開(kāi)源模型的擔(dān)憂(yōu)可能會(huì)直接讓銷(xiāo)售專(zhuān)有人工智能軟件的公司受益。OpenAI每年將通過(guò)銷(xiāo)售專(zhuān)有人工智能軟件獲得超過(guò)10億美元的收入，而Meta進(jìn)軍開(kāi)源人工智能可能會(huì)減緩OpenAI的增長(zhǎng)。
開(kāi)源為創(chuàng)企提供了一條生命線？
出售大模型訪問(wèn)權(quán)限的想法遭到了初創(chuàng)公司和其他開(kāi)發(fā)者的反對(duì)，他們擔(dān)心監(jiān)管會(huì)限制對(duì)這項(xiàng)技術(shù)的訪問(wèn)，并讓OpenAI、微軟和谷歌等老牌企業(yè)對(duì)這項(xiàng)技術(shù)產(chǎn)生更大的影響。雖然谷歌和微軟已經(jīng)發(fā)布了部分技術(shù)的開(kāi)源版本，但它們出售的是對(duì)其尖端模型的訪問(wèn)權(quán)限。他們的云計(jì)算部門(mén)將從開(kāi)源模式中獲益，因?yàn)槭褂么a的開(kāi)發(fā)人員需要租用服務(wù)器。
像Andreessen Horowitz這樣的初創(chuàng)公司投資者一直在試圖讓立法者相信過(guò)度監(jiān)管的危險(xiǎn)。他們的合作伙伴認(rèn)為，如果創(chuàng)業(yè)公司無(wú)法獲得開(kāi)源人工智能，他們將別無(wú)選擇，只能從大型科技公司購(gòu)買(mǎi)軟件。該公司的聯(lián)合創(chuàng)始人馬克安德森(Marc Andreessen)在最近的一篇博客文章中寫(xiě)道:“無(wú)論如何，對(duì)開(kāi)源都不應(yīng)該設(shè)定監(jiān)管障礙。”
這些觀點(diǎn)與那些希望在自己的產(chǎn)品中使用人工智能技術(shù)的應(yīng)用程序開(kāi)發(fā)者產(chǎn)生了共鳴。他們開(kāi)始使用Meta的開(kāi)源人工智能軟件Llama 2，作為付費(fèi)購(gòu)買(mǎi)OpenAI、微軟和其他公司專(zhuān)有軟件的替代方案。這些初創(chuàng)公司可以修改和定制這些開(kāi)源模型，為各種產(chǎn)品提供動(dòng)力，比如聊天機(jī)器人和自動(dòng)編碼工具。
人工智能助理初創(chuàng)公司Lindy的創(chuàng)始人弗洛倫特克里韋洛(Florent Crivello)表示，Llama 2為初創(chuàng)企業(yè)提供了一條生命線，“像我這樣的人希望開(kāi)源模式存在，因?yàn)槲也幌矚g把我所有的錢(qián)都給OpenAI。”與此同時(shí)，他補(bǔ)充說(shuō)，對(duì)失控人工智能系統(tǒng)可能傷害人類(lèi)的擔(dān)憂(yōu)也是合理的，應(yīng)該會(huì)促使監(jiān)管機(jī)構(gòu)放慢這項(xiàng)技術(shù)的發(fā)展。（文/金鹿）
