歐盟掃清了立法監(jiān)管人工智能（AI）的最后障礙。
當(dāng)?shù)貢r(shí)間3月13日，歐洲議會(huì)以壓倒性票數(shù)通過(guò)《人工智能法案》（下稱"法案"），這標(biāo)志著距離全球首部AI領(lǐng)域的全面監(jiān)管法規(guī)的正式立法，僅有一步之遙。
歐盟國(guó)家將于5月正式批準(zhǔn)該法案，立法預(yù)計(jì)將于2025年初生效并于2026年實(shí)施，其中某些條款將在今年內(nèi)適用。
值得注意的是，免費(fèi)、開(kāi)源的模型的確獲得了《法案》中的某些豁免。但如果它們被認(rèn)為構(gòu)成"系統(tǒng)性風(fēng)險(xiǎn)"，開(kāi)源并不能成為其免于遵守規(guī)定的理由，這表明更強(qiáng)大的開(kāi)源模型仍將面臨監(jiān)管。
清華大學(xué)計(jì)算機(jī)系長(zhǎng)聘教授，清華大學(xué)人工智能研究院視覺(jué)智能研究中心主任鄧志東告訴第一財(cái)經(jīng)記者，"作為一個(gè)特殊領(lǐng)域，歐盟出臺(tái)《法案》，加強(qiáng)對(duì)AI的管控，給開(kāi)源模型更大的豁免權(quán)，可促進(jìn)人工通用智能（AGI）的研發(fā)沿著安全、正確的方向，以公開(kāi)、透明的方式迭代演化，相信這會(huì)是未來(lái)的政策方向。"
能否推進(jìn)開(kāi)源？
開(kāi)源即將模型的源代碼和技術(shù)細(xì)節(jié)公開(kāi)，并允許用戶根據(jù)其自身需要對(duì)模型進(jìn)行任意使用和修改。被認(rèn)為有提高技術(shù)透明度，讓用戶更容易、更便宜地使用，惠及開(kāi)發(fā)者降低迭代成本，防止壟斷等好處。而閉源模型的源代碼和技術(shù)細(xì)節(jié)則完全被其提供商控制，不對(duì)外進(jìn)行公開(kāi)，也不允許用戶對(duì)這些模型本身進(jìn)行更改。
鄧志東對(duì)第一財(cái)經(jīng)記者表示，開(kāi)源大語(yǔ)言模型會(huì)造成一些安全方面的濫用或風(fēng)險(xiǎn)，但因?yàn)橛腥祟惖墓餐瑓⑴c，即使出現(xiàn)某些安全方面的問(wèn)題，但囿于模型架構(gòu)等方面的限制，可能也不會(huì)是致命的。
而對(duì)于閉源模型，鄧志東認(rèn)為其主要挑戰(zhàn)是絕大多數(shù)人不知道那些閉源的AGI巨頭都在干什么或打算干什么。
至于此舉是否會(huì)使閉源模型在市場(chǎng)競(jìng)爭(zhēng)上處于劣勢(shì)，鄧志東則表示，當(dāng)前尚無(wú)全球AGI安全監(jiān)管規(guī)則，由幾家閉源公司決定人類的未來(lái)是非常危險(xiǎn)的，特別是當(dāng)一家AI頭部企業(yè)正在追求百萬(wàn)塊量級(jí)高端GPU算力的時(shí)候。 因此，相對(duì)于少數(shù)幾個(gè)閉源模型競(jìng)爭(zhēng)的不公平，全人類的安全更重要。
不過(guò)，在現(xiàn)實(shí)中可以看到，很多企業(yè)選擇了"兩條腿走路"，即開(kāi)源其較小的大語(yǔ)言模型，但在最大的和最先進(jìn)的模型上選擇閉源。
例如，一直堅(jiān)持開(kāi)源的法國(guó)人工智能初創(chuàng)公司MistralAI最新發(fā)布的Mistral-Large大模型尚未開(kāi)源。谷歌開(kāi)源的Gemma也僅為其輕量化的大模型版本，且谷歌仍可制定使用該模型的條款及所有權(quán)條款。而被特斯拉首席執(zhí)行官馬斯克起訴的Open AI，在GPT3.0版本之前會(huì)通過(guò)論文公開(kāi)其具體的技術(shù)細(xì)節(jié)，但在3.5版本之后，則不再公開(kāi)。在GPT-4發(fā)布時(shí)，連最基本的模型參數(shù)都沒(méi)公布。
對(duì)此，鄧志東向第一財(cái)經(jīng)記者表示，"當(dāng)AI產(chǎn)品或產(chǎn)業(yè)發(fā)展到相當(dāng)成熟度，從開(kāi)源走向有限開(kāi)源甚至閉源是必然趨勢(shì)。畢竟面臨激烈的市場(chǎng)競(jìng)爭(zhēng)，企業(yè)要生存、要發(fā)展，要追求商業(yè)利益的最大化，也需要平衡前期的巨大投入。這個(gè)商業(yè)底層邏輯可能是企業(yè)實(shí)現(xiàn)AGI大模型開(kāi)源的難點(diǎn)。"
首部AI立法如何規(guī)范生成式AI
對(duì)于備受矚目的生成式AI等功能強(qiáng)大的模型，《法案》計(jì)劃進(jìn)行分層處理。第一層涵蓋所有通用模型，《法案》對(duì)其透明度作出明確要求，包括遵守歐盟版權(quán)法和詳細(xì)說(shuō)明訓(xùn)練方法和能源消耗。僅用于科研或開(kāi)源的模型被排除在外。
第二層，如果通用人工智能（GPAI）用于訓(xùn)練的累積計(jì)算量大于10的25次方每秒浮點(diǎn)運(yùn)算次數(shù)（FLOPs），將被認(rèn)為具有"系統(tǒng)性風(fēng)險(xiǎn)"，并將面臨模型評(píng)估、系統(tǒng)性風(fēng)險(xiǎn)評(píng)估和減輕等額外要求。然而目前，只有OpenAI的GPT-4確定處于這一范圍。此外，人造或操縱的圖像、音頻或視頻內(nèi)容則需要明確標(biāo)記。
歐盟輿論認(rèn)為，其他國(guó)家和地區(qū)可能會(huì)使用該法案作為未來(lái)AI治理的藍(lán)圖，就像歐盟的《通用數(shù)據(jù)隱私法規(guī)》（GDPR）所起到的作用一樣。歐盟內(nèi)部市場(chǎng)委員布雷頓就在法案通過(guò)后表示，歐洲現(xiàn)在是可信賴AI的"全球標(biāo)準(zhǔn)制定者"。
鄧志東告訴第一財(cái)經(jīng)記者，要加大AI領(lǐng)域重大方向性的全球安全監(jiān)管力度，特別是對(duì)AGI的安全風(fēng)險(xiǎn)進(jìn)行分級(jí)管控。
他認(rèn)為，既不要妨礙AI的探索與創(chuàng)新活力，以期其蓬勃發(fā)展加快增進(jìn)人類福祉，但也必須考慮人類的整體安全利益，處理好各個(gè)發(fā)展階段的安全優(yōu)先級(jí)別，在實(shí)踐中把握好最佳AI風(fēng)險(xiǎn)管控時(shí)機(jī)。
《法案》的處罰力度同樣可觀，違反者最高可被處以3500萬(wàn)歐元或全球年?duì)I業(yè)額總額7%的巨額罰款以較高者為準(zhǔn)。
不過(guò)，去年6月中旬，斯坦福大學(xué)AI研究實(shí)驗(yàn)室發(fā)布的一項(xiàng)研究顯示，包括Open AI的GPT-4, Meta的LlaMa在內(nèi)的10個(gè)主流大模型，均未滿足《法案》草案的要求。其中Anthropic的Claude 1等三個(gè)大模型得分最低，倡導(dǎo)開(kāi)源的Hugging Face與非營(yíng)利組織BigScience開(kāi)發(fā)的Bloom得分最高。
斯坦福研究團(tuán)隊(duì)在報(bào)告中表示："主要基礎(chǔ)模型提供商目前基本上沒(méi)有遵守這些草案要求。他們很少披露有關(guān)其模型的數(shù)據(jù)、計(jì)算和部署以及模型本身的關(guān)鍵特征的足夠信息。尤其是，他們不遵守草案要求來(lái)描述受版權(quán)保護(hù)的訓(xùn)練數(shù)據(jù)的使用、訓(xùn)練中使用的硬件和產(chǎn)生的排放，以及他們?nèi)绾卧u(píng)估和測(cè)試模型。"
該研究團(tuán)隊(duì)表示，研究結(jié)果證明目前基礎(chǔ)模型提供商遵守《法案》是可行的，并且《法案》的頒布和執(zhí)行將為生態(tài)系統(tǒng)帶來(lái)重大變化，在提高透明度和問(wèn)責(zé)制方面取得實(shí)質(zhì)性進(jìn)展。
