歐盟正在考慮采用分級(jí)方法來(lái)監(jiān)管生成式人工智能（AI）模型。一項(xiàng)提案稱，歐盟將為3個(gè)級(jí)別的基礎(chǔ)大型語(yǔ)言模型建立規(guī)則，并對(duì)最強(qiáng)大的AI技術(shù)進(jìn)行額外的外部測(cè)試。
根據(jù)擬議的規(guī)則，第一級(jí)將包括所有基礎(chǔ)模型；第二級(jí)針對(duì)“非常強(qiáng)大”的基礎(chǔ)模型，將通過(guò)用于訓(xùn)練其大型語(yǔ)言模型的算力來(lái)區(qū)分，提案稱這些模型可能“超出了當(dāng)前的技術(shù)水平，并且可能尚未被完全理解”；第三級(jí)被稱為大規(guī)模通用目的人工智能系統(tǒng)，將包括最流行的人工智能工具，并以用戶總數(shù)來(lái)衡量。
像ChatGPT這樣的聊天機(jī)器人依賴于大型語(yǔ)言模型即使用大量數(shù)據(jù)集來(lái)開(kāi)發(fā)人工智能的算法，在此基礎(chǔ)上開(kāi)發(fā)的生成式人工智能軟件可以通過(guò)文本、圖片和視頻來(lái)響應(yīng)人類的提示，其技能水平有時(shí)候令人驚訝和擔(dān)憂。
目前，全球多國(guó)都在努力為生成式AI設(shè)置護(hù)欄，以應(yīng)對(duì)這一新興技術(shù)迅速發(fā)展帶來(lái)的安全風(fēng)險(xiǎn)。歐盟有望成為第一個(gè)對(duì)人工智能制定強(qiáng)制性規(guī)則的西方政府。根據(jù)其擬議的《人工智能法案》，開(kāi)發(fā)和部署人工智能系統(tǒng)的公司需要進(jìn)行風(fēng)險(xiǎn)評(píng)估、標(biāo)記人工智能生成的內(nèi)容，并完全禁止使用生物識(shí)別監(jiān)控等措施。談判人員希望在10月25日舉行的下次會(huì)議上完善該立法，目標(biāo)是在年底前敲定法案。
歐盟3個(gè)機(jī)構(gòu)的代表在本月早些時(shí)候的一次會(huì)議上普遍支持分級(jí)監(jiān)管方法，但技術(shù)專家提出了更具體的建議。根據(jù)彭博社看到的10月16日的文件，這些想法目前正在形成，但隨著談判的展開(kāi)，它們可能會(huì)發(fā)生變化。
知情人士表示，此舉的目標(biāo)是不讓新初創(chuàng)企業(yè)承受過(guò)多監(jiān)管負(fù)擔(dān)，同時(shí)又對(duì)大型企業(yè)進(jìn)行控制。
以下為提案對(duì)三級(jí)監(jiān)管的要求：
1.所有基礎(chǔ)模型（All Foundational Models）
人工智能開(kāi)發(fā)人員在將任何模型投放市場(chǎng)之前都必須遵守透明度要求。他們必須記錄模型及其訓(xùn)練過(guò)程，包括內(nèi)部“紅隊(duì)”工作的結(jié)果，即獨(dú)立專家試圖將模型推向不良行為從而對(duì)安全性進(jìn)行評(píng)判的過(guò)程。開(kāi)發(fā)人員還將根據(jù)標(biāo)準(zhǔn)化協(xié)議進(jìn)行評(píng)估。
模型投放市場(chǎng)后，公司需要向使用該技術(shù)的企業(yè)提供信息，并使它們能夠測(cè)試基礎(chǔ)模型。
公司必須對(duì)用于開(kāi)發(fā)模型的內(nèi)容以及如何管理版權(quán)問(wèn)題提供“足夠詳細(xì)”的摘要，包括確保權(quán)利所有者可以選擇不將其內(nèi)容用于訓(xùn)練模型。公司還必須確保人工智能內(nèi)容能夠與其他材料區(qū)分開(kāi)來(lái)。
談判人員提議將基礎(chǔ)模型定義為一個(gè)能夠“勝任執(zhí)行各種獨(dú)特任務(wù)”的系統(tǒng)。
2.非常強(qiáng)大的基礎(chǔ)模型（Very Capable Foundation Models）
開(kāi)發(fā)這一級(jí)技術(shù)的公司將遵守更嚴(yán)格的規(guī)則。在投放市場(chǎng)之前，這些模型必須接受外部專家的定期紅隊(duì)審查，這些專家將接受歐盟新成立的人工智能辦公室的審查。測(cè)試結(jié)果將發(fā)送給該機(jī)構(gòu)。
公司還必須引入系統(tǒng)來(lái)幫助發(fā)現(xiàn)系統(tǒng)性風(fēng)險(xiǎn)。這些模型投放市場(chǎng)后，歐盟將讓獨(dú)立審查員和研究人員執(zhí)行合規(guī)控制，包括檢查公司是否遵守透明度規(guī)則。
談判代表還考慮為公司創(chuàng)建一個(gè)論壇，討論最佳實(shí)踐和自愿行為準(zhǔn)則，這些準(zhǔn)則將得到歐盟委員會(huì)的認(rèn)可。
非常強(qiáng)大的基礎(chǔ)模型將根據(jù)訓(xùn)練它們所需的算力進(jìn)行分類，使用稱為FLOPS或每秒浮點(diǎn)運(yùn)算的衡量標(biāo)準(zhǔn)。確切的門檻將由歐盟委員會(huì)在稍后階段確定，并將根據(jù)需要進(jìn)行更新。
公司可以對(duì)這一評(píng)估提出異議。相反，即使調(diào)查后未達(dá)到閾值，委員會(huì)也可以認(rèn)為模型“非常強(qiáng)大”。談判人員還在考慮使用該模型的“潛在影響”基于其上構(gòu)建的高風(fēng)險(xiǎn)人工智能應(yīng)用程序的數(shù)量，作為對(duì)技術(shù)進(jìn)行分類的一種方式。
3. 大規(guī)模通用目的人工智能系統(tǒng)（General Purpose AI Systems at Scale）
這些系統(tǒng)也必須接受外部專家的紅隊(duì)檢查以識(shí)別漏洞，結(jié)果將發(fā)送給委員會(huì)的人工智能辦公室。公司還必須引入風(fēng)險(xiǎn)評(píng)估和緩解系統(tǒng)。
歐盟將認(rèn)定任何擁有10000名注冊(cè)企業(yè)用戶或4500萬(wàn)注冊(cè)終端用戶的系統(tǒng)都屬于大規(guī)模通用目的人工智能系統(tǒng)。委員會(huì)稍后將決定如何計(jì)算用戶數(shù)量。
公司可以就其大規(guī)模通用人工智能系統(tǒng)的地位提起上訴，同樣，歐盟可以讓其他系統(tǒng)或模型遵守這些附加規(guī)則，即使它們沒(méi)有達(dá)到閾值，但可能“引發(fā)風(fēng)險(xiǎn)”。
此外，提案表示，需要進(jìn)一步討論來(lái)確定護(hù)欄，以確保通用目的人工智能系統(tǒng)和非常強(qiáng)大的人工智能系統(tǒng)都不會(huì)生成非法和有害內(nèi)容。
大規(guī)模通用目的人工智能和非常強(qiáng)大的基礎(chǔ)模型的附加規(guī)則將由新的人工智能辦公室監(jiān)督。該機(jī)構(gòu)可以索取文件、組織合規(guī)測(cè)試、創(chuàng)建注冊(cè)制度審核紅隊(duì)測(cè)試人員并進(jìn)行調(diào)查。該機(jī)構(gòu)甚至可以“作為最后手段”暫停某個(gè)模型。
人工智能辦公室雖然位于歐盟委員會(huì)內(nèi)，但將是“獨(dú)立的”。歐盟可以對(duì)大規(guī)模通用目的人工智能和非常強(qiáng)大的基礎(chǔ)模型收取費(fèi)用，從而獲得資金來(lái)雇用辦公室人員。
