2023 年，人工智能的政策制定和監(jiān)管措施從小眾、乏味的話題變成了頭條新聞。這在一定程度上要?dú)w功于 OpenAI 的 ChatGPT，它讓人工智能成為了最流行的話題，但也讓人們了解了人工智能系統(tǒng)的工作原理，以及它們失敗的樣子。
從政策的角度來看，這是具有里程碑意義的一年。我們看到了歐盟達(dá)成的第一部全面的人工智能法律，美國(guó)舉行了有關(guān)人工智能的參議院聽證會(huì)并出臺(tái)了行政令，中國(guó)則針對(duì)推薦算法等方面制定了具體規(guī)則。
如果 2023 年是立法者就人工智能愿景達(dá)成一致的一年，那么 2024 年將是政策開始轉(zhuǎn)變?yōu)榫唧w行動(dòng)的一年�，F(xiàn)在，我想聊聊我對(duì) 2024 年的預(yù)期。
2023 年，美國(guó)第一次在政治對(duì)話中真正納入人工智能的議程，而且不僅停留在對(duì)話層面，政策制定者也采取了行動(dòng)，最終讓拜登總統(tǒng)在 2023 年 10 月底發(fā)布了關(guān)于人工智能的行政令。它要求（公司和組織）提高人工智能的透明度并制定新標(biāo)準(zhǔn)。
行政令的出臺(tái)，標(biāo)志著一種美國(guó)式的人工智能管控策略浮出水面：一種對(duì)人工智能行業(yè)友好、強(qiáng)調(diào)最佳實(shí)踐的微妙方法，同時(shí)依靠不同機(jī)構(gòu)制定自己的規(guī)則，以不同的方式監(jiān)管每個(gè)經(jīng)濟(jì)領(lǐng)域。
2024 年的趨勢(shì)將以 2023 年的勢(shì)頭為基礎(chǔ)，拜登行政令中詳細(xì)列出的許多任務(wù)將逐漸落實(shí)。我們還將聽到很多關(guān)于新成立的美國(guó)人工智能安全研究所（US AI Safety Institute）的消息，該研究所將負(fù)責(zé)執(zhí)行行政令中提到的大部分政策。
至于美國(guó)國(guó)會(huì)，我們目前還不清楚具體會(huì)出現(xiàn)什么新動(dòng)作。美國(guó)參議院多數(shù)黨領(lǐng)袖查克舒默（Chuck Schumer）最近表示，除了行政令外，可能還會(huì)出臺(tái)新的法律。
已經(jīng)有幾項(xiàng)立法提案涉及人工智能的各個(gè)方面，如透明度、深度偽造和平臺(tái)問責(zé)制。但目前尚不清楚在這些已經(jīng)提出的法案中，哪一項(xiàng)（如果有的話）將在 2024 年得到多數(shù)支持。
然而，我們可以期待的是看到一種基于人工智能類型和使用方法，劃分其風(fēng)險(xiǎn)程度并對(duì)其進(jìn)行分級(jí)的方法。這一框架將類似于歐盟的《人工智能法案》。
前沿模型論壇（Frontier Model Forum，一家行業(yè)標(biāo)準(zhǔn)制定組織）的執(zhí)行主任查理斯梅塞羅勒（Chris Meserole）表示，美國(guó)國(guó)家標(biāo)準(zhǔn)與技術(shù)研究所已經(jīng)提出了這樣一個(gè)框架，每個(gè)部門和機(jī)構(gòu)現(xiàn)在都必須將其付諸實(shí)踐。
另一件顯而易見的事情是，2024 年的美國(guó)總統(tǒng)大選將左右人工智能監(jiān)管的大部分討論。
我們已經(jīng)看到了生成式人工智能制造的虛假信息如何影響社交媒體，因此我們可以預(yù)料到，美國(guó)大選期間發(fā)生的事情，將決定如何防止這項(xiàng)技術(shù)造成危害的辯論的走向。
（來源：STEPHANIE ARNETT/MITTR | ENVATO）
歐盟剛剛就《人工智能法案》達(dá)成一致，這是世界上第一部全面的人工智能法律。
經(jīng)過激烈的技術(shù)性討論，歐盟國(guó)家已經(jīng)就《人工智能法案》的基本內(nèi)容達(dá)成一致，隨著歐洲各國(guó)和歐盟議會(huì)在 2024 年上半年陸續(xù)走完批準(zhǔn)流程，該法案將很快生效。在最樂觀的情況下，針對(duì)某些人工智能用例的禁令最快可能在年底實(shí)施。
這一切都意味著人工智能行業(yè)將在 2024 年變得愈發(fā)繁忙，因?yàn)楣竞徒M織必須準(zhǔn)備好，開始遵守新的規(guī)則。
盡管大多數(shù)人工智能應(yīng)用將獲得《人工智能法案》的“豁免”，但那些開發(fā)“對(duì)基本權(quán)利構(gòu)成高風(fēng)險(xiǎn)的”基礎(chǔ)模型和應(yīng)用的公司，如那些旨在用于教育、醫(yī)療保健和警務(wù)等部門的模型和應(yīng)用，都必須符合新的歐盟標(biāo)準(zhǔn)。
在歐洲，警察將被禁止在公共場(chǎng)所使用人工智能技術(shù)，除非他們已經(jīng)獲得了法院批準(zhǔn)，并將其用于打擊恐怖主義、阻止人口販運(yùn)或?qū)ふ沂й櫲藛T等特定目的。
還有一些人工智能用例將在歐盟被完全禁止，例如創(chuàng)建面部識(shí)別數(shù)據(jù)庫(kù)，以及在工作或校園環(huán)境中使用情緒識(shí)別技術(shù)。
歐盟的《人工智能法案》將要求公司在如何開發(fā)模型方面更加透明，如果模型或使用高風(fēng)險(xiǎn)人工智能系統(tǒng)的組織造成了任何傷害，它們就要承擔(dān)必要的責(zé)任。
開發(fā)基礎(chǔ)模型的公司比如 OpenAI 它開發(fā)了 GPT-4 等其他人工智能產(chǎn)品所使用的模型，必須在法律生效后一年內(nèi)完成整改，使其產(chǎn)品和行事方式遵守相關(guān)法律。其他科技公司有兩年的時(shí)間來執(zhí)行這些規(guī)定。
為了滿足新的要求，人工智能公司必須更仔細(xì)地考慮如何構(gòu)建系統(tǒng)，還要更嚴(yán)格地記錄他們的工作，以便對(duì)其進(jìn)行審查。
例如，該法律將要求公司對(duì)其模型的訓(xùn)練方式更加透明，并確保“高風(fēng)險(xiǎn)”人工智能系統(tǒng)使用了足夠有代表性的數(shù)據(jù)集進(jìn)行訓(xùn)練和測(cè)試，以最大限度地減少模型偏見。
歐盟認(rèn)為，最強(qiáng)大的人工智能模型，如 OpenAI 的 GPT-4 和谷歌的 Gemini，可能會(huì)對(duì)其公民構(gòu)成“系統(tǒng)性”風(fēng)險(xiǎn)，因此需要額外的工作來滿足歐盟標(biāo)準(zhǔn)。
這些科技公司必須采取行動(dòng)，評(píng)估和減輕風(fēng)險(xiǎn)并確保系統(tǒng)安全，同時(shí)還要報(bào)告嚴(yán)重事故和分享能源消耗的詳細(xì)信息。至于哪些模型是高風(fēng)險(xiǎn)的，這將取決于公司來評(píng)估它們的模型是否足夠強(qiáng)大。
開源人工智能公司在很大程度上不受《人工智能法案》透明度要求的約束，除非它們正在開發(fā)像 GPT-4 這樣的計(jì)算密集型模型。如果未能如期遵守規(guī)定，后果可能是巨額罰款，或者導(dǎo)致它們的產(chǎn)品被歐盟禁用。
歐盟還正在制定另一項(xiàng)法案，名為《人工智能責(zé)任指令（AI Liability Directive）》，該提案將確保受到人工智能技術(shù)傷害的人能夠獲得經(jīng)濟(jì)補(bǔ)償。關(guān)于該提案的談判仍在進(jìn)行中，2024 年將會(huì)出現(xiàn)更多進(jìn)展。
其他一些國(guó)家則采取了暫時(shí)觀望的做法。例如，谷歌 DeepMind 總部所在的英國(guó)表示，短期內(nèi)不打算監(jiān)管人工智能。然而，如果任何公司想在歐盟這個(gè)世界第二大經(jīng)濟(jì)體里面開展業(yè)務(wù)，就必須遵守《人工智能法案》。
美國(guó)哥倫比亞大學(xué)法學(xué)教授阿努布拉德福德（Anu Bradford）稱之為“布魯塞爾效應(yīng)”，通過率先出臺(tái)監(jiān)管政策，歐盟制定的標(biāo)準(zhǔn)將輻射全球各國(guó)并影響它們的政策制定者，進(jìn)而塑造全球的商業(yè)和技術(shù)發(fā)展方式。
歐盟通過其嚴(yán)格的數(shù)據(jù)保護(hù)制度（GDPR，General Data Protection Regulation）成功實(shí)現(xiàn)了這一點(diǎn)，該制度被美國(guó)加州和印度等地區(qū)所效仿。它希望在人工智能方面繼續(xù)成為主要影響者。
2024 年，我們可能會(huì)看到更多的人工智能法規(guī)在世界其他地區(qū)出臺(tái)。一個(gè)值得關(guān)注的地區(qū)將是非洲。
歐洲發(fā)展政策管理中心的政策官員美樂達(dá)墨索尼（Melody Musoni）表示，非洲聯(lián)盟可能會(huì)在 2024 年初發(fā)布一項(xiàng)針對(duì)非洲大陸的人工智能戰(zhàn)略，旨在制定個(gè)別國(guó)家可以復(fù)制的政策，以在人工智能領(lǐng)域提升競(jìng)爭(zhēng)力，并保護(hù)非洲消費(fèi)者免受西方科技公司的影響。
盧旺達(dá)、尼日利亞和南非等一些國(guó)家已經(jīng)起草了國(guó)家人工智能戰(zhàn)略，還在努力制定教育計(jì)劃、發(fā)展計(jì)算能力和行業(yè)友好政策，以支持人工智能公司。
聯(lián)合國(guó)、經(jīng)合組織、二十國(guó)集團(tuán)（G20）等全球或地區(qū)聯(lián)盟也已開始建立有關(guān)人工智能的工作組、咨詢委員會(huì)、原則、標(biāo)準(zhǔn)和聲明。
經(jīng)合組織等組織可能有助于在不同地區(qū)塑造監(jiān)管一致性，從而減輕人工智能公司的合規(guī)負(fù)擔(dān)。
從地緣政治角度來看，我們可能會(huì)看到不同國(guó)家對(duì)人工智能產(chǎn)業(yè)的態(tài)度變得愈發(fā)不同，例如是否將人工智能武器化。
2024 年，人工智能公司將在多大程度上考慮全球擴(kuò)張，還是優(yōu)先專注本土業(yè)務(wù)，這也是一件有趣的事情。他們可能不得不做出一些艱難的決定。
支持：Ren
運(yùn)營(yíng)/排版：何晨龍
