新智元報(bào)道
編輯：潤(rùn) 拉燕
【新智元導(dǎo)讀】FTC突然對(duì)OpenAI展開(kāi)調(diào)查，Altman連發(fā)3推澄清。FTC對(duì)陣OpenAI的大戲正緩緩拉開(kāi)帷幕。
重磅！美國(guó)聯(lián)邦貿(mào)易委員會(huì)的調(diào)查說(shuō)來(lái)就來(lái)！
調(diào)查對(duì)象不是別人，正是風(fēng)頭正旺的OpenAI。
一封長(zhǎng)達(dá)20頁(yè)的調(diào)查要求書(shū)直接給了Sam Altman當(dāng)頭棒喝。
OpenAI又雙攤上事了
可能OpenAI還沒(méi)來(lái)得及選好幫自己打官司的律師，這邊又被美國(guó)聯(lián)邦貿(mào)易委（FTC）員會(huì)找上門(mén)來(lái)了。
FTC給OpenAI列了一個(gè)包括49個(gè)大問(wèn)題，200多個(gè)小問(wèn)題的清單，要求OpenAI就清單上的所有問(wèn)題進(jìn)行詳細(xì)地回答和陳述。
看到這一大串的問(wèn)題，向來(lái)以成熟冷靜，處變不驚著稱的Sam Altman也有點(diǎn)麻了，連發(fā)3推給OpenAI壓壓驚。
這份清單的49個(gè)問(wèn)題，除去要求OpenAI講清楚基本的公司架構(gòu)之外，針對(duì)模型訓(xùn)練，隱私和提示詞風(fēng)險(xiǎn)，API插件，個(gè)人信息等幾個(gè)方面，詢問(wèn)得非常專業(yè)和詳細(xì)。
FTC！主動(dòng)出擊
說(shuō)穿了一句話，F(xiàn)TC主要調(diào)查的內(nèi)容就是OpenAI違沒(méi)違反消費(fèi)者保護(hù)法。
而公布的20頁(yè)民事調(diào)查要求書(shū)（CID）一看就專業(yè)的不行。
知情人士表示，這份20頁(yè)的CID是真實(shí)的。但FTC沒(méi)有予以置評(píng)。
CID中指出，本次FTC的調(diào)查將重點(diǎn)關(guān)注OpenAI是否存在不公平，或欺詐性的隱私數(shù)據(jù)安全條例，以及是否有不公平，或欺詐性的行為，導(dǎo)致用戶蒙受受到傷害的風(fēng)險(xiǎn)（包括聲譽(yù)損失），有無(wú)違反《聯(lián)邦貿(mào)易委員會(huì)法》第5條內(nèi)容。
一直以來(lái)，立法者都在為生成式AI發(fā)愁，需不需要立新法，怎么立，怎么保護(hù)知識(shí)產(chǎn)權(quán)、用戶數(shù)據(jù)，都是「頭疼大事」。
而在這次調(diào)查中，F(xiàn)TC霸氣地表示，我們已有法律權(quán)力來(lái)追究AI可能造成的傷害。
而提到FTC，就得提到主席Lina Khan。
作為一個(gè)女強(qiáng)人，她直接就是一個(gè)出手，對(duì)新興技術(shù)采取主動(dòng)監(jiān)管，而非被動(dòng)應(yīng)對(duì)。
概括來(lái)看，CID中要求OpenAI列出所有有權(quán)訪問(wèn)其模型的第三方，并要求這些第三方分別講清楚各自是如何保留、處置用戶數(shù)據(jù)的，以及自己公司模型訓(xùn)練的數(shù)據(jù)從哪兒來(lái)。
CID還要求OpenAI說(shuō)明他們是如何評(píng)估LLM存在的風(fēng)險(xiǎn)的，以及是如何檢測(cè)并處理有誤導(dǎo)性、歧視性的內(nèi)容的。
要知道，在今年3月，OpenAI曾經(jīng)出現(xiàn)過(guò)疏漏，當(dāng)時(shí)的錯(cuò)誤是：一部分用戶可以看到其他用戶的歷史聊天記錄的標(biāo)題，以及1.2%左右的ChatGPT Plus用戶的支付信息暴露。
為此，3月24號(hào)OpenAI在官網(wǎng)上發(fā)布了一篇文章，解釋20號(hào)發(fā)生了什么。
而此次的調(diào)查要求OpenAI對(duì)這個(gè)事兒進(jìn)行二次說(shuō)明。
其實(shí)截止到現(xiàn)在，OpenAI的CEO Altman在華盛頓還是個(gè)香餑餑的。
立法者們覺(jué)得，Altman在對(duì)立法監(jiān)管自家公司產(chǎn)品這件事上，還算是兼聽(tīng)則明的。
不過(guò)，也有另一些AI專家提醒，Altman這么說(shuō)也可能有自己的考慮，還是要廣泛聽(tīng)取各方不同的觀點(diǎn)。
質(zhì)詢函內(nèi)容
在這份CID中，F(xiàn)TC列舉了49個(gè)問(wèn)題，囊括以下幾個(gè)方面：
1. 公司基本信息及背景
2. 相關(guān)告知與陳述
3. 模型開(kāi)發(fā)與訓(xùn)練
4. 風(fēng)險(xiǎn)評(píng)估與應(yīng)對(duì)
5. 隱私和Prompt風(fēng)險(xiǎn)及措施
6. API集成及插件
而在每個(gè)大類下，CID又從各個(gè)方面詳細(xì)列舉了若干問(wèn)題。比較重要的有如下：
OpenAI必須披露其完整的法定名稱、地址、電話號(hào)碼以及OpenAI結(jié)構(gòu)、子公司、合伙企業(yè)等細(xì)節(jié)。
在適用時(shí)期內(nèi),每年OpenAI必須披露員工人數(shù)、組織結(jié)構(gòu)圖、高管和董事詳細(xì)信息、股東詳細(xì)信息等。
OpenAI必須披露在適用時(shí)期內(nèi)與第三方就開(kāi)發(fā)LLM簽訂的所有協(xié)議的詳情。
OpenAI必須披露其用于訓(xùn)練、測(cè)試、審計(jì)和監(jiān)控LLM的政策和程序。
OpenAI必須披露用于訓(xùn)練LLM的數(shù)據(jù)來(lái)源、數(shù)據(jù)類型、數(shù)據(jù)保留和負(fù)責(zé)數(shù)據(jù)的個(gè)人/部門(mén)的詳細(xì)信息。
OpenAI必須披露其技術(shù)和組織安全措施,以降低LLM輸出包含非法、不安全、有偏見(jiàn)或誤導(dǎo)內(nèi)容的風(fēng)險(xiǎn)。
OpenAI必須披露用戶投訴受到傷害的詳細(xì)信息以及應(yīng)對(duì)的回應(yīng)。
OpenAI必須披露與AI系統(tǒng)的隱私、安全和倫理相關(guān)的政策和程序。
OpenAI必須披露與其LLM的安全性、偏見(jiàn)和事實(shí)正確性相關(guān)的內(nèi)部溝通、評(píng)估和研究的詳細(xì)信息。
OpenAI必須披露其如何監(jiān)控遵守與審計(jì)AI系統(tǒng)相關(guān)政策的詳細(xì)信息。
OpenAI必須披露向LLM用戶提供的說(shuō)明、指南和培訓(xùn)材料的詳細(xì)信息。
OpenAI必須披露與其LLM相關(guān)的任何外部研究/測(cè)試并概述結(jié)果。
OpenAI必須披露其為應(yīng)對(duì)安全問(wèn)題而對(duì)LLM做出的任何修改的詳細(xì)信息。
看了這一系列的詳細(xì)而全面的問(wèn)題，如果OpenAI真的不得不對(duì)里面的內(nèi)容進(jìn)行詳盡陳述的話，萬(wàn)一內(nèi)容「一不小心」被泄露出來(lái)，OpenAI可能真的就被徹底OPEN了。
屋漏偏逢連夜雨
OpenAI最近的麻煩事還真不止這一件。
6月28號(hào)，位于北加州的Clarkson律所代表16名原告對(duì)OpenAI提起了集體訴訟。
指控OpenAI在訓(xùn)練大模型時(shí)從網(wǎng)上抓取的數(shù)據(jù)，嚴(yán)重侵犯了16名原告的著作權(quán)和隱私，要求賠償30億美金。
克拉克森訴訟的核心主張是OpenAI的整個(gè)商業(yè)模式都是基于盜竊。
幾天之后4位作家Mona Awad，Paul TremblaSarah Silverman，Christopher Golden、Richard Kadrey也在美國(guó)不同的地方法院分別起訴了OpenAI，指控他們?cè)谖唇?jīng)同意的情況下使用他們出版的書(shū)籍來(lái)訓(xùn)練 ChatGPT，違反了版權(quán)法。
看到這里，可能有的讀者想問(wèn)了，之前你們不是寫(xiě)過(guò)Sam Altman大戰(zhàn)國(guó)會(huì)山，贏得了監(jiān)管的支持，怎么一下出來(lái)這么多找OpenAI茬的人？
這里的主要問(wèn)題在于，美國(guó)社會(huì)里管事的有3撥人：國(guó)會(huì)里立法的老頭子們，法院里審案子的法官們和政府的行政機(jī)構(gòu)，他們3家屬于分別管事，大部分時(shí)候互不牽扯。
所以Sam Altman雖然贏得了第一撥人國(guó)會(huì)里立法的老頭子們的支持，但是另外兩撥的關(guān)系他還沒(méi)有搞定。
這兩天的事情就屬于這兩撥沒(méi)搞定的人找上門(mén)來(lái)了。
而今天來(lái)查水表的FTC，應(yīng)該是所有人里最難應(yīng)付的主。
科技公司勁敵FTC
FTC中文全稱是聯(lián)邦貿(mào)易委員會(huì)，職能類似于我們國(guó)家的商務(wù)部。
最近一段時(shí)間稍微關(guān)注過(guò)美國(guó)科技圈新聞的讀者應(yīng)該對(duì)這個(gè)機(jī)構(gòu)應(yīng)該都不陌生，除了找OpenAI的麻煩，它的業(yè)績(jī)還包括：調(diào)查處罰了FTX等一些加密貨幣交易所，和微軟打了個(gè)反壟斷官司。
昨天，F(xiàn)TC臨時(shí)中止微軟收購(gòu)暴雪的動(dòng)議剛被法院駁回，今天就去查了OpenAI的水表。
不得不感嘆，F(xiàn)TC這政府機(jī)構(gòu)的工作效率堪比創(chuàng)業(yè)公司。
再看看FTC以往和科技公司的交鋒歷史，F(xiàn)acebook，谷歌，微軟，亞馬遜都因?yàn)楦鞣N問(wèn)題被它處罰過(guò)，可以說(shuō)是科技公司的老苦主了。
而它現(xiàn)在任上的主席Lina Khan女士，更是一位相當(dāng)傳奇的人物。
她在2021年6月15日被拜登任命為FTC主席時(shí)，才32歲。
這經(jīng)歷怎么說(shuō)呢，放在國(guó)內(nèi)就相當(dāng)于32歲的女士成為了商務(wù)部部長(zhǎng)，屬于是爽文作者都不敢立的超大女主人設(shè)。
除了年紀(jì)輕輕就被委以重任之外，她還自帶「反大科技公司」光環(huán)出道。
2017年，還在讀書(shū)的莉娜可汗在《耶魯法學(xué)雜志》發(fā)表文章《亞馬遜的反壟斷悖論》，在法律界和政界引發(fā)巨大反響。
她曾在眾議院司法委員會(huì)反壟斷小組擔(dān)任法律顧問(wèn)一職，幫助撰寫(xiě)了一份449頁(yè)的報(bào)告，指控亞馬遜、蘋(píng)果、Facebook和谷歌濫用市場(chǎng)主導(dǎo)地位。
所以在她被任命為FTC主席不到一個(gè)月后，谷歌和臉書(shū)就請(qǐng)?jiān)窮TC，讓她回避針對(duì)科技公司的反壟斷訴訟。
這兩家富可敵國(guó)，在硅谷呼風(fēng)喚雨的科技巨頭，是發(fā)自內(nèi)心的害怕這位新上任的領(lǐng)導(dǎo)，擔(dān)心真的打不過(guò)，只能先請(qǐng)系統(tǒng)Ban了她。
可以想象，只要她還在任上一天，大型科技公司的日子就不會(huì)太好過(guò)。
而OpenAI因?yàn)楝F(xiàn)在「硅谷當(dāng)紅炸子雞」的身份，作為初創(chuàng)公司就被FTC盯上，可能也算是對(duì)他們地位的一種另類肯定吧。
網(wǎng)友反應(yīng)
在Altman穩(wěn)定軍心一般發(fā)了三條推特以后，底下網(wǎng)友眾說(shuō)紛紓
不過(guò)大致一掃過(guò)去，基本全是痛批Altman的。難道真是「天下苦OpenAI久矣」？
比如下面這位網(wǎng)友，這都算委婉的了。
「我知道你想讓用戶滿意你的產(chǎn)品，但你的技術(shù)是你自己整的，怎么用也是隨你心意來(lái)的。我覺(jué)得你得坦誠(chéng)一點(diǎn)，承認(rèn)你個(gè)人能比用戶接觸到多得多得多的模型�！�
「你的坦誠(chéng)，很重要。」
這位網(wǎng)友更直白，估計(jì)都能給Altman直接干沉默。
「我每天都用GPT，我怎么沒(méi)覺(jué)得你維護(hù)用戶的權(quán)益了？又沒(méi)得到我們的同意，又收集信息，你怎么敢說(shuō)自己在維護(hù)權(quán)益的啊？」
下面這位網(wǎng)友直接開(kāi)啟陰陽(yáng)：
「多新鮮！一家公司，嘴上說(shuō)著嗯嗯嗯我們絕對(duì)遵守法律，實(shí)際上用戶信息全給泄露了，信你個(gè)鬼埃你OpenAI是真棒�！�
「如果Altman說(shuō)那一套AI安全性的說(shuō)辭只是為了他自己的話，我是不會(huì)聽(tīng)的。」
不過(guò)也有站OpenAI的網(wǎng)友，表示對(duì)監(jiān)管者很不放心，擔(dān)心他們根本就沒(méi)能力把這個(gè)事情管好。
擔(dān)心那些帶著偏見(jiàn)的監(jiān)管者沒(méi)有辦法真的有效地進(jìn)行監(jiān)管。
這位網(wǎng)友更是看熱鬧不嫌事大，希望OpenAI把關(guān)鍵數(shù)據(jù)交給FTC后，再以某種形式泄露出來(lái)，最后完成對(duì)OpenAI的「開(kāi)源」。
最后這條評(píng)論想必說(shuō)出了很多人的心聲。雖然那份CID看著專業(yè)，但是FTC可能還是沒(méi)有足夠?qū)I(yè)的人員來(lái)跟進(jìn)。
哪怕是評(píng)估OpenAI的回答，可能都費(fèi)勁。
這是很有啟發(fā)意義的專業(yè)的立法「能且僅能」被專業(yè)人士搞定。
而看樣子，這位網(wǎng)友對(duì)FTC并沒(méi)什么信心。
參考資料：
https://www.nbcnews.com/tech/tech-news/ftc-investigating-chatgpt-maker-openai-possible-consumer-harm-rcna94067
