從超級對齊團(tuán)隊解散，到引入Indent團(tuán)隊，再到成立由董事會主導(dǎo)的安全委員會，從這一系列的行動中不難看出，OpenAI在安全與商業(yè)的博弈中，逐步向后者傾斜。山姆奧特曼正在把OpenAI向商業(yè)化的道路不斷推進(jìn)。
從首席科學(xué)家伊爾亞蘇茨克維（Ilya Sutskever）離職到旨在解決人工智能安全治理問題的“超級對齊”團(tuán)隊被傳解釋，OpenAI近期紛爭不斷，似乎是為了回應(yīng)外界對于其安全治理的質(zhì)疑，5月28日，OpenAI在官網(wǎng)宣布該公司成立安全與安保委員會（Safety and Security Committee），同時宣布他們已經(jīng)開始訓(xùn)練下一個前沿模型，并預(yù)計由此產(chǎn)生的系統(tǒng)將“把我們帶到通往AGI的下一個能力水平”。
OpenAI發(fā)布的公告
新的安全治理團(tuán)隊
據(jù)OpenAI發(fā)布的公告，上述安全與安保委員會由董事布萊特泰勒（Bret Taylor，主席）、亞當(dāng)?shù)掳步芰_（Adam D'Angelo）、尼克塞利格曼（Nicole Seligman）和山姆奧特曼（Sam Altman，首席執(zhí)行官）領(lǐng)導(dǎo)，該委員會將負(fù)責(zé)就OpenAI項目和運(yùn)營的關(guān)鍵安全和安保決定向董事會全體成員提出建議。
布萊特泰勒、亞當(dāng)?shù)掳步芰_都是去年年底山姆奧特曼回歸OpenAI后組建的新董事會成員。其中擔(dān)任主席的布萊特泰勒，畢業(yè)于斯坦福大學(xué)，曾任Facebook首席技術(shù)官、Salesforce聯(lián)席首席執(zhí)行官。
OpenAI表示，安全和安保委員會的首要任務(wù)將是在未來90天內(nèi)評估和進(jìn)一步發(fā)展OpenAI的流程和保障措施。在90天結(jié)束后，安全和安保委員會將與全體委員會分享他們的建議。在董事會全面審查后，OpenAI將以符合安全和安保的方式公開分享已通過建議的最新情況。
在公告中，OpenAI稱，“雖然我們?yōu)闃?gòu)建和發(fā)布在能力和安全性方面處于行業(yè)領(lǐng)先地位的模型感到自豪，但我們歡迎在這個重要時刻進(jìn)行激烈的辯論。”
在人員構(gòu)成上，除領(lǐng)導(dǎo)層外，OpenAI技術(shù)和政策專家亞歷山大馬德里（Aleksander Madry，準(zhǔn)備工作主管）、翁麗蓮（Lilian Weng，安全系統(tǒng)主管）、約翰舒爾曼（John Schulman，校準(zhǔn)科學(xué)主管）、馬特奈特（Matt Knight，安全主管）和雅各布帕喬奇（Jakub Pachocki，首席科學(xué)家）也將成為委員會成員。
此外，OpenAI還將保留并咨詢其他安全、安保和技術(shù)專家以支持這項工作，包括前網(wǎng)絡(luò)安全官員、為OpenAI提供安全建議的羅布喬伊斯（Rob Joyce）和約翰卡林（John Carlin）。
安全與商業(yè)的博弈
過去的幾個月中，OpenAI的人員變動持續(xù)引發(fā)社會各界關(guān)注，尤其在OpenAI前首席科學(xué)家伊爾亞蘇茨克維（Ilya Sutskever）離職后，引發(fā)了一系列連鎖反應(yīng)。在Ilya離職后，OpenAI負(fù)責(zé)安全的超級團(tuán)隊的聯(lián)合主管楊萊克（Jan Leike）也宣布離職，他在社交網(wǎng)站發(fā)布13條推文，公開自己離開OpenAI的真正原因，其中提及對AGI安全治理問題優(yōu)先級不如推出“閃亮的產(chǎn)品”的不滿，以及算力資源的分配問題。在兩人先后離開OpenAI后，由他們共同領(lǐng)導(dǎo)的超級對齊團(tuán)隊也四分五裂。
據(jù)Vox報道，熟悉OpenAI的消息人士透露，安全意識強(qiáng)的員工已經(jīng)對奧特曼失去了信心。一位不愿透露姓名的公司內(nèi)部人士說：“這是一個信任一點一點崩塌的過程，就像多米諾骨牌一張一張倒下。”
因而OpenAI在這一時間點宣布成立安全與安保委員會，更像是對人工智能安全問題的回應(yīng)。
但從委員會的成員構(gòu)成來看，OpenAI選擇由公司內(nèi)部人士組成這個委員會而非外部人員，對成員的職能范圍也沒有公開說明。有專家指出，OpenAI成立此類的企業(yè)監(jiān)督委員會，類似于谷歌的高級技術(shù)外部咨詢委員會，其實在實際監(jiān)督方面幾乎沒有什么作為。所有報告將同時發(fā)送給領(lǐng)導(dǎo)層和董事會。雖然領(lǐng)導(dǎo)層是決策者，但董事會有權(quán)推翻決定。
此前，OpenAI已經(jīng)招募了一家位于美國加利福尼亞州的數(shù)據(jù)安全初創(chuàng)公司Indent，提供數(shù)字安全的相關(guān)服務(wù)。5月23日，Indent的聯(lián)合創(chuàng)始人、CEO阿福德馬�。‵ouad Matin）在X上宣布自己將加入OpenAI負(fù)責(zé)安全相關(guān)的工作。根據(jù)Indent團(tuán)隊在X上發(fā)布的信息，他們加入的是OpenAI的準(zhǔn)備團(tuán)隊而非超級對齊團(tuán)隊，負(fù)責(zé)前沿模型的準(zhǔn)備到客戶的數(shù)據(jù)管理。
從超級對齊團(tuán)隊解散，到引入Indent團(tuán)隊，再到成立由董事會主導(dǎo)的安全委員會，從這一系列的行動中不難看出，OpenAI在安全與商業(yè)的博弈中，逐步向后者傾斜。山姆奧特曼正在把OpenAI向商業(yè)化的道路不斷推進(jìn)。
