面對(duì)為人工智能開發(fā)設(shè)置護(hù)欄的呼吁，包括Alphabet Inc．旗下谷歌和OpenAI Inc．在內(nèi)的一些科技公司聯(lián)合建立了一個(gè)行業(yè)組織，以確保人工智能模型是安全的。
這項(xiàng)努力也得到了人工智能初創(chuàng)企業(yè)Anthropic和微軟的支持。根據(jù)周三的一份聲明，該行動(dòng)的目標(biāo)是整合會(huì)員公司的專業(yè)知識(shí)，并為行業(yè)創(chuàng)立基準(zhǔn)。這個(gè)名為前沿模型論壇（Frontier Model Forum）的組織稱，歡迎其他致力于大型機(jī)器學(xué)習(xí)平臺(tái)的組織參與進(jìn)來。
OpenAI的ChatGPT可以根據(jù)簡(jiǎn)單的提示創(chuàng)建文本、照片甚至視頻，諸如此類生成式AI工具的迅猛發(fā)展給科技巨頭帶來了必須要謹(jǐn)慎行動(dòng)的壓力。在白宮的敦促下，參與前沿模型論壇的公司已經(jīng)同意制定一些安全保障措施，而美國國會(huì)也可能會(huì)通過一些約束性的法規(guī)。
“這是一項(xiàng)緊迫的工作，這個(gè)論壇具備迅速采取行動(dòng)來推進(jìn)人工智能安全狀況的有利條件，” OpenAI全球事務(wù)副總裁Anna Makanju在聲明中說。
該論壇計(jì)劃在未來幾個(gè)月內(nèi)成立一個(gè)顧問委員會(huì)，以評(píng)估優(yōu)先事項(xiàng)，并希望確立章程、治理體系和資金安排來推進(jìn)AI安全。該組織還希望與現(xiàn)有的倡議合作，包括Partnership on AI和MLCommons。
雖然許多公司長(zhǎng)期以來一直使用機(jī)器學(xué)習(xí)來支持搜索和社交媒體功能，但最新一代的人工智能模型讓人們看到了這些系統(tǒng)正在接近類似人類的智能。
全球許多國家的政府都已經(jīng)誓言將攜手合作，共同應(yīng)對(duì)人工智能帶來的風(fēng)險(xiǎn)。其中包括七國集團(tuán)，該組織正計(jì)劃在英國舉行一個(gè)國際人工智能峰會(huì)。不過目前而言，在美國，對(duì)人工智能的掌控都是由公司自行決定。
“這項(xiàng)倡議是讓科技行業(yè)攜手努力，負(fù)責(zé)任地推進(jìn)人工智能并應(yīng)對(duì)挑戰(zhàn)，從而讓全人類受益的重要一步，”微軟總裁Brad Smith在聲明中表示。
