可能從來沒有一項(xiàng)技術(shù)能像 AI 大模型一樣，在短短幾個(gè)月內(nèi)迅速成為科技界乃至整個(gè)社會的共識。今天，所有科技巨頭和主要政府幾乎都篤定地認(rèn)為 AI 將改變世界，改變一切。
但在一個(gè)大的共識背后，還有太多問題，一方面是切實(shí)的在工作上的替代、虛假內(nèi)容的泛濫以及不平等的使用門檻等等，另一方面則是長期以來人類藝術(shù)作品里表達(dá)的「文明的威脅」。根據(jù)《連線》雜志報(bào)道，OpenAI 在一份財(cái)務(wù)文件甚至規(guī)定了當(dāng) AI 摧毀人類經(jīng)濟(jì)體系時(shí)的退出機(jī)制。
今年 7 月，在 IBM 總部舉辦的一次活動上，美國參議院多數(shù)黨領(lǐng)袖查克舒默（Chuck Schumer）表示，他將召開一系列人工智能會議，「讓最優(yōu)秀的人坐在桌前，互相交流，回答問題，努力達(dá)成一些共識和解決方案，參議員和我們的工作人員以及其他人只是傾聽�！�最終，舒默希望基于會議上的交流，「為人工智能政策立法奠定基垂。
兩個(gè)月后，會議開始了，包括來自頂級科技公司的 22 位與會者都參加了閉門會議，他們其中有 OpenAI CEO 山姆阿爾特曼、英偉達(dá) CEO 黃仁勛、谷歌 CEO 桑達(dá)爾皮查伊、Meta CEO 馬克扎克伯格等人，也有上一代互聯(lián)網(wǎng)的科技領(lǐng)袖微軟創(chuàng)始人比爾蓋茨和谷歌前 CEO 埃里克施密特。
AI 一定要被「管」起來
沒有人會否認(rèn)人工智能的巨大潛力，但關(guān)于人工智能的風(fēng)險(xiǎn)、安全措施、監(jiān)管以及未來，我們還缺少很多共識，唯一可以肯定的是，人類不可能完全放任人工智能的野蠻生長。
圖/Wikimedia Commons
在離開第一次閉門會議后，特斯拉、SpaceX、Neuralink CEO 伊隆馬斯克就公開表示，這次聚會是「歷史性的」，他贊同成立一個(gè)新的機(jī)構(gòu)來監(jiān)管人工智能的想法，并重新強(qiáng)調(diào)了人工智能構(gòu)成的巨大風(fēng)險(xiǎn)。
「人工智能出錯(cuò)的后果是嚴(yán)重的，所以我們必須積極主動而不是被動反應(yīng)，」馬斯克說，「問題實(shí)際上是一個(gè)文明風(fēng)險(xiǎn)的問題，這對世界各地的所有人類都有潛在的風(fēng)險(xiǎn)。」
馬斯克沒有深入闡述所謂人工智能對人類文明的具體危害，但當(dāng)人工智能更多地參與到電網(wǎng)、供水系統(tǒng)以及車輛系統(tǒng)的管理控制之中，一旦出錯(cuò)就會帶來大量的問題。計(jì)算機(jī)科學(xué)家、人工智能研究人員 Deb Raji 也提到了，人工智能的偏見性決定就影響社會的方方面面。
更何況，還有長久以來人類的對人工智能的擔(dān)憂。
但要如何減少和防止人工智能帶來的風(fēng)險(xiǎn)？微軟總裁布拉德史密斯（Brad Smith）提出，我們需要為人工智能可能形成的巨大風(fēng)險(xiǎn)建立「緊急制動器」，尤其是在管理電網(wǎng)和供水系統(tǒng)等關(guān)鍵基礎(chǔ)設(shè)施的人工智能系統(tǒng)之中，「這樣我們才能確保許多人擔(dān)心的威脅仍然只存在在科幻小說里，不會成為新的現(xiàn)實(shí)�！�
布拉德史密斯，圖/Web Summit
史密斯認(rèn)為，就像每一棟建筑和家庭中都有的斷路器，如果需要的話，可以立即阻止電力系統(tǒng)運(yùn)行，人工智能系統(tǒng)也需要類似的「緊急制動器」，確保人類不會受到此類系統(tǒng)的大規(guī)模傷害。
無獨(dú)有偶，英偉達(dá)首席科學(xué)家兼高級副總裁威廉達(dá)利（William Dally）也指出了，人工智能作為一個(gè)計(jì)算機(jī)程序出錯(cuò)的可能和造成的嚴(yán)重傷害，關(guān)鍵在于「人類的參與」，即將人類置于人工智能工作的關(guān)鍵環(huán)節(jié)中，制約人工智能的一些決策權(quán)力。
威廉達(dá)利，圖/英偉達(dá)
「所以我認(rèn)為，只要我們對如何部署人工智能保持謹(jǐn)慎，讓人類處于關(guān)鍵環(huán)節(jié)中，從而可以確保人工智能不會接管并關(guān)閉我們的電網(wǎng)或?qū)е嘛w機(jī)從天而降，」達(dá)利說。
AI 開源會是潘多拉盒嗎？
去年年底，ChatGPT 在科技圈內(nèi)第一次火起來的時(shí)候，就有人表達(dá)了對 AI 模型被用于詐騙等惡性行為的擔(dān)憂。開源似乎在加劇了「被濫用」的風(fēng)險(xiǎn)。
在會議上，其中一個(gè)爭論就是圍繞著可供公眾下載和修改的「開源」AI 模型展開。這些模型的開放代碼能讓企業(yè)和研究人員得以使用類似于 ChatGPT 背后的 AI 技術(shù)，無需投入巨量的資金和資源訓(xùn)練。
但壞人也可能會濫用開源 AI 系統(tǒng)，包括 OpenAI 從 GPT-3.5 開始就停止了開源行為，OpenAI 聯(lián)合創(chuàng)始人兼首席科學(xué)家 Ilya Sutskever 就表示，「幾年后，每個(gè)人都會清楚地看到，開源人工智能是不明智的�！�
Ilya Sutskever 與黃仁勛在 GDC 上的對談，圖/英偉達(dá)
被問及原因時(shí)，他談到，「這些模型非常強(qiáng)，而且會變得越來越強(qiáng)，在某個(gè)時(shí)候，如果有人想的話，很容易用這些模型造成很大傷害。」
另外，DeepMind 聯(lián)合創(chuàng)始人、Inflection AI CEO Mustafa Suleyman 不久前也提到開源的風(fēng)險(xiǎn)，他指出 AI 開源的關(guān)鍵問題在于，「權(quán)力的迅速擴(kuò)散」將使得單一個(gè)體就能對世界造成前所未有的傷害和影響，「在未來 20 年內(nèi)，天真的開源，幾乎肯定會造成災(zāi)難」。
Mustafa Suleyman，圖/DeepMind
不過 Meta 顯然并不同意這些說法，Meta CEO 扎克伯格反駁說，開源將「AI 變得民主化，有助于公平競爭，促進(jìn)個(gè)人和企業(yè)創(chuàng)新」。但同時(shí)他也表示，開源模式也許會帶來危險(xiǎn)，然而 Meta 正在盡可能安全地構(gòu)建這項(xiàng)技術(shù)。
當(dāng) AI 遇見開源，這依然是一個(gè)懸而待決的問題。
寫在最后
距今 2104 年前，漢武帝去世七年后，漢廷召開了一場史無前例的策問，其中一個(gè)主要的問題是武帝時(shí)期實(shí)行的鹽鐵酒國營專賣政策的廢立修改，為此召集了「賢良、文學(xué)六十余人」以及御史大夫桑弘羊等政府官員，后世稱之為「鹽鐵會議」。不過這場鹽鐵會議，根本上討論的其實(shí)是漢王朝的經(jīng)濟(jì)政策走向。
盡管主題不同，年代環(huán)境更是天差地別，但不論兩千多年前的鹽鐵會議，還是現(xiàn)在人工智能見解論壇，都是面對一個(gè)巨大的問題，希望通過「群賢」交流辯問，以此作為立法之基矗
圖/谷歌
在前不久谷歌 25 周年的紀(jì)念文章中，現(xiàn)任谷歌 CEO 桑達(dá)爾皮查伊（Sundar Pichai）寫到：
（谷歌）參與有關(guān)這些技術(shù)將如何塑造我們社會的重要辯論，然后共同尋找答案。人工智能是其中的關(guān)鍵部分。盡管我們對人工智能造福人類和社會的潛力感到興奮，但我們知道人工智能與任何早期技術(shù)一樣，也帶來復(fù)雜性和風(fēng)險(xiǎn)。我們對人工智能的開發(fā)和使用必須解決這些風(fēng)險(xiǎn)，并幫助負(fù)責(zé)任地開發(fā)技術(shù)。
幾天后，包括 Adobe、Cohere、IBM、英偉達(dá)、Palantir、賽富時(shí)、Scale AI 和 Stability 八家成為第二批簽署「負(fù)責(zé)任地開發(fā)人工智能（AI）技術(shù)」協(xié)議的公司。很多時(shí)候，面對單個(gè)個(gè)體或者單個(gè)公司/政府無法的解決的問題，我們必須意識到「共同努力」的價(jià)值。
