最近，我收看了 RightsCon 大會(huì)的一系列講座。這是世界上最大的數(shù)字權(quán)利會(huì)議，經(jīng)過(guò)數(shù)年的網(wǎng)絡(luò)會(huì)議之后，頂級(jí)互聯(lián)網(wǎng)倫理學(xué)家、活動(dòng)家和政策制定者終于再次回到了哥斯達(dá)黎加。
（來(lái)源：ACCESSNOW）
不出所料，每個(gè)人都在談?wù)撊斯ぶ悄芎妥罱拇笮驼Z(yǔ)言模型熱潮。在會(huì)議之前，聯(lián)合國(guó)發(fā)表了一份聲明，鼓勵(lì) RightsCon 與會(huì)者關(guān)注人工智能的監(jiān)督和透明度。
然而，我感到驚訝的是，RightsCon 上關(guān)于生成式人工智能風(fēng)險(xiǎn)的對(duì)話與我在新聞中看到的“硅谷大佬警告”有多么不同。
在過(guò)去的幾周里，OpenAI CEO 薩姆奧特曼（Sam Altman）、人工智能先驅(qū)杰弗里辛頓（Geoff Hinton）、頂級(jí)人工智能研究員約書(shū)亞班吉奧（Yoshua Bengio）、埃隆馬斯克和其他許多科技名人一直在呼吁監(jiān)管和緊急行動(dòng)，以解決（人工智能帶來(lái)的）“生存風(fēng)險(xiǎn)”，甚至包括人工智能滅絕人類的可能性。
當(dāng)然，在沒(méi)有風(fēng)險(xiǎn)評(píng)估、沒(méi)有披露訓(xùn)練數(shù)據(jù)和流程的情況下，快速部署大型語(yǔ)言模型，或者似乎非常關(guān)注技術(shù)如何被濫用，這令人擔(dān)憂。但在 RightsCon 的幾次會(huì)議上，一些演講者強(qiáng)調(diào)，人工智能淘金熱是公司追求利潤(rùn)的產(chǎn)物，而不一定是監(jiān)管不力或技術(shù)上不可避免的發(fā)展趨勢(shì)。
在第一次會(huì)議上，《連線》的首席編輯吉迪恩利奇菲爾德（Gideon Lichfield）和數(shù)字未來(lái)實(shí)驗(yàn)室的創(chuàng)始人烏爾瓦西阿內(nèi)賈（Urvashi Aneja）與谷歌的肯特沃克（Kent Walker）針?shù)h相對(duì)。
利奇菲爾德說(shuō)：“微軟的薩蒂亞納德拉（Satya Nadella）說(shuō)，他想讓谷歌加入戰(zhàn)局。谷歌也這樣做了�，F(xiàn)在，我們所有人都被迫加入其中，因?yàn)檫@兩家公司都在試圖打敗對(duì)方。”對(duì)此，沃克強(qiáng)調(diào)了人工智能的進(jìn)步可能在藥物發(fā)現(xiàn)等領(lǐng)域帶來(lái)的社會(huì)效益，并重申了谷歌對(duì)人權(quán)的承諾。
第二天，人工智能研究人員提米特格布魯（Timnit Gebru）直接談到了人工智能帶來(lái)的生存風(fēng)險(xiǎn)：“將機(jī)構(gòu)歸為一種工具是一個(gè)錯(cuò)誤，這是一種轉(zhuǎn)移注意力的策略。如果你看到誰(shuí)說(shuō)這樣的話，那么這些人很可能向這些公司投資了數(shù)十億美元。”
她說(shuō)：“就在幾個(gè)月前，杰夫辛頓還在談?wù)?GPT-4，以及它是如何成為世界上最靚麗的蝴蝶的它就像一只毛毛蟲(chóng)獲取數(shù)據(jù)，然后羽化成一只美麗的蝴蝶。突然之間，它變成了一種生存風(fēng)險(xiǎn)。我的意思是，人們?yōu)槭裁匆J(rèn)真對(duì)待這些人？”
人權(quán)觀察的技術(shù)和人權(quán)總監(jiān)弗雷德里克卡爾特納（Frederike Kaltheuner）等專家對(duì)圍繞人工智能的敘述感到失望，他們建議將自己置于我們已知的、困擾人工智能的風(fēng)險(xiǎn)中，而不是猜測(cè)可能會(huì)發(fā)生什么。
人工智能的使用帶來(lái)了一些明顯的、有跡可循的危害。它們包括：
錯(cuò)誤信息的增加和放大：Instagram、Twitter 和 YouTube 等社交媒體平臺(tái)上的推薦算法已被證明，無(wú)論準(zhǔn)確性如何，都會(huì)優(yōu)先推廣極端和情感上令人信服的內(nèi)容。大語(yǔ)言模型通過(guò)產(chǎn)生被稱為“幻覺(jué)”的以假亂真的錯(cuò)誤信息放大了這個(gè)問(wèn)題。
有偏見(jiàn)的訓(xùn)練數(shù)據(jù)和輸出：人工智能模型往往是在有偏見(jiàn)的數(shù)據(jù)集上訓(xùn)練的，這可能導(dǎo)致有偏見(jiàn)的輸出，進(jìn)而可能加劇現(xiàn)有的社會(huì)不平等，比如評(píng)估某些福利時(shí)存在歧視的算法，或者面部識(shí)別系統(tǒng)對(duì)深色皮膚人種的識(shí)別準(zhǔn)確度不如白人。ChatGPT 散布種族主義內(nèi)容的案例也比比皆是。
侵犯用戶隱私：訓(xùn)練人工智能模型需要大量數(shù)據(jù)，這些數(shù)據(jù)通常是從網(wǎng)上找到或購(gòu)買(mǎi)的，這引發(fā)了關(guān)于獲得所有者同意和隱私的問(wèn)題。開(kāi)發(fā)大型語(yǔ)言模型（如 ChatGPT 和 Bard）的公司，尚未發(fā)布太多關(guān)于用于訓(xùn)練它們的數(shù)據(jù)集的信息，盡管它們肯定包含大量來(lái)自互聯(lián)網(wǎng)的數(shù)據(jù)。
卡爾特納表示，她特別擔(dān)心生成式人工智能聊天機(jī)器人會(huì)被部署在心理健康治療等高風(fēng)險(xiǎn)場(chǎng)景中：“我擔(dān)心，生成式人工智能在技術(shù)不適合或目的不恰當(dāng)?shù)那闆r下，會(huì)出現(xiàn)特別魯莽的使用案例。”
格布魯重申了對(duì)運(yùn)行復(fù)雜的大型語(yǔ)言模型所需的大量計(jì)算能力所造成的環(huán)境影響的擔(dān)憂（她表示，自己因在內(nèi)部研究中提出這些和其他問(wèn)題而被谷歌解雇）。她指出，ChatGPT 的內(nèi)容審查員在薪水不高的情況下，仍在努力降低模型輸出內(nèi)容的毒性，由此也經(jīng)歷了創(chuàng)傷后應(yīng)激障礙。
關(guān)于對(duì)人類未來(lái)的擔(dān)憂，卡爾特納問(wèn)道：“誰(shuí)的滅絕？整個(gè)人類的滅絕？我們已經(jīng)看到歷史上被邊緣化的人在此刻正在受到傷害。這就是為什么我覺(jué)得滅絕的說(shuō)法有點(diǎn)沒(méi)找到重點(diǎn)。”
支持：Ren
