最近，我去了紐約市的公共圖書館，這是我最喜歡的地方之一，能看到查爾斯達(dá)爾文（Charles Darwin）的數(shù)百封原始信件、著作和沉思錄。這位著名的英國科學(xué)家喜歡寫作，他的好奇心和觀察能力躍然紙上。
除了提出進(jìn)化論，達(dá)爾文還研究了人和動物的表情和情感。他在寫作中討論了情感的科學(xué)性、普遍性和可預(yù)測性，并用夸張的表情勾勒出了人物形象，這些都能在圖書館看到。
這個話題引發(fā)了我的思考。
最近，當(dāng)每個人都對 ChatGPT、通用人工智能和機(jī)器人取代人類工作的未來感到憤怒時，我注意到監(jiān)管機(jī)構(gòu)一直在加大對人工智能和情緒識別的警告力度。
情緒識別，指的是通過對視頻、面部圖像或錄音的人工智能分析來識別一個人的感受或精神狀態(tài)。
這個想法并不復(fù)雜。例如，人工智能模型可能會分辨出咧開的嘴、瞇起的眼睛、后仰的頭和收縮的臉頰，并將這些表情和動作識別為大笑，從而得出受試者是快樂的的結(jié)論。
但在實踐中，情緒識別會變得非常復(fù)雜。有人認(rèn)為，這是人工智能經(jīng)常產(chǎn)生所謂的“偽科學(xué)”例子，危險且具有侵入性。
某些隱私和人權(quán)倡導(dǎo)機(jī)構(gòu)，如歐洲的 European Digital Rights and Access Now，呼吁全面禁止情緒識別技術(shù)。
雖然歐洲議會在 2023 年 6 月批準(zhǔn)的歐盟人工智能法案（EU AI Act）并不是一項全面禁令，但它禁止在警務(wù)、邊境管理、工作場所和學(xué)校中使用情緒識別。
與此同時，一些美國立法者也已經(jīng)瞄準(zhǔn)了這一特定領(lǐng)域，因為它似乎是最有可能落實的人工智能監(jiān)管措施之一。
美國參議員羅恩懷登（Ron Wyden）是領(lǐng)導(dǎo)相關(guān)監(jiān)管工作的議員之一，他最近贊揚(yáng)了歐盟應(yīng)對這一問題的能力，并警告說，“你的面部表情、眼球運(yùn)動、語調(diào)和走路方式都可以被用來判斷你是誰，或者你未來會做什么，這是很可怕的。盡管如此，仍有數(shù)百萬美元正被投入到基于‘虛偽科學(xué)’的情緒檢測人工智能技術(shù)的開發(fā)之中。”
但為什么這是最令人擔(dān)憂的問題？對情緒識別的恐懼有多少充分的依據(jù)？在這個領(lǐng)域的嚴(yán)格監(jiān)管真的會損害積極的創(chuàng)新嗎？
少數(shù)幾家公司已經(jīng)在銷售這項技術(shù)，用途多種多樣，盡管它尚未廣泛部署。例如，Affectiva 一直在探索如何使用分析人們面部表情的人工智能技術(shù)來確定汽車司機(jī)是否疲勞，并評估人們對電影預(yù)告片的反應(yīng)。
其他公司如 HireVue，則將情感識別作為篩選最有潛力的求職者的一種方式，盡管這種方法面臨諸多非議。
美國華盛頓智庫信息技術(shù)與創(chuàng)新基金會副主席丹尼爾卡斯特羅（Daniel Castro）在電子郵件中告訴我：“我大體上贊同允許私營公司開發(fā)這項技術(shù)。它有一些重要的應(yīng)用，比如讓盲人或視力較弱的人更好地理解周圍人的情緒。”
但這項技術(shù)的其他應(yīng)用更令人擔(dān)憂。幾家公司正在向執(zhí)法部門出售軟件，用于確定是否有人在撒謊，或者標(biāo)記可疑行為。
（來源：AI 生成）
由歐盟贊助的一個名為 iBorderCtrl 的試點項目使用了一種情緒識別技術(shù)，作為其管理邊境口岸的多種技術(shù)的一部分。其網(wǎng)站描述稱，這套自動欺騙檢測系統(tǒng)（Automatic Deception Detection System）可以“通過分析目標(biāo)的非語言微動作，來量化其欺騙海關(guān)官員的可能性”。不過，它也承認(rèn)“其效果存在科學(xué)爭議”。
此外，中國也在嘗試部署情緒識別技術(shù)。比如，一些學(xué)校嘗試用該技術(shù)來衡量學(xué)生的理解力和表現(xiàn)。
總部位于比利時布魯塞爾的歐洲數(shù)字權(quán)利組織的高級政策顧問埃拉雅庫博斯卡（Ella Jakubowska）告訴我，她還沒有聽說情緒識別“有任何可信的用例，除了用來監(jiān)控目標(biāo)” 。
更重要的是，有證據(jù)表明情緒識別模型并不準(zhǔn)確。情緒是復(fù)雜的，就連人類都可能無法準(zhǔn)確識別他人情緒。
得益于有了更多更好的數(shù)據(jù)以及計算能力的提高，該技術(shù)在近年來有所改進(jìn)，但不同系統(tǒng)之間的準(zhǔn)確性差異很大，這取決于系統(tǒng)的目標(biāo)是什么，以及系統(tǒng)所用的數(shù)據(jù)質(zhì)量。
卡斯特羅告訴我：“這項技術(shù)并不完美，盡管這可能與計算機(jī)視覺的局限性無關(guān)，更多的是因為人類的情緒復(fù)雜，取決于文化和背景，而且本身也不精確。”
這讓我聯(lián)想到達(dá)爾文。這個領(lǐng)域存在本質(zhì)上的矛盾，即科學(xué)是否能夠準(zhǔn)確地定義情緒。隨著情緒科學(xué)的不斷進(jìn)步，我們可能會看到情緒計算的進(jìn)步，也可能不會。
這有點像人工智能現(xiàn)在的狀態(tài)。這項技術(shù)正處于一個被極度炒作的時期，它可以讓世界變得更可知，以及讓人類想法更加能夠被預(yù)測。
或許正如人工智能專家梅雷迪思布魯薩德（Meredith Broussard）所問的那樣：一切都能提煉為一道數(shù)學(xué)題嗎？
作者簡介：泰特瑞安莫斯利（Tate Ryan-Mosley）是《麻省理工技術(shù)評論》的高級技術(shù)政策記者。在從事新聞工作之前，她是大公司新興技術(shù)戰(zhàn)略的顧問。2012 年，她曾是凱洛格國際研究所的研究員，專門研究沖突和戰(zhàn)后發(fā)展。
支持：Ren
