01
記得小時(shí)候看過一個(gè)笑話，一個(gè)代表團(tuán)蒞臨某地，當(dāng)?shù)亟M織開歡迎會(huì)，領(lǐng)導(dǎo)念發(fā)言稿：歡迎某某代表團(tuán)長(zhǎng)途跋涉來到我市。結(jié)果念成了「歡迎某某代表團(tuán)長(zhǎng)‘途跋涉’來到我市。」只歡迎了團(tuán)長(zhǎng)，團(tuán)長(zhǎng)名叫途跋涉。
我覺得這位念發(fā)言稿的領(lǐng)導(dǎo)很像人工智能，在對(duì)數(shù)據(jù)進(jìn)行分析時(shí)做出了變量之間不恰當(dāng)?shù)年P(guān)聯(lián)。
02
人類生活在一個(gè)可感知的世界里，用「規(guī)定性」的動(dòng)作為這個(gè)無邊無際的混沌世界劃分經(jīng)緯，給自身一個(gè)相對(duì)確定的觀察位置后，尋求主客體之間的相互關(guān)系。這種關(guān)系意味著一套建立在數(shù)學(xué)、物理等方法上的觀察模式，以及改善這種模式的心理學(xué)探索。
人首先生活在更真實(shí)、更自然的物理世界中，同時(shí)又生活在對(duì)這個(gè)世界的抽象中，后者是扭曲、變形、充滿人為因素的。
人工智能將要引發(fā)的那個(gè)更高階的世界脫離不開上述邏輯關(guān)系，只不過它的「人為因素」更深、更復(fù)雜、更高效。
人們擔(dān)憂人工智能比過去的科技產(chǎn)品更具有「黑匣子」的效應(yīng)，因而讓范圍廣闊的受眾生活在被操作的危險(xiǎn)中。
深度學(xué)習(xí)建模通常通過黑箱開發(fā)進(jìn)行：算法將數(shù)量巨大的數(shù)據(jù)點(diǎn)作為輸入，并將特定數(shù)據(jù)特征關(guān)聯(lián)起來進(jìn)行分析以產(chǎn)生輸出。這一過程的背后不是一個(gè)或數(shù)個(gè)程序員，而是AI自我指導(dǎo)的。它在簡(jiǎn)化復(fù)雜流程、增強(qiáng)決策模式和發(fā)現(xiàn)有價(jià)值見解方面的潛力毋庸置疑。
但這同時(shí)讓人想起黑箱模型：模型的輸入和操作對(duì)用戶或其他相關(guān)方是不可見的。其實(shí)多數(shù)人生活在無數(shù)黑箱外邊，身邊的電腦、電視、乃至一塊手表的運(yùn)行，他們都不可能了解背后的秘密。
03
人工智能對(duì)人類來說是黑匣子的原因在于，它依賴于機(jī)器學(xué)習(xí)算法，這些算法以人類不易審計(jì)或理解的方式內(nèi)化數(shù)據(jù)，它缺乏可視化并容易被理解的透明度。
我們知道人工智能已經(jīng)為人類看病開了先河，假如未來進(jìn)入醫(yī)院選擇科室看病，面對(duì)的不是一位真正的大夫，而是一臺(tái)電腦，輸入一堆數(shù)據(jù)后面對(duì)它給出的「診斷和處方」，患者敢于接受嗎？它會(huì)不會(huì)算錯(cuò)？出了醫(yī)療事故連個(gè)訴訟對(duì)象都沒有。
我想讓它給我解釋一下：它怎么決策，為什么決策和決策了什么。
我不想一頭霧水毫無芥蒂地接受與自身關(guān)系重大又來歷不明的任何東西。何況我病了，身上每個(gè)部位都不舒服，被強(qiáng)烈的不安全感籠罩著。
人工智能是否可以保證它的道德有效性和整體公平性？我們可以容忍機(jī)器沒有理由地給我們錯(cuò)誤推薦了一部毫不喜歡的影視劇，但是把炒股、投資、尋求人生伴侶、生產(chǎn)決策或者醫(yī)療建議乃至于臨終關(guān)懷方案交由機(jī)器決定的時(shí)候，人當(dāng)然希望可以得到充分的解釋說明，以便我們有足夠的信心按照它的指示去執(zhí)行。
04
你可能會(huì)說，科學(xué)只講求效率、正確的方向和可參考的意見，它既不愛人類，也不恨人類，給出的答案是基于數(shù)據(jù)和算法的客觀結(jié)果，并不存在需要被衡量的道德因素。
事實(shí)上，就跟所有普通人一樣，人工智能背后的科學(xué)家和工程師們的許多決定是基于判斷和經(jīng)驗(yàn)做出的，這些都是他們自己「深度學(xué)習(xí)」的結(jié)果。
道理我都懂，可就是感覺這樣的世界非常可怕。仿佛內(nèi)心深處的什么東西被觸動(dòng)了。它太不通人情了，讓人感覺涼颼颼的。
05
有人說，人工智能就兩大特征：黑匣子和不確定性。
它的缺點(diǎn)讓人如此害怕以至于人們忘記了它的任何優(yōu)點(diǎn)。黑匣子問題對(duì)使用者和監(jiān)管者都帶來了很大挑戰(zhàn)。
人工智能流程的不透明性會(huì)使監(jiān)管機(jī)構(gòu)難以評(píng)估這些系統(tǒng)是否符合現(xiàn)有規(guī)則和準(zhǔn)則。缺乏透明度會(huì)使監(jiān)管者開發(fā)新框架以應(yīng)對(duì)人工智能應(yīng)用帶來的風(fēng)險(xiǎn)和挑戰(zhàn)的能力復(fù)雜化，無法見招拆招，仿佛對(duì)面是一位無形的隱身對(duì)手。
這樣的話，也難以評(píng)估人工智能系統(tǒng)的公平性、偏見和數(shù)據(jù)隱私做法，以及它們對(duì)消費(fèi)者權(quán)利和市場(chǎng)穩(wěn)定性的潛在影響。等等。
06
然而，AI的好處也顯而易見。
盡管其思維過程受到數(shù)據(jù)限制，甚至存在算法固有的偏見，也可能引發(fā)錯(cuò)誤，但AI由于其算法和對(duì)海量數(shù)據(jù)的分析能力，可能揭示新的聯(lián)系和方法。
這一方法可以為科學(xué)、技術(shù)、工程和數(shù)學(xué)的進(jìn)步做出實(shí)質(zhì)性、富有成效的貢獻(xiàn)，提供意見，優(yōu)化結(jié)果，更重要的是能夠激發(fā)人類的靈感。
AI擅長(zhǎng)于歸納性推理，迅速找出事物幕后蘊(yùn)藏的規(guī)律性。對(duì)于沒有經(jīng)歷過的未知事物通常是無法理解和判斷的。人工智能更不可能擁有關(guān)于未來可變事物的數(shù)據(jù)，對(duì)中長(zhǎng)期的事物變遷的預(yù)測(cè)能力卻相當(dāng)孱弱。
這些未知的、未來變遷的不確定的部分，是AI不擅長(zhǎng)的。我們不能全無防備地依賴人工智能的黑匣子來尋找生活、工作、技術(shù)上的因果關(guān)系。
黑匣子不會(huì)告訴任何人一株植物如何長(zhǎng)得歪歪扭扭，一條道路何以從花壇上被踩出。它不會(huì)造出永動(dòng)機(jī)，發(fā)現(xiàn)永生的秘密。但是它可以輔助人類研究這個(gè)可規(guī)定的，在一定范圍內(nèi)能夠被抽象和解釋的世界。
只不過，在建立AI模型的時(shí)候，應(yīng)該考慮融合提高透明度、可解釋性和問責(zé)制的方法，制作可解釋的開源模型。
07
AI仍然是人類解決自身面臨問題的一套工具。它不是萬能的，有利也有弊。
如果人工智能發(fā)展到相對(duì)完美的那一步，電腦把一切都算得準(zhǔn)確無疑，毫無出入，在面對(duì)任何問題都能給出最佳解決方案，所有人都生活在無比正確的道路上。
這樣的世界還有勁嗎？
還是那個(gè)真實(shí)的自然世界嗎？
它豈不是建立起一個(gè)更同質(zhì)化、更無法逃脫的精神牢籠？
難道科學(xué)的盡頭等待人類的真的是作繭自縛？
我不得其解。如此看來，人工智能的不完美，正是它值得信賴的地方。它不通人情，但是也因此少了人類固有的人情世故和由此引發(fā)的不良作風(fēng)。
▲本文配圖全部由ChatGPT自動(dòng)生成
