機(jī)器之心編譯選自ACM
機(jī)器之心編譯
編輯：陳萍
Marcus 認(rèn)為自動駕駛汽車領(lǐng)域仍然存在「邊緣情況」，至今還沒解決，不應(yīng)該全天候在道路上測試行駛。
2016 年《紐約時報》一篇關(guān)于自動駕駛汽車的文章開頭寫道：「自動駕駛汽車時代已經(jīng)到來，一些汽車制造商已投資數(shù)十億美元進(jìn)行研發(fā)…… 并在美國的一些城市開始測試�！�7 年過去了，自動駕駛走到哪一步了？
紐約大學(xué)心理學(xué)和神經(jīng)科學(xué)榮譽教授 Gary Marcus 對這一領(lǐng)域發(fā)表了一些觀點。他表示這個領(lǐng)域仍然存在問題，而這個問題 Marcus 在過去幾年里強調(diào)過數(shù)十次，即邊緣情況，也就是經(jīng)常會使機(jī)器學(xué)習(xí)算法感到困惑的非常規(guī)情況。
自動駕駛汽車面臨的情況越復(fù)雜，意料之外的異常情況就會越多。而現(xiàn)實世界是復(fù)雜和混亂的，我們無法列出所有可能發(fā)生的非常規(guī)事件。至今還沒有人找到如何制造能夠應(yīng)對這一事實的自動駕駛汽車的方法。
Marcus 表示，自己第一次強調(diào)邊緣情況給自動駕駛帶來的重大挑戰(zhàn)還是在 2016 年的一次采訪中，「當(dāng)時我厭倦了大肆宣傳，并最終放棄了這一觀點�，F(xiàn)在重新讀這份文字記錄，我認(rèn)為還適用于現(xiàn)在」。
我們現(xiàn)在所看到的技術(shù)進(jìn)步，很大程度上是通過大規(guī)模暴力破解技術(shù)推動的，就像超級計算機(jī)深藍(lán)以及雅達(dá)利游戲系統(tǒng)等。這些技術(shù)的發(fā)展，使人類感到無比興奮。與此同時，如果你談?wù)摰氖羌矣脵C(jī)器人或在街上行駛的機(jī)器人，大家的興致就不會那么高漲了。
一般來講，無人駕駛在常規(guī)情況下表現(xiàn)的很好，例如在晴朗的天氣里它們行駛的很安全。但如果把它們放在有雪、有雨等復(fù)雜的環(huán)境中，無人駕駛就會變得很糟糕。此前，美國記者和特約編輯 Steven Levy 曾寫過一篇關(guān)于谷歌自動駕駛的文章，文中談到 2015 年谷歌取得了一個重大的勝利，而這個勝利就是系統(tǒng)能夠自動識別樹葉。
識別樹葉對人類來說過于簡單，但對自動駕駛汽車來說卻是一次重大的進(jìn)步。人類可以用常識來推理，弄清楚這個東西可能是什么，它是如何到達(dá)那里的，但自動駕駛系統(tǒng)只是記住了一些東西，缺少推理，而這正是自動駕駛汽車所面臨的限制......
人們一直在期待更加成熟的自動駕駛技術(shù)，就在前幾天，加州公用事業(yè)委員會批準(zhǔn)了自動駕駛汽車公司 Cruise 和 Waymo 在舊金山進(jìn)行 24/7 全天候運營，這一決定為這兩家公司提供了更大的余地來測試他們的汽車。消息公布之后很多人表示，自動駕駛汽車時代已經(jīng)到來，雖然比預(yù)計的時間晚了一些。
事實上，我們還沒有任何真正的自動駕駛汽車，正如美國著名記者 Cade Metz 幾個月前在我的播客「人類與機(jī)器」中解釋的那樣，每條公共道路上的自動駕駛車輛要么配有一名人類安全駕駛員，要么有一些人在遠(yuǎn)程監(jiān)督，當(dāng)遇到困境時，以便幫助車輛擺脫困境。
現(xiàn)在，自動駕駛領(lǐng)域還在出現(xiàn)新的邊緣情況，比如特斯拉撞上停著的噴氣式飛機(jī)。
Marcus 表示，不管這些系統(tǒng)用了多少數(shù)據(jù)進(jìn)行訓(xùn)練，總會有新的狀況出現(xiàn)。
就在最近，又有十輛自動駕駛汽車與任務(wù)控制中心失去了聯(lián)系，沒有了控制中心的監(jiān)督，自動駕駛汽車出現(xiàn)迷路、停在街道中間等諸多事故：
自動駕駛領(lǐng)域狀況不斷，因而包括 Marcus 在內(nèi)的很多研究者都不理解加州公用事業(yè)委員會的這一做法。
如果沒有一個嚴(yán)格的、經(jīng)過仔細(xì)審查的解決方案來解決邊緣情況，那么隨時隨地的進(jìn)行自動駕駛測試是很瘋狂的。這不僅適用于無人駕駛汽車，也適用于基于機(jī)器學(xué)習(xí)的其他領(lǐng)域。
邊緣案例無處不在，任何認(rèn)為這一切都很容易解決的人都是在欺騙自己。
我們要加強管理，如果我們不這樣做，我們可能會在未來幾年看到無人駕駛汽車、自動化醫(yī)生、通用虛擬助理、家庭機(jī)器人等發(fā)生重大事故。
文章末尾，Marcus 表示他是在一架配備有自動駕駛儀的飛機(jī)上完成的這篇文章，在 9 個小時的飛行中，自動駕駛儀一直在工作，期間也有人類的參與，這就構(gòu)成了人在環(huán)路。最后，Marcus 認(rèn)為不會有自動駕駛飛機(jī)，而且他認(rèn)為還沒有任何準(zhǔn)自動駕駛汽車獲得認(rèn)可。
