眾所周知，Meta不僅局限在Quest這類VR頭顯上，同時(shí)還在打造更輕量化的AR眼鏡，目標(biāo)就是讓產(chǎn)品更好的融入到人們的日常生活中去。除了硬件上輕量化以外，在功能和交互體驗(yàn)上也至關(guān)重要，例如自然交互方式，比如手勢(shì)輸入，以及AI視覺助手等，這其中和計(jì)算機(jī)視覺和AI技術(shù)密不可分。
AI技術(shù)將會(huì)是AR眼鏡的重要組成部分，通過實(shí)時(shí)給用戶提供回答和建議等幫助（例如推薦導(dǎo)航路線、甚至日程、根據(jù)喜好推薦菜品等）來提升AR眼鏡的實(shí)用性，將會(huì)成為Meta AR眼鏡的賣點(diǎn)之一。尤其是，考慮到Meta近年來在AI技術(shù)上的投入，我們完全有理由相信這一點(diǎn)。
Reality Labs公布了一項(xiàng)研究：XAIR，從中我們可以了解到AR眼鏡中AI系統(tǒng)的設(shè)計(jì)準(zhǔn)則。該框架基于可解釋人工智能框架（XAI）和人機(jī)交互（HCI）等研究，其中內(nèi)含8大設(shè)計(jì)準(zhǔn)則，可為AR眼鏡的AI設(shè)計(jì)提供有價(jià)值的參考。
實(shí)驗(yàn)中使用了HoloLens頭顯
什么是XAI？
據(jù)青亭網(wǎng)了解，XAI(Explainable AI)又稱透明AI(Transparent AI)，特點(diǎn)是行為容易被人所理解。大多數(shù)基于機(jī)器學(xué)習(xí)的AI都是在所謂的黑盒中運(yùn)行，由于無法提供決策背后的原因和見解，此類AI具有一定風(fēng)險(xiǎn)性，因?yàn)椴淮_定它是否可信、可靠，是否存在偏見。
XAI的概念可以追溯到四十多年前，后來隨著黑盒AI/ML模型的成功，XAI技術(shù)開始受到學(xué)術(shù)業(yè)、監(jiān)管機(jī)構(gòu)等各行各業(yè)關(guān)注。研究表明，XAI將有望為用戶提供清晰的決策，并建立信任。因此在工業(yè)領(lǐng)域，已經(jīng)開始將XAI應(yīng)用于日常場(chǎng)景，改善用戶體驗(yàn)。
XAI可以服務(wù)于不同的目標(biāo)受眾，有各種不同的用途。早期的XAI研究?jī)H關(guān)注算法開發(fā)者、數(shù)據(jù)科學(xué)家，以及臨床醫(yī)療等領(lǐng)域的專家，而近年來越來越多的XAI開始面向普通用戶，與消費(fèi)級(jí)產(chǎn)品集成，比如在購(gòu)物網(wǎng)站上顯示推薦某產(chǎn)品的原因等等。不過，這目前還在早期階段。
XAI的重要性
想要讓AI被人類廣泛理解，將涉及多學(xué)科研究工作。比如，ML研究人員開發(fā)了生成透明模型的算法（例如，決策樹、貝葉斯模型），或使用事后解釋技術(shù)（例如，特征重要性、視覺解釋）來生成解釋。而HCI研究人員，則專注于提高用戶信任度，以及對(duì)機(jī)器生成解釋的理解。另一方面，心理學(xué)研究人員從更基本的角度研究XAI，研究人們?nèi)绾紊�、交流和理解�?/p>
公開透明的AI也很重要，它符合未來其在AR/VR領(lǐng)域的發(fā)展策略。在XAIR研究中，XAI的目的是通過生成細(xì)節(jié)或理由，來幫助用戶清楚、容易理解AI的決策和功能。Meta指出，XAI是AI驅(qū)動(dòng)的交互系統(tǒng)的重要組成部分，未來也會(huì)在日常AR應(yīng)用中起重要作用，輔助用戶與可視化的智能服務(wù)互動(dòng)。XAI可以讓AR智能系統(tǒng)的行為更好理解，避免意外的AI決策，并培養(yǎng)隱私意識(shí)，獲得用戶的信任。
不過，目前Meta面臨的一個(gè)難題，是為日常AR應(yīng)用創(chuàng)建有效的XAI體驗(yàn)。大多數(shù)現(xiàn)有的XAI研究側(cè)重于將解釋類型和生成技術(shù)分類，而沒有考慮到日常AR場(chǎng)景的特點(diǎn)，比如用戶和上下文產(chǎn)生的感知信息，全天候運(yùn)行，適應(yīng)能力好等因素。這些因素不僅可以形成更人性化的解釋，還會(huì)影響解釋接口的設(shè)計(jì)。
因此，Meta提出了XAIR設(shè)計(jì)框架，該框架描述了何時(shí)、如何解釋AR中AI的決策。為了構(gòu)建XAIR框架，還進(jìn)行了一場(chǎng)500人實(shí)驗(yàn)，目的是收集他們對(duì)于AR體驗(yàn)設(shè)計(jì)的偏好。此外，還參考了12位專家對(duì)于AR交互的見解。
本次研究的重點(diǎn)，是確定三點(diǎn)問題：
AI該何時(shí)做出解釋；
可以解釋什么；
如何解釋。
先前的研究已經(jīng)探討了前兩個(gè)問題，盡管非針對(duì)AR，但還是為XAIR的設(shè)計(jì)提供了一些有用的信息。
XAI設(shè)計(jì)指南
Meta認(rèn)為，如果AR眼鏡具備智能服務(wù)，那么AI將起到重要作用，比如根據(jù)AR眼鏡傳感器捕捉到的信息，為用戶提供基于上下文的建議。除此之外，AI與用戶交互需要基于有效的XAI設(shè)計(jì)，以確保AI決策可靠、值得信賴，從而改善用戶體驗(yàn)。
與針對(duì)電腦、手機(jī)上的現(xiàn)有XAI框架不同，AR的XAI設(shè)計(jì)需要結(jié)合更深層、更豐富的上下文信息（甚至還要考慮用戶的狀態(tài)），因此需要為AR專門重新設(shè)計(jì)。而且，AR的XAI還需要具有3D感知能力、實(shí)時(shí)在線，才能應(yīng)用于日常AR場(chǎng)景，將解釋內(nèi)容與物理空間融合。比如，在推薦食譜時(shí)，同時(shí)突出用戶冰箱中的食材，即根據(jù)場(chǎng)景上下文來解釋決策。而相比之下，市面上已有的XAI框架并不能滿足這些需求。
于是，Meta通過用戶調(diào)查總結(jié)了8大設(shè)計(jì)指南：
1）始終生成AI結(jié)果，確保用戶在需要時(shí)可便捷的訪問；
2）不自動(dòng)觸發(fā)解釋，除非滿足2個(gè)條件識(shí)別到用戶高認(rèn)知負(fù)荷、緊迫感等情況，或是識(shí)別到用戶驚訝、困惑、不熟悉、不確定等狀態(tài)；
3）個(gè)性化解釋內(nèi)容需考慮三個(gè)因素：系統(tǒng)目標(biāo)、用戶目標(biāo)和用戶畫像；
4）在默認(rèn)狀態(tài)，優(yōu)先考慮為什么解釋，并選擇簡(jiǎn)明的解釋；
5）始終提供更詳細(xì)的解釋，可以通過小的提示窗口等，讓用戶根據(jù)需求展開；
6）默認(rèn)情況下，采用與AI輸出相同的解釋方式（除了觸覺、音頻），一種模態(tài)負(fù)載高時(shí)，選擇另外一種；
7）視覺相關(guān)：內(nèi)容以文字為主，如果是圖片也應(yīng)盡可能簡(jiǎn)化、讓用戶易于理解；
8）視覺相關(guān)：如主題場(chǎng)景相關(guān)可使用隱式提示，例如當(dāng)你看書時(shí)提供推薦和浮動(dòng)窗口；不相關(guān)則則使用顯示提示，例如兌換框等。
Meta結(jié)合設(shè)計(jì)指南，開發(fā)了一些應(yīng)用案例并在10名設(shè)計(jì)師中進(jìn)行驗(yàn)證，結(jié)果設(shè)計(jì)師認(rèn)為XAIR可為AR的XAI框架設(shè)計(jì)提供可用的綜合參考或幫助，有助于激發(fā)設(shè)計(jì)師的思維和想象力。參與實(shí)驗(yàn)的12名最終用戶也反饋，XAIR有出色的可用性。
應(yīng)用案例
在這項(xiàng)研究中，Meta設(shè)計(jì)了兩個(gè)演示案例，感興趣可以來了解一下：
1）當(dāng)用戶在小路上慢跑時(shí)，AR眼鏡考慮到當(dāng)下的季節(jié)和風(fēng)景，便為用戶顯示出附近的地圖，建議繞道去附近的路賞櫻花。AI可提供的解釋包括：風(fēng)景更好、路線長(zhǎng)度合適、適合用戶日程安排。解釋形式包括文字、櫻花圖片等等。
2）AR用戶在與鄰居討論園藝后回到家，這時(shí)AR眼鏡會(huì)在周圍的植物上顯示一個(gè)“養(yǎng)護(hù)”提示，并為用戶提供關(guān)于植物施肥的說明。這個(gè)建議需要用戶手動(dòng)觸發(fā)，避免其認(rèn)為AI侵犯隱私，手動(dòng)觸發(fā)可以較好的建立信任。此外，AI還可以提示：經(jīng)過系統(tǒng)掃描，植物的葉子上有異常斑點(diǎn)，表明可能遭受真菌或細(xì)菌感染。解釋形式除了文字外，也可以在葉子上用AR來標(biāo)記異常點(diǎn)（文本為明顯提示，AR提示則為隱秘式，與場(chǎng)景融合）。參考：Meta
