端側(cè)AI大模型新賽道最近又迎來兩個(gè)重量級玩家蘋果和華為，這為智能終端（主要是手機(jī)）走出低迷狀態(tài)提供了新的希望和動(dòng)力。
Apple GPT是蘋果公司基于其自研的Ajax框架開發(fā)的AI工具，目前在蘋果公司內(nèi)部展開小范圍內(nèi)測；華為則通過在8月4日下午舉行的HDC 2023開發(fā)者大會(huì)上發(fā)布的HarmonyOS 4的智能助手“小藝”，展示了端側(cè)AI大模型在應(yīng)用層面的能力。
此前，Meta、OpenAI、高通、谷歌、騰訊和百度等，已經(jīng)或即將推出支持端側(cè)AI大模型的應(yīng)用或技術(shù)框架，正在快速勾勒這個(gè)全新方向的技術(shù)和市場前景。
HarmonyOS 4：有何端側(cè)AI大模型能力
8月4日，華為正式發(fā)布HarmonyOS 4。華為HarmonyOS是面向萬物互聯(lián)的全場景分布式操作系統(tǒng)，支持手機(jī)、平板、智能穿戴和智慧屏等多種終端設(shè)備運(yùn)行。
在華為這個(gè)著名的IoT操作系統(tǒng)的第四版中，端側(cè)AI大模型（即在手機(jī)側(cè)運(yùn)行大模型）的能力成為關(guān)鍵核心。
“今天我們已進(jìn)入大模型時(shí)代，華為盤古大模型將助力鴻蒙生態(tài)。”華為常務(wù)董事、終端BG CEO、智能汽車解決方案BU CEO余承東說，“通過盤古的底層能力加持，華為將為用戶帶來智慧終端交互、高階生產(chǎn)力效率、個(gè)性化服務(wù)的全新AI體驗(yàn)變革。”
基于AI大模型的文本生成是HarmonyOS 4的一部分。隨著大模型的日益發(fā)展，小藝獲得全新升級，增強(qiáng)了交互、生產(chǎn)力和個(gè)性化服務(wù)三個(gè)方面的能力。
文本生成和總結(jié)能力，這是各家推出大模型應(yīng)用的標(biāo)準(zhǔn)能力，HarmonyOS 4也不例外。通過小藝，可識別圖片中的內(nèi)容和文字，能朗讀文字內(nèi)容并接入更多服務(wù)。
高通產(chǎn)品管理高級副總裁兼AI負(fù)責(zé)人Ziad Asghar認(rèn)為，大模型將迅速重塑人機(jī)交互方式。
HarmonyOS 4的交互變化看上去并不顯著。在語音交互基礎(chǔ)上，擴(kuò)展了文字、圖片和文檔等多種形式的輸入。比如，用日常說話的方式自然地與AI交流，小藝可自動(dòng)完成指定任務(wù)。這一點(diǎn)在iPhone通過Siri早已能達(dá)成。
但是，作為首個(gè)具備AI大模型能力的智能助手，小藝對自然語義的理解更深。
舉個(gè)例子，iPhone的AI助手Siri需要C端用戶輸入的語音指令語義清晰而精確，而HarmonyOS 4則能理解相對含義不太明顯的語音指令，因而搭載HarmonyOS 4的智能手機(jī)，能更精準(zhǔn)、更迅速地完成任務(wù)。
此外，由于小藝具有的大模型AI泛化能力和手機(jī)智能助手連接了多種服務(wù)和特殊場景，因此也能比之前更快地獲取服務(wù)。
比如，若收到一張活動(dòng)海報(bào)圖片，C端用戶對小藝下達(dá)指令，AI能自動(dòng)識別圖片上的地址，給出導(dǎo)航按鈕或保存海報(bào)電話作為聯(lián)系方式。
若瀏覽一篇數(shù)千字的英文新聞，小藝可直接速讀文章、做翻譯并完成摘要，也能回答與該篇新聞?dòng)嘘P(guān)的問題。
HarmonyOS 4還有生成能力。比如自動(dòng)生成各類商業(yè)電子郵件內(nèi)容或生成圖像；也能用終端保存的個(gè)性化照片，小藝調(diào)用AI畫圖功能生成各種風(fēng)格的圖片。
隨著C端用戶和小藝的持續(xù)交流，小藝會(huì)持續(xù)提升AI能力。這些交互數(shù)據(jù)會(huì)保留在端側(cè)，以保護(hù)用戶隱私。
個(gè)性化是智能手機(jī)應(yīng)用的特征。小藝具備的記憶能力會(huì)隨著長時(shí)間使用，越來越懂“主人”，給出的建議更貼心：比如出行，在出行前提供完備而豐富的出行信息，落地后又能提供本地信息，并根據(jù)用戶習(xí)慣，實(shí)現(xiàn)個(gè)性化推薦。
據(jù)華為透露，小藝這些新的能力，將在8月下旬開啟公開測試體驗(yàn)。
這不是華為首次嘗試將AI大模型接入移動(dòng)終端。今年3月，華為發(fā)布的P60手機(jī)，自帶智慧搜圖功能。這項(xiàng)功能基于多模態(tài)大模型技術(shù)，通過在手機(jī)端側(cè)對模型做小型化處理，實(shí)現(xiàn)了手機(jī)側(cè)的大模型運(yùn)行。
蘋果動(dòng)作緩慢，高通熱情高漲
瞄上端側(cè)AI大模型能力的智能終端商不只有華為，還有蘋果。
蘋果正在秘密研發(fā)的GPT軟件叫做Apple GPT，基于蘋果自研的Ajax框架開發(fā)。
但目前，Apple GPT缺乏更多細(xì)節(jié)，外界難以知曉其技術(shù)或應(yīng)用能力究竟有哪些亮點(diǎn)。對此，蘋果明確表示，目前尚未決定Apple GPT未來的開發(fā)方向。
此前，在第二財(cái)季財(cái)報(bào)電話會(huì)議中，蘋果CEO庫克承認(rèn)，Al潛力巨大，但如何使用AI技術(shù)，仍需要深入思考。庫克說，蘋果已將AI技術(shù)整合進(jìn)產(chǎn)品和服務(wù)，未來也將繼續(xù)這一進(jìn)程。
全球首個(gè)面向消費(fèi)級市嘗大規(guī)模落地、應(yīng)用NLP技術(shù)的智能助手，iPhone Siri，今年已經(jīng)12歲。與剛剛?cè)律壍娜A為小藝、小米小愛、百度小度一眾“晚輩”相比，Siri非但不智能，還顯得有點(diǎn)“智障”。
外界認(rèn)為，蘋果落地GPT能力的載體很可能是這個(gè)呈現(xiàn)“暮年”狀態(tài)的Siri，但這未能得到蘋果的證實(shí)。
盡管如此，蘋果入局端側(cè)AI大模型的跡象非常多。比如，今年1月，蘋果啟動(dòng)一項(xiàng)新計(jì)劃，為Apple Books添加數(shù)字旁白功能，以從書面文本中自動(dòng)生成高質(zhì)量的AI旁白音頻；在iOS17更新版，蘋果用Transformer語言模型完善輸入法的預(yù)測和拼寫糾正功能。
還有，新款A(yù)irPods Pro通過機(jī)器學(xué)習(xí)（ML）實(shí)現(xiàn)自適應(yīng)音頻模式，可通過識別外部環(huán)境自動(dòng)調(diào)節(jié)音量；iPadOS 17用機(jī)器學(xué)習(xí)模型實(shí)現(xiàn)對PDF字段的識別；Vision Pro使用機(jī)器學(xué)習(xí)技術(shù)“編碼器-解碼器”神經(jīng)網(wǎng)絡(luò)為用戶構(gòu)建數(shù)字化身。
蘋果如何布局AI賽道，這是一個(gè)系統(tǒng)大問題，很難用數(shù)百字說明白。但Siri開發(fā)團(tuán)隊(duì)的技術(shù)工程師對改變Siri的“蠢笨”看起來缺乏真正的動(dòng)力，背后折射了“組織功能障礙和缺乏雄心”的現(xiàn)實(shí)，很可能會(huì)影響蘋果在端側(cè)落地AI大模型的效率。
但蘋果的低效，不能改變端側(cè)AI大模型在智能終端的部署規(guī)模，這是無可存疑的事實(shí)。因?yàn)榘ǜ咄āeta、OpenAI、谷歌、亞馬遜、騰訊和百度，都在等都致力于實(shí)現(xiàn)AI大模型在移動(dòng)終端的輕量化部署。
OpenAI團(tuán)隊(duì)在7月第四周推出覆蓋iOS/安卓系統(tǒng)的移動(dòng)端ChatGPT應(yīng)用；Meta將與高通合作，從2024年起，其開源大模型Llama 2將能在旗艦智能手機(jī)和PC上運(yùn)行；高通表示正在將更多生成式AI用例向邊緣側(cè)遷移，目前，參數(shù)超過10億的AI模型已經(jīng)能夠在手機(jī)上運(yùn)行，且性能和精度達(dá)到與云端相似的水平。
谷歌、騰訊、百度等已將模型壓縮技術(shù)緊密結(jié)合移動(dòng)端模型部署框架/工具。
其中，高通對此熱情高漲。高通首席執(zhí)行官克里斯蒂亞諾阿蒙在一份聲明中強(qiáng)調(diào)，高通能在手機(jī)上而不是云服務(wù)器上運(yùn)行AI模型，這為高通提供了實(shí)現(xiàn)“拐點(diǎn)”的機(jī)會(huì)，從而推動(dòng)未來的增長。
“總之，我們處于獨(dú)特的地位，可以幫助塑造和利用即將到來的設(shè)備上的Gen AI機(jī)會(huì)。”阿蒙說。
智能手機(jī)整體市場下滑態(tài)勢何時(shí)能停止，目前仍無法確定；但是，端側(cè)AI大模型賽道迎來的這波眾多B端參與者，是重塑這個(gè)日漸低迷的電子消費(fèi)品類的應(yīng)用和市場格局的新希望所在。
