展會信息港展會大全

專訪億智電子:大模型端側落地在即,AI芯片處于需求爆發(fā)前夕
來源:互聯(lián)網   發(fā)布日期:2023-10-30 15:08:40   瀏覽:4970次  

導讀:集微網報道,2023年,在國內疫情放開的同時,ChatGPT也在全球范圍內掀起了一場技術革命,AI市場吸引了所有科技企業(yè)的目光,作為算力基礎設施中的核心硬件,AI芯片市場需求持續(xù)爆發(fā)。 據(jù)Gartner預測,2023年AI芯片市場規(guī)模將達到534億美元,比2022年增長20.9%...

集微網報道,2023年,在國內疫情放開的同時,ChatGPT也在全球范圍內掀起了一場技術革命,AI市場吸引了所有科技企業(yè)的目光,作為算力基礎設施中的核心硬件,AI芯片市場需求持續(xù)爆發(fā)。

據(jù)Gartner預測,2023年AI芯片市場規(guī)模將達到534億美元,比2022年增長20.9%,到2027年AI芯片營收將是2023年市場規(guī)模的兩倍以上,達到1194億美元。當然,占據(jù)上述AI芯片市場份額的絕大多數(shù)為云端芯片,而邊緣側/端側芯片尚處于大規(guī)模爆發(fā)前夕。

作為AI產業(yè)的深度參與者,億智電子創(chuàng)始人兼CEO陳峰對集微網表示,目前邊緣側/端側AI芯片領域仍屬于山雨欲來風滿樓的狀態(tài),其是從2018年逐漸興起的創(chuàng)新型產業(yè),但疫情三年使得產業(yè)鏈上下游難以實現(xiàn)協(xié)同發(fā)展,導致芯片商業(yè)落地極為緩慢。

值得一提的是,盡管疫情抑制了AI芯片在邊緣側/端側落地的需求,但AI賦能千行百業(yè)已經是行業(yè)共識,而億智電子更是快人一步,其AI芯片累計商業(yè)化落地已經千萬片,率先在智能車載、智慧安防、智能硬件三大應用領域實現(xiàn)多點開花的局面,并在面向家庭的家用智能門鎖、面向辦公領域的考勤門禁、面向社區(qū)的智能IPC等已經起量的AI應用場景占據(jù)了領先地位。

AI商業(yè)化落地遙遙領先

事實上,由于人工智能產業(yè)尚處于新興發(fā)展時期,市場滲透率極低,其中視覺AI的滲透率更是遠低于5%。巨大的市場潛力吸引了包括英飛凌、ST、聯(lián)發(fā)科在內的幾十甚至上百家廠商入局邊緣側/端側AI芯片領域,但面對多元化、碎片化的應用場景,真正實現(xiàn)商業(yè)化落地的AI芯片廠商可謂是寥寥無幾。

令人欣喜的是,在成立短短7年時間內,國內領先的邊緣側/端側通用算力AI SoC芯片廠商億智電子已經與超3百家客戶開展開發(fā)合作,其AI芯片實現(xiàn)了數(shù)十種智能終端品類的商業(yè)化落地。以智慧安防為例,產品涵蓋智能IPC、智慧人臉門禁、考勤設備、智能車牌識別設備等;以智能車載為例,產品涵蓋智能網約車設備、智能視頻部標機、智能后視鏡、AI行車記錄儀、盲區(qū)攝像頭等;以智能硬件領域為例,產品涵蓋智能家用攝像機、智能門鎖、云臺等。

當前,市場上的智能產品多為聯(lián)網設備,在智能化升級方面乏善可陳。不過,智能化發(fā)展已經是終端產品打造差異化的唯一發(fā)展方向,億智電子堅定看好智能終端設備的發(fā)展前景,致力于人工智能技術的商業(yè)化和產品化落地,為萬億設備智慧賦能。

例如,在家庭看護攝像機領域,億智電子攜手合作伙伴推出雙向可視AI云臺機,可以支持寵物檢測算法、嬰兒看護系列算法、手勢識別或關鍵字識別算法、老人看護類算法等等,讓家用攝像機真正成為守護居家安全的“智慧眼”。

在智能車載領域,億智電子以自研AI SoC芯片賦能的網約車設備,可以自動識別人的臉部特征、手勢和行為、語音等。如在行駛過程中,駕駛員出現(xiàn)打呵欠等疲勞反應,或是打電話等危險行為,智能網約車設備可以馬上識別并發(fā)出預警,保證司乘人員的安全。

“公司可以提供從0.5T到4T的不同算力芯片,覆蓋了主流端側應用場景,可以幫助客戶快速推出不同定位、不同算力的智能終端產品,后續(xù)公司也會根據(jù)市場需求及時地升級主流算力區(qū)間芯片產品。”陳峰自豪地表示,其實目前AI芯片能夠真正意義上賦能的應用場景不是很多,產業(yè)仍處于醞釀階段,需要客戶和整個產業(yè)鏈不斷投入,但億智電子已經在當前AI視覺芯片能夠賦能的應用場景做到了行業(yè)絕對頭部。

自研NPU打造核心競爭力

集微網觀察到,在行業(yè)第一的背后,是億智電子對AI行業(yè)深刻的理解及持續(xù)不斷對核心技術的投入。

與CPU、GPU等發(fā)展較為成熟的芯片領域不同,目前AI芯片仍處于發(fā)展早期階段,尚未形成行業(yè)標準,這也意味著客戶在基于AI芯片開發(fā)智能終端設備時,需要高度依賴芯片原廠的支持。

當前市場上的AI芯片廠商雖然都搭載了NPU(神經網絡處理單元),但多數(shù)廠商是購買第三方企業(yè)打造的NPU IP產品,導致芯片原廠非常依賴上游IP供應商,僅憑自身能力無法支持下游客戶的開發(fā)工作,而上游IP供應商對服務芯片原廠下游客戶并不擅長,自然無法順利完成商業(yè)化落地。

早在三四年前,陳峰就曾提出,AI芯片企業(yè)一定要自研NPU,只有充分掌握關鍵核心技術,才能配合下游客戶開發(fā)出創(chuàng)新型智能終端產品,最終賦能千行百業(yè)。因此,為契合市場對于智能化、算力的需求,億智電子堅持自主研發(fā)核心IP,其AI芯片都是搭載自研NPU。

在本次交流中,陳峰再次強調了NPU的重要性,“AI芯片要實現(xiàn)商業(yè)化落地的關鍵要素,在于芯片原廠必須充分掌握AI的加速引擎,自研NPU也是公司在市場上的核心競爭力所在。”

大模型技術加速端側落地

在沉寂許久后,AI行業(yè)終于在今年上半年迎來了以GPT為代表的大模型熱潮。雖然當前大模型技術僅用于云端,但業(yè)內已經達成共識,隨著生成式AI的快速發(fā)展,算力會根據(jù)應用場景在云、邊、端之間形成合理分布,大模型的小型化、專業(yè)化也會加速推進,生成式AI的潛在應用場景將不斷擴大。

陳峰指出,AI大模型技術在端側落地有兩種方式,第一種是云與端側協(xié)同,在大模型落地的過程中需要解決感、知、決策和反饋四大問題,目前都在云端進行,而云端算力成本相對較高,就需要算力成本較低的端側AI智能設備來解決感(信息收集)、知(結構化處理)的問題,云端則用大模型技術來解決決策和反饋的問題,充分發(fā)揮各自優(yōu)勢,滿足不同需求。

以云與端側協(xié)同發(fā)展的方式,當前AI大模型技術已經在詞典筆、平板電腦等教育類產品上成功落地。以詞典筆為例,詞典筆進行掃描后,對于一些知識擴展點,通過端側AI技術實現(xiàn)結構化處理形成文本,再上傳至云端,通過大模型技術進行后續(xù)處理及反饋,實現(xiàn)云端與終端的協(xié)同發(fā)展。

“第二種就是大模型的小型化,針對大模型算法本身進行升級優(yōu)化,通過減少模型的參數(shù)量和復雜度,來實現(xiàn)輕量化運算,從而降低對算力的需求。”陳峰預測,在未來的2~3年內,大模型算法有機會實現(xiàn)輕量化突破,真正具備商業(yè)價值的大模型小型化才能到來,這對AI大模型技術在端側的落地至關重要。

事實上,大模型的推出及快速變化帶動了各行各業(yè)的發(fā)展,也使得AI芯片發(fā)生變革。

“生成式AI技術主要基于Transformer架構,端側AI芯片則主要基于神經網絡架構,而Transformer架構可以完全取代神經網絡架構,且實現(xiàn)的效果更好。因此,AI芯片產品的技術發(fā)展趨勢也是轉向Transformer架構,特別是在云端AI芯片領域。”

展望未來,陳峰表示,大模型、智能看護、教育和工業(yè)視覺等將是未來端側AI蓬勃發(fā)展主流方向,公司正在積極投入對大模型技術的研發(fā),也將與方案商、終端客戶共同發(fā)力,探索大模型在邊緣側、端側的商業(yè)化落地。

贊助本站

人工智能實驗室
相關內容
AiLab云推薦
推薦內容
展開

熱門欄目HotCates

Copyright © 2010-2024 AiLab Team. 人工智能實驗室 版權所有    關于我們 | 聯(lián)系我們 | 廣告服務 | 公司動態(tài) | 免責聲明 | 隱私條款 | 工作機會 | 展會港