作者 | 香草
編輯 | 李水青
智東西10月25日?qǐng)?bào)道，10月24日，亞馬遜云科技在北京舉辦了生成式AI構(gòu)建者大會(huì)。會(huì)上，亞馬遜云科技大中華區(qū)產(chǎn)品部總經(jīng)理陳曉建從應(yīng)用場(chǎng)景、工具和基礎(chǔ)設(shè)施、數(shù)據(jù)基座、AI原生應(yīng)用構(gòu)建和生成式AI服務(wù)這五個(gè)層面，解讀了亞馬遜云科技全面的云原生技術(shù)棧，以及亞馬遜云科技如何助力企業(yè)降低生成式AI應(yīng)用開發(fā)門檻，加速實(shí)現(xiàn)端到端的生成式AI應(yīng)用構(gòu)建。
▲陳曉建解讀亞馬遜云科技五個(gè)層面的云原生技術(shù)棧
西門子集團(tuán)、金山辦公軟件以及科思創(chuàng)中國(guó)作為亞馬遜云科技中國(guó)區(qū)生成式AI創(chuàng)新的代表客戶，也分享了各自的創(chuàng)新案例。
會(huì)后，智東西與少數(shù)媒體對(duì)陳曉建、亞馬遜云科技技術(shù)專家團(tuán)隊(duì)總監(jiān)王曉野進(jìn)行了采訪。
當(dāng)智東西問(wèn)道，從亞馬遜云科技與企業(yè)客戶的接觸來(lái)看，目前有哪些行業(yè)和領(lǐng)域?qū)ι墒紸I應(yīng)用的需求量較大？生成式AI落地行業(yè)主要有哪些挑戰(zhàn)？亞馬遜云科技是如何幫助企業(yè)客戶應(yīng)對(duì)這些挑戰(zhàn)的？
陳曉建稱，目前各行各業(yè)對(duì)生成式AI都有著一定需求，從亞馬遜云科技與客戶的接觸來(lái)看，有一些比較有代表性的行業(yè)。
一是數(shù)字營(yíng)銷行業(yè)，易點(diǎn)天下借助亞馬遜云科技驅(qū)動(dòng)的生成式AI幫助電商客戶將出圖時(shí)間從5天縮短至2小時(shí)，通過(guò)SaaS為出�？蛻籼峁〢I模特與AI數(shù)字虛擬人等服務(wù)。
二是工業(yè)設(shè)計(jì)領(lǐng)域，以海爾創(chuàng)新設(shè)計(jì)中心為例，其基于亞馬遜云科技服務(wù)器部署了大量自動(dòng)化設(shè)計(jì)軟件，使得產(chǎn)品設(shè)計(jì)、UI設(shè)計(jì)等相關(guān)業(yè)務(wù)操作周期縮短了20%。
三是游戲行業(yè)，創(chuàng)夢(mèng)天地利用亞馬遜云科技游戲AIGC專業(yè)版API，快速上線了AI繪圖頻道和多種特色風(fēng)格，積累了數(shù)萬(wàn)名頻道內(nèi)用戶使用AI生圖服務(wù)，為后續(xù)IP推廣活動(dòng)打下基矗
在落地層面，亞馬遜云科技提供包含基礎(chǔ)模型、數(shù)據(jù)與算力基礎(chǔ)設(shè)施以及開發(fā)工具在內(nèi)的全面云原生技術(shù)棧，幫助企業(yè)實(shí)現(xiàn)端到端的應(yīng)用構(gòu)建。以全托管生成式AI服務(wù)Amazon Bedrock為例，由于其無(wú)服務(wù)器化，客戶無(wú)需管理基礎(chǔ)設(shè)施，只需調(diào)用API即可使用。
一、多半效益來(lái)自4類應(yīng)用場(chǎng)景，Bedrock提供6大基礎(chǔ)模型
根據(jù)麥肯錫咨詢2023年6月發(fā)布的生成式AI生產(chǎn)力前沿技術(shù)報(bào)告，在生成式AI技術(shù)帶來(lái)的經(jīng)濟(jì)效益中，大約3/4來(lái)自四類主要的職能：營(yíng)銷與銷售、產(chǎn)品與研發(fā)、軟件工程和客戶運(yùn)營(yíng)。
陳曉建稱，典型的應(yīng)用場(chǎng)景帶給企業(yè)的業(yè)務(wù)價(jià)值主要包含三個(gè)方面：增強(qiáng)客戶體驗(yàn)、提升員工生產(chǎn)力與創(chuàng)造力、優(yōu)化業(yè)務(wù)流程。
圍繞不同的應(yīng)用場(chǎng)景，亞馬遜云科技為企業(yè)客戶提供不同的工具幫助其創(chuàng)新業(yè)務(wù)模式。
10月7日，亞馬遜云科技正式發(fā)布Amazon Bedrock，同時(shí)宣布接入Meta的Llama 2 13B和70B。目前，Amazon Bedrock提供來(lái)自Meta、Anthropic、Stability AI、AI21 Labs、Cohere等第三方開發(fā)商的模型，以及亞馬遜自研的Amazon Titan，共6種基礎(chǔ)模型。
▲Amazon Bedrock提供的6種基礎(chǔ)模型
陳曉建稱，Amazon Bedrock是企業(yè)使用基礎(chǔ)模型構(gòu)建和擴(kuò)展生成式AI應(yīng)用程序的最簡(jiǎn)單方法，它是一項(xiàng)無(wú)服務(wù)器服務(wù)，提供了廣泛的模型選擇、數(shù)據(jù)隱私，并且能夠自定義模型，無(wú)需管理任何基礎(chǔ)設(shè)施。
▲陳曉建解讀Amazon Bedrock微調(diào)功能
然而，單獨(dú)的基礎(chǔ)模型具有局限性，無(wú)法完成需要與外部系統(tǒng)交互并且沒有最新知識(shí)來(lái)源的復(fù)雜任務(wù)。這些功能本身雖然很簡(jiǎn)單，但開發(fā)人員必須經(jīng)過(guò)多個(gè)步驟才能實(shí)現(xiàn)這些功能。
Amazon Bedrock代理功能支持通過(guò)API（應(yīng)用程序編程接口）安全地連接到公司數(shù)據(jù)，自動(dòng)將數(shù)據(jù)轉(zhuǎn)換為機(jī)器可讀的格式，并增加相關(guān)信息以生成最準(zhǔn)確的回答。然后，代理可以自動(dòng)調(diào)用API來(lái)滿足用戶的請(qǐng)求，無(wú)需任何手動(dòng)編碼。
金山辦公的AI研發(fā)總監(jiān)劉強(qiáng)談道，今年起，WPS開始將大語(yǔ)言模型的能力全面引入產(chǎn)品，在構(gòu)建過(guò)程中，遇到基礎(chǔ)模型性能有限、數(shù)據(jù)隱私與安全難以保障、高額管理成本等障礙。
作為Amazon Bedrock的第一批試用用戶，金山辦公第一時(shí)間與亞馬遜云科技展開了對(duì)接與測(cè)試。
Amazon Bedrock中支持的領(lǐng)先大語(yǔ)言模型在多個(gè)文字處理場(chǎng)景中符合金山辦公的需求，在數(shù)據(jù)安全層面也給金山辦公提供了充分的支持，極大地提高了金山辦公的內(nèi)部開發(fā)效率。
▲劉強(qiáng)解讀構(gòu)建生成式AI應(yīng)用幾大挑戰(zhàn)
基礎(chǔ)設(shè)施方面，陳曉建稱高性價(jià)比的基礎(chǔ)設(shè)施是生成式AI應(yīng)用構(gòu)建的關(guān)鍵。
亞馬遜云科技持續(xù)對(duì)全球基礎(chǔ)設(shè)施進(jìn)行深度投資，為客戶提供廣泛的加速器、GPU選擇，例如基于英傳達(dá)最新GPU芯片H100 Tensor Core的Amazon EC2 P5實(shí)例，與上一代相比速度快6倍，訓(xùn)練成本節(jié)省40%。
▲陳曉建解讀亞馬遜云科技基于英偉達(dá)GPU芯片實(shí)例
基于亞馬遜云科技自研的機(jī)器學(xué)習(xí)推理芯片Amazon Inferentia2推出的Amazon EC2 Inf2實(shí)例，與其他類似的EC2實(shí)例相比性價(jià)比高40%；基于自研機(jī)器學(xué)習(xí)訓(xùn)練芯片Amazon Trainium推出的Amazon EC2 Trn1實(shí)例，與同類實(shí)例相比訓(xùn)練成本節(jié)省達(dá)50%。
▲陳曉建解讀亞馬遜云科技自研芯片實(shí)例
二、構(gòu)建專門數(shù)據(jù)庫(kù)，DataZone實(shí)現(xiàn)跨組織數(shù)據(jù)共享與治理
數(shù)據(jù)是將通用的生成式AI轉(zhuǎn)變?yōu)榱私馄髽I(yè)業(yè)務(wù)和客戶的生成式AI的關(guān)鍵差異化因素。
陳曉建稱，面向生成式AI構(gòu)建強(qiáng)大的數(shù)據(jù)“基座”，需要一套全面的服務(wù)，以便能夠存儲(chǔ)用于構(gòu)建和微調(diào)模型的各種類型的數(shù)據(jù)；需要服務(wù)間的集成，以打破數(shù)據(jù)孤島，確保能夠隨時(shí)訪問(wèn)所有數(shù)據(jù)；還需要在構(gòu)建生成式AI應(yīng)用程序的整個(gè)生命周期中，確保數(shù)據(jù)安全并對(duì)其進(jìn)行管理。
▲陳曉建解讀面向生成式AI如何構(gòu)建強(qiáng)大的數(shù)據(jù)“基座”
在全面服務(wù)方面，亞馬遜云科技針對(duì)生成式AI領(lǐng)域的用戶個(gè)人信息、會(huì)話信息管理、私域知識(shí)庫(kù)等應(yīng)用場(chǎng)景都提供了專門構(gòu)建的數(shù)據(jù)庫(kù)。針對(duì)檢索增強(qiáng)生成（RAG）需要處理的向量數(shù)據(jù)，亞馬遜云科技推出了向量數(shù)據(jù)庫(kù)功能。
▲陳曉建解讀亞馬遜云科技多種數(shù)據(jù)庫(kù)
在數(shù)據(jù)集成方面，數(shù)據(jù)的抽�。‥xtract）、轉(zhuǎn)換（Transform）、加載（Load）簡(jiǎn)稱ETL，是端到端數(shù)據(jù)旅程迫切需要解決的問(wèn)題，亞馬遜云科技提出“Zero-ETL”的愿景，通過(guò)深化服務(wù)之間的集成，幫助企業(yè)執(zhí)行分析和機(jī)器學(xué)習(xí)，且無(wú)需移動(dòng)數(shù)據(jù)。
▲陳曉建解讀亞馬遜云科技深度集成數(shù)據(jù)服務(wù)
在數(shù)據(jù)治理方面，亞馬遜云科技提供Amazon DataZone數(shù)據(jù)治理服務(wù)，讓客戶能夠跨組織邊界發(fā)現(xiàn)、訪問(wèn)、共享和治理大規(guī)模數(shù)據(jù)，并減少企業(yè)內(nèi)部成員訪問(wèn)數(shù)據(jù)和使用分析工具時(shí)繁重的工作量。
▲陳曉建解讀Amazon DataZone數(shù)據(jù)治理服務(wù)
西門子集團(tuán)IT數(shù)據(jù)分析與AI負(fù)責(zé)人李朝明解讀了西門子與亞馬遜云科技在企業(yè)數(shù)據(jù)上的合作，通過(guò)AI與數(shù)據(jù)能力的全面能力提升來(lái)構(gòu)建基于生成式AI的企業(yè)知識(shí)聊天機(jī)器人。
面對(duì)西門子中國(guó)IT面對(duì)的企業(yè)內(nèi)部信息分散、數(shù)據(jù)信息傳遞能力不足、知識(shí)運(yùn)營(yíng)能力缺乏等業(yè)務(wù)難題，亞馬遜云科技助力西門子打造了業(yè)務(wù)知識(shí)一體化解決方案“小禹”，由于根植于堅(jiān)實(shí)的數(shù)據(jù)底座，“小禹”從立項(xiàng)到上線僅用了3個(gè)月。
▲李朝明解讀西門子業(yè)務(wù)知識(shí)一體化解決方案“小禹”
三、云原生服務(wù)加速AI應(yīng)用構(gòu)建，編程助手CodeWhisperer將推自定義功能
生成式AI的出現(xiàn)，給傳統(tǒng)云原生應(yīng)用開發(fā)架構(gòu)提出了新的機(jī)遇與挑戰(zhàn)。
陳曉建在采訪中談道，生成式AI是云原生的技術(shù)，可以說(shuō)，云計(jì)算是應(yīng)用生成式AI最好的方式。
而相比之下，公有云比私有云更適合面向企業(yè)，能夠提供強(qiáng)大的算力、基礎(chǔ)設(shè)施資源、端到端的服務(wù)等。
在應(yīng)用層面，亞馬遜云科技認(rèn)為，編程將是生成式AI技術(shù)得到快速應(yīng)用的領(lǐng)域之一。
亞馬遜云科技提供的Amazon CodeWhisperer是一款A(yù)I編碼伙伴，可在基礎(chǔ)模型高級(jí)選項(xiàng)中使用，實(shí)時(shí)生成代碼建議，從根本上提高開發(fā)人員的生產(chǎn)力。
據(jù)測(cè)試，與未使用的參與者相比，使用CodeWhisperer的參與者完成任務(wù)的速度平均快57%，成功率高27%。
陳曉建稱，CodeWhisperer即將推出自定義功能，允許客戶使用私有代碼庫(kù)安全地定制代碼建議，這些私有代碼庫(kù)可涵蓋內(nèi)部API、數(shù)據(jù)庫(kù)、最佳實(shí)踐和架構(gòu)模式等。
▲陳曉建解讀CodeWhisperer自定義功能
科思創(chuàng)中國(guó)云開發(fā)運(yùn)維團(tuán)隊(duì)負(fù)責(zé)人俞宙談道，科思創(chuàng)中國(guó)在日常開發(fā)中有兩個(gè)核心任務(wù)：項(xiàng)目框架搭建和存量代碼優(yōu)化。
在實(shí)踐中過(guò)程中，重復(fù)性、機(jī)械化的范式生成、慣用算法引用和企業(yè)級(jí)API接口定制是科思創(chuàng)中國(guó)面臨的主要挑戰(zhàn)。在亞馬遜云科技CodeWhisperer的加持下，科思創(chuàng)中國(guó)的日常代碼開發(fā)效率提升50%，開源代碼應(yīng)用追蹤器的準(zhǔn)確性也顯著提高。
▲俞宙解讀科思創(chuàng)中國(guó)在日常開發(fā)中的兩個(gè)核心任務(wù)
亞馬遜云科技還為Amazon QuickSight推出了生成式BI（商務(wù)智能）功能，使業(yè)務(wù)分析師能夠輕松地在幾秒鐘內(nèi)快速編寫和微調(diào)新的視覺效果，并使用自然語(yǔ)言將其添加到儀表板中，還可以在QuickSight中創(chuàng)建分析報(bào)告。
▲陳曉建解讀QuickSight分析報(bào)告生成功能
結(jié)語(yǔ)：生成式AI≠大模型，模型外的服務(wù)或成為新戰(zhàn)場(chǎng)
目前，生成式AI應(yīng)用落地已經(jīng)從熱火朝天的“百模大戰(zhàn)”，步入到了少數(shù)優(yōu)秀模型脫穎而出，工具鏈百花齊放，以及企業(yè)主管認(rèn)真尋找生成式AI落地場(chǎng)景的新階段。開發(fā)生成式AI應(yīng)用是一個(gè)充滿挑戰(zhàn)的系統(tǒng)工程，而不是單純的產(chǎn)品和服務(wù)拼接。
正如陳曉建所說(shuō)，生成式AI不僅僅是大模型，整個(gè)生成式AI應(yīng)用就像是浮在海面的冰山，露在海面上方能被大多數(shù)人看到的冰山一角就像是基礎(chǔ)模型，而在冰川的底部，同樣需要大量的基礎(chǔ)模型以外的服務(wù)來(lái)支撐。
