IT時報記者 郝俊慧
“任何非常先進(jìn)的技術(shù)，初看都與魔法無異。”寫出《2001太空漫游》的英國著名科幻作家亞瑟克拉克的著名三定律中，第三定律幾乎是半個世紀(jì)科技發(fā)展的最佳注腳。
科技和文化，是人類與世界對話的語言，科技重塑了每一個時代，而文化則將變化鐫刻在歷史中。
從這個意義上看，“三十而立”的亞馬遜，稱得上是一個時代的魔法師，將“魔法”從“小說”變?yōu)?ldquo;現(xiàn)實(shí)”：通過電子商務(wù)，數(shù)億消費(fèi)者可以跨越山海買到全球“好物”；通過上云，任何規(guī)模的公司可以從世界任何地方啟動和擴(kuò)展自己的業(yè)務(wù)……亞馬遜開創(chuàng)的兩大模式電子商務(wù)和云計(jì)算服務(wù)，深刻改變了世界運(yùn)行的方式。
如今，新的生成式AI時代來臨，亞馬遜還是領(lǐng)先者嗎？
國外研究機(jī)構(gòu)Synergy Research Group公布的最新研究報告顯示，一季度全球云服務(wù)市場的前三大供應(yīng)商分別為亞馬遜云科技AWS、微軟Azure和谷歌云，市場份額分別為 31%、25% 和 11%。挾人工智能之風(fēng)，微軟和谷歌在不斷靠近。
亞馬遜似乎并不著急。2023年告股東書中，亞馬遜CEO安迪賈西強(qiáng)調(diào)，生成式AI正逐漸演變?yōu)閬嗰R遜下一個關(guān)鍵支柱業(yè)務(wù)，盡管自ChatGPT于2022年推出之后，大家關(guān)注重點(diǎn)都集中在生成式AI應(yīng)用上，但亞馬遜認(rèn)為，生成式AI技術(shù)棧分為三層，而亞馬遜對每一層都進(jìn)行了深度探索。
2023年12月舉行的re:Invent上，AWS全面披露了亞馬遜生成式AI技術(shù)堆棧：底層基礎(chǔ)架構(gòu)層+中間基礎(chǔ)模型構(gòu)建工具層+上層基礎(chǔ)模型AI應(yīng)用層，版圖逐漸完整，而在今年舉行的亞馬遜云科技中國峰會上，亞馬遜云科技大中華區(qū)產(chǎn)品總經(jīng)理陳曉建詳細(xì)拆解了亞馬遜云科技的AIGC三層技術(shù)棧。
底層：內(nèi)外兼顧 雙管齊下
毫無疑問，AIGC將對云服務(wù)提供商及底層基礎(chǔ)設(shè)施產(chǎn)生深遠(yuǎn)影響。
僅僅有GPU并不是大模型能夠順利訓(xùn)練的唯一因素，分布式的調(diào)度能力、相應(yīng)的存儲和網(wǎng)絡(luò)性能缺一不可，傳統(tǒng)的數(shù)據(jù)中心正在轉(zhuǎn)變?yōu)橛ミ_(dá)CEO黃仁勛所言的“AI工廠”。對于云計(jì)算服務(wù)商而言，緊跟英偉達(dá)最新GPU路線和自研芯片是兩條必須同時邁步向前的路徑。
在和英偉達(dá)合作方面，亞馬遜云科技一向走得很遠(yuǎn)。去年年底，AWS是在云端配備英偉達(dá)GH200 Grace Hopper超級芯片的首家云大廠，雙方聯(lián)手推出首款結(jié)合Grace Hopper超級芯片與亞馬遜UltraCluster擴(kuò)展功能的云AI超級計(jì)算機(jī)Project Ceiba，而今年隨著英偉達(dá)推出“新核彈”B200，Project Ceiba也再次升級。搭載了超過兩萬個英偉達(dá)最新的Grace架構(gòu)Blackwell 200 超級芯片和第四代 EFA 網(wǎng)絡(luò)，每個超級芯片可提供高達(dá) 800 Gbps 的網(wǎng)絡(luò)帶寬，其AI算力能達(dá)到驚人的414 EFlops（每秒10萬億次浮點(diǎn)計(jì)算）。
此前黃仁勛在臺北電腦展前演講曾透露，訓(xùn)練一次GPT-4，使用Hopper，可能需要三個月；換成Blackwell，10000顆芯片訓(xùn)練同樣大小的模型，只需要3吉瓦時，耗時10天。以此類推，Project Ceiba訓(xùn)練GPT-4大小的模型，可能只要五天。
除此之外，Amazon UltraCluster 還提供超大規(guī)模，超高帶寬以及超高穩(wěn)定的高性能計(jì)算集群。而FSx for Lustre和S3 提供了高性能的存儲的穩(wěn)定方案。這些方案與亞馬遜云科技上廣泛的編排選項(xiàng)結(jié)合，允許客戶以最習(xí)慣的開源框架進(jìn)行代碼開發(fā)及部署。
在自研芯片方面，較之其他云商，AWS也已先行一步，自研服務(wù)器CPU芯片AWS Graviton4已經(jīng)到了第四代，為生成式AI和機(jī)器學(xué)習(xí)訓(xùn)練設(shè)計(jì)的云端AI芯片AWS Trainium 也發(fā)布了第二代。
定制芯片使得亞馬遜機(jī)器學(xué)習(xí)訓(xùn)練和推理成本的大幅下降，其中，基于Amazon Trainium的Trn1 EC2實(shí)例和基于Amazon Inferentia芯片的Inf2 EC2實(shí)例，與類似的基于英偉達(dá)GPU的Amazon EC2實(shí)例相比，可分別將訓(xùn)練成本降低高達(dá)50%(Trn1)，推理成本降低高達(dá)40%(Inf2)。
同時，除了降本之外，自研芯片還實(shí)現(xiàn)了效能的可持續(xù)性，Amazon Inferentia2可以將深度學(xué)習(xí)推理能效提升高達(dá)50%，Amazon Trainium可以將深度學(xué)習(xí)訓(xùn)練能效提升高達(dá)25%。
除了底層硬件設(shè)施，亞馬遜云科技在軟件底層服務(wù)方面也有獨(dú)門秘籍。已經(jīng)問世7年的Amazon SageMaker托管機(jī)器學(xué)習(xí)服務(wù)，可讓開發(fā)人員輕松構(gòu)建、訓(xùn)練、微調(diào)和部署基礎(chǔ)模型。如自動模型微調(diào)、分布式訓(xùn)練、靈活的模型部署選項(xiàng)、機(jī)器學(xué)習(xí)操作工具和面向負(fù)責(zé)任 AI 的內(nèi)置功能等等，助力客戶更快創(chuàng)新
據(jù)了解，國產(chǎn)大模型中，零一萬物的Yi-1.5 6B/9B/34B和百川智能的Baichuan-2 7B基礎(chǔ)模型豆?jié){上線中國區(qū)域的SageMaker Jumpstart。
中間層：加速生成式 AI 應(yīng)用構(gòu)建
與由不同芯片、存儲、網(wǎng)絡(luò)架構(gòu)等等復(fù)雜內(nèi)容組成的底層技術(shù)棧不同，亞馬遜云科技的中間層只要記住一個詞即可Amazon Bedrock（基巖）。2023世界人工智能大會（WAIC）上， Amazon Bedrock成功入選大會“鎮(zhèn)館之寶”。
在游戲《我的世界》里，Bedrock是最基礎(chǔ)的方塊，不可被破壞，在亞馬遜云科技的AIGC三層技術(shù)棧中，它同樣是讓用戶放心的基礎(chǔ)服務(wù)。
Amazon Bedrock是亞馬遜云科技其是一項(xiàng)完全托管的服務(wù)，通過單個API提供來自AI21 Labs、Anthropic、Cohere、Meta、Mistral AI、Stability AI 和Amazon等人工智能公司的高性能基礎(chǔ)模型（FM），以及通過安全性、隱私性和負(fù)責(zé)任的AI構(gòu)建生成式人工智能應(yīng)用程序所需的一系列廣泛功能。
比如企業(yè)可以將基于Llama、 Mistral和Flan-T5開發(fā)的定制模型導(dǎo)入到 Bedrock之中，以完全托管的 API方式進(jìn)行訪問。這一全新功能讓企業(yè)既可以使用SageMaker來持續(xù)預(yù)訓(xùn)練或者微調(diào)一個定制化模型，又能夠充分享受Bedrock的諸多模型管理功能，而無需管理底層設(shè)施。
借助全新的Amazon Bedrock專有模型導(dǎo)入功能，用戶能夠?qū)⒈镜匚⒄{(diào)后的開源模型（Llama，Mistral及Flan-T5框架)上架Bedrock，以托管API方式來調(diào)用，無需運(yùn)維。只需通過點(diǎn)擊操作，客戶就可以在Amazon Bedrock中訪問其定制模型，無論這些模型是它通過Amazon SageMaker開發(fā)的還是用其他的工具開發(fā)的。只需模型通過自動驗(yàn)證流程后，即可使用Amazon Bedrock的一系列功能來加速其生成式AI應(yīng)用開發(fā)。
模型評估也是一個非常實(shí)用的功能。至少在目前，還沒有一個基礎(chǔ)模型適應(yīng)于所有生成式AI場景，客戶需要去選擇最適合他們的模型。Amazon Bedrock模型評估功能可以幫助客戶找到最適合的模型，簡化評估、比較和選擇基礎(chǔ)模型的過程，讓評估模型的過程從幾個星期縮短到幾個小時。
通過Amazon Bedrock提供基礎(chǔ)大模型服務(wù)和以自研芯片確保算力能力，亞馬遜云科技試圖以低成本和加速的方式，解答更多人對于這場由AI創(chuàng)新帶來的困惑。
頂層：開箱即用的生成式AI應(yīng)用
AIGC時代，每個企業(yè)都不想錯過紅利，但每個企業(yè)也都在問：AIGC究竟能給自己帶來什么？關(guān)鍵難題在于，讓生成式人工智能應(yīng)用和助手真正發(fā)揮作用，它們必須了解組織的數(shù)據(jù)、客戶、運(yùn)營和業(yè)務(wù)，但如今的許多助手都無法輕松個性化，而且它們的設(shè)計(jì)也無法滿足公司所需的數(shù)據(jù)隱私和安全要求。
作為亞馬遜云科技的頂層應(yīng)用，Amazon Q可以簡單理解為一個新型生成式AI助手，一個亞馬遜云科技架構(gòu)框架、最佳實(shí)踐、文檔和解決方案實(shí)施的專家，它能夠幫助企業(yè)用戶快速學(xué)會應(yīng)用AIGC的能力，比如學(xué)習(xí)不熟悉的技術(shù)、構(gòu)建解決方案、發(fā)現(xiàn)問題、升級應(yīng)用程序等，而且可以更快上手，極大程度上消除了技術(shù)門檻。
Amazon Q Developer可以被稱為是企業(yè)的“AI程序員”，它可以協(xié)助開發(fā)人員完成從編碼、測試、升級應(yīng)用到故障排查、安全掃描和修復(fù)、優(yōu)化云資源等繁瑣重復(fù)的工作，讓開發(fā)者把更多時間專注于創(chuàng)新體驗(yàn)的開發(fā)，加快應(yīng)用部署速度。英國電信集團(tuán) (BT Group) 最近報告稱，他們接受了 37% 的 Q 代碼建議，澳大利亞國民銀行 (National Australia Bank) 報告稱接受率為 50%。
Amazon Q Developer最大的價值在于，讓沒有編碼基礎(chǔ)的業(yè)務(wù)經(jīng)理也可以擁有完全匹配自己想法的軟件功能。比如，你可以要求 Amazon Q Developer 在自己的電子商務(wù)應(yīng)用程序中添加新的結(jié)帳功能，它將分析您現(xiàn)有的代碼庫，制定跨多個文件的實(shí)施計(jì)劃，獲得批準(zhǔn)后，便可以在幾分鐘內(nèi)執(zhí)行所有必需的代碼更改和測試。
Amazon Q Business 的愿景，則是讓每個企業(yè)都能利用生成式人工智能的力量，從所有數(shù)據(jù)（非結(jié)構(gòu)化和結(jié)構(gòu)化）中獲取洞察，采取行動并構(gòu)建應(yīng)用程序。
目前，幾乎每家公司都擁有大量難以訪問和解析的寶貴數(shù)據(jù)，擁有“數(shù)據(jù)礦山”卻不會使用是大多數(shù)公司的窘境，借助 Amazon Q Business，員工可以通過連接到企業(yè)數(shù)據(jù)存儲庫以邏輯方式匯總數(shù)據(jù)、分析趨勢并參與有關(guān)數(shù)據(jù)的對話，獲得有關(guān)業(yè)務(wù)數(shù)據(jù)（例如公司政策、產(chǎn)品信息、業(yè)務(wù)結(jié)果、代碼庫、人員和許多其他主題）的問題答案。
目前Amazon Q Developer、Amazon Q Business 和 Amazon Q in QuickSight均已正式可用。
“今天所有人都有幸處在下一個技術(shù)變革的偉大時代，今天是成為構(gòu)建者的絕佳時機(jī)，每個創(chuàng)新，都將對世界產(chǎn)生深遠(yuǎn)的影響。我們相信，亞馬遜云科技在這個時代創(chuàng)造的技術(shù)，將使客戶能夠改變世界。”陳曉建表示。
