去年此時(shí)，ChatGPT橫空出世席卷全球，許多人稱其意味著AI的iPhone時(shí)刻到來(lái)。CSDN創(chuàng)始人蔣濤對(duì)此曾預(yù)測(cè)：「下一步就是應(yīng)用時(shí)刻，新應(yīng)用時(shí)代將來(lái)臨……大模型將推動(dòng)更多的AI應(yīng)用程序員誕生」。
在2023亞馬遜云科技re:Invent全球大會(huì)第三天的Keynote，亞馬遜云科技數(shù)據(jù)和人工智能副總裁Swami Sivasubramanian博士關(guān)于亞馬遜云科技生成式AI的最新能力、面向生成式AI時(shí)代的數(shù)據(jù)戰(zhàn)略以及借助生成式AI應(yīng)用提高生產(chǎn)效率的演講中，可以真真切切地感受到亞馬遜云科技將生成式AI應(yīng)用開(kāi)發(fā)門檻打下來(lái)，生成式AI新應(yīng)用的到來(lái)。
Swami博士在開(kāi)場(chǎng)中這樣說(shuō)道：“今天，人類和技術(shù)之間正展現(xiàn)出前所未有的緊密關(guān)系，生成式AI正以許多意想不到的方式提升人類的生產(chǎn)力。這種關(guān)系讓人類與人工智能共同形成新的創(chuàng)新充滿了無(wú)限可能性。”
基于此，Swami博士帶來(lái)了亞馬遜云科技一系列的產(chǎn)品，其關(guān)鍵作用在于：幫助所有開(kāi)發(fā)及企業(yè)快速、安全、規(guī)模化地構(gòu)建生成式應(yīng)用。并且，Swami博士認(rèn)為，數(shù)據(jù)是構(gòu)建差異化生成式AI應(yīng)用的核心優(yōu)勢(shì)，亞馬遜云科技在生成式AI能力的基礎(chǔ)上，從數(shù)據(jù)維度為所有企業(yè)保駕護(hù)航。
針對(duì)Swami博士的精彩演講，亞馬遜云科技人工智能產(chǎn)品市場(chǎng)經(jīng)理宋洪濤、亞馬遜云科技數(shù)據(jù)分析與人工智能產(chǎn)品總監(jiān)Troy Cui、亞馬遜云科技數(shù)據(jù)產(chǎn)品技術(shù)總監(jiān)王曉野，以及CSDN人工智能技術(shù)主編袁滾滾聯(lián)袂，在re:Invent全球大會(huì)現(xiàn)場(chǎng)展開(kāi)了深入的解讀與探討，助力所有開(kāi)發(fā)者及企業(yè)盡情擁抱生成式AI時(shí)代。
亞馬遜云科技在生成式AI領(lǐng)域的布局
宋洪濤：今天Swami博士從非常獨(dú)特的視角介紹了如何借助數(shù)據(jù)來(lái)構(gòu)建自己的生成式AI應(yīng)用，以及有了生成式AI應(yīng)用之后，如何更好地改變我們的生活方式，提升自己的工作效率。在昨天的大會(huì)上，亞馬遜云科技首席執(zhí)行官Adam Selipsky也重磅分享了亞馬遜云科技生成式AI技術(shù)棧的三層架構(gòu)，這三層技術(shù)架構(gòu)具體是什么樣的？以及Amazon Bedrock升級(jí)帶來(lái)了哪些亮點(diǎn)？
王曉野：亞馬遜云科技投身生成式AI領(lǐng)域，其實(shí)與我們之前在云計(jì)算和其他領(lǐng)域的做法一脈相承。我們的目標(biāo)是將一項(xiàng)極其復(fù)雜的技術(shù)變得更易用，降低使用門檻，使得任何人都能夠輕松應(yīng)用。
因此，基于這一大前提，我們提出了三層架構(gòu)的理念。這樣的分層結(jié)構(gòu)有助于更清晰地組織技術(shù)，實(shí)現(xiàn)端到端地幫客戶思考問(wèn)題。
-
最底層是基礎(chǔ)架構(gòu)。一方面，它離不開(kāi)基礎(chǔ)模型的構(gòu)建。這一維度模型的典型特點(diǎn)是參數(shù)規(guī)模比較大，從訓(xùn)練到推理、性能、一個(gè)模型可能要幾個(gè)月的時(shí)間才能完成，成本在百萬(wàn)美金級(jí)別。亞馬遜云科技希望在基礎(chǔ)模型的訓(xùn)練和推理階段，提供最好的基礎(chǔ)模型的基礎(chǔ)設(shè)施。比如Amazon SageMaker作為模型訓(xùn)練的核心產(chǎn)品，我們也把它劃到基礎(chǔ)設(shè)施這一層去幫助客戶，把整個(gè)模型無(wú)論是訓(xùn)練還是推理的性能都做到極致。
-
另一方面，芯片也提供了強(qiáng)有力的支持。在這次大會(huì)上，我們與英偉達(dá)深度合作。實(shí)際上，業(yè)內(nèi)最領(lǐng)先的GPU在亞馬遜云科技可以使用。同時(shí)亞馬遜云科技對(duì)于自研芯片Trainium和Inferentia，都更新到了第二代的水平。
-
中間層是存儲(chǔ)，這一層可以讓客戶能更好地利用模型能力。此次，Amazon Bedrock進(jìn)行了全新的升級(jí)，用戶可以基于此平臺(tái)挑選到最好的模型，以及獲得最簡(jiǎn)單的使用方式。我們會(huì)根據(jù)用戶的實(shí)際場(chǎng)景，例如Amazon CoderWhisperer代碼生成助理，不斷擴(kuò)展平臺(tái)的功能，以滿足更多需求。
-
最上層是應(yīng)用層，Adam在本屆大會(huì)上發(fā)布了最重磅的產(chǎn)品Amazon Q，就是希望通過(guò)生成式AI助理為用戶解惑，讓了解業(yè)務(wù)的專家一直在線。應(yīng)用層還涵蓋開(kāi)箱即用的生成式AI應(yīng)用，為生成式AI用戶和缺乏開(kāi)發(fā)技能的業(yè)務(wù)人員提供便捷使用服務(wù)的途徑，以加速工作效率。
Troy Cui：基于Amazon BedRock來(lái)看，它存在的意義在于亞馬遜云科技幫助我們篩選市場(chǎng)上最優(yōu)秀的模型，將這些模型提供給我們，使得我們自己無(wú)需再進(jìn)行繁瑣的連接步驟�，F(xiàn)在，只需通過(guò)一個(gè)API即可直接訪問(wèn)這些模型。
這一次，Amazon BedRock最直接的改進(jìn)之一是對(duì)這些模型進(jìn)行了大量更新，比如增加了對(duì)Claude 2.1和Llama 2 70b的支持。其中，Claude 2.1模型在處理復(fù)雜的總結(jié)和推理方面非常強(qiáng)大，支持200k上下文token，而我們還進(jìn)一步加強(qiáng)了對(duì)整個(gè)穩(wěn)定性方面的支持，提供了強(qiáng)大的擴(kuò)展性。
宋洪濤：亞馬遜云科技最近發(fā)布了一款最新產(chǎn)品，名為Amazon Titan Multimodal Embeddings。多模態(tài)實(shí)際上代表了在生成式AI模型領(lǐng)域一個(gè)非常重要的趨勢(shì)。對(duì)于我們的客戶和基礎(chǔ)模型而言，Multimodal Embeddings到底意味著什么呢？在技術(shù)領(lǐng)域，Embedding是一個(gè)經(jīng)常被提及的術(shù)語(yǔ)，那么它究竟是用來(lái)做什么的呢？
王曉野：簡(jiǎn)單理解，可以將Embedding視為數(shù)字化。在聊天語(yǔ)言類模型火爆時(shí)，大家紛紛使用像向量數(shù)據(jù)庫(kù)這樣的工具，它將信息數(shù)字化，因?yàn)橹挥袛?shù)字化后，我們更容易通過(guò)數(shù)學(xué)方法計(jì)算其相似性。因此，核心問(wèn)題是將諸如"Embedding"這樣的概念轉(zhuǎn)化為數(shù)字，以便更輕松地尋找相似性。
這一次我們發(fā)布的是一個(gè)被稱為“多模態(tài)”的概念，可能聽(tīng)起來(lái)有些抽象。它包括了圖片、聲音、視頻等多種形式，而不僅僅是文本。在這其中最有用的場(chǎng)景之一是電商網(wǎng)站上的以圖搜圖。當(dāng)我們看到一件喜歡的產(chǎn)品，比如手機(jī)殼，想要找到在哪個(gè)電商網(wǎng)站上購(gòu)買時(shí)，我們可以拍照然后搜索。這時(shí)，我們就依賴中間層將這個(gè)圖片轉(zhuǎn)化為數(shù)字，這將提升搜索的準(zhǔn)確性。
在數(shù)學(xué)層面，尋找相似性并不是特別困難的任務(wù)，因此關(guān)鍵在于模型能否在這個(gè)過(guò)程中有效地將兩個(gè)圖片或類似的元素的相似感覺(jué)轉(zhuǎn)化為數(shù)字。在這一步驟中，模型的性能至關(guān)重要，因?yàn)樗枰C合多個(gè)維度，如顏色、場(chǎng)景等，從而使兩者在數(shù)字化轉(zhuǎn)換后更加相似。
我們此次發(fā)布的模型更加注重在這一層面的表現(xiàn)，此外還包括了將圖片和文字描述放一起考慮，能夠更全面地呈現(xiàn)物品的特點(diǎn)。
加快生成式AI腳步的同時(shí)，如何保護(hù)隱私和保證安全？
宋洪濤：我關(guān)注到Swami博士宣布了幾款大語(yǔ)言模型的更新，其中一個(gè)是Amazon Titan Image Generator文生圖模型，Swami博士提到要做負(fù)責(zé)任的AI，比如通過(guò)不可見(jiàn)的水印方式，來(lái)更好的保護(hù)大模型生成的圖片的版權(quán)。我知道在文書(shū)處理領(lǐng)域，版權(quán)問(wèn)題或者是隱私問(wèn)題實(shí)際上是很多客戶的一個(gè)非常大的痛點(diǎn)。
袁滾滾：我的工作是屬于內(nèi)容創(chuàng)作，經(jīng)常使用大模型生成文字和圖片。OpenAI發(fā)布過(guò)Copywriter Shield Support版權(quán)盾支持計(jì)劃，面向API開(kāi)發(fā)者和企業(yè)客戶，如果因?yàn)樯山Y(jié)果遭遇版權(quán)上的法律糾紛，OpenAI會(huì)給他們兜底。但相信未來(lái)大模型會(huì)應(yīng)用到各個(gè)領(lǐng)域和場(chǎng)景，這類承諾的時(shí)效性是不確定的。因此，像圖片水印技術(shù)，底層是較為成熟的數(shù)字水印技術(shù)，可以在多方面保護(hù)大模型生成內(nèi)容的安全。
當(dāng)你發(fā)現(xiàn)網(wǎng)上有違規(guī)的內(nèi)容，懷疑是大模型生成的，可以通過(guò)圖片水印去追責(zé)到它是哪個(gè)大模型生成的。還有一種是我通過(guò)咱們的大模型去生成附帶數(shù)字水印的圖片，可以保護(hù)作者版權(quán)。
王曉野：首先，Swami博士提到了目前關(guān)于圖片水印技術(shù)的三個(gè)挑戰(zhàn)：
-
第一，水印必須是不可見(jiàn)的，否則會(huì)直接影響圖片。
-
第二，圖片加水印意味著在推理過(guò)程中要額外消耗一些性能，但又不能因此延遲變慢，這些問(wèn)題都需要解決。
-
第三，大部分人生成圖片后都會(huì)再編輯，無(wú)法確保圖片在編輯之后水印是否還在。
通過(guò)Swami博士的解釋，我們可以發(fā)現(xiàn)一些以為很成熟的技術(shù)實(shí)際上并不容易也確實(shí)很重要，需要特殊處理和對(duì)待。同時(shí)，也能看出image generator模型與其他開(kāi)源模型的區(qū)別在哪。如果企業(yè)真要用起來(lái)，這種模型可能值得第一個(gè)去嘗試。
百花齊放的大模型，究竟該怎么選？
宋洪濤：在面對(duì)如此多的基礎(chǔ)模型時(shí)，客戶究竟應(yīng)該如何選擇最適合其業(yè)務(wù)場(chǎng)景的模型呢？亞馬遜云科技是否已有相關(guān)產(chǎn)品或工具來(lái)協(xié)助客戶做出更明智的選擇？
TroyCui：在生產(chǎn)環(huán)境中選擇大模型需要考慮多個(gè)因素。
-
首先，模型的準(zhǔn)確度在問(wèn)題回答中尤為重要。
-
其次，在生產(chǎn)環(huán)境中，你必須關(guān)注延時(shí)情況。
-
最后，如果你的產(chǎn)品將被大量用戶使用，也需要考慮在大規(guī)模運(yùn)作下的成本。
作為一個(gè)面向生產(chǎn)和企業(yè)客戶的模型大型生態(tài)平臺(tái)，亞馬遜云科技發(fā)布了Model evaluation and selection，旨在幫助企業(yè)客戶在生產(chǎn)環(huán)境中做出最佳選擇。這個(gè)工具為你提供了在選擇最適合的模型時(shí)進(jìn)行比較的選項(xiàng)。整個(gè)比較過(guò)程將綜合考慮這三個(gè)關(guān)鍵因素，幫助你在準(zhǔn)確性、延時(shí)和成本之間取得平衡。這個(gè)工具以一種輕松而便捷的方式，為企業(yè)提供了價(jià)值和持續(xù)交付的途徑。
袁滾滾：在模型選擇上，我們剛剛提到了Amazon BedRock現(xiàn)在支持Claude 2.1以及Llama 2 70b。在此之前，大家總覺(jué)得GPT是一個(gè)斷層式領(lǐng)先的大模型，只要選擇GPT就對(duì)了。
但其實(shí)隨著時(shí)間的推移，其他的一些模型都有很大的提升，與GPT差距逐漸縮校比如說(shuō)Claude 2.1對(duì)長(zhǎng)文本的支持，以及它對(duì)文件上傳的支持，其實(shí)都可以幫助用戶找到適合的場(chǎng)景。Llama2是開(kāi)源的基礎(chǔ)大模型，具有非常完備的生態(tài)，有很多開(kāi)源的工具和組件也可以提升模型效果，所以其實(shí)并不是只有GPT一個(gè)選擇。
宋洪濤：在過(guò)去半年的時(shí)間里，我們可以看到一個(gè)叫RAG（Retrieval Augmented Generation）的技術(shù)成為了企業(yè)用戶構(gòu)建生成式AI應(yīng)用時(shí)的主流選擇。Troy Cui老師能否以一種深入淺出的方式向大家介紹一下RAG的具體原理？
Troy Cui：大語(yǔ)言模型的基本能力是理解和表達(dá)，即完全理解你所說(shuō)的事情、了解你的意圖等，RAG則是在此基礎(chǔ)上賦予大模型記憶的能力。當(dāng)大模型遇到一些問(wèn)答或搜索場(chǎng)景的時(shí)候，先會(huì)理解對(duì)方的意思，再到記憶里去檢索，最后輸出結(jié)果。所以簡(jiǎn)單來(lái)說(shuō)，RAG其實(shí)是把向量數(shù)據(jù)庫(kù)和大語(yǔ)言模型以這種方式進(jìn)行結(jié)合來(lái)賦能的。
在使用RAG的過(guò)程中，實(shí)際上會(huì)涉及到許多組件。首先要用到Embedding模型，將已有的內(nèi)容知識(shí)，包括文本、圖片等多模態(tài)內(nèi)容變成向量，然后把這些向量化的數(shù)據(jù)存儲(chǔ)到向量數(shù)據(jù)庫(kù)中。當(dāng)真正面對(duì)業(yè)務(wù)流程時(shí)，你還需要處理許多方面，比如性能優(yōu)化、各種調(diào)整工作等，最后還要將其構(gòu)建成一個(gè)完整的package，以便對(duì)外輸出。
因此，RAG的概念聽(tīng)起來(lái)雖然很簡(jiǎn)單，但要將其工程化以形成一個(gè)能夠?qū)ν赓x能的業(yè)務(wù)，實(shí)際上還需要進(jìn)行大量的工程化工作。
宋洪濤：今天Swami博士宣布接入了一項(xiàng)名為Knowledge Bases for Amazon Bedrock的服務(wù)，這項(xiàng)服務(wù)是否能幫助客戶或應(yīng)用開(kāi)發(fā)者在一定程度上解決您上面提到的挑戰(zhàn)或困難？
Troy Cui：今年，亞馬遜云科技進(jìn)行了非常多的發(fā)布，很多都致力于協(xié)助企業(yè)客戶融入具體服務(wù)場(chǎng)景。例如在某個(gè)具體場(chǎng)景中，我們會(huì)提供一個(gè)相對(duì)實(shí)用的開(kāi)箱即用工具，讓客戶可以直接在這個(gè)場(chǎng)景中賦能和上線——而Knowledge Bases for Amazon Bedrock提供的就是這么一個(gè)能力。
剛才我們提到，整個(gè)知識(shí)庫(kù)處于檢索的場(chǎng)景里，客戶可能把數(shù)據(jù)放在了Amazon S3，可以通過(guò)Amazon Bedrock將它直接轉(zhuǎn)成向量，并勾選一些Embedding的向量數(shù)據(jù)庫(kù)，包括Open Search、Pinecone、Redis，之后還會(huì)有Aurora、MongoDB等更多新的數(shù)據(jù)庫(kù)。然后通過(guò)向量數(shù)據(jù)存儲(chǔ)，將其送給模型以形成一個(gè)反潰
因此Knowledge Bases for Amazon Bedrock就相當(dāng)于已經(jīng)把整個(gè)端到端的工作都package好了，企業(yè)可以直接拿出來(lái)進(jìn)行業(yè)務(wù)賦能。
以低代碼、無(wú)代碼的方式，更快捷構(gòu)建生成式AI應(yīng)用
宋洪濤：我今天看到Swami博士提到了一個(gè)叫“Agents for Amazon Bedrock”的工具，想請(qǐng)曉野老師給大家簡(jiǎn)單的剖析一下Agents for Amazon Bedrock，它將如何幫助開(kāi)發(fā)者用低代碼甚至無(wú)代碼的方式去構(gòu)建生成式AI應(yīng)用？
王曉野：Agents for Amazon Bedrock的實(shí)現(xiàn)邏輯是能先幫你做任務(wù)規(guī)劃，Swami博士每次都會(huì)用買鞋換顏色來(lái)舉例�？蛻糍I鞋要求換顏色的場(chǎng)景下，需要做任務(wù)規(guī)劃：第一步模型會(huì)幫你核實(shí)購(gòu)買記錄，再對(duì)照換購(gòu)政策，判斷是否能換鞋退貨，然后執(zhí)行退貨任務(wù)，接著進(jìn)入物流任務(wù)，下一步和客戶做差價(jià)結(jié)算。
每一步背后都需要一個(gè)微服務(wù)，而要跑這種單一功能的函數(shù)，最適合的就是在Lambda這種無(wú)服務(wù)器計(jì)算服務(wù)上。Agents for Amazon Bedrock的作用就是把這些工作流程串起來(lái)，自動(dòng)幫你做任務(wù)編排：只要你告訴它這個(gè)函數(shù)是干什么的，它基本就能把這件事情推理明白并推進(jìn)執(zhí)行。
宋洪濤：如何打通生成式AI應(yīng)用從POC（Proof of Concept）到落地的“最后三公里”，是目前很多企業(yè)頭疼的問(wèn)題�；诖耍琒wami博士分享了一個(gè)針對(duì)Anthropic Claude的客戶定制模型項(xiàng)目（Custom model program），曉野老師能否介紹一下？
王曉野：首先，我們爭(zhēng)取降低客戶開(kāi)發(fā)門檻，例如通過(guò)產(chǎn)品讓模型更容易訪問(wèn)，通過(guò)安全Agent幫助完成任務(wù)，使構(gòu)建生成式AI應(yīng)用更容易�？蛻粼u(píng)估這個(gè)產(chǎn)品是否有效，取決于最終的業(yè)務(wù)產(chǎn)出，但這需要一個(gè)不斷變化的迭代過(guò)程。
為此，我們推出了這個(gè)全球化項(xiàng)目，并形成了Generative AI Innovation Center這個(gè)組織部門。本質(zhì)上來(lái)說(shuō)，這個(gè)項(xiàng)目是提供人力支持，即一組專家去幫你調(diào)教模型，包括改prompt、做RAG等復(fù)雜的工程化工作，來(lái)幫你用好Anthropic Claude，并針對(duì)企業(yè)業(yè)務(wù)做定制化模型。在中國(guó)，這個(gè)專家團(tuán)隊(duì)叫做Innovation Lab。
為算法工程師降低運(yùn)維門檻
宋洪濤：對(duì)于大多數(shù)的模型提供商而言，Amazon SageMaker HyperPod是一款很受歡迎的產(chǎn)品，在訓(xùn)練、部署、推理優(yōu)化方面，它能有效提高開(kāi)發(fā)效率并降低復(fù)雜度。那么對(duì)于今天發(fā)布的Amazon SageMaker HyperPod，各位有什么理解和看法？
袁滾滾：在Swami博士分享的時(shí)候已經(jīng)提到Amazon SageMaker HyperPod非常適用于基礎(chǔ)大模型，在訓(xùn)練階段減輕運(yùn)維負(fù)擔(dān)。
基礎(chǔ)大模型訓(xùn)練的時(shí)間周期可能要十天半個(gè)月甚至更長(zhǎng)，算力成本也更高，有非常多復(fù)雜的運(yùn)維問(wèn)題，算法工程師不一定能解決。比如說(shuō)我們的一臺(tái)服務(wù)器Crash之后，怎么樣去定位問(wèn)題，需要很強(qiáng)的工程經(jīng)驗(yàn)和能力。快速定位是數(shù)據(jù)問(wèn)題，算法問(wèn)題，還是集群?jiǎn)栴}，再去解決問(wèn)題。
Amazon SageMaker HyperPod就是提供了非常自動(dòng)化運(yùn)維的訓(xùn)練集群，可以快速定位到故障節(jié)點(diǎn)，然后自動(dòng)化替換，再重啟上一個(gè)Checkpoint的訓(xùn)練任務(wù)。我相信Amazon SageMaker HyperPod能夠可以解放很多算法工程師，在模型訓(xùn)練階段的運(yùn)維壓力。
Amazon Sagemaker HyperPod預(yù)裝了Amazon SageMaker的訓(xùn)練庫(kù)。所以只需選擇自己需要的訓(xùn)練環(huán)境，自定義訓(xùn)練庫(kù)和調(diào)優(yōu)工具，然后就新建實(shí)例，就直接開(kāi)始訓(xùn)練任務(wù)。
王曉野：這點(diǎn)確實(shí)非常重要�，F(xiàn)在市場(chǎng)上AI人才本就較為短缺，很多都去訓(xùn)練模型了，對(duì)于如何運(yùn)維、檢測(cè)機(jī)器故障、如何排查問(wèn)題等工作很難負(fù)擔(dān)，很多時(shí)候會(huì)忘記做Checkpoint，重啟就回到了兩三天前，很耽誤開(kāi)發(fā)進(jìn)度。Amazon SageMaker HyperPod的出現(xiàn)，能讓數(shù)據(jù)科學(xué)家從底層的運(yùn)維問(wèn)題解放出來(lái)，更專注于模型的超參數(shù)調(diào)整等工作。
宋洪濤：從全面的產(chǎn)品角度出發(fā)，向量數(shù)據(jù)庫(kù)是一個(gè)十分重要的組成部分。請(qǐng)Troy分享一下，亞馬遜云科技在數(shù)據(jù)庫(kù)產(chǎn)品這一側(cè)是怎樣去支持向量能力的？
Troy Cui：我認(rèn)為向量是將整個(gè)客戶數(shù)據(jù)進(jìn)行向量化，以在未來(lái)為業(yè)務(wù)提供更好的服務(wù)能力，這是當(dāng)前的一個(gè)大趨勢(shì)。在實(shí)際中，有不少客戶會(huì)好奇：為什么亞馬遜云科技不做一個(gè)名字就叫向量數(shù)據(jù)庫(kù)產(chǎn)品，而是發(fā)布如此多的向量功能呢？對(duì)此，亞馬遜云科技希望在每一個(gè)數(shù)據(jù)基礎(chǔ)上，客戶都能擁有選擇權(quán)，讓客戶將數(shù)據(jù)存放在最適合存儲(chǔ)的環(huán)境中，并賦予環(huán)境向量化能力。這樣，當(dāng)真正需要向量支撐的業(yè)務(wù)時(shí)，他們不需要將數(shù)據(jù)從已存儲(chǔ)的數(shù)據(jù)挪到向量數(shù)據(jù)庫(kù)里�；谶@樣一個(gè)大的思路，我們希望給客戶一個(gè)說(shuō)明，無(wú)論數(shù)據(jù)存儲(chǔ)在哪里，你都隨時(shí)擁有使用向量化的能力。此次大會(huì)上，我們又發(fā)布了一些具備向量存儲(chǔ)環(huán)境的數(shù)據(jù)庫(kù)能力。目前，亞馬遜云有7個(gè)具備向量存儲(chǔ)環(huán)境能力的數(shù)據(jù)庫(kù)產(chǎn)品，讓客戶有許多選擇。
生成式AI正在徹底改變開(kāi)發(fā)者的工作方式
宋洪濤：之前亞馬遜云科技推出了一款名為Amazon CodeWhisperer的產(chǎn)品，旨在從代碼開(kāi)發(fā)的角度助力開(kāi)發(fā)者提高編寫(xiě)代碼的效率�，F(xiàn)在引入了Amazon Q，與Amazon CodeWhisperer相結(jié)合，是否能夠進(jìn)一步提升開(kāi)發(fā)者在代碼開(kāi)發(fā)方面的體驗(yàn)和效率呢？
袁滾滾：CSDN在前一陣子在社區(qū)進(jìn)行了調(diào)研，數(shù)千開(kāi)發(fā)者填寫(xiě)了問(wèn)卷，提交他們代碼生成工具的使用習(xí)慣。結(jié)果有近90％的開(kāi)發(fā)者都已經(jīng)試用過(guò)了各類代碼生成工具，接近40％的開(kāi)發(fā)者現(xiàn)在每天都在使用。我們也對(duì)大家的工具選型做了調(diào)查，Amazon CodeWhisperer也是遙遙領(lǐng)先的。
代碼生成的應(yīng)用場(chǎng)景，或者說(shuō)開(kāi)發(fā)者使用代碼生成工具生成什么內(nèi)容呢？常見(jiàn)用途有單元測(cè)試、代碼注釋、學(xué)習(xí)新語(yǔ)言或者編寫(xiě)跨技術(shù)棧產(chǎn)品。
還有一類情況，比如某個(gè)編程語(yǔ)言的發(fā)生了變化，尤其是新版本發(fā)生了大改變時(shí)，我們需要通過(guò)代碼生成工具來(lái)了解這些變化。
所以開(kāi)發(fā)者是使用場(chǎng)景很復(fù)雜，使用環(huán)境也很復(fù)雜，有些在是通過(guò)IDE里的插件使用代碼生成工具，有的是在對(duì)話式窗口使用，還有的通過(guò)本地部署使用。Amazon Q能夠針對(duì)不同的用戶需求，更加細(xì)粒度的解決這個(gè)問(wèn)題。
王曉野：在代碼應(yīng)用場(chǎng)景中，我們并沒(méi)有分得那么細(xì)，統(tǒng)一將其歸納為代碼生成，但實(shí)際上這一領(lǐng)域涵蓋了許多不同的功能。這一次，Amazon Q并非提供所有可能的代碼生成功能，它的核心是在你原有的一部分代碼基礎(chǔ)上，利用大型模型理解你的原始代碼的功能，并在此基礎(chǔ)上生成新的功能，對(duì)某些代碼段進(jìn)行增強(qiáng)。
我們希望在這個(gè)特定的領(lǐng)域提供一種新的能力。此外，代碼的翻譯和轉(zhuǎn)換也是我們關(guān)注的重點(diǎn)。當(dāng)然，未來(lái)會(huì)有更多的應(yīng)用場(chǎng)景，但目前我們建議大家首先關(guān)注這兩個(gè)核心能力，以便更好地理解其基本原理。
Amazon Q以企業(yè)級(jí)AI助理為Slogan，為業(yè)務(wù)領(lǐng)域工作人員提供一個(gè)智能化助手。用戶可以直接連接到自己業(yè)務(wù)的數(shù)據(jù)庫(kù)，例如里面包含員工工資的數(shù)據(jù)庫(kù)，然后與助手進(jìn)行對(duì)話。在設(shè)計(jì)時(shí)，Amazon對(duì)數(shù)據(jù)保護(hù)和權(quán)限便在考慮。一開(kāi)始，當(dāng)你進(jìn)行連接時(shí)，它會(huì)與你的企業(yè)的單點(diǎn)登錄（SSO）進(jìn)行集成，通過(guò)SSO中設(shè)置的角色權(quán)限了解你能訪問(wèn)什么。舉例說(shuō)明，當(dāng)一個(gè)普通員工而不是經(jīng)理詢問(wèn)整個(gè)團(tuán)隊(duì)其他成員的工資時(shí)，它將限制這個(gè)權(quán)限，不會(huì)回答這樣的問(wèn)題。因此，它充分考慮了企業(yè)的相關(guān)因素。
未來(lái)Amazon Q會(huì)針對(duì)更多的場(chǎng)景進(jìn)行開(kāi)發(fā)。目前，我們推出了一個(gè)可能會(huì)受到一些客戶歡迎的平臺(tái)——Center，它涵蓋了我們的呼叫中心。同時(shí)，在業(yè)務(wù)智能（BI）領(lǐng)域，我們也引入了助手。
宋洪濤：幫助開(kāi)發(fā)者借助于生成式AI的應(yīng)用來(lái)提升個(gè)人的效率，以及持續(xù)推動(dòng)生成式AI的普惠化，是亞馬遜云科技一直以來(lái)的愿景。基于此，除了上面產(chǎn)品之外，Swami博士在演講中還帶來(lái)一款與Amazon Bedrock名字相似的產(chǎn)品——PartyRock。那么，這款產(chǎn)品到底有什么作用？
王曉野：PartyRock的底層是基于Amazon Bedrock研發(fā)的。簡(jiǎn)單來(lái)看，它相當(dāng)于是一個(gè)“游樂(lè)場(chǎng)”，讓開(kāi)發(fā)者感受到生成式AI+Agent的能力所散發(fā)的巨大潛力，以及讓眾多開(kāi)發(fā)者發(fā)揮想象，去創(chuàng)新創(chuàng)造。
Troy Cui：我認(rèn)為可以將其視為一個(gè)體驗(yàn)區(qū)，甚至不需要亞馬遜云科技的賬號(hào)，可以在PartyRock上嘗試網(wǎng)絡(luò)體驗(yàn)。
袁滾滾：我強(qiáng)烈推薦嘗試一下PartyRock，它實(shí)際上是基于Amazon BedRock打造的一站式AI應(yīng)用生成工具。你甚至無(wú)需注冊(cè)亞馬遜云科技的賬戶，就能夠免費(fèi)使用亞馬遜云科技的云資源，輕松生成令人驚嘆的Web和App應(yīng)用，并可以與他人分享。更有趣的是，它在線上已經(jīng)提供了一些示范應(yīng)用，有些甚至功能異常強(qiáng)大，底層采用了Claude2的先進(jìn)模型技術(shù)，讓人感到非常驚喜。
對(duì)開(kāi)發(fā)者的建議
宋洪濤：最后請(qǐng)各位用一句話總結(jié)一下觀看Swami博士演講的感受，以及對(duì)當(dāng)代開(kāi)發(fā)者的建議。
袁滾滾：我寫(xiě)了一句話：云服務(wù)霸主，深度擁抱AI、企業(yè)與開(kāi)發(fā)者，共享技術(shù)紅利。這實(shí)際上也是對(duì)我們開(kāi)發(fā)者的號(hào)召，希望大家都能抓住這波人工智能技術(shù)、大模型技術(shù)的機(jī)會(huì)，在亞馬遜云科技堅(jiān)實(shí)的云服務(wù)基礎(chǔ)上，開(kāi)發(fā)更多新的創(chuàng)新應(yīng)用。
王曉野：我想基于Amazon Q產(chǎn)品的定位與大家分享我們想要實(shí)現(xiàn)的目標(biāo)，以及產(chǎn)品迭代時(shí)優(yōu)先考慮的一些關(guān)鍵維度和因素，一切的基礎(chǔ)其實(shí)就是企業(yè)需求。
重視企業(yè)需求，即企業(yè)的數(shù)據(jù)是否有被認(rèn)真對(duì)待、數(shù)據(jù)隱私的保護(hù)以及是否能夠通過(guò)個(gè)性化數(shù)據(jù)定制來(lái)打破商業(yè)壁壘。在滿足企業(yè)需求的前提下，我們需要負(fù)責(zé)任地確保產(chǎn)品能夠?yàn)槠髽I(yè)提供實(shí)質(zhì)幫助。
Troy Cui：從數(shù)據(jù)層面來(lái)看，亞馬遜云科技將進(jìn)一步解決隱私與安全問(wèn)題，讓客戶完全不用擔(dān)心這部分，而是將更多精力放在數(shù)據(jù)價(jià)值的挖掘上，而非關(guān)注那些耗費(fèi)時(shí)間卻重復(fù)的工作。
宋洪濤：感謝三位老師的精彩總結(jié)。我們非常幸運(yùn)地處在生成式AI爆發(fā)的時(shí)代，期待后續(xù)的生成式AI能為我們的工作和生活帶來(lái)更多便利。
