亞馬遜云科技于29日推出“生成式AI技術(shù)堆棧”后，又在30日的re:Invent 2023大會上宣布了一系列支持這一全新堆棧的關(guān)鍵服務(wù)和工具。
亞馬遜云科技數(shù)據(jù)和人工智能副總裁Swami Sivasubramanian在主題演講中，將生成式人工智能與“超新星爆炸”進(jìn)行了比較，以描述當(dāng)前的人工智能給大眾帶來的創(chuàng)新潛力。Sivasubramanian表示：“人類與技術(shù)之間的強大關(guān)系正在我們所有人面前展開。我愿意將今天發(fā)生的事情看作是數(shù)據(jù)、生成式AI與人類之間的有益關(guān)系。”
但要應(yīng)用好生成式AI的能力，必須要有相對應(yīng)的用于構(gòu)建和部署應(yīng)用程序的工具以及機器學(xué)習(xí)基礎(chǔ)設(shè)施。在演講中，亞馬遜云科技主要從三個方面講述了他們的人工智能工具與服務(wù)：機器學(xué)習(xí)平臺SageMaker、新推出的Amazon Q、提供基礎(chǔ)模型服務(wù)的Amazon Bedrock平臺。
亞馬遜云科技為SageMaker推出了名為HyperPod的新解決方案，旨在消除優(yōu)化模型訓(xùn)練所涉及的繁瑣機器學(xué)習(xí)基礎(chǔ)設(shè)施工作。該公司聲稱，這一新產(chǎn)品能夠?qū)⒛Ｐ陀?xùn)練時間縮短40%。“這是一項重大事件，客戶將明顯感受到改善。”Sivasubramanian強調(diào)。
HyperPod解決了分布式基礎(chǔ)設(shè)施在處理大數(shù)據(jù)和訓(xùn)練模型復(fù)雜性方面的限制。通常，這包括將模型訓(xùn)練任務(wù)分散到數(shù)百或數(shù)千個加速器上，并在數(shù)周或數(shù)月內(nèi)并行運行數(shù)萬億次數(shù)據(jù)計算。這意味著要編寫大量代碼并不斷進(jìn)行優(yōu)化。而SageMaker HyperPod則允許自動分配訓(xùn)練工作負(fù)載到計算資源之間，并定期保存檢查點，以避免在某個組件發(fā)生故障時損失時間。
另外，亞馬遜云科技發(fā)布的Amazon Q基礎(chǔ)上，在Redshift中添加了生成式SQL來簡化查詢編寫，并在無服務(wù)器Amazon Glue平臺中添加了一個數(shù)據(jù)集成功能，可以通過自然語言來調(diào)用（Amazon Q data integration）。
“Q通過連接你的數(shù)據(jù)來支持業(yè)務(wù)的每個領(lǐng)域，”Sivasubramanian說。“我們可以利用這項技術(shù)來解決數(shù)據(jù)管理中的一些重大挑戰(zhàn)。”
Amazon Bedrock是這次大會中的重頭戲，在首席執(zhí)行官Adam Selipsky和Sivasubramanian的主題演講中均有展示。Amazon Bedrock已被超過10,000名客戶使用，該公司一直在穩(wěn)步為Amazon Bedrock積累新功能，并進(jìn)行一系列增強，包括昨天Selipsky演講中提到的微調(diào)功能和新的安全服務(wù)。
為了滿足更廣泛的模型選擇需求，亞馬遜云科技宣布已納入Anthropic公司語言模型的最新版本Claude 2.1，同時還將在Bedrock中添加Meta公司的Llama2 70B。
“我們?nèi)蕴幱谏墒紸I的早期階段，這些模型將繼續(xù)加速發(fā)展，”Sivasubramanian說。
除此之外，向量數(shù)據(jù)庫對生成式AI也很重要，亞馬遜云科技為很多成熟的數(shù)據(jù)庫增加了向量搜索功能，包括Amazon Aurora PostgreSQL、Amazon RDS for PostgreSQL、Amazon OpenSearch Service、Amazon OpenSearch Serverless等。Amazon Document DB，Amazon Dynamo DB也新添加了向量檢索功能。
此外，Sivasubramanian還專門介紹了Amazon MemoryDB for Redis中的向量搜索功能，并強調(diào)其在最高召回率和最高吞吐量的條件下也能提供毫秒級的響應(yīng)。
“數(shù)據(jù)、生成式AI和人類之間強大的共生關(guān)系正在加速我們創(chuàng)新能力，”Sivasubramanian說。“亞馬遜云科技具有解鎖這項強大技術(shù)的一切。”
