亞馬遜雲端科技全面利用生成式AI技術,進一步改善雲端運算平台

王林
發布: 2023-12-15 18:54:47
轉載
1148 人瀏覽過

亞馬遜雲端科技全面利用生成式AI技術,進一步改善雲端運算平台

生成式人工智慧已成為雲端服務供應商必爭之地,全球雲端運算市場的領導者亞馬遜雲端服務也正在全面推動生成式人工智慧

在2023年的re:Invent全球大會上,亞馬遜雲端科技發布了一系列新的服務和功能,其中包括針對底層基礎設施、生成式人工智慧(AI)和資料策略的推出。這些新服務和功能包括Amazon Q,這是一款新型的生成式AI助手,旨在重塑未來工作方式;Amazon Bedrock,提供更多的模型選擇和全新強大的功能;以及五大新功能的Amazon SageMaker ,助力規模化開發應用模型。這些服務和功能的推出,幫助企業更輕鬆、安全地建置和應用生成式AI

亞馬遜雲端科技大中華區產品部總經理陳曉建表示:「亞馬遜雲端科技在每年的re:Invent全球大會上都會發布眾多新服務、新功能和新應用,在基礎設施、運算、儲存、資料等領域持續重塑雲端運算,並圍繞當今最具變革性的技術生成式AI推出重磅新服務及功能。我們希望透過這些技術創新,幫助更多企業加快創新速度,利用生成式AI全面重塑未來。」

亞馬遜雲端科技2023 re:Invent中國行城市巡展活動今天正式開始,將在北京、上海、廣州、深圳、成都、青島、南京、西安、杭州、長沙10座城市展開。此次巡展旨在為中國的建構者全面展示2023 re:Invent全球大會上的最新服務和技術、前沿趨勢以及最佳實踐

1、全面發力生成式AI

亞馬遜雲端科技為生成式AI提供三層架構,包括利用基礎模型建構的應用程式、使用基礎模型進行建構的工具和用於基礎模型訓練和推理的基礎設施。

在底層,亞馬遜雲端科技透過自研晶片提供用於基礎模型訓練和推理的基礎設施。

Amazon Trainium2處理器是用於生成式AI 和機器學習訓練的專用晶片,針對訓練具有數千億至數萬億參數的基礎模型進行優化,相較Amazon Trainium 4 倍性能提升,65 exaflops的按需超級運算效能;Amazon SageMaker HyperPod 服務,可大規模加速基礎模型訓練,能夠縮短高達40%的訓練時間,並可確保持續數週或數月的訓練過程不會中斷。

亞馬遜雲端科技與英偉達共同宣布了幾項最新合作,這是需要被重寫的內容

  • 亞馬遜雲端科技將提供首款搭載NVIDIA Grace Hopper超級晶片和亞馬遜雲科技UltraClusters技術的雲端AI超級電腦;首款使用NVIDIA最新晶片GH200 NVL32 的NVIDIA DGX雲即將登入亞馬遜雲端科技;兩家公司共同登入亞馬遜雲端科技;兩家公司開展「Project Ceiba」合作項目, 將全球最快的GPU驅動AI超級電腦和NVIDIA DGX雲端超級電腦用於NVIDIA AI的訓練、研發、客製化模型的開發,它將擁有1.6萬個最新的GH200超級晶片,提供高達65 ExaFLOPS的驚人算力。

亞馬遜雲端科技提供了中間層工具,可以使用基礎模型進行建構

Amazon Bedrock是利用大模型建構和擴展生成式人工智慧應用的最簡單方法。 Amazon Bedrock支援Anthropic Claude 2.1和Meta LLama 2 70B,以及亞馬遜獨家的Amazon Titan 模型。

重寫內容為:生成式人工智慧應用程式創造真正價值的關鍵是能夠根據企業自身的數據進行客製化,只有透過數據自訂才能建立企業的差異化競爭優勢。亞馬遜基石具備持續預訓練、微調和知識庫檢索增強等三大功能,並提供預覽功能

有了模型和客製化能力,還需要和應用整合才能服務業務。因此,Amazon Bedrock 提供代理功能,它可以使生成式AI應用跨公司係統和資料來源執行多步驟任務。

Guardrails for Amazon Bedrock 預覽版,透過負責任的人工智慧策略來保護生成式人工智慧應用程式。同時,Amazon Bedrock確保資料安全和隱私:客戶的任何資料都不會用於訓練底層模型;所有資料在傳輸和靜態時均經過加密;用於自訂模型的資料保留在您的VPC 內;支援GDPR和HIPAA等標準。

在頂層應用層,亞馬遜雲端科技提供利用基礎模型建構的應用程式-Amazon Q預覽版。

Amazon Q是一種新型生成式AI支援的助手,可以根據客戶業務進行定制,專門用於滿足辦公場景需求。客戶可以快速獲得複雜問題的相關答案、產生內容並採取行動,所有這些都基於客戶自身的資訊儲存庫、程式碼和企業系統的見解。此外,客戶的內容絕對不會用於訓練Amazon Q的底層模型。 Amazon Q可以在亞馬遜雲端技術上進行構建,也可以使用內部資料和系統,使用亞馬遜雲端科技應用程式實現商業智慧(BI)、聯絡中心和供應鏈管理。 Amazon Q已向客戶提供預覽版,Amazon Connect中的Amazon Q已正式推出,Amazon Supply Chain中的Amazon Q即將推出。

生成式AI的成功離不開強大的資料支援。在2023 re:Invent全球大會上,亞馬遜雲端科技推出了多項服務和功能,涵蓋了資料基礎設施、整合和治理等面向

#首先,進一步豐富向量資料庫選擇,亞馬遜雲端科技推出了Amazon OpenSearch Serverless向量引擎、Amazon DocumentDB和Amazon DynamoDB的新向量搜尋功能、Amazon Memory DB for Redis向量搜尋預覽版,提升生成式AI應用在反應和延遲方面的表現表現。

推出四個Zero-ETL整合特性,讓跨資料儲存的資料存取與分析更快速、更方便。

在資料治理方面,亞馬遜雲端科技為Amazon DataZone推出了AI描述建議功能預覽版,它能夠為企業的資料集自動產生更易理解的業務描述,並提供該資料集的使用建議。

2、重塑雲端運算-自研晶片、儲存、無伺服器

亞馬遜雲端科技在2023年的全球大會上發表了自主研發的Amazon Graviton4和Amazon Trainium2晶片

Graviton4與目前一代Graviton3處理器相比,效能提升高達30%,獨立核心增加50%以上,記憶體頻寬提升75%以上,為在Amazon Elastic Compute Cloud (Amazon EC2)上運行的工作負載提供最佳性能和能源效率;基於Graviton4的Amazon EC2 R8g實例目前已提供預覽。透過與光環新網和西雲資料的合作,基於Graviton3處理器的Amazon EC2 C7g、M7g、R7g實例目前均已在亞馬遜雲端科技中國(北京)區域和中國(寧夏)區域正式可用。

Trainium2晶片是專門為高效能訓練而設計的,其適用於具有數萬億個參數或變數的基礎模型和大型語言模型。相較於第一代Trainium晶片,Trainium2效能提升了多達4倍,記憶體提升了3倍,能源效率(每瓦效能)提高了2倍。 Amazon EC2 Trn2執行個體採用最新的Trainium2晶片,每個單獨的執行個體包含16個Trainium加速晶片。 Trainium2實例可以擴展到多達100,000個Trainium2加速晶片,整合了Amazon Elastic Fabric Adapter(EFA)PB級網路互聯,提供高達65 exaflops的算力。客戶可以根據需求獲得超級運算等級的效能

亞馬遜雲端科技推出的第二款新品是儲存服務

#Amazon Simple Storage Service(Amazon S3)自17年前推出以來,已成為最受歡迎的雲端儲存服務之一,在全球擁有數百萬各行各業的客戶。在本次大會上,亞馬遜雲端科技宣布Amazon S3 Express One Zone正式可用,與Amazon S3 Standard相比,資料存取速度提高至多10倍,資料請求成本降低50%,為機器學習訓練和推理、互動式分析以及媒體內容創建等請求密集型工作負載提供最高效能儲存。

最後一款新品是無伺服器Serverless

亞馬遜雲端科技在17年前就開創性地推出了無伺服器技術,為客戶提供極致的彈性和自動擴展能力。在2023 re:Invent全球大會上,亞馬遜雲端科技推出了三款無伺服器服務創新,幫助客戶以任意規模分析和管理數據並顯著簡化運營,客戶無需花費時間和精力去配置、管理和擴展其數據基礎設施。

重寫後的內容如下:其中,亞馬遜無限資料庫(Amazon Aurora Limitless)可以自動分發和查詢數據,跨多個亞馬遜無伺服器實例,並且可以擴展到每秒百萬次的事務級寫入,管理PB級數據。亞馬遜無伺服器快取(Amazon ElastiCache Serverless)可以幫助客戶在一分鐘內創建高可用的緩存,即時進行垂直和水平擴展,以支援客戶複雜的應用程序,而無需管理基礎架構。亞馬遜無伺服器資料倉儲(Amazon Redshift Serverless)利用人工智慧(AI)預測工作負載並自動擴展和優化資源,幫助客戶實現高性價比的目標

以上是亞馬遜雲端科技全面利用生成式AI技術,進一步改善雲端運算平台的詳細內容。更多資訊請關注PHP中文網其他相關文章!

來源:sohu.com
本網站聲明
本文內容由網友自願投稿,版權歸原作者所有。本站不承擔相應的法律責任。如發現涉嫌抄襲或侵權的內容,請聯絡admin@php.cn
熱門教學
更多>
最新下載
更多>
網站特效
網站源碼
網站素材
前端模板
關於我們 免責聲明 Sitemap
PHP中文網:公益線上PHP培訓,幫助PHP學習者快速成長!