隨著雲端原生、AIGC和大模型等新興技術的快速發展,我們正迎來智慧化時代的開啟。雲端運算也正進入3.0時代,也就是雲端運算和人工智慧深度融合的階段。在這個階段,人工智慧技術成為進一步釋放雲端運算潛力的核心推動力。
1月4日,金山雲舉辦了「雲端人工智慧·時代新機會」媒體溝通會,金山雲副總裁錢一峰、金山雲公有雲產品中心負責人孫曉、金山雲人工智慧與大數據產品中心負責人徐寅斐在會上分享了金山雲在基礎能力、平台能力和模型服務等方面的技術歷程和落地實踐。透過技術自研與升級,金山雲已初步建成人工智慧時代民用領域全端的雲端運算體系。
為了提升人工智慧服務能力,我們需要夯實基礎並進行全面升級。
全球數位化浪潮風起雲湧,雲端運算作為數位經濟重要的支撐基礎,正發揮越來越重要的作用。其中,智慧化作為雲端運算3.0時代的重要概念,已成為數位基礎設施升級的重要驅動力。知名研究機構IDC於2023年發布的報告顯示,未來5年,以大模型、生成式人工智慧驅動的下一代人工智慧有望帶動整體雲端產業穿越下行階段,重回高成長時代。
順應趨勢,金山雲深入探索前沿技術,圍繞AIGC升級核心運算、儲存、網路等產品,從多個維度全面擁抱人工智慧。在運算方面,金山雲第七代雲端伺服器X7搭載第四代英特爾® 至強® 可擴充處理器、支援英特爾® AMX原生加速能力,CPU效能較上代最高提升60%,記憶體升級至DDR5,頻率較上一代性能提升50%。融合金山雲自主創新的加速技術,雲端伺服器X7可有效提升模型推理效能。
根據資料從極熱到極冷的不同熱度,金山雲物件儲存已覆蓋標準儲存、低頻儲存、深度低頻儲存、歸檔儲存、深度冷歸檔儲存和全快閃儲存等不同存取熱度的儲存產品。其中,金山雲物件儲存KS3極速型最高可提供1Tbps/PB的兌付頻寬,相較基於機械硬碟(HDD)的物件儲存效能提升了數百倍,能為AIGC、存算分離和高效能運算等場景提供強有力的儲存解決方案。
面向大模型應用場景,金山雲推出互信虛擬私有網路(簡稱「互信VPC」)。相對於標準VPC,互信VPC對進出VPC的通訊行為有更嚴格的控制,幫助客戶解決合規和互信問題。針對HTTP、HTTPS等應用層負載場景,公司推出應用型負載平衡ALB(Application Load Balancer),單一實例最大支援100萬QPS。與雲端原生場景融合,客戶在使用金山雲端容器服務KCE產品或自建K8S叢集時,ALB都可作為Ingress部署,為業務提供網路流量調度服務。
目前,金山雲已經建立了完整的技術體系。該體係以雲端產品基礎設施為基礎能力,以雲端產品平台服務為核心技術能力,並透過MaaS互信推理專區方案和金山雲輕舟智問為人工智慧客戶提供協助。
為了幫助玩家們更快通關,我們來聊聊一些加速技巧,這些技巧可以幫助你成為一個強大的解謎專家。
2023年被稱為大模型「元年」。公開數據顯示,從年初到年末,國內大模型數量超過200個。與「大模型」數量呈倍數級增長相反的是,真正被調用的大模型卻相對較少。在這次大模型浪潮中,金山雲堅持中立定位,充分發揮自身的底座和平台能力,做大模型的助力者。
在洞察到模型供需方的痛點後,金山雲於去年6月率先推出MaaS互信推理專區方案(以下簡稱“MaaS 1.0”),在大模型廠商、用戶和金山雲之間建立互信,以解決模型及數據的互信問題。本次溝通會上,金山雲發布MaaS互信推理專區方案2.0(以下簡稱「MaaS 2.0」)。
在MaaS 1.0基礎上,MaaS互信推理專區方案2.0以金山雲IaaS和PaaS為底座,可實現雲上LangChain的一鍵部署,預設對接多個生態合作商業大模型和開源大模型。同時支援包括BGE、Bert等在內的Embedding模型,能無縫對接金山雲全託管向量資料庫Milvus,提供企業開發者的簡單易用、安全可信賴的一站式推理應用部署平台。此外,MaaS 2.0支援透過標準化的API介面和Web前端介面,實現包含模型推理和知識庫建構的RAG大模型場景應用。為進一步增強雲端上運行的安全性,MaaS 2.0還提供容器服務加密鏡像解決方案,依托金山雲裸金屬服務,實現在金山雲容器服務中從鏡像加密、加密鏡像上傳、解密鏡像運行的全流程模型安全運行。
同時,為滿足產業客戶的需求,金山雲探索大模型時代企業賦能新機遇,圍繞企業級知識助理場景制定了「一三一四」產品全景規劃,即一套能力(金山雲輕舟智問)、三個模型(行業語言模型、文本分片和Embedding模型)、一個平台(金山雲瀚海平台)及四大功能(微調推理、資料加速、智慧檢索和文檔智能),圍繞生成式人工智慧建構應用落地、模型訓練微調、平台支撐的全端能力。基於「一三一四」規劃,金山雲將分別針對應用型客戶和平台型客戶輸出多項原子能力。目前,金山雲輕舟智問知識助理產品已完成應用以及Embedding模型、多路召回演算法和智慧資料切片模型等核心技術的建設,計劃優先在公共服務和法律場景落地。
與人工智慧的結合,給了雲端更多的想像空間,也為各產業帶來了新的生產力。隨著技術的進一步完善和落地,雲端運算將迎來更強更久的生命力。金山雲將持續圍繞客戶需求“練內功”,攜手生態夥伴以差異化打法佈局未來。
以上是金山雲升級全棧雲端運算體系 做人工智慧時代雲上'助力者”的詳細內容。更多資訊請關注PHP中文網其他相關文章!