首頁 科技週邊 人工智慧 火山引擎彈性容器執行個體:從節點中心轉型 Serverless 化架構的利器

火山引擎彈性容器執行個體:從節點中心轉型 Serverless 化架構的利器

Mar 01, 2024 pm 08:04 PM
產業 延遲載入

隨著 Kubernetes 和容器技術的日益成熟,越來越多企業正開始將他們的業務應用程式遷移到雲端。透過採用雲端原生架構,這些企業可以更好地支援業務的高速發展和穩定運作。

而隨著雲端運算朝向開發流程縱深發展,Serverless 架構的成熟讓雲端原生技術進入全新階段-Serverless 把公有雲彈性伸縮、免運維、快速接取等特性發揮到了極致,大大降低了用戶的使用成本,讓用戶和企業只需要專注於其業務邏輯,實現真正意義上的敏捷開發。

為了更好地支援企業在業務應用中實現Serverless 化的新型雲原生理念,火山引擎雲原生團隊正在全面升級和創新產品,涵蓋了理念、系統設計和架構設計等多個方面。他們致力於充分發揮 Serverless 技術的優勢和價值,以幫助企業更有效率地運行業務應用。

從節點中心到 Serverless #化架構

傳統的Kubernetes 架構通常以節點為核心,意味著團隊需要在雲端伺服器等資源節點上建立集群,並圍繞這些節點進行運維管理。傳統的 Kubernetes 叢集架構需要在不同節點上管理容器應用的部署、監控和維護,這種方式需要更多的人力和時間投入來維護整個叢集的穩定性和可靠性。然而,隨著技術的發展,出現了一種新型的 Kubernetes 架構,即基於服務網格的架構。在基於服務網格的架構中,網路功能被抽象化出來,並且透過專門的服務網格元件進行統合

隨著業務規模的擴大和節點數的增加,這種架構在容器應用的部署和運行方面通常會面臨一些挑戰,主要包括以下幾個方面:

  • 節點運維複雜:使用者需要自行管理和維護節點,具體包括節點的配置與初始化、作業系統更新與升級、安全管理、運作監控與日誌擷取分析、故障復原、網路管理、儲存管理、擴縮容、資源規劃與分配,以及資源成本管理等複雜且繁瑣的節點運作工作;
  • 資源利用率低:節點預留固定資源,即便實際工作負載所需資源量較少,也無法降低節點資源佔用;節點資源碎片率較高,分佈在各節點之上的部分未使用的資源難以被有效聚合,無法充分利用;資源過度分配,為了避免效能瓶頸,往往傾向於依照最大負載規劃資源,難以預測實際需求,可能造成大量資源閒置;
  • 資源擴容速度慢:容器應用程式可能會經歷突發流量,需要快速擴展以回應增加的負載。在傳統以節點為中心的架構中,運算資源的擴充往往需要建立和配置新的雲端伺服器節點,這個過程可能需要幾分鐘,無法實現即時擴展。

火山引擎彈性容器實例(Volcengine Container Instance,簡稱 VCI)是針對上述情況推出的新型雲端原生方案,它抽象自字節跳動內部多年雲端原生技術積累,是一種 Serverless 和容器化的計算服務——

通過Virtual Kubelet技術與火山引擎容器服務VKE緊密結合,彈性容器實例VCI可以為用戶提供靈活的計算和Kubernetes編排功能,支持快速啟動、高並發建立以及安全的沙箱容器隔離。

透過融合 Serverless 和容器的優勢,彈性容器實例 VCI 能為企業提供一個高效、可靠且安全的運作環境,使用戶能夠專注於開發和運行雲端原生架構的應用程序,而無需關心底層基礎設施的管理和維護,並且僅為業務實際運作所需的資源付費,幫助企業更合理地控制用雲成本。

基礎設施免運維、運算資源免規劃

在傳統自建 Kubernetes 叢集的架構中,無論是控制平面或資料平面,作為容器組 Pod運作的載體,節點都位於 Kubernetes 架構的核心位置,當節點運算資源不足時,需要先透過增加節點來補充運算資源,才能支援業務工作負載的部署或擴容。

在雲端上,以火山引擎容器服務 VKE 為代表的各類託管 Kubernetes 服務會取代用戶管理和維運 Kubernetes 控制平面,提供具有 SLA 保障的託管服務。而對於運行用戶實際業務工作負載的資料平面而言,則通常需要用戶自行運維工作節點,並需要根據業務特徵對節點所提供的計算資源進行提前規劃,如在業務高峰需要進行提前擴容,在業務低谷則需要縮容。

因此,在傳統以節點為核心的 Kubernetes 架構中,節點運維往往需要耗費技術團隊大量精力;同時,如何平衡資源超前規劃與資源成本問題,也成為企業進入「精細化用雲」時代後不得不思考的問題。

彈性容器執行個體 VCI 提供了 Serverless 和容器化的運算服務,每個 VCI 只會為單一 Pod 提供運作環境和運算資源,使用者無需關心底層節點的運維和容量規劃,只需要依照需部署容器應用程式即可。而在使用 VCI 部署容器應用時,可以使用原生的 Kubernetes 語義,與節點中心的架構並無差異。

在資源層面,彈性容器實例 VCI 以火山引擎運算基礎架構作為資源池,提供多種資源類型的容器運算資源,方便使用者依業務需求彈性選擇。同時,使用者也不需要關注資源容量規劃問題,VCI 提供大量運算資源,不會出現傳統節點中心架構下常見的 Pod 漂移(Drift)與重調度(Rescheduling)等現象,而進一步造成服務中斷、效能波動、數據不一致、調度延遲等問題。

最後,容器服務 VKE 與彈性容器實例 VCI 的無縫集成,不僅實現了 Kubernetes 叢集控制平面全託管,同時也為使用者提供了資料平面(即彈性容器實例 VCI)的 Serverless 化全託管、免運維、安全隔離,大大降低用戶在 Kubernetes 基礎設施上的維運成本,並且省去了容量規劃的複雜性,從而使用戶可以將更多精力聚焦於自身業務應用。

極致彈性,所需即所得

彈得省

根據 Flexera 在《2022 年雲狀態報告》揭露的調查數據,受訪企業自評估雲端成本浪費達 32%,「成本」已連續三年成為企業最關注的用雲挑戰之一——「精細化用雲」開始得到越來越多企業的重視,如何在滿足業務發展需求的同時節省雲端成本開銷,成為企業用雲端所需解決的重要挑戰。

彈性容器實例 VCI 在產品設計之初就圍繞企業「雲端成本控制」的需求,強調依照實際使用資源量精細化計費,支援多種計費模式,助力企業真正用好雲。

精進計費:彈性容器執行個體 VCI 依照使用者容器群組(Pod)實際使用的資源計費,計費資源包括 vCPU、記憶體、GPU 等。同時 VCI 實例的計費時長為其運行時長,即用戶 Pod 從下載容器鏡像開始到停止運行為止所使用的時間,精確到秒級,真正實現了按實際用量計費。

提升裝箱率:在雲端原生架構下,相較於傳統運算資源,彈性容器執行個體的另一個優點是減少閒置資源、提升裝箱率,進而降低用戶的計算資源使用成本。具體而言,Kubernetes 叢集使用雲端伺服器 ECS 作為工作節點時,需要在節點上執行 Kubernetes 所需的系統元件,因此需要預留部分運算資源,存在一定額外成本;而若使用彈性容器實例 VCI 作為運算資源,則只需為業務 Pod 實際使用資源付費:

  • 範例:執行 3 個業務 Pod,其對於 vCPU 的資源需求分為 16C、8C、8C
  • 使用 ECS:至少需要 2 台 32C vCPU 的 ECS 節點(每個節點為系統預留資源)
  • 使用 VCI:建立 3 個與 Pod 所需資源相等的 VCI 實例,即 32 C 運算資源(無任何資源閒置)

火山引擎弹性容器实例:从节点中心转型 Serverless 化架构的利器

##豐富計費方式

:目前彈性容器實例 VCI 已正式支援按量計費,並將上線搶佔式實例(Spot)付費模式的邀測活動,同時預留實例、彈性預約實例等預付費模式也有計畫支援。透過提供多種付費模式,我們希望能協助用戶進一步優化運算資源的成本管理與預算編制,針對不同業務場景選用不同付費模式,以便更能協調業務資源需求與用雲成本規劃。

彈得出#######

彈性容器實例 VCI 充分整合了火山引擎的運算資源基礎設施進行算力供給,並且根據不同的底層硬體能力提供了多種實例規格族供用戶選擇,提供差異化的計算、存儲、網絡性能,支援涵蓋多種業務應用程式和服務場景。

CPU 一般型規格族:如一般算力型 u1、一般型 n3i 等,提供了均衡的 vCPU、記憶體、網路能力,可以滿足大多數情境下的服務需求。

GPU 計算型規格族:如 GPU 計算型 gni2(搭載 NVIDIA A10 GPU 顯示卡)、GPU 計算卡)等,運算型 NVIDIA V100可在大模型訓練、文字與影像產生、任務推理等各類 AI 計算類場景下提供高性價比使用體驗。

最新推出的通用算力型 u1 實例規格族依托火山引擎資源池化技術與智慧調度演算法進行動態資源管理,能夠為企業提供穩定的算力供應,並且支援多種處理器以及處理器記憶體的靈活配比,從 0.25C-0.5Gi、0.5C-1Gi、1C-2Gi 等細粒度小規格到 24C-48Gi 、32C-256Gi 等大規格可供任意選擇,具有極高的性價比!

背靠龐大的算力資源供給,彈性容器實例 VCI 也為使用者提供了業界領先的彈性資源優先權調度策略:結合容器服務 VKE,我們支援使用者透過自定義資源策略(ResourcePolicy)將彈性調度到雲端伺服器 ECS、彈性容器實例 VCI 等不同類型算力資源池,並根據實際業務場景依照百分比閾值、優先權控制等策略進行排程分配。

這表示使用者可以將雲端伺服器 ECS 算力資源池和彈性容器執行個體 VCI 算力資源池結合使用,並享有海量火山引擎運算資源;同時,結合容器叢集中的 Cluster Autoscaler 能力和 VCI ,即便容器叢集未事先申請運算資源,使用者也能夠及時獲得彈性資源高效支撐業務應用。

彈得快

面對線上業務不可預測的業務流量洪峰,確保業務運作穩定與用戶體驗至關重要;在業務發展的關鍵時刻,快速彈出運算資源與快速啟用業務應用程式也非常關鍵。彈性容器實例同樣天然適配這些場景。

火山引擎弹性容器实例:从节点中心转型 Serverless 化架构的利器

一方面,火山引擎彈性容器實例(VCI)的彈性能力可滿足分鐘級數萬核心 vCPU 運算資源的需求,保證在業務需要時,快速彈出充足運算資源。當流量洪峰結束,業務工作負載降低時亦可迅速釋放彈性運算資源,讓用雲端成本更節省。

另一方面,容器鏡像拉取的耗時往往較長,這點在大規模 Pod 並發啟動的情況下更加嚴重。彈性容器實例 VCI 不僅具備 VKE 提供的多種容器鏡像加速能力,如容器鏡像延遲載入(鏡像懶載入)、P2P 容器鏡像分發等,也擁有容器鏡像快取能力這樣的特有加速能力,根據實際測試數據,容器鏡像快取可使容器鏡像(資料量在百 G 以內)的 Pod 的整體啟動耗時控制在十秒級別,幫助使用者大幅提升效率、降低雲端成本。

結論

自 2022 年正式上線以來,彈性容器實例 VCI 服務了許多中型企業客戶,並在字節跳動內外業務場景中得到了充分的實踐檢驗。火山引擎雲端原生團隊也基於客戶服務經驗,不斷打磨產品能力,持續提升產品服務的品質與穩定性:

  • 在生態整合方面,彈性容器實例 VCI 不僅持續增強與 Kubernetes 生態的集成,能夠與火山引擎容器服務 VKE 無縫集成,使客戶能夠更容易地在雲端原生環境中部署和管理容器應用;
  • 在分散式容器鏡像啟動加速方面,VCI 與火山引擎鏡像倉庫 CR 等產品協同改善 Dragonfly 架構,進一步增強了鏡像分發到 VCI 中的效率與可靠性;
  • VCI 所特有的容器鏡像快取加速能力,更好地解決了大規模並發、大型容器鏡像場景下的 Pod 啟動速度慢與鏡像拉取成功率低等問題,減輕鏡像倉庫壓力;
  • 在運算資源規格的多樣性方面,VCI 在 2023 年推出了更多的選用資源,如基於火山引擎自研 DPU 全卸載架構的全新通用計算型實例 n3i,屏蔽後端伺服器差異,理論具有無限資源池的通用算力型實例 u1 等。

火山引擎雲原生團隊主要負責火山引擎公有雲及私有化場景中 PaaS 類產品體系的構建,結合字節跳動多年的雲原生技術棧經驗和最佳實踐沉澱,幫助企業加速數位轉型和創新。產品包括容器服務、鏡像倉庫、分散式雲端原生平台、函數服務、服務網格、持續交付、可觀測服務等。

面向2024 年,彈性容器執行個體VCI 將持續在Serverless Kubernetes 產品架構與形態下持續精進與探索,為內部與更多客戶提供基礎架構免運維、運算資源免規劃、極致彈性的Serverless 容器化產品與服務,能夠更好地支援客戶在AIGC、生信科學運算、社交電商等業務場景的多種GPU 和CPU 的算力需求。

以上是火山引擎彈性容器執行個體:從節點中心轉型 Serverless 化架構的利器的詳細內容。更多資訊請關注PHP中文網其他相關文章!

本網站聲明
本文內容由網友自願投稿,版權歸原作者所有。本站不承擔相應的法律責任。如發現涉嫌抄襲或侵權的內容,請聯絡admin@php.cn

熱AI工具

Undresser.AI Undress

Undresser.AI Undress

人工智慧驅動的應用程序,用於創建逼真的裸體照片

AI Clothes Remover

AI Clothes Remover

用於從照片中去除衣服的線上人工智慧工具。

Undress AI Tool

Undress AI Tool

免費脫衣圖片

Clothoff.io

Clothoff.io

AI脫衣器

Video Face Swap

Video Face Swap

使用我們完全免費的人工智慧換臉工具,輕鬆在任何影片中換臉!

熱工具

記事本++7.3.1

記事本++7.3.1

好用且免費的程式碼編輯器

SublimeText3漢化版

SublimeText3漢化版

中文版,非常好用

禪工作室 13.0.1

禪工作室 13.0.1

強大的PHP整合開發環境

Dreamweaver CS6

Dreamweaver CS6

視覺化網頁開發工具

SublimeText3 Mac版

SublimeText3 Mac版

神級程式碼編輯軟體(SublimeText3)

熱門話題

Java教學
1663
14
CakePHP 教程
1420
52
Laravel 教程
1313
25
PHP教程
1266
29
C# 教程
1239
24
DeepMind機器人打乒乓球,正手、反手溜到飛起,全勝人類初學者 DeepMind機器人打乒乓球,正手、反手溜到飛起,全勝人類初學者 Aug 09, 2024 pm 04:01 PM

但可能打不過公園裡的老大爺?巴黎奧運正在如火如荼地進行中,乒乓球項目備受關注。同時,機器人打乒乓球也取得了新突破。剛剛,DeepMind提出了第一個在競技乒乓球比賽中達到人類業餘選手等級的學習型機器人智能體。論文地址:https://arxiv.org/pdf/2408.03906DeepMind這個機器人打乒乓球什麼程度呢?大概和人類業餘選手不相上下:正手反手都會:對手採用多種打法,機器人也能招架得住:接不同旋轉的發球:不過,比賽激烈程度似乎不如公園老大爺對戰。對機器人來說,乒乓球運動

首配機械爪!元蘿蔔亮相2024世界機器人大會,發布首個走進家庭的西洋棋機器人 首配機械爪!元蘿蔔亮相2024世界機器人大會,發布首個走進家庭的西洋棋機器人 Aug 21, 2024 pm 07:33 PM

8月21日,2024世界機器人大會在北京隆重召開。商湯科技旗下家用機器人品牌「元蘿蔔SenseRobot」家族全系產品集體亮相,並最新發布元蘿蔔AI下棋機器人-國際象棋專業版(以下簡稱「元蘿蔔國象機器人」),成為全球首個走進家庭的西洋棋機器人。作為元蘿蔔的第三款下棋機器人產品,全新的國象機器人在AI和工程機械方面進行了大量專項技術升級和創新,首次在家用機器人上實現了透過機械爪拾取立體棋子,並進行人機對弈、人人對弈、記譜複盤等功能,

Claude也變懶了!網友:學會給自己放假了 Claude也變懶了!網友:學會給自己放假了 Sep 02, 2024 pm 01:56 PM

開學將至,該收心的不只即將開啟新學期的同學,可能還有AI大模型。前段時間,Reddit擠滿了吐槽Claude越來越懶的網友。 「它的水平下降了很多,經常停頓,甚至輸出也變得很短。在發布的第一周,它可以一次性翻譯整整4頁文稿,現在連半頁都輸出不了!」https:// www.reddit.com/r/ClaudeAI/comments/1by8rw8/something_just_feels_wrong_with_claude_in_the/在一個名為“對Claude徹底失望了的帖子裡”,滿滿地

世界機器人大會上,這家承載「未來養老希望」的國產機器人被包圍了 世界機器人大會上,這家承載「未來養老希望」的國產機器人被包圍了 Aug 22, 2024 pm 10:35 PM

在北京舉行的世界機器人大會上,人形機器人的展示成為了現場絕對的焦點,在星塵智能的展台上,由於AI機器人助理S1在一個展區上演揚琴、武術、書法三台大戲,能文能武,吸引了大量專業觀眾和媒體的駐足。在有彈性的琴弦上優雅的演奏,讓S1展現出速度、力度、精準度兼具的精細操作與絕對掌控。央視新聞對「書法」背後的模仿學習和智慧控制進行了專題報道,公司創始人來傑解釋到,絲滑動作的背後,是硬體側追求最好力控和最仿人身體指標(速度、負載等),而是在AI側則採集人的真實動作數據,讓機器人遇強則強,快速學習進化。而敏捷

ACL 2024獎項發表:華科大破解甲骨文最佳論文之一、GloVe時間檢驗獎 ACL 2024獎項發表:華科大破解甲骨文最佳論文之一、GloVe時間檢驗獎 Aug 15, 2024 pm 04:37 PM

本屆ACL大會,投稿者「收穫滿滿」。為期六天的ACL2024正在泰國曼谷舉辦。 ACL是計算語言學和自然語言處理領域的頂級國際會議,由國際計算語言學協會組織,每年舉辦一次。一直以來,ACL在NLP領域的學術影響力都名列第一,它也是CCF-A類推薦會議。今年的ACL大會已是第62屆,接收了400餘篇NLP領域的前沿工作。昨天下午,大會公佈了最佳論文等獎項。此次,最佳論文獎7篇(兩篇未公開)、最佳主題論文獎1篇、傑出論文獎35篇。大會也評出了資源論文獎(ResourceAward)3篇、社會影響力獎(

李飛飛團隊提出ReKep,讓機器人具備空間智能,還能整合GPT-4o 李飛飛團隊提出ReKep,讓機器人具備空間智能,還能整合GPT-4o Sep 03, 2024 pm 05:18 PM

視覺與機器人學習的深度融合。當兩隻機器手絲滑地互相合作疊衣服、倒茶、將鞋子打包時,加上最近老上頭條的1X人形機器人NEO,你可能會產生一種感覺:我們似乎開始進入機器人時代了。事實上,這些絲滑動作正是先進機器人技術+精妙框架設計+多模態大模型的產物。我們知道,有用的機器人往往需要與環境進行複雜精妙的交互,而環境則可被表示成空間域和時間域上的限制。舉個例子,如果要讓機器人倒茶,那麼機器人首先需要抓住茶壺手柄並使之保持直立,不潑灑出茶水,然後平穩移動,一直到讓壺口與杯口對齊,之後以一定角度傾斜茶壺。這

鴻蒙智行享界S9全場景新品發表會,多款重磅新品齊發 鴻蒙智行享界S9全場景新品發表會,多款重磅新品齊發 Aug 08, 2024 am 07:02 AM

今天下午,鸿蒙智行正式迎来了新品牌与新车。8月6日,华为举行鸿蒙智行享界S9及华为全场景新品发布会,带来了全景智慧旗舰轿车享界S9、问界新M7Pro和华为novaFlip、MatePadPro12.2英寸、全新MatePadAir、华为毕昇激光打印机X1系列、FreeBuds6i、WATCHFIT3和智慧屏S5Pro等多款全场景智慧新品,从智慧出行、智慧办公到智能穿戴,华为全场景智慧生态持续构建,为消费者带来万物互联的智慧体验。鸿蒙智行:深度赋能,推动智能汽车产业升级华为联合中国汽车产业伙伴,为

分散式人工智慧盛會DAI 2024徵稿:Agent Day,強化學習之父Richard Sutton將出席!顏水成、Sergey Levine以及DeepMind科學家將做主旨報告 分散式人工智慧盛會DAI 2024徵稿:Agent Day,強化學習之父Richard Sutton將出席!顏水成、Sergey Levine以及DeepMind科學家將做主旨報告 Aug 22, 2024 pm 08:02 PM

會議簡介隨著科技的快速發展,人工智慧成為了推動社會進步的重要力量。在這個時代,我們有幸見證並參與分散式人工智慧(DistributedArtificialIntelligence,DAI)的創新與應用。分散式人工智慧是人工智慧領域的重要分支,這幾年引起了越來越多的關注。基於大型語言模型(LLM)的智能體(Agent)異軍突起,透過結合大模型的強大語言理解和生成能力,展現了在自然語言互動、知識推理、任務規劃等方面的巨大潛力。 AIAgent正在接棒大語言模型,成為目前AI圈的熱門話題。 Au

See all articles