目錄
更高的密度
動力系統的挑戰
數位孿生
首頁 科技週邊 人工智慧 人工智慧迫使資料中心重新思考設計

人工智慧迫使資料中心重新思考設計

Sep 23, 2023 am 09:25 AM
人工智慧 資料中心

人工智慧迫使資料中心重新思考設計

隨著人工智慧在企業中的大規模應用,其後果之一是其消耗了資料中心更大比例的工作負載。

人工智慧不僅將加速對資料中心的需求,為投資創造新的動力,而且還將對資料中心的永續性策略和要部署的基礎設施的性質產生影響。

例如,Tirias Research預測,依照目前的情況,到2028年,生成式人工智慧資料中心伺服器基礎設施加上營運成本將超過7,600萬美元,是Amazon AWS目前估計年度營運成本的兩倍多,佔全球雲端服務市場的三分之一。

硬體運算效能預計將提高400%,與Tirias估計的處理工作負載增加50倍相比,顯得相形見絀

更高的密度

根據Schneider Electric的一份新白皮書,大型訓練集群和小型邊緣推理伺服器的爆炸性增長,也將意味著向更高機架功率密度的轉變。

白皮書寫道:「人工智慧新創公司、企業、主機託管供應商和網路巨頭現在必須考慮這些密度對資料中心實體基礎設施的設計和管理的影響。」

#施耐德能源管理研究中心對人工智慧對能源需求的影響進行了預測。根據估計,目前人工智慧代表著4.3GW的電力需求,預計到2028年將以26%至36%的複合年增長率增長

這將導致總需求達到13.5GW至20GW,是數據中心整體電力需求成長的兩到三倍。到2028年,人工智慧工作負載將佔資料中心總能源的20%

Schneider指出,雖然預計會比訓練叢集消耗更多的電量,但推理工作負載可以在各種機架密度下運行。

「另一方面,人工智慧訓練工作負載一直以非常高的密度運行,每個機架的功率在20-100 kW或更高。」

網路需求和成本是促使這些訓練機架聚集在一起的原因。這些高功率密度的集群為資料中心的電源、冷卻、機架和軟體管理設計帶來了根本性的挑戰

動力系統的挑戰

Schneider概述了四個可能產生影響的關鍵領域:電源、冷卻、機架和軟體管理

在電力方面,人工智慧工作負載對開關設備和配電系統的動力系統提出了挑戰。

目前使用的一些電壓將被證明部署起來不切實際,而較小的配電塊尺寸可能會浪費IT空間。較高的機架溫度也會增加故障和危險的機會。 重寫後的內容:目前使用的某些電壓可能被證明在部署時不切實際,而較小的配電塊尺寸可能會浪費IT空間。同時,較高的機架溫度還會增加故障和危險發生的可能性

隨著資料中心過渡到液體冷卻,冷卻將是至關重要的,也是需要重大改變的領域之一,半個多世紀以來,液體冷卻一直用於專業高效能運算。

Schneider表示:“儘管在不久的將來,空氣冷卻仍將存在,但預測,從空氣冷卻到液體冷卻的轉變將成為具有人工智能集群的數據中心的首選或必要解決方案。” 改寫為:據Schneider所說,儘管在不久的將來仍會有空氣冷卻,但預測表明,將從空氣冷卻轉變為液體冷卻將成為具備人工智能集群的數據中心的首選或必要解決方案

與空氣冷卻相比,液體冷卻具有許多優點。首先,液體冷卻可以提高處理器的可靠性和效能。其次,液體冷卻可以節省空間並增加機架密度。此外,液體冷卻中的水俱有更大的熱慣性,並且可以減少用水量

對於人工智慧集群,伺服器需要更深入,電力需求更大,冷卻也更複雜。

為了滿足需求,機架必須具備更高的密度和承重能力

數位孿生

最終,DCIM、BMS和電氣設計工具等軟體工具將成為管理人工智慧叢集的關鍵

透過適當配置和實施軟體,可以實現資料中心的數位孿生,以便識別功率限制和冷卻資源的效能,並為優化佈局決策提供相關資訊

在日益動態的環境中,容錯空間越小,操作風險就越高。因此,Schneider建議創建整個IT空間的數位孿生,包括機架中的設備和虛擬機器。

透過數位化添加或移動IT負載,可以驗證是否有足夠的電力、冷卻和地板承重能力來支援。這為決策提供了信息,以避免資源擱淺,並最大限度地減少可能導致停機的人為錯誤

以上是人工智慧迫使資料中心重新思考設計的詳細內容。更多資訊請關注PHP中文網其他相關文章!

本網站聲明
本文內容由網友自願投稿,版權歸原作者所有。本站不承擔相應的法律責任。如發現涉嫌抄襲或侵權的內容,請聯絡admin@php.cn

熱AI工具

Undresser.AI Undress

Undresser.AI Undress

人工智慧驅動的應用程序,用於創建逼真的裸體照片

AI Clothes Remover

AI Clothes Remover

用於從照片中去除衣服的線上人工智慧工具。

Undress AI Tool

Undress AI Tool

免費脫衣圖片

Clothoff.io

Clothoff.io

AI脫衣器

AI Hentai Generator

AI Hentai Generator

免費產生 AI 無盡。

熱門文章

R.E.P.O.能量晶體解釋及其做什麼(黃色晶體)
2 週前 By 尊渡假赌尊渡假赌尊渡假赌
倉庫:如何復興隊友
4 週前 By 尊渡假赌尊渡假赌尊渡假赌
Hello Kitty Island冒險:如何獲得巨型種子
3 週前 By 尊渡假赌尊渡假赌尊渡假赌

熱工具

記事本++7.3.1

記事本++7.3.1

好用且免費的程式碼編輯器

SublimeText3漢化版

SublimeText3漢化版

中文版,非常好用

禪工作室 13.0.1

禪工作室 13.0.1

強大的PHP整合開發環境

Dreamweaver CS6

Dreamweaver CS6

視覺化網頁開發工具

SublimeText3 Mac版

SublimeText3 Mac版

神級程式碼編輯軟體(SublimeText3)

位元組跳動剪映推出 SVIP 超級會員:連續包年 499 元,提供多種 AI 功能 位元組跳動剪映推出 SVIP 超級會員:連續包年 499 元,提供多種 AI 功能 Jun 28, 2024 am 03:51 AM

位元組跳動剪映推出 SVIP 超級會員:連續包年 499 元,提供多種 AI 功能

使用Rag和Sem-Rag提供上下文增強AI編碼助手 使用Rag和Sem-Rag提供上下文增強AI編碼助手 Jun 10, 2024 am 11:08 AM

使用Rag和Sem-Rag提供上下文增強AI編碼助手

七個很酷的GenAI & LLM技術性面試問題 七個很酷的GenAI & LLM技術性面試問題 Jun 07, 2024 am 10:06 AM

七個很酷的GenAI & LLM技術性面試問題

微調真的能讓LLM學到新東西嗎:引入新知識可能讓模型產生更多的幻覺 微調真的能讓LLM學到新東西嗎:引入新知識可能讓模型產生更多的幻覺 Jun 11, 2024 pm 03:57 PM

微調真的能讓LLM學到新東西嗎:引入新知識可能讓模型產生更多的幻覺

為大模型提供全新科學複雜問答基準與評估體系,UNSW、阿貢、芝加哥大學等多家機構共同推出SciQAG框架 為大模型提供全新科學複雜問答基準與評估體系,UNSW、阿貢、芝加哥大學等多家機構共同推出SciQAG框架 Jul 25, 2024 am 06:42 AM

為大模型提供全新科學複雜問答基準與評估體系,UNSW、阿貢、芝加哥大學等多家機構共同推出SciQAG框架

SOTA性能,廈大多模態蛋白質-配體親和力預測AI方法,首次結合分子表面訊息 SOTA性能,廈大多模態蛋白質-配體親和力預測AI方法,首次結合分子表面訊息 Jul 17, 2024 pm 06:37 PM

SOTA性能,廈大多模態蛋白質-配體親和力預測AI方法,首次結合分子表面訊息

三星介紹 BM1743 資料中心級 SSD:搭載 v7 QLC V-NAND,可支援 PCIe 5.0 三星介紹 BM1743 資料中心級 SSD:搭載 v7 QLC V-NAND,可支援 PCIe 5.0 Jun 18, 2024 pm 04:15 PM

三星介紹 BM1743 資料中心級 SSD:搭載 v7 QLC V-NAND,可支援 PCIe 5.0

你所不知道的機器學習五大學派 你所不知道的機器學習五大學派 Jun 05, 2024 pm 08:51 PM

你所不知道的機器學習五大學派

See all articles