目錄
人工智慧如何改變資料中心基礎設施
在設計階段採取整體方法
1、讓更多利害關係人參與
2、將人工智慧融入資料中心營運
3、避免虛假經濟
解決基礎設施難題
首頁 科技週邊 人工智慧 人工智慧如何改變資料中心設計

人工智慧如何改變資料中心設計

Oct 10, 2023 pm 03:05 PM
人工智慧 資料中心

人工智慧如何改變資料中心設計

隨著 2023 年至 2026 年間全球人工智慧系統支出將翻一番,資料中心容量顯然將迅速增加以滿足需求。

然而,令人驚訝的是,過去一年許多資料中心營運商踩下了新專案的煞車並放緩了投資,2022-23 年間倫敦的空置容量下降了 6.3%。

這種反直覺的趨勢背後有什麼原因?為了解釋這一點,我們需要了解與人工智慧運算和支援其基礎設施相關的一些問題

人工智慧如何改變資料中心基礎設施

資料中心的建置一直都是圍繞著CPU供電展開的,以應對傳統的運算工作負載。然而,AI運算需要GPU驅動的機架,與同等容量的CPU相比,它會消耗更多的電量、散發更多的熱量並且佔用更多的空間

實際上,這意味著人工智慧運算能力通常需要更多的電源連接或替代冷卻系統。可以重新表述為:這實際上意味著,人工智慧運算能力通常需要更多的電源連接或替代冷卻系統

由於這是嵌入式基礎設施,因此它被建構在資料中心綜合體的結構中,即使在經濟上並非完全不可能,更換成本也往往極高。

在實踐中,運營商必須致力於在新的資料中心中劃分多少空間專門用於人工智慧和傳統計算

如果犯了這個錯誤並過度致力於人工智慧,可能會讓資料中心營運商面臨永久未充分利用和無利可圖的能力

由於人工智慧市場還處於起步階段,這個問題更加嚴重,Gartner 聲稱目前正處於炒作週期中預期過高的頂峰。因此,許多業者選擇在設計階段猶豫不決,而不是過早承諾人工智慧計算在新資料中心專案中的比例。

在設計階段採取整體方法

然而,營運商敏銳地意識到,如果他們不冒險推遲投資,就會失去市場份額和競爭優勢。然而,考慮到資料中心基礎設施的許多基本原理正在即時重寫,這是一項艱鉅的任務

為了平衡先行者的需求和抵消風險,營運商需要將其資料中心設計得在人工智慧運算時代具有最大的效率和彈性。這需要一種全新的、整體的設計方法。

1、讓更多利害關係人參與

無論營運商決定如何區分人工智慧和傳統運算,具有人工智慧運算能力的資料中心站點都將比傳統設施複雜得多。更高的複雜性通常意味著更多的故障點,特別是因為人工智慧運算比傳統運算有更多的需求。

因此,為了確保網站生命週期內的正常運作時間並降低出現代價高昂的問題的風險,團隊需要在資料中心的規劃階段更加徹底。

特別是,設計階段應在專案開始時尋求更多團隊和專業知識的意見。除了尋求電源和冷卻的專業知識外,設計人員還應該儘早與營運、佈線和安全團隊合作,以了解潛在的瓶頸或故障來源

2、將人工智慧融入資料中心營運

由於營運商現在在現場擁有人工智慧運算,他們應該利用自己的能力利用人工智慧來提高營運效率。人工智慧在資料中心的採用由來已久,該技術能夠以極高的精度和品質執行工作流程。例如,人工智慧可以幫助:

  • 溫濕度監測
  • #安全系統操作
  • 用電監控和分配
  • 硬體故障偵測和預測性維護

透過在資料中心生命週期的每個階段主動使用該技術,營運商可以顯著提高營運效率和穩健性。人工智慧非常適合幫助解決採用這些下一代資料中心新穎而複雜的佈局時遇到的新挑戰,例如透過故障檢測和預測性維護

3、避免虛假經濟

#在在高峰時段,人工智慧會為資料中心帶來更大的負載,例如在訓練運行期間或在生產中運行企業級模型時。在這個時候,人工智慧運算通常會遠遠超出傳統預期對功耗、冷卻需求和資料吞吐量的限制

從最基本的層面來看,這意味著資料中心的底層材料承受更大的壓力。如果這些底層材料或組件品質不高,這意味著它們更容易故障。由於人工智慧運算意味著站點中組件和連接數量的急劇增加,這意味著在傳統站點中運行良好的更便宜和質量較低的材料可能會導致運行人工智能計算的數據中心停止運行

為了避免節省資金的虛假經濟風險,業者應避免購買劣質材料,如不合格的電纜。這些材料容易故障,需要頻繁更換。更嚴重的是,不合格材料和組件的故障通常會導致工廠停機或減速,進而影響獲利能力

解決基礎設施難題

儘管人工智慧運算的基礎設施要求可能是營運商拖延投資的主要原因,但從長遠來看,情況不會如此

隨著市場的不確定性增加,企業將會在傳統運算和人工智慧運算之間分裂,朝著他們的「黃金領域」靠攏

在這種情況下,公司應確保在網站運作中具備一切可能的優勢,以便在學習和成長的過程中取得成功

這意味著從一開始就進行整體設計,利用人工智慧本身來發現其網站的新效率,並投資於能夠滿足人工智慧計算更大需求的優質材料。

以上是人工智慧如何改變資料中心設計的詳細內容。更多資訊請關注PHP中文網其他相關文章!

本網站聲明
本文內容由網友自願投稿,版權歸原作者所有。本站不承擔相應的法律責任。如發現涉嫌抄襲或侵權的內容,請聯絡admin@php.cn

熱AI工具

Undresser.AI Undress

Undresser.AI Undress

人工智慧驅動的應用程序,用於創建逼真的裸體照片

AI Clothes Remover

AI Clothes Remover

用於從照片中去除衣服的線上人工智慧工具。

Undress AI Tool

Undress AI Tool

免費脫衣圖片

Clothoff.io

Clothoff.io

AI脫衣器

Video Face Swap

Video Face Swap

使用我們完全免費的人工智慧換臉工具,輕鬆在任何影片中換臉!

熱工具

記事本++7.3.1

記事本++7.3.1

好用且免費的程式碼編輯器

SublimeText3漢化版

SublimeText3漢化版

中文版,非常好用

禪工作室 13.0.1

禪工作室 13.0.1

強大的PHP整合開發環境

Dreamweaver CS6

Dreamweaver CS6

視覺化網頁開發工具

SublimeText3 Mac版

SublimeText3 Mac版

神級程式碼編輯軟體(SublimeText3)

位元組跳動剪映推出 SVIP 超級會員:連續包年 499 元,提供多種 AI 功能 位元組跳動剪映推出 SVIP 超級會員:連續包年 499 元,提供多種 AI 功能 Jun 28, 2024 am 03:51 AM

本站6月27日訊息,剪映是由位元組跳動旗下臉萌科技開發的一款影片剪輯軟體,依託於抖音平台且基本面向該平台用戶製作短影片內容,並相容於iOS、安卓、Windows 、MacOS等作業系統。剪映官方宣布會員體系升級,推出全新SVIP,包含多種AI黑科技,例如智慧翻譯、智慧劃重點、智慧包裝、數位人合成等。價格方面,剪映SVIP月費79元,年費599元(本站註:折合每月49.9元),連續包月則為59元每月,連續包年為499元每年(折合每月41.6元) 。此外,剪映官方也表示,為提升用戶體驗,向已訂閱了原版VIP

使用Rag和Sem-Rag提供上下文增強AI編碼助手 使用Rag和Sem-Rag提供上下文增強AI編碼助手 Jun 10, 2024 am 11:08 AM

透過將檢索增強生成和語意記憶納入AI編碼助手,提升開發人員的生產力、效率和準確性。譯自EnhancingAICodingAssistantswithContextUsingRAGandSEM-RAG,作者JanakiramMSV。雖然基本AI程式設計助理自然有幫助,但由於依賴對軟體語言和編寫軟體最常見模式的整體理解,因此常常無法提供最相關和正確的程式碼建議。這些編碼助手產生的代碼適合解決他們負責解決的問題,但通常不符合各個團隊的編碼標準、慣例和風格。這通常會導致需要修改或完善其建議,以便將程式碼接受到應

七個很酷的GenAI & LLM技術性面試問題 七個很酷的GenAI & LLM技術性面試問題 Jun 07, 2024 am 10:06 AM

想了解更多AIGC的內容,請造訪:51CTOAI.x社群https://www.51cto.com/aigc/譯者|晶顏審校|重樓不同於網路上隨處可見的傳統問題庫,這些問題需要跳脫常規思維。大語言模型(LLM)在數據科學、生成式人工智慧(GenAI)和人工智慧領域越來越重要。這些複雜的演算法提升了人類的技能,並在許多產業中推動了效率和創新性的提升,成為企業保持競爭力的關鍵。 LLM的應用範圍非常廣泛,它可以用於自然語言處理、文字生成、語音辨識和推薦系統等領域。透過學習大量的數據,LLM能夠產生文本

微調真的能讓LLM學到新東西嗎:引入新知識可能讓模型產生更多的幻覺 微調真的能讓LLM學到新東西嗎:引入新知識可能讓模型產生更多的幻覺 Jun 11, 2024 pm 03:57 PM

大型語言模型(LLM)是在龐大的文字資料庫上訓練的,在那裡它們獲得了大量的實際知識。這些知識嵌入到它們的參數中,然後可以在需要時使用。這些模型的知識在訓練結束時被「具體化」。在預訓練結束時,模型實際上停止學習。對模型進行對齊或進行指令調優,讓模型學習如何充分利用這些知識,以及如何更自然地回應使用者的問題。但是有時模型知識是不夠的,儘管模型可以透過RAG存取外部內容,但透過微調使用模型適應新的領域被認為是有益的。這種微調是使用人工標註者或其他llm創建的輸入進行的,模型會遇到額外的實際知識並將其整合

你所不知道的機器學習五大學派 你所不知道的機器學習五大學派 Jun 05, 2024 pm 08:51 PM

機器學習是人工智慧的重要分支,它賦予電腦從數據中學習的能力,並能夠在無需明確編程的情況下改進自身能力。機器學習在各個領域都有廣泛的應用,從影像辨識和自然語言處理到推薦系統和詐欺偵測,它正在改變我們的生活方式。機器學習領域存在著多種不同的方法和理論,其中最具影響力的五種方法被稱為「機器學習五大派」。這五大派分別為符號派、聯結派、進化派、貝葉斯派和類推學派。 1.符號學派符號學(Symbolism),又稱符號主義,強調利用符號進行邏輯推理和表達知識。該學派認為學習是一種逆向演繹的過程,透過現有的

三星介紹 BM1743 資料中心級 SSD:搭載 v7 QLC V-NAND,可支援 PCIe 5.0 三星介紹 BM1743 資料中心級 SSD:搭載 v7 QLC V-NAND,可支援 PCIe 5.0 Jun 18, 2024 pm 04:15 PM

本站6月18日消息,三星半導體近日在技術部落格介紹了搭載其目前最新QLC快閃記憶體(v7)的下一代資料中心級固態硬碟BM1743。 ▲三星QLC資料中心級固態硬碟BM1743根據TrendForce集邦諮詢4月的說法,在QLC資料中心級固態硬碟領域,僅有深耕多年的三星和SK海力士旗下Solidigm在當時通過了企業客戶驗證。相較上代v5QLCV-NAND(本站註:三星v6V-NAND無QLC產品),三星v7QLCV-NAND閃存在堆疊層數方面幾乎翻了一倍,儲存密度也大幅提升。同時v7QLCV-NAND的順

為大模型提供全新科學複雜問答基準與評估體系,UNSW、阿貢、芝加哥大學等多家機構共同推出SciQAG框架 為大模型提供全新科學複雜問答基準與評估體系,UNSW、阿貢、芝加哥大學等多家機構共同推出SciQAG框架 Jul 25, 2024 am 06:42 AM

編輯|ScienceAI問答(QA)資料集在推動自然語言處理(NLP)研究中發揮著至關重要的作用。高品質QA資料集不僅可以用於微調模型,也可以有效評估大語言模型(LLM)的能力,尤其是針對科學知識的理解和推理能力。儘管目前已有許多科學QA數據集,涵蓋了醫學、化學、生物等領域,但這些數據集仍有一些不足之處。其一,資料形式較為單一,大多數為多項選擇題(multiple-choicequestions),它們易於進行評估,但限制了模型的答案選擇範圍,無法充分測試模型的科學問題解答能力。相比之下,開放式問答

SOTA性能,廈大多模態蛋白質-配體親和力預測AI方法,首次結合分子表面訊息 SOTA性能,廈大多模態蛋白質-配體親和力預測AI方法,首次結合分子表面訊息 Jul 17, 2024 pm 06:37 PM

編輯|KX在藥物研發領域,準確有效地預測蛋白質與配體的結合親和力對於藥物篩選和優化至關重要。然而,目前的研究並沒有考慮到分子表面訊息在蛋白質-配體相互作用中的重要作用。基於此,來自廈門大學的研究人員提出了一種新穎的多模態特徵提取(MFE)框架,該框架首次結合了蛋白質表面、3D結構和序列的信息,並使用交叉注意機制進行不同模態之間的特徵對齊。實驗結果表明,該方法在預測蛋白質-配體結合親和力方面取得了最先進的性能。此外,消融研究證明了該框架內蛋白質表面資訊和多模態特徵對齊的有效性和必要性。相關研究以「S

See all articles