首頁 > 科技週邊 > 人工智慧 > 警惕! ChatGPT爆火下的能耗危機,資料中心營運商挑戰巨大

警惕! ChatGPT爆火下的能耗危機,資料中心營運商挑戰巨大

王林
發布: 2023-04-11 15:58:03
轉載
1673 人瀏覽過

近期,美國OpenAI公司旗下智慧聊天工具ChatGPT刷爆社群媒體,吸引超百億美元投資,推動了資本市場佈局人工智慧應用的巨大熱潮,風頭一時無兩。

警惕! ChatGPT爆火下的能耗危機,資料中心營運商挑戰巨大

微軟率先宣布砸100億美金入股OpenAI,然後亞馬遜和美版「今日頭條」BuzzFeed宣布將在日常工作中啟用ChatGPT,同時,百度也宣佈3月推出「中國版」的ChatGPT聊天機器人。在多家科技公司推波協助後,ChatGPT瞬間引發全球關注。

數據顯示,亞馬遜部署的機器人數量正在快速增加,每天增量達到1000個左右。此外,臉書母公司Meta也計畫2023年在資料中心上額外投入40億至50億美元,預計將全部用於人工智慧。 IBM執行長克里希納表示,人工智慧預料2030年將為全球經濟貢獻16兆美元。

隨著ChatGPT的大火,2023年各大巨人或將在人工智慧領域掀起新一輪鏖戰。

然而,當ChatGPT-3預測下一個的單字出現時,就需要進行多次推斷計算,因此佔用大量的資源,並耗費更多的電力。而為支援雲端運算、視訊串流媒體和5G網路的爆炸性成長而擴建的資料中心基礎設施,其GPU和CPU架構無法有效地運作以滿足迫在眉睫的運算需求,這為超大規模資料中心營運商帶來巨大的挑戰。

GPT3.5 的訓練使用了微軟專門建造的AI運算系統,由1萬個V100 GPU 組成的高效能網路集群,總算力消耗約3640 PF-days (即假如每秒計算一千萬億次,則需要計算3640 天)。如此大規模、長時間的 GPU 叢集訓練任務,對網路互聯底座的效能、可靠性、成本等各方面都提出極致要求。

例如,Meta宣布暫停在全球範圍內的資料中心擴建,重新配置這些伺服器群,以滿足人工智慧的資料處理需求。

人工智慧平台對資料處理的需求是巨大的,ChatGPT的OpenAI創建者在去年11月推出該平台,如果不搭上微軟即將升級的Azure雲端平台的便車,它將無法繼續運行。

支持這一數位轉型的資料中心基礎設施——將像人腦一樣被組織成兩個半球或葉,一個葉需要比另一個葉強得多。一個半球將服務於所謂的“訓練”,處理多達300B個數據點所需的計算能力,以創建ChatGPT生成的單字沙拉。

訓練瓣需要強大的運算能力和最先進的GPU半導體,但在支援雲端運算服務和5G網路的資料中心叢集中,目前所需的連接性很少。

同時,專注於「培訓」每個人工智慧平台的基礎設施將對電力產生巨大的需求,要求將資料中心設置在千兆瓦再生能源附近,安裝新的液體冷卻系統,以及重新設計的備用電源和發電機系統,以及其他新的設計特點。

人工智慧平台大腦的另一個半球,被稱為「推理」模式的更高功能的數位基礎設施支援互動式「生成」平台,這些平台在輸入問題或指令後的幾秒鐘內,對查詢進行處理,進入建模的資料庫,並以令人信服的人類語法作出回應。

雖然如今的超連接資料中心網絡,如北美最大的資料中心集群,北維吉尼亞州的「資料中心」也擁有最廣泛的光纖網絡,可以適應人工智慧大腦「推斷」葉的下一級連接需求,但這些設施也需要升級,以滿足所需的巨大處理能力,並且它們需要更靠近變電站。

此外,有研究機構數據顯示,資料中心已然成為全球最大的能源消費者,佔總用電量的比例將從2017年的3%上升到2025年的4.5%。以中國為例,2030年全國營運的資料中心用電量預計將超過4,000億度,佔全國總用電量的4%。

因此,即使是數位產品也需要能源來開發和消耗,ChatGPT也不例外,據估計,機器學習工作中推理處理佔算力消耗的80-90%,粗略計算,自ChatGPT於自2022年11月30日上線以來,碳排放量已超過814.61噸。

根據專業機構測算,假設託管在微軟的Azure雲端上的ChatGPT每天有100萬用戶諮詢(在特定的回應時間和詞彙量下,每天約29,167小時),以A100 GPU的最高功率407W(瓦特)計算,每天碳排放達3.82噸,每月排碳超過100噸。如今ChatGPT日訪問用戶超過1000萬,實際排碳量遠超過每月100噸。除此之外,訓練這樣一個包含1,750 億參數的語言大模型,需要上萬個 CPU/GPU 24 小時不間斷輸入數據,大概消耗1,287MWh的電力,二氧化碳排放量超過552噸。

警惕! ChatGPT爆火下的能耗危機,資料中心營運商挑戰巨大

從這些大型語言模型的碳排放來看,ChatGPT前身GPT-3碳排放量最大。據悉,美國人平均每年產生16.4噸碳排放,丹麥人平均每年產生11噸碳排放。因此,ChatGPT的模型訓練碳排放多於50個丹麥人每年的碳排放。

雲端運算供應商們也認識到資料中心使用了大量電力,並採取了提高效率的方法措施,例如在北極建設和營運資料中心,以利用再生能源和自然冷卻條件。不過,這還不足以滿足AI應用爆炸性成長的需求。

美國勞倫斯伯克利國家實驗室在研究中發現,在過去20年,資料中心效率的提高一直在控制能耗的成長,但研究表明,現在的能源效率措施可能不足以滿足未來資料中心的需求。

人工智慧產業現在正處於一個關鍵的轉折點。生成式AI、影像辨識和資料分析的技術進步揭示了機器學習的獨特連結和用途,但首先需要建立一個能滿足這項需求的技術解決方案,因為根據Gartner的預測,除非目前能提供更永續的選擇,否則到2025年,AI消耗的能源將超過人類活動所消耗的能源。

以上是警惕! ChatGPT爆火下的能耗危機,資料中心營運商挑戰巨大的詳細內容。更多資訊請關注PHP中文網其他相關文章!

來源:51cto.com
本網站聲明
本文內容由網友自願投稿,版權歸原作者所有。本站不承擔相應的法律責任。如發現涉嫌抄襲或侵權的內容,請聯絡admin@php.cn
最新問題
熱門教學
更多>
最新下載
更多>
網站特效
網站源碼
網站素材
前端模板