警惕！ ChatGPT爆火下的能耗危機，資料中心營運商挑戰巨大

近期，美國OpenAI公司旗下智慧聊天工具ChatGPT刷爆社群媒體，吸引超百億美元投資，推動了資本市場佈局人工智慧應用的巨大熱潮，風頭一時無兩。

微軟率先宣布砸100億美金入股OpenAI，然後亞馬遜和美版「今日頭條」BuzzFeed宣布將在日常工作中啟用ChatGPT，同時，百度也宣佈3月推出「中國版」的ChatGPT聊天機器人。在多家科技公司推波協助後，ChatGPT瞬間引發全球關注。

數據顯示，亞馬遜部署的機器人數量正在快速增加，每天增量達到1000個左右。此外，臉書母公司Meta也計畫2023年在資料中心上額外投入40億至50億美元，預計將全部用於人工智慧。 IBM執行長克里希納表示，人工智慧預料2030年將為全球經濟貢獻16兆美元。

隨著ChatGPT的大火，2023年各大巨人或將在人工智慧領域掀起新一輪鏖戰。

然而，當ChatGPT-3預測下一個的單字出現時，就需要進行多次推斷計算，因此佔用大量的資源，並耗費更多的電力。而為支援雲端運算、視訊串流媒體和5G網路的爆炸性成長而擴建的資料中心基礎設施，其GPU和CPU架構無法有效地運作以滿足迫在眉睫的運算需求，這為超大規模資料中心營運商帶來巨大的挑戰。

GPT3.5 的訓練使用了微軟專門建造的AI運算系統，由1萬個V100 GPU 組成的高效能網路集群，總算力消耗約3640 PF-days (即假如每秒計算一千萬億次，則需要計算3640 天)。如此大規模、長時間的 GPU 叢集訓練任務，對網路互聯底座的效能、可靠性、成本等各方面都提出極致要求。

例如，Meta宣布暫停在全球範圍內的資料中心擴建，重新配置這些伺服器群，以滿足人工智慧的資料處理需求。

人工智慧平台對資料處理的需求是巨大的，ChatGPT的OpenAI創建者在去年11月推出該平台，如果不搭上微軟即將升級的Azure雲端平台的便車，它將無法繼續運行。

支持這一數位轉型的資料中心基礎設施——將像人腦一樣被組織成兩個半球或葉，一個葉需要比另一個葉強得多。一個半球將服務於所謂的“訓練”，處理多達300B個數據點所需的計算能力，以創建ChatGPT生成的單字沙拉。

訓練瓣需要強大的運算能力和最先進的GPU半導體，但在支援雲端運算服務和5G網路的資料中心叢集中，目前所需的連接性很少。

同時，專注於「培訓」每個人工智慧平台的基礎設施將對電力產生巨大的需求，要求將資料中心設置在千兆瓦再生能源附近，安裝新的液體冷卻系統，以及重新設計的備用電源和發電機系統，以及其他新的設計特點。

人工智慧平台大腦的另一個半球，被稱為「推理」模式的更高功能的數位基礎設施支援互動式「生成」平台，這些平台在輸入問題或指令後的幾秒鐘內，對查詢進行處理，進入建模的資料庫，並以令人信服的人類語法作出回應。

雖然如今的超連接資料中心網絡，如北美最大的資料中心集群，北維吉尼亞州的「資料中心」也擁有最廣泛的光纖網絡，可以適應人工智慧大腦「推斷」葉的下一級連接需求，但這些設施也需要升級，以滿足所需的巨大處理能力，並且它們需要更靠近變電站。

此外，有研究機構數據顯示，資料中心已然成為全球最大的能源消費者，佔總用電量的比例將從2017年的3%上升到2025年的4.5%。以中國為例，2030年全國營運的資料中心用電量預計將超過4,000億度，佔全國總用電量的4%。

因此，即使是數位產品也需要能源來開發和消耗，ChatGPT也不例外，據估計，機器學習工作中推理處理佔算力消耗的80-90%，粗略計算，自ChatGPT於自2022年11月30日上線以來，碳排放量已超過814.61噸。

根據專業機構測算，假設託管在微軟的Azure雲端上的ChatGPT每天有100萬用戶諮詢（在特定的回應時間和詞彙量下，每天約29,167小時），以A100 GPU的最高功率407W（瓦特）計算，每天碳排放達3.82噸，每月排碳超過100噸。如今ChatGPT日訪問用戶超過1000萬，實際排碳量遠超過每月100噸。除此之外，訓練這樣一個包含1,750 億參數的語言大模型，需要上萬個 CPU/GPU 24 小時不間斷輸入數據，大概消耗1,287MWh的電力，二氧化碳排放量超過552噸。

從這些大型語言模型的碳排放來看，ChatGPT前身GPT-3碳排放量最大。據悉，美國人平均每年產生16.4噸碳排放，丹麥人平均每年產生11噸碳排放。因此，ChatGPT的模型訓練碳排放多於50個丹麥人每年的碳排放。

雲端運算供應商們也認識到資料中心使用了大量電力，並採取了提高效率的方法措施，例如在北極建設和營運資料中心，以利用再生能源和自然冷卻條件。不過，這還不足以滿足AI應用爆炸性成長的需求。

美國勞倫斯伯克利國家實驗室在研究中發現，在過去20年，資料中心效率的提高一直在控制能耗的成長，但研究表明，現在的能源效率措施可能不足以滿足未來資料中心的需求。

人工智慧產業現在正處於一個關鍵的轉折點。生成式AI、影像辨識和資料分析的技術進步揭示了機器學習的獨特連結和用途，但首先需要建立一個能滿足這項需求的技術解決方案，因為根據Gartner的預測，除非目前能提供更永續的選擇，否則到2025年，AI消耗的能源將超過人類活動所消耗的能源。

以上是警惕！ ChatGPT爆火下的能耗危機，資料中心營運商挑戰巨大的詳細內容。更多資訊請關注PHP中文網其他相關文章！