알리다! ChatGPT의 폭발적인 증가로 인한 에너지 소비 위기는 데이터 센터 운영자에게 큰 과제를 안겨줍니다.

최근 미국 회사 OpenAI가 소유한 지능형 채팅 도구인 ChatGPT는 소셜 미디어를 강타하여 100억 달러 이상의 투자를 유치하고 자본 시장에서 인공 지능 애플리케이션에 대한 엄청난 열풍을 몰고 왔으며, 한동안 주목을 받았습니다.

Microsoft는 처음으로 OpenAI에 100억 달러 투자를 발표했고, 이후 Amazon과 미국 버전의 "Today's Toutiao" BuzzFeed는 동시에 일상 업무에서 ChatGPT를 활성화하겠다고 발표했습니다. 또한 3월에 ChatGPT의 '중국어 버전'을 출시할 것이라고 발표했습니다. 많은 기술 회사가 화재에 연료를 추가한 후 ChatGPT는 즉시 전 세계의 관심을 끌었습니다.

데이터에 따르면 Amazon에서 배포하는 로봇의 수가 급속히 증가하고 있으며 일일 증가량은 약 1,000대에 달합니다. 또 페이스북 모회사인 메타도 2023년 데이터센터에 40억~50억 달러를 추가로 투자할 계획인데, 이 모두가 인공지능에 활용될 것으로 예상된다. IBM CEO 크리슈나(Krishna)는 인공지능이 2030년까지 세계 경제에 16조 달러를 기여할 것으로 예상한다고 말했다.

ChatGPT의 인기에 힘입어 2023년에는 거인들이 인공지능 분야에서 새로운 치열한 전투를 시작할 수도 있습니다.

그러나 ChatGPT-3는 다음 단어를 예측할 때 여러 추론 계산을 수행해야 하므로 많은 리소스를 차지하고 더 많은 전력을 소비합니다. 클라우드 컴퓨팅, 비디오 스트리밍 및 5G 네트워크의 폭발적인 성장을 지원하기 위해 데이터 센터 인프라가 확장됨에 따라 GPU 및 CPU 아키텍처는 임박한 컴퓨팅 요구 사항을 충족하기 위해 효율적으로 작동할 수 없으며 이는 대규모 데이터 센터 운영자에게 큰 문제를 야기합니다.

GPT3.5 교육은 10,000개의 V100 GPU로 구성된 고성능 네트워크 클러스터인 Microsoft의 특별히 구축된 AI 컴퓨팅 시스템을 사용하며, 총 컴퓨팅 전력 소비량은 약 3640PF-일입니다(즉, 1000조를 계산할 경우). 두 번째 경우에는 3640일을 계산해야 합니다.) 이러한 대규모 및 장기 GPU 클러스터 훈련 작업은 네트워크 상호 연결 기반의 성능, 안정성, 비용 및 기타 측면에 대한 극단적인 요구 사항을 제시합니다.

예를 들어 Meta는 전 세계 데이터 센터 확장을 중단하고 인공 지능의 데이터 처리 요구 사항을 충족하기 위해 이러한 서버 팜을 재구성하겠다고 발표했습니다.

인공 지능 플랫폼의 데이터 처리 요구 사항은 엄청납니다. ChatGPT의 OpenAI 제작자는 작년 11월에 플랫폼을 출시했으며 Microsoft의 향후 Azure 클라우드 플랫폼 업그레이드 없이는 계속 작동할 수 없습니다.

이 디지털 혁신을 지원하는 데이터 센터 인프라는 인간의 뇌처럼 두 개의 반구 또는 엽으로 구성되며, 한 엽은 다른 엽보다 훨씬 강해야 합니다. 한쪽 반구는 ChatGPT가 생성하는 샐러드라는 단어를 생성하기 위해 최대 3000억 개의 데이터 포인트를 처리하는 데 필요한 컴퓨팅 성능인 "훈련"을 제공합니다.

트레이닝 로브에는 강력한 컴퓨팅 성능과 최첨단 GPU 반도체가 필요하지만, 클라우드 컴퓨팅 서비스와 5G 네트워크를 지원하는 데이터 센터 클러스터에서는 현재 연결이 거의 필요하지 않습니다.

동시에 각 AI 플랫폼의 '훈련'에 초점을 맞춘 인프라는 막대한 전력 수요를 창출하므로 데이터 센터를 기가와트급 재생 가능 에너지 근처에 배치하고 새로운 액체 냉각 시스템을 설치하고 재설계해야 합니다. 백업 전력 및 발전기 시스템과 기타 새로운 설계 기능을 제공합니다.

인공 지능 플랫폼 뇌의 다른 반구인 "추론" 모드로 알려진 고기능 디지털 인프라는 질문이나 지침을 입력한 후 몇 초 내에 쿼리가 모델링된 데이터베이스로 처리되는 대화형 "생성" 플랫폼을 지원합니다. 설득력 있는 인간 구문으로 응답했습니다.

북미 최대 규모의 데이터 센터 클러스터와 같은 오늘날의 초연결 데이터 센터 네트워크인 반면, 북부 버지니아의 "데이터 센터"는 AI 두뇌의 "추론"에 대한 차세대 연결 요구 사항을 수용할 수 있는 가장 광범위한 광섬유 네트워크도 보유하고 있습니다. ”라고 말하지만, 이러한 시설은 필요한 엄청난 처리 용량을 충족하기 위해 업그레이드되어야 하며 변전소에 더 가까워야 합니다.

또한 연구 기관의 데이터에 따르면 데이터 센터는 세계 최대의 에너지 소비자가 되었으며, 전체 전력 소비량에서 데이터 센터의 비중은 2017년 3%에서 2025년 4.5%로 증가할 것으로 예상됩니다. 중국을 예로 들면, 전국적으로 운영되는 데이터센터의 전력 소비량은 2030년 4000억kWh를 넘어 중국 전체 전력 소비량의 4%를 차지할 것으로 예상된다.

따라서 디지털 제품이라도 개발하고 소비하려면 에너지가 필요하며 ChatGPT도 예외는 아닙니다. 2022년 11월 ChatGPT가 출시된 이후 머신러닝 작업의 추론 처리가 컴퓨팅 전력 소비의 80~90%를 차지하는 것으로 추정됩니다. 지난 30일 온라인에 접속한 이후 탄소 배출량은 814.61톤을 넘어섰다.

전문 기관의 계산에 따르면 Microsoft의 Azure 클라우드에 호스팅된 ChatGPT가 하루에 100만 건의 사용자 문의를 받는다고 가정할 때(특정 응답 시간 및 어휘에 따라 하루 약 29,167시간) A100 GPU의 최대 전력은 407W입니다. (와트) 일일 탄소 배출량은 3.82톤에 달하고 월간 탄소 배출량은 100톤을 초과합니다. 현재 ChatGPT의 일일 사용자 수는 천만 명이 넘고 실제 탄소 배출량은 월 100톤이 훨씬 넘습니다. 또한 1,750억 개의 매개변수가 포함된 대규모 언어 모델을 훈련하려면 하루 24시간 데이터를 입력하기 위해 수만 개의 CPU/GPU가 필요하며, 약 1,287MWh의 전력을 소비하고 552톤 이상의 이산화탄소를 배출합니다.

이러한 대형 언어 모델의 탄소 배출량으로 보면 ChatGPT의 전신인 GPT-3이 탄소 배출량이 가장 많습니다. 평균적인 미국인은 연간 16.4톤의 탄소를 배출하고, 평균적인 덴마크인은 연간 11톤의 탄소를 배출하는 것으로 보고됩니다. 결과적으로 ChatGPT의 모델은 덴마크인 50명이 연간 배출하는 탄소 배출량보다 더 많은 탄소를 배출하도록 훈련되었습니다.

클라우드 컴퓨팅 제공업체도 데이터 센터가 많은 양의 전기를 사용한다는 사실을 인식하고 재생 가능 에너지와 자연 냉각 조건을 활용하기 위해 북극에 데이터 센터를 구축 및 운영하는 등 효율성을 향상하기 위한 조치를 취했습니다. 그러나 이는 AI 애플리케이션의 폭발적인 성장을 충족시키기에는 충분하지 않습니다.

미국 로렌스 버클리 국립 연구소(Lawrence Berkeley National Laboratory)는 지난 20년 동안 데이터 센터 효율성의 향상이 에너지 소비 증가를 통제해 왔다는 연구 결과를 발견했지만, 연구에 따르면 현재의 에너지 효율성 조치로는 미래의 데이터 센터를 충족시키기에 충분하지 않을 수 있습니다. 필요합니다.

인공지능 산업은 이제 중요한 전환점을 맞이하고 있습니다. 생성 AI, 이미지 인식 및 데이터 분석의 기술 발전은 기계 학습의 고유한 연결과 용도를 드러내고 있지만 Gartner에 따르면 더 지속 가능한 선택이 없는 한 2025년까지 이러한 요구를 충족할 수 있는 기술 솔루션을 먼저 구축해야 합니다. , AI는 인간 활동보다 더 많은 에너지를 소비합니다.

위 내용은 알리다! ChatGPT의 폭발적인 증가로 인한 에너지 소비 위기는 데이터 센터 운영자에게 큰 과제를 안겨줍니다.의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!