기업에서 인공 지능을 대규모로 적용하면 결과 중 하나는 데이터 센터의 워크로드에서 더 많은 부분을 소비한다는 것입니다.
AI는 데이터 센터에 대한 수요를 가속화하고 투자에 대한 새로운 인센티브를 창출할 뿐만 아니라 데이터 센터 지속 가능성 전략과 배포할 인프라의 특성에도 영향을 미칠 것입니다.
예를 들어, Tirias Research는 현재 상태로 생성형 AI 데이터 센터 서버 인프라와 운영 비용을 합하면 2028년까지 7,600만 달러를 초과할 것으로 예측합니다. 이는 Amazon AWS의 현재 추정 연간 운영 비용의 두 배 이상이며, 전 세계 서버 인프라의 3분의 1을 차지합니다. 클라우드 서비스 시장.
하드웨어 컴퓨팅 성능은 400% 증가할 것으로 예상되어 Tirias의 예상 처리 작업 부하 증가가 50배 증가할 것으로 예상됩니다.
슈나이더 일렉트릭의 새로운 백서에 따르면 대규모 교육 클러스터 및 소규모 에지 추론 서버의 폭발적인 성장 이는 또한 더 높은 랙 전력 밀도로의 전환을 의미합니다.
백서에는 "AI 스타트업, 기업, 코로케이션 제공업체 및 인터넷 거대 기업은 이제 데이터 센터 물리적 인프라의 설계 및 관리에 대한 이러한 밀도의 영향을 고려해야 합니다."
슈나이더 에너지 관리 연구 센터에서 인공 지능의 영향에 대해 설명합니다. 에너지 수요에 대한 영향을 예측합니다. 추정에 따르면 AI는 현재 4.3GW의 전력 수요를 차지하고 있으며 2028년까지 연평균 성장률(CAGR) 26%~36%로 성장할 것으로 예상됩니다.
이로 인해 전체 데이터 센터 전력인 총 수요는 13.5GW~20GW로 이어질 것입니다. 2~3배의 성장을 요구합니다. 2028년까지 AI 워크로드는 전체 데이터 센터 에너지의 20%를 차지할 것입니다.
Schneider는 AI 워크로드가 훈련 클러스터보다 더 많은 전력을 소비할 것으로 예상되지만 추론 워크로드는 다양한 랙 밀도에서 실행될 수 있다고 지적했습니다.
"반면에 AI 교육 워크로드는 랙당 20~100kW 이상으로 매우 높은 밀도로 실행되어 왔습니다."
네트워크 수요와 비용으로 인해 이러한 교육 랙이 함께 클러스터링됩니다. 함께 있는 것. 이러한 고전력 밀도 클러스터는 데이터 센터 전력, 냉각, 랙 및 소프트웨어 관리 설계에 근본적인 과제를 제기합니다.
Schneider는 영향을 미칠 수 있는 4가지 주요 영역을 간략하게 설명합니다. 전력, 냉각, 랙 및 소프트웨어 관리
전력 부문에서 AI 워크로드는 배전반 및 배전 시스템의 전력 시스템에 문제를 제기합니다.
현재 사용 중인 일부 전압은 배포가 실용적이지 않은 반면 더 작은 배포 블록 크기는 IT 공간을 낭비할 수 있습니다. 랙 온도가 높을수록 고장 및 위험 가능성도 높아집니다. 수정된 내용: 현재 사용 중인 일부 전압은 배포 시 실용적이지 않을 수 있으며, 더 작은 배전 블록 크기로 인해 IT 공간이 낭비될 수 있습니다. 동시에 랙 온도가 높을수록 오류 및 위험 가능성도 높아집니다.
데이터 센터가 액체 냉각으로 전환함에 따라 냉각도 중요해지며 상당한 변화가 필요한 영역 중 하나가 절반 이상 액체 냉각이 사용되었습니다. 수세기 동안 전문적인 고성능 컴퓨팅 분야에 종사해 왔습니다.
Schneider는 "공랭식은 가까운 미래에도 여전히 존재하겠지만, 공냉식에서 액체 냉각으로의 전환이 인공 지능 클러스터를 갖춘 데이터 센터에 선호되거나 필요한 솔루션이 될 것으로 예상됩니다."라고 말했습니다. 수정: Schneider에 따르면 가까운 미래에도 여전히 공기 냉각이 있을 것이지만 예측에 따르면 공기 냉각에서 액체 냉각으로의 전환이 AI 클러스터
가 있는 데이터 센터에 선호되거나 필요한 솔루션이 될 것이라고 합니다. 액체 냉각에는 많은 이점이 있습니다. 냉각에 비해 장점이 있습니다. 첫째, 액체 냉각은 프로세서 신뢰성과 성능을 향상시킵니다. 둘째, 액체 냉각은 공간을 절약하고 랙 밀도를 높입니다. 또한 액체 냉각의 물은 열 관성이 더 크고 물 소비를 줄일 수 있습니다.
인공 지능 클러스터의 경우 서버는 더 깊어야 하고 전력 요구 사항은 더 크며 냉각은 더 복잡합니다.
수요를 충족하려면 랙의 밀도와 지지 용량이 높아야 합니다.
결국 DCIM, BMS 및 전기 설계 도구와 같은 소프트웨어 도구가 AI 클러스터 관리의 핵심이 됩니다
적절한 구성 및 구현 소프트웨어 데이터 센터의 디지털 트윈을 통해 전력 제약 및 냉각 리소스 성능을 식별하고 최적의 레이아웃 결정을 위한 관련 정보를 제공할 수 있습니다.
점점 더 역동적인 환경에서 오류 허용 범위가 작아질수록 운영 위험은 높아집니다. 따라서 Schneider는 랙의 장비와 가상 머신을 포함하여 전체 IT 공간의 디지털 트윈을 생성할 것을 권장합니다.
IT 부하를 디지털 방식으로 추가하거나 이동하여 이를 지원할 수 있는 전력, 냉각 및 바닥 하중 지지 용량이 충분한지 확인할 수 있습니다. 이는 리소스 낭비를 방지하고 다운타임으로 이어질 수 있는 인적 오류를 최소화하기 위한 결정을 알려줍니다
위 내용은 인공 지능으로 인해 데이터 센터는 설계를 재고하게 됩니다.의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!