Gartner: Generative AI가 중국 기업 데이터 센터 설계의 변화를 주도할 것입니다

2024년 4월 15일 뉴스, Gartner가 최근 발표한 2024 CIO 및 기술 임원 설문 조사에 따르면 중국 기업의 60% 이상이 향후 12~24개월 내에 생성 인공 지능(GenAI)을 배포할 계획인 것으로 나타났습니다. 중국 기업은 퍼블릭 클라우드가 아닌 로컬에서 GenAI를 배포하는 경향이 있기 때문에 현재 인프라 환경에서는 GenAI 프로젝트를 지원할 수 없습니다. 이는 중국 기업 데이터 센터의 설계 혁신을 촉진할 것입니다.

Gartner의 연구 책임자인 Zhang Lukeng은 다음과 같이 말했습니다. “보안 및 데이터 개인 정보 보호 문제와 규제 요구 사항으로 인해 일부 기업은 온프레미스에 GenAl 솔루션을 배포하거나 대규모 언어 모델(LLM)을 미세 조정하는 것을 선호합니다. 이는 단순한 호스팅 요구 사항이 아니라, 모델 교육에는 대규모 GPU 클러스터가 필요하기 때문에 엔터프라이즈 데이터 센터의 전략을 변경할 수 있습니다. "Gartner는 5가지 GenAI 배포 방법을 정의합니다(그림 1 참조). 기업이 선택한 GenAI 배포 방법에 따라 중국의 최고 정보 책임자(CIO)와 인프라 및 운영(I&O) 리더는 GenAI 배포의 영향과 조치를 취하는 방법을 이해해야 합니다.

그림 1: 생성적 인공 지능 배포를 위한 5가지 방법

Gartner: 생성적 AI가 중국 기업 데이터 센터 설계의 변화를 주도할 것입니다중국의 CIO 및 I&O 리더는 이 기술에 대비해야 합니다. 데이터 센터에 미치는 영향.

GenAI를 온프레미스에 배포하면 I&O 리더들이 호스팅 환경을 설계하는 방식을 변경해야 합니다.

일부 GenAI 워크로드에는 고급 그래픽을 사용해야 하므로 GenAI를 데이터 센터에 배포하는 영향에 따라 실행되는 워크로드 유형이 결정됩니다. 처리 장치(GPU). 중국 시장에서 고급 GPU 공급이 제한되어 있기 때문에 GenAI를 온프레미스에 배포하려는 I&O 리더는 호스팅 환경 설계 방식을 변경해야 합니다.

I&O 리더는 혼자서 공급 부족을 해결할 수 없으며 비즈니스, AI 엔지니어 및 기능 팀과 협력하여 이 문제를 해결해야 합니다.

Zhang Yingling은 다음과 같이 말했습니다. “GenAl 배포를 위한 인프라 리소스를 준비하는 중국 CIO 및 I&O 리더는 비즈니스 및 관련 팀과 적극적으로 협력하여 다양한 워크로드가 데이터 센터의 비용 ​​및 일정에 미치는 영향을 예측해야 합니다. GenAl의 경우 배포를 위한 데이터 센터 매크로 전략을 개발합니다. 훈련 모델에 고급 GPU 클러스터가 필요한 경우 비용, 위험 및 기회(예: 대체 하드웨어 구매 또는 GPU 리소스 임대)의 균형을 유지하여 다양한 호스팅 옵션을 완전히 이해해야 합니다.

대규모 GPU 배포. 클러스터는 데이터 센터 인프라와 장비를 변환하고 업그레이드해야 합니다.

기본 모델을 처음부터 구축하거나 모델을 미세 조정하려면 대규모 GPU 클러스터를 배포해야 하며, 이는 기존 데이터 센터를 전복시킵니다. GenAI 모델을 훈련하려면 높은 처리량, 짧은 대기 시간, 무손실 인프라가 필요하기 때문입니다. 이러한 고성능 컴퓨팅 클러스터를 지원하려면 네트워크, 스토리지, 전원 공급 장치, 냉각 시스템을 업그레이드해야 합니다. 어떤 경우에는 업그레이드된 인프라를 수용하기 위해 기존 시설을 개조해야 합니다(그림 2 참조).

그림 2: 대규모 GPU 클러스터가 데이터 센터에 미치는 영향

Gartner: 제너레이티브 AI가 중국 기업 데이터 센터 설계의 변화를 주도할 것입니다Zhang Yingling은 다음과 같이 말했습니다. "중국 CIO 및 I&O 리더 네트워크 및 스토리지에 대한 인프라 요구 사항을 결정하려면 데이터 과학자 및 엔지니어와 협력하여 GPU 클러스터 크기 및 GenAI 성능 요구 사항을 명확히 해야 합니다. 동시에 전력 요구 사항, 냉각 효율성, 랙, 공간 등도 분석하여 결정해야 합니다. 대규모 GPU 클러스터를 배포하는 데는 환경에 차이가 있습니다. 시간과 비용의 균형을 맞추고 가장 적합한 데이터 센터 전환 솔루션을 선택하세요.”

위 내용은 Gartner: Generative AI가 중국 기업 데이터 센터 설계의 변화를 주도할 것입니다의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!