화웨이, 1조 개가 넘는 매개변수로 대규모 모델 훈련을 지원하는 새로운 아키텍처 Ascend AI 컴퓨팅 클러스터 출시

IT House는 오늘 개최된 Huawei Full Connectivity Conference 2023에서 Huawei 전무이사이자 ICT 인프라 비즈니스 관리위원회 위원장이자 Enterprise BG 사장인 Wang Tao가 Ascend AI 컴퓨팅의 새로운 아키텍처를 공식 발표했다고 20일 보도했습니다. 클러스터 - Atlas 900 SuperCluster는 1조 개가 넘는 매개변수를 사용하는 대규모 모델 교육을 지원할 수 있습니다.

새로운 클러스터는 Huawei Galaxy AI 지능형 컴퓨팅 스위치 CloudEngine XH16800을 사용합니다. 이 스위치는 고밀도 800GE 포트 기능을 갖추고 있어 2계층 스위칭 네트워크가 2,250개 노드로 구성된 초대형 비융합 클러스터 네트워크를 구현할 수 있습니다. 카드 18,000장)

새 클러스터는 또한 혁신적인 슈퍼 노드 아키텍처를 사용하여 대규모 모델 훈련 기능을 크게 향상시킵니다. 또한 화웨이는 컴퓨팅, 네트워크, 스토리지, 에너지 및 기타 분야에서 포괄적인 이점을 활용하여 장치 수준, 노드 수준, 클러스터 수준 및 비즈니스 수준에서 시스템 신뢰성을 종합적으로 향상하고 대규모 모델 훈련의 안정성을 며칠에서 몇 달로 향상합니다. .

Huawei는 더욱 개방적이고 사용하기 쉬운 CANN 7.0 이기종 컴퓨팅 아키텍처를 출시했습니다. 이 아키텍처는 업계의 AI 프레임워크, 가속 라이브러리 및 주류 대형 모델과 완벽하게 호환될 뿐만 아니라 기본 기능을 심층적으로 개방하여 AI 프레임워크 및 가속 라이브러리가 컴퓨팅 리소스를 보다 직접적으로 호출하고 관리할 수 있도록 합니다. 이를 통해 개발자는 고성능 연산자를 맞춤화하여 대형 모델을 차별화하고 경쟁력 있게 만들 수 있습니다

Huawei는 또한 Ascend C 프로그래밍 언어를 업그레이드하여 보다 효율적인 프로그래밍 방법으로 운영자 구현 로직을 단순화하고, 융합 운영자의 개발 주기를 대폭 단축하고, AI 모델 및 애플리케이션의 신속한 개발을 지원합니다

Huawei Cloud의 공식 웹사이트는 오늘 글로벌 기업과 개발자를 대상으로 Ascend AI 클라우드 서비스 "백 가지 모드와 수천 가지 조건" 영역을 공식 출시했습니다. 이 영역에는 Ascend AI 클라우드 서비스를 기반으로 완전히 조정되고 최적화된 업계의 주류 오픈 소스 대형 모델이 포함되어 있습니다. 동시에 애플리케이션 개발을 위한 도구 체인을 제공합니다. 모든 개발 도구는 클라우드 기반이므로 지루한 구성 프로세스가 필요 없으며 원클릭 액세스 및 즉시 사용이 가능합니다

다시 작성해야 할 내용은 다음과 같습니다. ▲ Shengteng AI 클라우드 서비스의 다양한 모드와 수천 개의 상태 영역

IT Home 조사에 따르면 올해 7월 현재 Shengteng AI 클러스터는 전국 25개 도시에 인공지능 컴퓨팅 센터 건립을 지원했습니다. 그 중 7개 도시의 공공 컴퓨팅 파워 플랫폼이 전국 1차 '차세대 인공지능 공공 컴퓨팅 파워 오픈 이노베이션 플랫폼'으로 선정됐다

동시에 Ascend AI는 30개 이상의 하드웨어 파트너와 1,200개 이상의 ISV를 개발했으며, 2,500개 이상의 산업 AI 솔루션을 공동 출시하여 운영자, 인터넷, 금융 및 기타 산업에 대규모로 서비스를 제공했습니다.

위 내용은 화웨이, 1조 개가 넘는 매개변수로 대규모 모델 훈련을 지원하는 새로운 아키텍처 Ascend AI 컴퓨팅 클러스터 출시의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!