> 기술 주변기기 > 일체 포함 > 1조 개가 넘는 매개변수로 대규모 모델 훈련을 지원하는 새로운 아키텍처 Shengteng AI 컴퓨팅 클러스터 출시

1조 개가 넘는 매개변수로 대규모 모델 훈련을 지원하는 새로운 아키텍처 Shengteng AI 컴퓨팅 클러스터 출시

WBOY
풀어 주다: 2023-09-21 20:37:01
앞으로
1004명이 탐색했습니다.

9월 20일 뉴스에 따르면 오늘 개최된 Huawei Full Connectivity Conference 2023에서 Huawei 전무이사이자 ICT 인프라 비즈니스 관리위원회 위원장이자 Enterprise BG 사장인 Wang Tao가 Ascend AI 컴퓨팅의 새로운 아키텍처를 공식 발표했습니다. 클러스터 - Atlas 900 SuperCluster 는 1조 개가 넘는 매개변수로 대규모 모델 훈련을 지원할 수 있습니다.

推出全新架构昇腾 AI 计算集群,支持超万亿参数大模型训练

보도에 따르면 새 클러스터는 새로운 Huawei Galaxy AI 지능형 컴퓨팅 스위치 CloudEngine XH16800을 사용합니다. 고밀도 800GE 포트 기능을 통해 2레이어 스위칭 네트워크는 초대형 2,250개 노드(동급)를 달성할 수 있습니다. 최대 18,000개 카드) 규모에 구애받지 않는 클러스터 네트워킹.

새 클러스터는 또한 혁신적인 슈퍼 노드 아키텍처를 사용하여 대규모 모델 훈련 기능을 크게 향상시킵니다. 또한 화웨이는 컴퓨팅, 네트워크, 스토리지, 에너지 및 기타 분야에서 포괄적인 이점을 활용하여 장치 수준, 노드 수준, 클러스터 수준 및 비즈니스 수준에서 시스템 신뢰성을 종합적으로 향상하고 대규모 모델 훈련의 안정성을 며칠에서 몇 달로 향상합니다. .

또한

Huawei는 업계의 AI 프레임워크, 가속 라이브러리 및 주류 대형 모델과 완벽하게 호환될 뿐만 아니라 더욱 개방적이고 사용하기 쉬운 CANN 7.0 이기종 컴퓨팅 아키텍처를 출시했습니다. AI 프레임워크 및 가속 라이브러리가 컴퓨팅 리소스를 보다 직접적으로 호출하고 관리할 수 있도록 하는 기본 기능을 제공하여 개발자가 고성능 연산자를 맞춤화할 수 있도록 하여 대형 모델에 차별화된 경쟁력을 제공합니다.

推出全新架构昇腾 AI 计算集群,支持超万亿参数大模型训练

Huawei는 또한 Ascend C 프로그래밍 언어를 업그레이드하여 보다 효율적인 프로그래밍 방법을 사용하여 연산자 구현 논리를 단순화하고 융합 연산자의 개발 주기를 대폭 단축하며 AI 모델 및 애플리케이션의 신속한 개발을 가능하게 했습니다.

推出全新架构昇腾 AI 计算集群,支持超万亿参数大模型训练

글로벌 기업과 개발자를 위해

HUAWEI Cloud 공식 웹사이트는 오늘 Ascend AI 클라우드 서비스 "수백 개의 모델과 수천 개의 모드" 특별 영역을 공식 출시했습니다. 이 특별 영역에는 업계의 주류 오픈 소스 대형 모델이 포함되어 있습니다. Ascend AI 클라우드 서비스에 완벽하게 적용되어 애플리케이션 개발을 위한 도구 체인을 제공합니다. 모든 개발 도구는 번거로운 구성 프로세스가 필요 없으며 원클릭 액세스 및 즉시 사용이 가능합니다.

推出全新架构昇腾 AI 计算集群,支持超万亿参数大模型训练

推出全新架构昇腾 AI 计算集群,支持超万亿参数大模型训练▲ 다양한 모드를 갖춘 Ascend AI 클라우드 서비스 특구


본 사이트의 쿼리에 따르면 올해 7월 현재 Ascend AI 클러스터는 2019년 7월까지 인공지능 컴퓨팅 센터 건립을 지원하고 있습니다. 7개 도시의 공공 컴퓨팅 파워 플랫폼을 포함해 전국 25개 도시가 전국 '차세대 인공지능 공공 컴퓨팅 파워 개방형 혁신 플랫폼'의 첫 번째 배치로 선정되었습니다.

Shengteng AI는 30개 이상의 하드웨어 파트너와 1,200개 이상의 파트너를 개발했습니다. ISV와 함께 다양한 산업 분야에 2,500개 이상의 AI 솔루션을 출시하여 사업자, 인터넷, 금융 및 기타 산업에 대규모 서비스를 제공하고 있습니다

위 내용은 1조 개가 넘는 매개변수로 대규모 모델 훈련을 지원하는 새로운 아키텍처 Shengteng AI 컴퓨팅 클러스터 출시의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!

원천:51cto.com
본 웹사이트의 성명
본 글의 내용은 네티즌들의 자발적인 기여로 작성되었으며, 저작권은 원저작자에게 있습니다. 본 사이트는 이에 상응하는 법적 책임을 지지 않습니다. 표절이나 침해가 의심되는 콘텐츠를 발견한 경우 admin@php.cn으로 문의하세요.
인기 튜토리얼
더>
최신 다운로드
더>
웹 효과
웹사이트 소스 코드
웹사이트 자료
프론트엔드 템플릿