Tesla Dojo 슈퍼컴퓨팅 아키텍처 세부정보 최초 공개! 자율 주행을 위한 '조각난 것'
인공 지능 및 기계 학습 모델에 대한 증가하는 수요를 충족하기 위해 Tesla는 Tesla 자동차에 자동 운전을 가르치는 자체 인공 지능 기술을 만들었습니다.
최근 Tesla는 Hot Chips 34 컨퍼런스에서 Dojo 슈퍼컴퓨팅 아키텍처에 대한 많은 세부 정보를 공개했습니다.
기본적으로 Dojo는 컴퓨팅, 네트워킹, 입력/출력(I/O) 칩, 명령어 세트 아키텍처(ISA), 전력 전송, 패키징 및 냉각에 이르는 완전한 맞춤형 아키텍처로 구축된 거대한 구성 가능 슈퍼컴퓨터입니다. 이 모든 작업은 맞춤형 특정 기계 학습 훈련 알고리즘을 대규모로 실행하기 위해 수행됩니다.
Ganesh Venkataramanan은 Tesla의 자율 주행 하드웨어 부문 수석 이사로 Dojo 프로젝트와 AMD의 CPU 설계 팀을 담당하고 있습니다. Hot Chips 34 컨퍼런스에서 그와 칩, 시스템 및 소프트웨어 엔지니어 그룹은 기계의 많은 아키텍처 기능을 처음으로 공개했습니다.
데이터 센터 "샌드위치"
"일반적으로 우리가 칩을 만드는 과정은 칩을 패키지에 담고, 패키지를 인쇄 회로 기판에 올려 놓은 다음 시스템에 들어가는 것입니다. 시스템이 들어갑니다. 랙." Venkataramanan이 설명합니다.
하지만 이 프로세스에는 문제가 있습니다. 데이터가 칩에서 패키지로, 패키지 밖으로 이동할 때마다 대기 시간과 대역폭 손실이 발생합니다.
이러한 한계를 극복하기 위해 Venkataramanan과 그의 팀은 처음부터 시작하기로 결정했습니다.
그리하여 도장의 수련 타일이 탄생했습니다.
이것은 1/2 입방피트를 차지하고 15kW 수냉식 패키지에서 556TFLOPS의 FP32 성능을 제공하는 독립형 컴퓨팅 클러스터입니다.
각 타일에는 11GB의 SRAM이 장착되어 있으며 스택 전체에서 맞춤형 전송 프로토콜을 사용하여 9TB/s 패브릭을 통해 연결됩니다.
Venkataramanan은 다음과 같이 말했습니다. "이 교육 보드는 추가 스위치가 필요 없이 컴퓨터에서 메모리, 전원 공급, 통신까지 비교할 수 없는 수준의 통합을 나타냅니다."
교육 타일의 핵심은 TSMC의 7nm 공정을 기반으로 한 500억 개의 트랜지스터 칩인 Tesla의 특수 D1입니다. Tesla는 각 D1이 400W의 TDP에서 22TFLOPS의 FP32 성능을 달성할 수 있다고 밝혔습니다.
Tesla는 25개의 D1을 가져와서 양호한 것으로 알려진 금형에 나눈 다음 매우 낮은 대기 시간과 매우 높은 대역폭을 갖춘 TSMC의 시스템 온 웨이퍼 기술을 사용하여 패키징하여 대규모 계산 통합을 가능하게 했습니다.
그러나 칩의 시스템 설계와 수직 적층 아키텍처는 전력 공급에 어려움을 가져옵니다.
Venkataramanan에 따르면 대부분의 최신 가속기는 전원 공급 장치를 실리콘 웨이퍼 바로 옆에 배치합니다. 그는 이 접근 방식이 효과적이긴 하지만 가속기의 상당 부분을 이러한 구성 요소에 할당해야 하므로 Dojo에서는 실용적이지 않다고 설명했습니다. 따라서 Tesla는 칩 하단을 통해 직접 전력을 공급하기로 결정했습니다.
또한 Tesla는 호스트 CPU와 훈련 프로세서 사이를 연결하는 Dojo 인터페이스 프로세서(DIP)를 개발했습니다.
각 DIP에는 32GB의 HBM이 있으며 이 카드 중 최대 5개를 900GB/s의 교육 타일에 연결하여 총 4.5TB/s, 타일 HBM당 총 160GB를 사용할 수 있습니다.
Tesla의 V1 구성은 이러한 타일(또는 150개의 D1 다이)을 어레이로 쌍으로 구성하여 각각 5개의 DIP 카드가 장착된 4개의 호스트 CPU를 지원하여 BF16 또는 CFP8의 엑사플롭 성능을 달성합니다.
Software
이러한 특수 컴퓨팅 아키텍처에는 특수 소프트웨어 스택이 필요합니다. 그러나 Venkataramanan과 그의 팀은 프로그래밍 가능성이 Dojo의 성공 또는 실패를 결정한다는 것을 인식했습니다.
"우리가 이러한 시스템을 설계할 때 소프트웨어 동료의 프로그래밍 용이성이 가장 중요합니다. 연구원은 소프트웨어 직원이 우리가 실행하려는 새로운 알고리즘을 수용하기 위해 직접 작성한 커널을 작성할 때까지 기다리지 않습니다." 이를 위해 Tesla는 커널을 사용한다는 아이디어를 포기하고 컴파일러를 중심으로 Dojo의 아키텍처를 설계했습니다.
"우리가 하는 일은 PiTorch를 사용하는 것입니다. 우리는 그 아래의 하드웨어를 확장하기 위해 병렬화하는 데 도움이 되는 중간 계층을 만듭니다. 모든 것 아래에는 컴파일된 코드가 있습니다. 로드된 소프트웨어 스택, 그게 유일한 방법이에요.
Venkataramanan은 소프트웨어의 유연성을 강조하면서 현재 연구실에서 실행 중인 플랫폼은 당분간 Tesla로 제한되어 있다고 지적했습니다.
Dojo 아키텍처 개요
위 내용을 읽은 후 Dojo의 아키텍처를 더 자세히 살펴보겠습니다.Tesla는 기계 학습을 위한 엑사급 인공 지능 시스템을 갖추고 있습니다. Tesla는 직원을 고용하고 Tesla의 차량용 시스템과 마찬가지로 해당 애플리케이션에 맞게 특별히 칩과 시스템을 구축할 수 있는 충분한 자본을 보유하고 있습니다.
Tesla는 자체 AI 칩뿐만 아니라 슈퍼컴퓨터도 만들고 있습니다. 
분산 시스템 분석
Dojo의 각 노드에는 자체 CPU, 메모리 및 통신 인터페이스가 있습니다.
Dojo Node
이것은 Dojo 프로세서의 처리 파이프라인입니다.
파이프라인 처리
각 노드에는 1.25MB의 SRAM이 있습니다. AI 훈련 및 추론 칩에서 일반적인 기술은 메모리를 계산과 함께 배치하여 데이터 전송을 최소화하는 것인데, 이는 전력 및 성능 측면에서 매우 비용이 많이 듭니다.
Node Memory
그런 다음 각 노드는 2D 그리드에 연결됩니다.
네트워크 인터페이스
데이터 경로에 대한 개요입니다.
Data Path
다음은 칩이 수행할 수 있는 목록 이해의 예입니다.
List Parsing
다음은 일반적인 Intel, Arm, NVIDIA 또는 AMD CPU/GPU의 명령어 세트가 아닌 Tesla의 원본 명령어 세트에 대한 자세한 내용입니다.
명령어 세트
인공지능에서는 산술 형식이 중요하며, 특히 칩이 지원하는 형식이 중요합니다. DOJO를 사용하여 Tesla는 FP32, FP16 및 BFP16과 같은 일반적인 형식을 연구할 수 있습니다. 이는 일반적인 업계 형식입니다.
산술 형식
Tesla는 구성 가능한 FP8 또는 CFP8에서도 작업 중입니다. 4/3 및 5/2 범위 옵션으로 제공됩니다. 이는 FP8의 NVIDIA H100 Hopper 구성과 유사합니다. 또한 다양한 FP8 유형에 초점을 맞춘 Untether.AI Boqueria 1458 RISC-V 핵심 AI 가속기를 볼 수 있습니다.
산술 형식 2
Dojo는 정확도를 높이기 위해 다양한 CFP16 형식도 제공하며 FP32, BFP16, CFP8 및 CFP16을 지원합니다.
산술 형식 3
이러한 코어는 제조된 금형에 통합됩니다. Tesla의 D1 칩은 TSMC에서 7nm 공정을 사용하여 제조됩니다. 각 칩에는 354개의 Dojo 처리 노드와 440MB의 SRAM이 있습니다.
첫 번째 통합 상자 D1 금형
이 D1 칩은 도장 훈련 타일에 포장되어 있습니다. D1 칩을 테스트한 후 5×5 타일로 조립합니다. 이 타일은 에지당 4.5TB/s의 대역폭을 갖습니다. 또한 모듈당 15kW, 즉 40개의 I/O 다이에서 사용하는 전력을 뺀 D1 칩당 약 600W의 전력 공급 범위를 갖습니다. 비교는 회사가 그런 것을 디자인하고 싶지 않다면 Lightmatter Passage와 같은 것이 왜 더 매력적일 것인지를 보여줍니다.
보조 통합 상자 Dojo 교육 타일
Dojo의 인터페이스 프로세서는 2D 그리드의 가장자리에 있습니다. 각 트레이닝 블록에는 11GB의 SRAM과 160GB의 공유 DRAM이 있습니다.
Dojo 시스템 토폴로지
다음은 처리 노드를 연결하는 2D 그리드에 대한 대역폭 데이터입니다.
Dojo 시스템 통신 로직 2D 그리드
각 DIP 및 호스트 시스템은 32GB/s 링크를 제공합니다.
Dojo 시스템 통신 PCIe 링크 DIP 및 호스트
Tesla에는 더 긴 경로를 위한 Z-plane 링크도 있습니다. 나머지 연설에서 Tesla는 시스템 수준의 혁신에 대해 이야기했습니다.
통신 메커니즘
다음은 다이와 타일의 대기 시간 범위입니다. 이것이 바로 Dojo에서 다르게 처리되는 이유입니다. Z-평면 링크가 필요한 이유는 긴 경로가 비용이 많이 들기 때문입니다.
Dojo 시스템 통신 메커니즘
모든 처리 노드는 시스템 전체의 데이터에 액세스할 수 있습니다. 각 노드는 SRAM 또는 DRAM에 데이터를 푸시하거나 풀할 수 있습니다.
Dojo 시스템 일괄 통신
Dojo는 통신에 플랫 주소 지정 방식을 사용합니다.
시스템 네트워크 1
이 칩은 소프트웨어의 결함 있는 처리 노드를 우회할 수 있습니다.
시스템 네트워크 2
이는 소프트웨어가 시스템 토폴로지를 이해해야 함을 의미합니다.
시스템 네트워크 3
Dojo는 종단간 트래픽 순서를 보장하지 않으므로 목적지에서 패킷을 계산해야 합니다.
시스템 네트워크 4
시스템 동기화의 일부로 패킷이 계산되는 방식은 다음과 같습니다.
시스템 동기화
컴파일러는 노드가 있는 트리를 정의해야 합니다
. 
System Sync 2
Tesla는 exa-pod에 1백만 개가 넘는 CPU(또는 컴퓨팅 노드)가 있다고 말합니다. 이들은 대규모 시스템입니다.
요약
Tesla는 대규모 작업을 위해 특별히 Dojo를 구축했습니다. 일반적으로 스타트업은 시스템당 하나 또는 몇 개의 AI 칩을 구축하려고 합니다. 분명히 Tesla는 더 큰 규모에 초점을 맞추고 있습니다.
테슬라가 대규모 AI 훈련장을 보유하는 것은 여러 면에서 타당합니다. 더욱 흥미로운 점은 상용 시스템을 사용할 뿐만 아니라 자체 칩과 시스템도 구축하고 있다는 점입니다. 스칼라 측의 일부 ISA는 RISC-V에서 차용했지만 벡터 측과 Tesla가 사용자 정의한 많은 아키텍처가 있으므로 많은 작업이 필요합니다.
위 내용은 Tesla Dojo 슈퍼컴퓨팅 아키텍처 세부정보 최초 공개! 자율 주행을 위한 '조각난 것'의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!
핫 AI 도구
Undresser.AI Undress
사실적인 누드 사진을 만들기 위한 AI 기반 앱
AI Clothes Remover
사진에서 옷을 제거하는 온라인 AI 도구입니다.
Undress AI Tool
무료로 이미지를 벗다
Clothoff.io
AI 옷 제거제
Video Face Swap
완전히 무료인 AI 얼굴 교환 도구를 사용하여 모든 비디오의 얼굴을 쉽게 바꾸세요!
인기 기사
뜨거운 도구
메모장++7.3.1
사용하기 쉬운 무료 코드 편집기
SublimeText3 중국어 버전
중국어 버전, 사용하기 매우 쉽습니다.
스튜디오 13.0.1 보내기
강력한 PHP 통합 개발 환경
드림위버 CS6
시각적 웹 개발 도구
SublimeText3 Mac 버전
신 수준의 코드 편집 소프트웨어(SublimeText3)
뜨거운 주제
7622
15
1389
52
89
11
70
19
31
138
Tesla가 마침내 조치를 취했습니다! 자율주행 택시 곧 공개될까? !
Apr 08, 2024 pm 05:49 PM
4월 8일 뉴스에 따르면, 일론 머스크 테슬라 최고경영자(CEO)는 최근 테슬라가 자율주행차 기술을 본격적으로 개발하기 위해 노력하고 있다고 밝혔다. 많은 기대를 모으고 있는 무인 자율주행택시 로보택시가 8월 8일 정식 출시될 예정이다. 데이터 편집자는 머스크의 다음과 같은 진술을 알게 되었습니다. 앞서 로이터통신은 테슬라의 자동차 운전 계획이 로보택시 생산에 집중할 것이라고 보도한 바 있다. 그러나 머스크는 이를 반박하면서 로이터가 저가차 개발 계획을 취소하고 또다시 허위 보도를 했다고 비난하면서 저가차 모델2와 로보택스가
Tesla Dojo 슈퍼컴퓨팅 데뷔, Musk: 연말까지 AI 훈련을 위한 컴퓨팅 성능은 대략 NVIDIA H100 GPU 8,000대와 동일할 것입니다
Jul 24, 2024 am 10:38 AM
7월 24일 본 홈페이지 소식에 따르면, 테슬라 CEO 엘론 머스크(Elon Musk)는 오늘 실적 컨퍼런스콜에서 회사가 엔비디아 H100 2천대를 탑재할 역대 최대 규모의 인공지능 훈련 클러스터를 곧 완성할 예정이라고 밝혔다. GPU. 머스크는 또한 회사 수익 결산에서 투자자들에게 Nvidia의 GPU가 비싸기 때문에 Tesla가 Dojo 슈퍼컴퓨터 개발에 참여할 것이라고 말했습니다. 이 사이트는 Musk의 연설 일부를 다음과 같이 번역했습니다. Dojo를 통해 NVIDIA와 경쟁하는 길은 어렵지만 이제 우리는 NVIDIA에 과도하게 의존하고 있다고 생각합니다. 엔비디아 입장에서는 필연적으로 시장이 감당할 수 있는 수준까지 GPU 가격을 인상하겠지만,
도전하기 위해 절벽 위로 솟아오르는 테슬라 사이버트럭, 한계를 뛰어넘는 파워쇼!
Mar 07, 2024 pm 09:28 PM
3월 7일 뉴스에 따르면 최근 미국 유타주의 작은 마을에서 '지옥의 복수로 가는 길'에 도전하는 테슬라 사이버트럭의 영상이 인터넷에 공개됐다. 클리프는 미국 유타주 솔트레이크시티에 위치해 있으며, 아웃도어 매니아들에게 인기 있는 곳이다. 여기에는 30개 이상의 오프로드 도로가 있으며, 울퉁불퉁하고 가파른 암벽은 많은 극한의 오프로드 애호가들이 도전하도록 유혹합니다. 영상에는 테슬라 사이버트럭이 45도에 가까운 V자형 계곡에 도전했을 때 3개의 모터의 강력한 힘을 이용해 꾸준히 오르며 마침내 정상에 오르는 모습이 담겨 있다. 오르막길에서 사이버트럭은 미끄러운 바위 표면에도 불구하고 미끄러짐 없이 잘 작동했습니다. 편집자의 이해에 따르면 Tesla Cybertruck 모델은 단일 모터 후면으로 구분됩니다.
테슬라의 신형 모델3 고성능 버전이 한국 인증을 통과, 전력 파라미터가 노출돼 눈길을 끌었다.
Mar 06, 2024 pm 08:49 PM
3월 6일 뉴스에 따르면 최근 언론에서는 테슬라의 신형 모델3 고성능 버전이 한국 관련 인증을 통과했다고 밝히며 눈길을 끄는 출력 매개변수를 잇달아 공개했다. 이 신차에는 전면에 장착된 3D3 유도 비동기 모터와 후면에 장착된 4D2 영구자석 동기 모터 등 첨단 듀얼 모터 시스템이 탑재돼 놀라운 출력을 낼 것으로 알려졌다. 구체적으로 프론트 모터는 215마력, 리어 모터는 최대 412마력을 제공하여 차량의 총 출력은 무려 461kW에 이릅니다. 후면 4D2 모터만으로도 약 303kW의 출력을 낸다. 이 신형 자동차의 모터 설계는 속도가 110km/h에 도달할 때 최고 출력에 도달할 수 있어 고속 주행 시 신형 Model 3의 성능이 더 좋아집니다.
Tesla의 FSD 기술이 독일을 놀라게 하고 미래에는 자율주행이 유망합니다
Apr 29, 2024 pm 01:20 PM
4월 29일 뉴스에 따르면, 테슬라는 최근 많은 기대를 모았던 완전 자율주행 FSD 기술을 독일에서 처음으로 공개 시연하며, FSD 기술이 유럽 시장에 공식 진출했음을 알렸습니다. 시연 행사에서 스웨덴 교통부의 수석 고문인 Rikard Fredriksson이 이를 경험할 기회를 가졌습니다. 그는 테슬라 모델Y를 타고 FSD(완전자율주행)의 편리함을 직접 경험했다. 독일 도로에서의 성능. Fredriksson은 Apple의 자동차 프로젝트에서 제품 안전 관련 직책을 맡았으며 자율 주행 기술에 대해 깊이 이해하고 있습니다. Fredriksson의 운전 보조 시스템을 경험한 후 FSD+12의 운전은 부드럽고 자연스럽습니다. 그는 또한 뮌헨 도심에서 공항으로 이동할 때 다음과 같이 구체적으로 언급했습니다.
Tesla의 2024년 1분기 재무 보고서 발표: 매출 감소, 저가형 모델 생산이 의제
Apr 24, 2024 pm 06:16 PM
4월 24일 뉴스에 따르면, 테슬라는 오늘 2024년 1분기 재무보고서를 공개했다. 보고서에 따르면 Tesla는 해당 분기 동안 전년 동기 대비 9% 감소한 213억 1천만 달러의 매출을 달성한 것으로 나타났습니다. 이 수치는 시장 분석가들이 예측한 223억 달러보다 약간 낮았습니다. 동시에 회사의 순이익은 11억 2900만 달러로 전년 동기 대비 55% 급감했습니다. Tesla는 자동차 판매에서 큰 성공을 거두었습니다. 1분기에는 전 세계적으로 386,800대의 차량이 인도되었으며, 이는 시장의 이전 예상인 약 430,000대보다 훨씬 낮은 수치입니다. 지난해 같은 기간과 비교하면 배송량이 8.3% 줄었고, 전분기와 비교해도 20.1% 급감했다. 이는 테슬라가 2020년 이후 처음으로 전년 동기 대비 납품 감소를 기록한 것이다. 속도를 늦추려면
Tesla의 상하이 에너지 저장 기가팩토리(Shanghai Energy Storage Gigafactory)는 연내 시험 가동에 들어갈 예정이며, 예상 에너지 저장 규모는 거의 40GWh에 이릅니다.
Mar 22, 2024 pm 12:32 PM
상하이 미래 산업 파일럿 존 건설이 '1주년'을 맞이했습니다. Lingang New Area Management Committee 하이테크 부문 이사 Lu Yu가 주최한 언론 브리핑에서 많은 기대를 모으고 있는 Tesla 에너지 저장 장치에 대한 중요한 정보가 나왔습니다. 프로젝트가 공개되었습니다. Lu Yu는 이 프로젝트가 올해 안에 시험 생산을 완료할 계획이며 생산 규모는 40GWh에 가까울 것으로 예상한다고 말했습니다. 이 소식은 Tesla의 에너지 저장 프로젝트가 지역 산업 발전과 재생 에너지 활용에 큰 의미를 갖는다는 점에서 큰 관심을 끌었습니다. 세계적인 전기차 제조사인 테슬라의 에너지 저장 분야 참여가 큰 관심을 끌었다. 상하이와 협력함으로써 Tesla의 Lingang New Area 에너지 저장 프로젝트 건설은 지역 산업 수준과 기술 혁신 역량을 향상시키는 데 도움이 될 것입니다. Lu Yu는 또한 새로운 에너지 분야에서 Lingang의 다른 진전을 소개했습니다. 그가 언급한
Tesla Cybertruck 양산은 긍정적인 신호를 보이고, 텍사스 공장의 항공사진은 대규모 생산 상황을 보여줍니다
Mar 15, 2024 pm 12:04 PM
테슬라의 최신 순수 전기 픽업트럭 사이버트럭(Cybertruck)의 생산 진행 상황이 많은 관심을 받고 있다. Tesla는 눈에 띄지 않지만 최근 Jeff Roberts라는 Tesla 관찰자가 촬영한 텍사스 기가팩토리의 항공 영상은 사이버트럭 생산의 긍정적인 신호를 외부 세계에 드러내는 것으로 보입니다. 영상에 따르면 텍사스주 테슬라 기가팩토리에는 이미 300대 이상의 사이버트럭이 다양한 지역에 분산돼 있다. 이번에 나온 숫자는 지금까지 공장에서 발견된 사이버트럭 중 가장 많은 숫자로, 해당 모델의 양산이 급속도로 발전하고 있음을 보여준다. 이는 테슬라가 사이버트럭 생산에 상당한 진전을 이뤘음을 보여준다. Tesla는 이전에 Cybertr에 대한 우려를 표명했지만
