IBM, AI 칩 NorthPole 출시: '인간 두뇌의 작동을 시뮬레이션'할 수 있다고 주장하는 내장 메모리

IT 홈뉴스 지난 10월 24일, IBM 리서치는 인간 두뇌의 작동에서 영감을 받아 추정 성능이 4nm GPU를 능가하고 엣지 컴퓨팅 등에 적합한 것으로 알려진 AI 칩 NorthPole을 최근 출시했습니다. 필드.

IT House는 문의 끝에 NorthPole 칩이 IBM이 2014년 "인간 두뇌의 작동을 시뮬레이션"하기 위해 사용한 TrueNorth 칩의 후속 제품이라는 사실을 알게 되었습니다. 칩 개발도 TrueNorth 칩의 수장인 Dharmendra Modha가 주도하고 있습니다.

▲ 사진 출처 IBM

전통적인 반도체 산업에서는 칩이 주로 동일한 기본 아키텍처를 따르며, 처리 장치와 저장된 정보가 서로 분리되어 있는 것으로 보고됩니다. 이러한 아키텍처는 칩 설계 모델을 단순화하지만 전송 속도를 유지할 수 없기 때문에 발생하기도 합니다. "von Neumann Bottleneck"과 Dharmendra Modha는 인간의 뇌가 현재 알려진 가장 에너지 효율적인 프로세서라고 믿고 인간의 뇌를 디지털 방식으로 복제하는 방법을 계속 찾고 있습니다.

현재 IBM이 출시한 NorthPole 칩과 기존 칩의 가장 큰 차이점은 "칩 내장 메모리"입니다. "Von Neumann 병목 현상"이 없으면 NorthPole 칩의 AI 추론 기능이 경쟁 제품보다 우수합니다. 시장.

NorthPole은 12nm 공정을 사용하지만 800제곱밀리미터에 220억 개의 트랜지스터가 배치되어 있으며 8비트 정밀도에서 각 코어는 4비트 또는 2비트로 2048개의 작업을 수행할 수 있습니다. 정밀도가 높을수록 작업 횟수를 두 배로 늘릴 수 있습니다.

▲ NorthPole이 탑재된 PCIe 카드, 사진 출처 IBM

구체적인 아키텍처 측면에서 NorthPole은 컴퓨팅과 스토리지 사이의 경계를 모호하게 만들어 NorthPole을 시스템에 쉽게 통합하고 칩이 장착된 장비의 부하를 크게 줄일 수 있다고 주장합니다.

IBM Research는 ResNet-50 모델에서 NorthPole을 테스트했습니다. 12nm 프로세스를 기반으로 하는 경쟁 GPU 제품과 비교했을 때 NorthPole의 초당 프레임 식별 에너지 효율성은 대기 시간이나 컴퓨팅 공간 요구 사항에 관계없이 경쟁 제품의 25배입니다. 시중의 모든 주류 아키텍처보다 우수하며, 4nm 기술 기반 GPU보다 훨씬 뛰어납니다.

그러나 NorthPole의 장점은 약점이기도 합니다. NorthPole은 외부 데이터를 읽을 때 칩에 통합된 로컬 데이터 정보만 쉽게 읽을 수 있습니다.

Dharmendra Modha는 NorthPole을 GPT-4 호스팅에 사용할 수는 없지만 많은 기업에서 요구하는 모델 추론 요구 사항을 충족해야 한다고 주장합니다.

현재 IBM Research에서는 NorthPole의 적용 분야를 계속 연구하고 있습니다. 연구원들은 자율 주행, 원격 감지 통신 및 기타 분야와 같이 대량의 데이터를 즉시 처리해야 하는 많은 엣지 컴퓨팅 애플리케이션이 NorthPole에 매우 적합할 수 있다고 믿습니다. 북극을 사용할 수 있습니다.

광고문: 기사에 포함된 외부 점프 링크(하이퍼링크, QR 코드, 비밀번호 등을 포함하되 이에 국한되지 않음)는 더 많은 정보를 전달하고 선택 시간을 절약하기 위해 사용됩니다. IT의 모든 기사는 참고용입니다. House에는 이 진술이 포함되어 있습니다.

위 내용은 IBM, AI 칩 NorthPole 출시: '인간 두뇌의 작동을 시뮬레이션'할 수 있다고 주장하는 내장 메모리의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!