대규모 언어 모델은 AI 워크로드의 개선을 요구하는 컴퓨팅의 미래를 형성할 것입니다.
작성자: Luo Yiqi
편집자: Luo Yifan Lu Taoran
사진 출처: Visual China
모바일 단말기는 점점 더 많은 형태로 등장하고 있으며 더 큰 컴퓨팅 성능을 가질 것으로 예상되며, 이로 인해 기본 칩 측면의 기술적 역량에 대한 요구가 더 커집니다.
최근 Arm은 2023년 토탈 컴퓨팅 솔루션(TCS23)의 출시를 발표했습니다. Arm의 수석 부사장이자 터미널 사업부 총괄 관리자인 Chris Bergey에 따르면, “TCS23에는 새로운 5세대 GPU를 기반으로 하는 새로운 Arm Immortalis GPU가 포함되어 있습니다. 차세대 인공 지능(AI)의 성능 리더십을 유지하는 새로운 Armv9 CPU 클러스터와 수백만 명의 Arm 개발자가 소프트웨어에 더 쉽게 접근할 수 있도록 하는 새로운 개선 사항입니다.”
Arm China Business의 글로벌 부사장 Zou Ting은 연설에서 다음과 같이 말했습니다. 현재 생성 AI를 포함한 지능형 기술이 모바일 장치에 등장하는 것을 점점 더 많이 볼 수 있습니다. 동시에 더 높은 성능, 더 많은 지능, 더 많은 시각적, 촉각적 상호 작용에 대한 수요가 계속해서 급증하고 있습니다. 이로 인해 이전보다 컴퓨팅 요구 사항이 더 크고 복잡해졌습니다.
"모바일 데이터 사용량은 계속 증가하고 있습니다. 전 세계 사용자당 월평균 트래픽은 19GB에 이를 것으로 예상됩니다. 플렉서블 디스플레이, AR 광학 등 새로운 형태와 요소도 다양한 방식으로 대중의 관심을 끌기 시작했습니다. 생성 AI 및 모바일 엔드투엔드 언어 모델의 출현은 새로운 기능을 가져올 것입니다. 우리는 모바일 장치 혁신에 대한 세계의 관심과 요구가 계속해서 가속화될 것이라고 믿습니다.”라고 그는 말했습니다.
라이선스 과금 모델 조정에 대한 시장 논의에 대해 Arm은 21세기 비즈니스 헤럴드 기자에게 "Arm은 침묵 기간에 있기 때문에 이에 대해 언급할 수 없습니다. 동시에 우리는 소문이나 추측에 대해 언급하지 않습니다. ."
효율성이 다시 향상되었습니다
Zou Ting은 Arm 2023 종합 컴퓨팅 솔루션이 스마트폰의 요구 사항을 염두에 두고 설계되었으며 새로운 플래그십 Arm Immortalis GPU와 새로운 Armv9 CPU 클러스터를 포괄한다고 소개했습니다.
구체적으로 Arm이 올해 출시한 GPU 제품은 5세대 GPU 아키텍처를 채택해 그래픽 파이프라인의 일부를 재정의해 메모리 대역폭을 최적화해 모바일 기기에서 기하학적 부하가 높은 차세대 게임과 실시간 3D 애플리케이션을 지원한다. PC 및 게임 콘솔에 필적하는 보다 부드러운 게임 경험을 제공합니다.
DVS(Deferred Vertex Shading)는 데이터 흐름을 재정의하고 파트너가 코어 수를 확장하고 더 높은 성능 수준을 달성하는 데 도움이 되는 5세대 GPU 아키텍처에 새로 도입된 그래픽 기능입니다.
이전 세대 제품에 비해 Arm Immortalis-G720의 성능과 에너지 효율은 각각 15%, 시스템 수준 효율은 40%, 면적은 2%만 증가했습니다.
Armv9 Cortex CPU 컴퓨팅 클러스터는 3년 연속 두 자리 수의 성능 향상을 달성했으며 효율성도 크게 향상되었습니다.
4세대 코어인 Arm Cortex-X4는 이전 세대 Cortex-X3에 비해 성능이 15% 향상되었습니다. 동일한 프로세스를 기반으로 한 새로운 에너지 효율적인 마이크로 아키텍처는 전력 소비를 40% 줄이고 면적을 늘릴 수 있습니다. 단지 10%. 대형 코어 프로세서 Cortex-A720과 소형 코어 Cortex-A520은 모두 이전 세대에 비해 에너지 효율을 20% 향상시킵니다.
Zou Ting은 Arm이 초기 단계에서 파트너의 피드백을 적극적으로 듣고 상호 연결로 인한 지연을 25% 줄이고 유휴 전력을 최적화하는 등 TCS23에 여러 혁신적인 기술을 도입했다고 말했습니다. 그래도 여전히 좋은 시스템 성능을 얻을 수 있습니다.
구체적인 응용 시나리오 측면에서 Apple이 올해 MR 제품을 출시할 예정이어서 혼합 현실 산업의 발전이 많은 주목을 받았습니다. Arm Terminal 사업부 제품 관리 이사인 Andy Craigen은 21세기 비즈니스 헤럴드 기자에게 이렇게 답했습니다. “MR 제품의 과제는 주로 제품의 무게와 힘, 특히 매우 가벼운 안경 형태에 초점이 맞춰져 있습니다. 새로 출시된 Immortalis-G720은 MR 제품에 필요한 그래픽 성능 요구 사항을 지원하기에 충분한 처리 능력을 제공할 것입니다.”
제너레이티브 AI의 새로운 트렌드
이러한 AI의 물결에 따라 모바일 스마트 단말기의 성능 형태와 애플리케이션 요구 사항도 바뀔 것입니다.
모바일 단말기의 후속 개발 동향에 대해 Chris Bergey는 "가장 눈에 띄는 것은 생성 AI에 대한 관심이라고 생각합니다. 이전 Google I/O 컨퍼런스는 생성 AI를 Android 생태계에 도입하는 데 중점을 두었지만 Microsoft Build 개발자 컨퍼런스는 사용자 경험을 더욱 향상시키기 위해 Windows 11에 이러한 기능을 도입하는 것에 대해 이야기했습니다. 따라서 생성 AI 및 대규모 언어 모델이 확실히 새로운 분야임이 분명합니다.”
이와 관련하여 Arm도 Arm 아키텍처에서 AI가 잘 돌아갈 수 있도록 적극적으로 대응하고 있습니다. “우리는 미래가 더욱 하이브리드 환경이 될 것이라고 믿습니다. 클라우드 컴퓨팅은 계속해서 대규모 언어 모델을 만드는 데 큰 역할을 하지만 스마트폰이나 기타 컴퓨팅 장치에서 로컬로 실행하면 더 나은 개인 정보 보호, 에너지 효율성 및 기타 이점을 얻을 수 있다는 점을 고려합니다. 문제도 더 높습니다. 사용자는 장치 자체에서 더 작은 모델을 실행하려는 의지가 더 강할 수 있습니다. "그는 계속해서 큰 언어 모델이 컴퓨팅의 미래를 형성할 것이며 이는 AI 작업 부하가 더욱 개선되어야 함을 의미합니다. , Arm은 매우 이 분야의 풍부한 보유량과 Arm의 플랫폼에서 AI 성능이 두 배로 향상되었습니다.
"우리는 개발자가 Chat GPT 또는 대규모 언어 모델과 같은 애플리케이션을 계속 활용하여 애플리케이션을 개발할 수 있도록 Arm NN 및 Arm Compute Library에 대한 지원을 계속 발전시킬 것입니다."라고 Chris Bergey는 덧붙였습니다.
현재 자동차 전자단말기는 하향세인 반도체 시장에서 역세 성장 포인트로 자리잡고 있습니다. 이 분야 시장에 대해 Arm은 기자들에게 "현재 반도체 산업에서 자동차는 가장 큰 성장 동력 중 하나입니다. 우리는 이 시장이 IP 디자인부터 자동차 공장 및 기타 전체 공급에 이르기까지 중요한 변곡점에 있음을 봅니다. 체인이 재검토되고 재정의되고 있습니다 새로운 플레이어가 대열에 합류하고 있으며, 기존 플레이어는 경쟁력을 유지하기 위해 새로운 방법과 아이디어를 찾고 있습니다. 생태계는 다양한 처리 기능을 통해 다양한 자동차 작업 부하를 안전하고 효과적으로 해결하는 방법을 모색하고 있습니다. 필요하다면 이 분야의 혁신이 계속해서 빠르게 발전하는 것을 보게 될 것입니다.”
21테크
남채그룹 특집 칼럼
이전 추천
"100개 모델" 대회가 본격화되었으며 경로는 여러 면에서 발전해 왔습니다
06-01
FF 배송 시작, Jia Yueting은 아직 삶의 어둠에서 멀리 떨어져 있습니다
05-31
생성 AI 정원에서 NVIDIA가 어떻게 "파는 사람"으로 작동하는지
05-31
산업 인터넷에서 AIGC까지: 스마트 제조는 어떻게 도약할 수 있나요?
05-30
위 내용은 Arm, 터미널에서 AI를 더 효과적으로 실행하는 방법을 모색하기 위해 2023년 새로운 컴퓨팅 솔루션 출시의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!