AI가 어디에나 있게 해주세요! Intel, 새로운 VPU 출시: 초고에너지 효율성으로 GPU 압도

AI, 인공지능, 이건 사실 전혀 새로운 것이 아닙니다.

초기 SF 작품부터 점진적인 구현까지, 1997년 IBM 슈퍼컴퓨터 '딥 블루'가 체스 명장 카스파로프를 물리친 것부터 2016년 구글 알파고가 바둑 챔피언 이세돌을 물리치는 것에 이르기까지 AI는 발전을 거듭해 왔습니다. 또한 끊임없이 발전하고 있습니다.

그러나 컴퓨팅 성능 알고리즘, 기술 역량, 응용 시나리오 등의 다양한 제한으로 인해 AI는 항상 공중에 떠 있는 성처럼 느껴져 왔습니다.

ChatGPT가 등장하고 나서야 AI가 일반 사람들의 열정을 불러일으켰습니다. 우리는 AI가 매우 강력하고 쉽게 사용할 수 있어 많은 개인과 회사가 AI에 열광하고 있다는 것을 알게 되었습니다.

우리 모두 알고 있듯이 충분히 강력하고 합리적인 하드웨어와 알고리즘은 효율적이고 실용적인 AI를 구현하는 두 가지 초석입니다. 이러한 AI 열풍 속에서 NVIDIA는 고성능 컴퓨팅 분야에서 수년간의 경험을 쌓아왔기 때문에 매우 자랑스럽습니다. 및 심층 재배는 초대형 클라우드 AI 개발에 매우 ​​적합합니다.

물론 AI는 클라우드 측과 디바이스 측 모두에서 구현 방법과 적용 시나리오 측면에서 다양합니다.

NVIDIA는 클라우드 측 생성 AI와 생성 AI에 중점을 두고 있습니다. Intel은 클라우드 측 생성 및 장치 측 판단을 모두 공격하고 있으며, 점점 더 많은 AI가 장치에서 실행되면서 일반 사용자의 일상 경험에 더욱 가까워졌습니다. 미래에는 점점 더 분명해지고 있으며 인텔은 할 일이 많습니다.

기기 측 AI에는 몇 가지 뛰어난 기능이 있습니다.

첫째, 사용자 기반이 거대하고 애플리케이션 시나리오가 점점 더 광범위해지고 있습니다.

둘째, 처리를 위해 명령과 데이터를 클라우드로 전송하고 다시 전송하기 위해 네트워크에 의존할 필요가 없습니다.

셋째, 개인 정보 보호 및 보안으로 업로드 후 개인 정보, 영업 비밀 등이 유출될 염려가 없습니다.

넷째, 비용이 저렴합니다. 대규모 서버 및 계산이 필요하지 않으며 로컬 장비만으로 완료할 수 있습니다.

온디바이스 AI가 이상하게 들릴 수도 있지만, 사실 사람들에게 익숙한 배경흐림, 시각적 미화, 소리 미화(오디오 노이즈 감소), 영상 노이즈 감소, 이미지 분할 등 모두 온디바이스 AI입니다. 일반적인 애플리케이션 시나리오에서 AI는 뒤에서 열심히 일하고 있습니다.

이러한 애플리케이션이 더 나은 결과를 얻으려면 더 완전하고 복잡한 네트워크 모델이 필요하며 컴퓨팅 성능에 대한 수요는 자연스럽게 빠르게 증가하고 있습니다.

예를 들어 소음 억제를 위해 필요한 컴퓨팅 성능은 2년 전보다 50배가 되었고, 배경 분할도 10배 이상 늘어났습니다.

생성 AI 모델이 등장한 후 컴퓨팅 성능에 대한 욕구가 비약적으로 증가하여 직접적으로 수십 배 증가했다는 것은 말할 것도 없습니다. 안정적인 확산이든 언어 기반 GTP이든 모델 매개변수는 매우 과장되었습니다.

예를 들어, GPT3의 매개변수 수는 약 1,750억 개에 이르렀으며, 이는 GPT2의 매개변수 수의 약 500배에 달하는 수준입니다.

이 모두는 하드웨어 및 알고리즘에 대한 보다 엄격한 요구 사항을 제시합니다.

인텔은 오랫동안 AI에 주목하고 투자하기 시작했습니다. 서버 수준의 Xeon이든 소비자 수준의 Core이든 다양한 방식으로 AI에 참여하고 있습니다. 대부분 AI에서 비롯됩니다.

이전에 인텔 AI 솔루션은 주로 CPU와 GPU의 아키텍처 및 명령어 세트 수준에서 가속되었습니다.

예를 들어 10세대 Core와 2세대 확장 가능한 Xeon에서 추가된 딥 러닝 기반 DL Boost

에는 VNNI 벡터 신경망 명령, BF16/INT8 가속 등이 포함됩니다.

예를 들어 11세대 Core에 추가된 Gaussian Network Accelerator GNA 2.0

은 NPU의 역할과 동일하며 매우 적은 리소스만 소모하며 신경 추론 계산을 효율적으로 수행할 수 있습니다.

예를 들어, 4세대 확장 가능한 Xeon 코드명 Sapphire Rapids의 AMX 고급 매트릭스 확장

은 AI 실시간 추론 및 훈련 성능을 최대 10배까지 향상시켰으며 대규모 언어 모델의 처리 속도도 향상시켰습니다. 동시에 지원 소프트웨어 및 도구 개발도 더욱 완벽하고 풍부해졌습니다.

인텔의 관점에서는 모든 AI 시나리오에 적합한 단일 하드웨어 아키텍처는 없습니다. 하드웨어마다 고유한 특성이 있고

일부는 강력한 컴퓨팅 능력을 갖고 일부는 매우 낮은 지연 시간을 가지며 일부는 다재다능하고 일부는 전문화됩니다.

인프라로서 AI는 로드와 지연이 다양한 다양한 시나리오 애플리케이션과 요구 사항을 가지고 있습니다. 예를 들어 실시간 음성 및 이미지 처리에는 강력한 컴퓨팅 성능이 필요하지 않지만 지연에 매우 민감합니다.

현재 인텔의 XPU 전략은 매우 특별한 이점을 가지고 있습니다. CPU는 지연에 민감한 경량 AI 처리에 적합하고, GPU는 고부하, 고도의 병렬 AI 애플리케이션에 적합합니다.

인텔의 또 다른 비교할 수 없는 장점은 안정적이고 거대한 x86 생태계로, 애플리케이션이나 개발에 관계없이 광범위한 대중 기반을 보유하고 있습니다.

이제 인텔은 다시 VPU를 갖게 되었습니다.

올해 말 출시 예정인 Meteor Lake는 처음으로 독립적인 VPU 장치를 통합할 예정이며, 특정 AI 작업을 보다 효율적으로 수행할 수 있는 모든 모델에 표준으로 적용됩니다.

Intel VPU 장치의 기술 소스는 Intel이 2017년 인수한 AI 스타트업 Movidius에서 나왔습니다. 이를 통해 설계된 VPU 아키텍처는 4TOPS의 강력한 컴퓨팅 성능을 달성하는 데 1.5W의 전력 소비만 필요합니다. 에너지 효율은 그야말로 천차만별이다. 초기에는 드론 장애물 회피 등에 사용됐고, 이제는 프로세서에 들어가 CPU, GPU와 연동해 작동하고 있다.

VPU는 본질적으로 AI용으로 설계된 새로운 아키텍처로, 일부 매트릭스 작업을 효율적으로 수행할 수 있으며 특히 희소 처리에 적합합니다. 초저전력 소모와 초고에너지 효율성은 개방이 필요한 일부 애플리케이션에 매우 적합합니다. 화상회의를 위한 배경 흐림 및 제거, 미디어 스트리밍을 위한 제스처 제어 등의 시나리오를 오랫동안 실행했습니다.

이미 CPU와 GPU가 있는데 VPU를 구축해야 하는 이유는 인텔의 출발점이 현재 많은 엔드사이드 애플리케이션이 배터리 수명에 매우 민감한 노트북에서 수행된다는 것입니다. 효율성 VPU는 모바일 장치에 적합합니다.

또 다른 요인은 CPU와 GPU가 일반 컴퓨팅 플랫폼으로서 그 자체로 무거운 작업을 수행한다는 점입니다. 이에 AI 부하가 많이 추가되면 실행 효율성이 크게 떨어집니다.

특정 애플리케이션 시나리오 측면에서 VPU는 또한 매우 광범위합니다. 예를 들어 화상 회의의 경우 현재 CPU AI는 이미 자동 프레이밍(Auto-Framing), 시선 추적, 가상 아바타/인물, 제스처 인식 등을 구현할 수 있습니다.

낮은 전력 소비와 높은 컴퓨팅 성능을 갖춘 VPU를 추가한 후 배경 흐림, 동적 노이즈 감소 및 기타 처리를 향상하여 효과를 더욱 정확하게 만들 수 있습니다. 예를 들어 배경의 물체를 흐리게 해야 한다면 흐리게 해야 합니다. , 사람의 손/머리카락이 더 이상 흐려지지 않습니다.

효율적인 하드웨어와 적절한 시나리오를 통해 최대한의 힘을 발휘하고 최상의 결과를 얻으려면 똑같이 효율적인 소프트웨어가 필요합니다. 이는 수만 명의 소프트웨어 개발자가 있는 Intel에게는 실제로 문제가 되지 않습니다.

Meteor Lake는 아직 공식적으로 출시되지 않았습니다. 인텔은 VPU 적응을 위해 많은 생태학적 파트너와 협력했으며 독립 소프트웨어 개발자도 매우 활발하게 활동하고 있습니다.

예를 들어 Adobe, 다양한 필터, 자동화된 처리, 지능형 컷아웃 등을 VPU를 사용하여 실행할 수 있습니다.

예를 들어 가상 앵커, VPU 등 언리얼 엔진의 디지털 인력은 실시간 캡처와 렌더링을 매우 잘 수행할 수 있습니다.

Blender, Audacity, OBS, GIMP... 목록이 길어질 수 있으며 계속해서 늘어나고 있습니다.

더 중요한 것은 CPU, GPU 및 VPU가 각자의 작업을 수행하지 않지만 결합하여 각각의 장점을 최대한 활용하여 최고의 AI 경험을 얻을 수 있다는 것입니다.

예를 들어 GIMP에는 Stable Diffusion 기반의 플러그인이 있는데, 이는 일반 사용자가 생성 AI를 사용하는 임계값을 크게 낮출 수 있으며 CPU, GPU 및 VPU의 가속 기능을 완전히 동원하고 전체를 분산시킬 수 있습니다. 서로 다른 IP 간에 모델을 만들고, 서로 협력하여 최고의 성능을 얻습니다.

그 중 VPU는 VNET 모듈을 호스팅할 수 있고 GPU는 인코더 모듈의 실행을 담당합니다. 이러한 협력을 통해 복잡한 그림을 생성하는 데 약 20초 밖에 걸리지 않습니다.

그 중 VPU의 전력 소비가 가장 낮고 CPU가 그 뒤를 따르고 GPU가 가장 높습니다.

인텔은 PC 경험 향상에 있어 AI의 중요성을 충분히 인식하고 있습니다. 이러한 과제를 해결하기 위해 인텔은 하드웨어와 소프트웨어 수준 모두에서 AI의 개발과 대중화를 촉진하기 위해 모든 노력을 다하고 있으며, 이를 위한 탄탄한 기반을 마련하고 있습니다. 기기 측면에서 AI의 대중화.

하드웨어 수준에서는 CPU, GPU 및 VPU가 소프트웨어 수준에서 유비쿼터스 기반 플랫폼을 형성하며 OpenVINO와 같은 다양한 표준화된 개발 소프트웨어가 애플리케이션 시나리오 탐색을 크게 촉진합니다.

향후 Meteor Lake 플랫폼을 탑재한 얇고 가벼운 노트북에서는 Stable Diffusion과 같은 대형 모델을 쉽게 실행하여 Vincentian 그래프를 구현할 수 있어 AI의 적용 임계값을 크게 줄일 수 있습니다. 효율적으로, 궁극적으로 진정한 AI를 달성하는 것은 어디에나 있습니다.

위 내용은 AI가 어디에나 있게 해주세요! Intel, 새로운 VPU 출시: 초고에너지 효율성으로 GPU 압도의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!