메타 자체 개발 AI칩 진전: 2025년 첫 AI칩 출시, 영상 AI칩도 나올 예정
5월 19일 외신 테크크런치에 따르면, 페이스북 모회사인 메타는 오늘 오전 온라인 행사에서 최근 출시한 광고 디자인 및 제작 도구인 제너레이티브 AI(Generative AI)를 지원할 수 있는 자체 개발 AI 칩의 진행 상황을 처음으로 공개했다. 기술.
ΔMeta CEO Zuckerberg가 자체 개발한 최초의 AI 칩 MTIA를 선보입니다
Meta 인프라 담당 부사장 Alexis Bjorlin은 다음과 같이 말했습니다. “자체 [하드웨어] 기능을 구축하면 데이터 센터 설계부터 교육 프레임워크까지 스택의 모든 계층을 제어할 수 있습니다. 인공지능 연구의 경계.”
최초 자체 개발 AI 칩 MTIA
지난 10여 년 동안 Meta는 최고의 데이터 과학자를 모집하고 새로운 유형의 인공 지능을 구축하는 데 수십억 달러를 투자했습니다. 여기에는 현재 앱과 인공 지능 서비스 전반에 걸쳐 검색 엔진, 중재 필터, 광고 추천 기능이 포함됩니다. 이 회사는 특히 생성 AI 분야에서 야심 찬 AI 연구 혁신을 제품으로 전환하기 위해 노력해 왔습니다.
2016년부터 인터넷 굴지의 기업들이 클라우드 AI 칩 개발에 적극적으로 나서고 있습니다. Google은 PaLM-2, Imagen 등과 같은 생성 AI 시스템 교육을 위해 TPU(Tensor Processor Unit)라는 자체 개발 AI 칩을 설계 및 배포해 왔습니다. Amazon은 AWS 고객에게 자체 개발한 AI 칩인 AWS Trainium과 AWS를 제공합니다. 응용 프로그램용 칩입니다. 마이크로소프트도 AMD와 협력해 아테나(Athena)라는 AI 칩을 개발하고 있다는 소문이 돌았다.
이전에 Meta는 AI 워크로드를 실행하기 위해 AI 알고리즘을 가속화하도록 설계된 타사 CPU와 맞춤형 칩의 조합을 주로 사용했습니다. 이러한 작업을 처리할 때 CPU는 GPU보다 효율성이 떨어지는 경향이 있습니다. 이러한 상황을 반전시키기 위해 메타는 2020년 7nm 공정 기반의 1세대 자체 개발 AI 칩 MTIA(MTIA v1)를 개발했습니다.
Meta는 AI 칩을 Meta Training and Inference Accelerator, 줄여서 MTIA라고 부르며 AI 훈련 및 추론 워크로드를 가속화하는 AI 칩 "패밀리"의 일부로 설명합니다. MTIA는 단일 기판에 다양한 회로를 결합한 칩인 ASIC으로, 하나 이상의 작업을 병렬로 수행하도록 프로그래밍할 수 있습니다.
“중요한 워크로드에서 더 높은 수준의 효율성과 성능을 달성하려면 사용자 경험을 위한 다양한 서비스를 개선하기 위해 모델, 소프트웨어 스택 및 시스템 하드웨어와 공동 엔지니어링된 맞춤형 솔루션이 필요했습니다.”라고 Bjorlin은 설명했습니다.
소개에 따르면 MTIA v1은 7nm 공정으로 제조되며 내부 128MB 메모리는 최대 128GB까지 확장이 가능합니다. Meta는 MTIA가 AI 추천 시스템과 관련된 작업을 처리하는 데 특별히 사용될 수 있어 사용자가 최고의 게시물 콘텐츠를 찾아 더 빠르게 사용자에게 제공할 수 있도록 돕고 컴퓨팅 성능과 처리 효율성이 CPU보다 우수하다고 말했습니다. 또한 Meta 디자인의 벤치마크 테스트에서 MTIA는 "낮은 복잡도" 및 "중간 복잡도" AI 모델을 처리하는 데 있어서 GPU보다 더 효율적입니다.
Meta는 MTIA 칩의 메모리 및 네트워크 영역에서 아직 수행해야 할 작업이 남아 있다고 말했습니다. AI 모델의 규모가 커지면 병목 현상이 발생하고 작업 부하가 여러 칩에 분산되어야 합니다. 최근 메타는 이를 위해 오슬로에 본사를 둔 영국 칩 유니콘 그래프코어의 AI 네트워크 기술팀을 인수했다. 현재 MTIA는 Meta 애플리케이션 제품군의 "권장 워크로드"에 대한 교육 기능보다 추론 기능에 더 중점을 두고 있습니다.Meta는 권장 워크로드를 실행할 때 와트당 성능 측면에서 회사의 효율성을 "현저하게" 향상시켜 Meta가 "더 향상된" "최첨단" 인공 지능 워크로드를 실행할 수 있도록 하는 MTIA를 지속적으로 개선할 것이라고 강조했습니다. .
계획에 따르면 메타는 2025년 자체 개발한 MTIA 칩을 공식 출시할 예정이다.
Meta의 AI 슈퍼컴퓨터 RSC
보도에 따르면 Meta는 원래 자체 개발한 맞춤형 AI 칩을 2022년에 대규모로 출시할 계획이었지만 결국 이를 연기하고 대신 슈퍼컴퓨터 RSC(Research SuperCluster)를 위해 수십억 달러 상당의 Nvidia GPU를 주문했습니다. 여러 데이터 센터 중 하나가 필요했습니다.보도에 따르면 RSC는 2022년 1월 데뷔해 펭귄컴퓨팅(Penguin Computing), 엔비디아(Nvidia), 퓨어스토리지(Pure Storage)와 파트너십을 맺고 2단계 확장을 완료했다. Meta는 현재 16,000개의 Nvidia A100 GPU가 장착된 총 2,000개의 Nvidia DGX A100 시스템을 보유하고 있다고 말합니다.
하지만 RSC의 현재 컴퓨팅 성능은 Microsoft와 Google의 AI 슈퍼컴퓨터에 비해 뒤떨어져 있습니다. Google은 자사의 AI 중심 슈퍼컴퓨터가 26,000개의 Nvidia H100 GPU로 구동된다고 주장합니다. Meta는 RSC의 장점은 연구원들이 Meta의 생산 시스템의 실제 사례를 사용하여 모델을 훈련할 수 있다는 점에 주목했습니다. 오픈 소스와 공개적으로 사용 가능한 데이터 세트를 활용했던 회사의 이전 AI 인프라와 달리 이제 이 인프라를 사용할 수 있습니다.
RSC AI 슈퍼컴퓨터는 생성 AI를 포함한 여러 분야에서 AI 연구를 발전시켜 연구의 경계를 넓히고 있습니다. 메타 대변인은 "이것은 실제로 AI 연구의 생산성에 관한 것"이라고 말했습니다. 우리는 AI 연구자들에게 모델을 개발할 수 있는 최첨단 인프라를 제공하고 AI 발전을 위한 교육 플랫폼을 제공하고자 합니다. ”
Meta는 RSC가 최고조에 달할 때 거의 5엑사플롭스의 컴퓨팅 성능에 도달하여 세계에서 가장 빠른 RSC 중 하나가 될 수 있다고 주장합니다.
Meta는 LLaMA 교육에 RSC를 사용합니다. 여기서 RSC는 "Large Scale Language Model Meta Artificial Intelligence"의 약어를 나타냅니다. Meta는 가장 큰 LLaMA 모델이 2,048개의 A100 GPU에서 훈련되었으며 21일이 걸렸다고 말합니다.
Meta 대변인은 “자체 슈퍼컴퓨팅 기능을 구축하면 데이터 센터 설계부터 교육 프레임워크까지 스택의 모든 계층을 제어할 수 있습니다.”라고 덧붙였습니다. “RSC는 Meta의 AI 연구원이 수조 개의 데이터로부터 학습할 수 있는 새롭고 더 나은 AI 모델을 구축하는 데 도움이 될 것입니다. 수백 가지 언어로 작업하고, 텍스트, 이미지, 비디오를 원활하게 분석하고, 새로운 증강 현실 도구 등을 개발합니다.”
향후 Meta는 AI 성능을 더욱 향상시키기 위해 자체 개발한 AI 칩 MTIA를 RSC에 도입할 수도 있습니다.
영상 처리용 AI 칩 MSVP
MTIA 외에도 Meta는 MSVP(Meta Scalable Video Processor)라는 또 다른 AI 칩을 개발 중입니다. 이 칩은 주로 주문형 비디오 및 라이브 스트리밍의 증가하는 데이터 처리 요구를 충족하도록 설계되었습니다. 영상 콘텐츠 처리 업무는 MSVP에서 수행합니다.사실 Meta는 수년 전부터 맞춤형 서버 측 비디오 처리 칩을 구상하기 시작했으며 2019년에 비디오 트랜스코딩 및 추론 작업을 위한 ASIC 출시를 발표했습니다. 이는 이러한 노력의 정점이자 경쟁 우위를 위한 새로운 추진력입니다. 특히 라이브 비디오 스트리밍 분야에서 그렇습니다.
메타 기술 디렉터 하리크리슈나 레디(Harikrishna Reddy)와 첸 윤칭(Yunqing Chen)은 19일 오전 공개된 블로그 게시물에서 “페이스북에서만 사람들은 시간의 50%를 동영상을 보는 데 보낸다”고 썼다. Facebook 또는 Instagram은 다양한 장치(모바일, 노트북, TV 등)에 대해 다양한 인코딩 형식, 해상도 및 품질을 사용하여 여러 비트스트림으로 트랜스코딩됩니다. MSVP는 프로그래밍 및 확장이 가능하며 필요한 고품질 트랜스코딩을 효율적으로 지원하도록 구성할 수 있습니다. VOD는 물론 라이브 스트리밍에 필요한 짧은 지연 시간과 빠른 처리 시간도 필요합니다.”
Meta는 궁극적으로 대부분의 "안정적이고 성숙한" 비디오 처리 워크로드를 MSVP로 오프로드하고 특정 사용자 정의 및 "상당히" 더 높은 품질이 필요한 워크로드에만 소프트웨어 비디오 인코딩을 사용할 계획이라고 말합니다. Meta는 지능형 노이즈 감소, 이미지 향상 등의 전처리 방법과 아티팩트 제거, 초해상도 등의 후처리 방법을 사용하여 MSVP를 통해 지속적으로 비디오 품질을 향상시킬 것이라고 말합니다.
“미래에는 MSVP를 통해 짧은 형식의 비디오를 포함하여 Meta의 가장 중요한 사용 사례와 요구 사항을 더 많이 지원할 수 있게 되어 생성 AI, AR/VR 및 기타 Metaverse 콘텐츠를 효율적으로 전달할 수 있게 될 것입니다.”라고 Reddy와 Chen은 말했습니다.
편집자: Xinzhixun-Ruruuni Sword
위 내용은 메타 자체 개발 AI칩 진전: 2025년 첫 AI칩 출시, 영상 AI칩도 나올 예정의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!
핫 AI 도구
Undresser.AI Undress
사실적인 누드 사진을 만들기 위한 AI 기반 앱
AI Clothes Remover
사진에서 옷을 제거하는 온라인 AI 도구입니다.
Undress AI Tool
무료로 이미지를 벗다
Clothoff.io
AI 옷 제거제
Video Face Swap
완전히 무료인 AI 얼굴 교환 도구를 사용하여 모든 비디오의 얼굴을 쉽게 바꾸세요!
인기 기사
뜨거운 도구
메모장++7.3.1
사용하기 쉬운 무료 코드 편집기
SublimeText3 중국어 버전
중국어 버전, 사용하기 매우 쉽습니다.
스튜디오 13.0.1 보내기
강력한 PHP 통합 개발 환경
드림위버 CS6
시각적 웹 개발 도구
SublimeText3 Mac 버전
신 수준의 코드 편집 소프트웨어(SublimeText3)
뜨거운 주제
7799
15
1644
14
1402
52
1299
25
1234
29
새 타이틀: NVIDIA H200 출시: HBM 용량 76% 증가, 대형 모델 성능을 90% 크게 향상시키는 가장 강력한 AI 칩
Nov 14, 2023 pm 03:21 PM
11월 14일 뉴스에 따르면, 엔비디아는 현지 시간 13일 오전 '슈퍼컴퓨팅23' 컨퍼런스에서 새로운 H200 GPU를 공식 출시했으며, 그 중 H200은 여전히 기존 호퍼 H100 아키텍처를 기반으로 구축됐다. 하지만 인공지능 개발 및 구현에 필요한 대용량 데이터 세트를 더 잘 처리하기 위해 더 많은 고대역폭 메모리(HBM3e)가 추가되어 대규모 모델 실행의 전반적인 성능이 이전 세대 H100에 비해 60%~90% 향상되었습니다. . 업데이트된 GH200은 또한 차세대 AI 슈퍼컴퓨터를 구동할 것입니다. 2024년에는 200엑사플롭 이상의 AI 컴퓨팅 성능이 온라인에 구현될 것입니다. H200
미디어텍이 구글로부터 서버 AI 칩 대량 주문을 받고 고속 Serdes 칩을 공급할 것이라는 소문이 돌았다.
Jun 19, 2023 pm 08:23 PM
19일 대만 언론 보도에 따르면 구글(Google)은 최신 서버 지향 AI 칩 개발을 위해 미디어텍에 협력을 요청했으며, 이를 TSMC의 파운드리용 5나노 공정에 넘겨줄 계획이다. 내년 초 양산한다. 보고서에 따르면 소식통에 따르면 Google과 MediaTek 간의 이번 협력은 MediaTek에 SerDes(직렬 변환기 및 역직렬 변환기) 솔루션을 제공하고 Google이 자체 개발한 TPU(텐서 프로세서)를 통합하여 Google이 최신 서버 AI 칩을 만드는 데 도움이 될 것이라고 밝혔습니다. CPU나 GPU 아키텍처보다 업계에서는 구글이 현재 제공하는 서비스 중 상당수가 AI와 관련이 있다고 지적한다. 수년 전부터 딥러닝 기술에 투자한 결과 GPU를 사용해 AI 계산을 수행하는 데 비용이 많이 든다는 사실을 알게 된 구글은 이런 결정을 내렸다.
온라인 소문에 따르면, vivo는 Microsoft Copilot과 유사한 대규모 자체 개발 AI 모델을 출시할 예정입니다.
Oct 17, 2023 pm 05:57 PM
Vivo는 2023년 11월 1일 선전 국제컨벤션전시센터에서 'Together Together'를 주제로 2023 개발자 컨퍼런스를 개최한다고 공식 발표했다. 시스템 및 OriginOS4 시스템. 최근 잘 알려진 디지털 블로거 "Digital Chat Station"은 vivo가 자체 개발한 AI 대형 모델이 Microsoft Copilot과 유사하게 OriginOS4에서 출시될 것이라는 소식을 전했습니다. 사이드바에서 호출되는 별도의 플로팅 창과 모드가 통합되어 있습니다. AI 데이터 볼륨과 시스템 통합이 잘 이루어지고 모든 직원이 지능형 시스템을 갖추고 있습니다. 사진으로 보면 비보가 자체 개발한 AI 대형 모델의 이름은 '조비코파일럿'(JoviCopilot)이 될 것으로 보인다. JoviCopilot이 할 수 있는 것으로 보고되었습니다.
심층 공개: Apple 자체 카메라 ISP 개발의 비밀!
Nov 11, 2023 pm 02:45 PM
11월 11일 뉴스에 따르면, 최근 휴대폰 칩 분야의 권위자인 @手机 Chip Daren은 자신의 최신 Weibo를 통해 Apple이 모바일 분야에서 자사의 기술적 강점을 더욱 공고히 하기 위해 곧 두 개의 새로운 M3 시리즈 칩을 출시할 것이라고 밝혔습니다. 장치 칩. 이 두 칩은 고급 3nm 기술을 사용하여 사용자에게 더욱 우수한 성능과 에너지 효율성을 제공합니다. 이 두 칩에 대한 자세한 내용은 여전히 미스터리입니다. 그러나 휴대폰 칩 전문가에 따르면 M3 시리즈의 네 번째 칩은 M3 Ultra로 명명되며 고급 "UltraFusion" 기술을 사용할 예정입니다. 이 기술의 특징은 두 개의 M3Max 칩이 교묘하게 결합되어 장치에 더욱 강력한 컴퓨팅 성능과 처리 속도를 제공한다는 것입니다. 다섯 번째 M3 시리즈 코어는
AI의 차세대 혁신: NVIDIA B100 칩과 OpenAI GPT-5 모델의 최고 성능
Nov 18, 2023 pm 03:39 PM
세계에서 가장 강력한 AI 칩으로 알려진 엔비디아 H200 출시 이후 업계는 더욱 강력해진 엔비디아의 B100 칩에 기대를 걸기 시작했다. 동시에 올해 가장 인기 있는 AI 스타트업 기업인 오픈AI(OpenAI)도 본격화됐다. 더욱 강력하고 복잡한 GPT-5 모델을 개발합니다. Guotai Junan은 최신 연구 보고서에서 무한한 성능을 갖춘 B100과 GPT5가 2024년에 출시될 예정이며, 주요 업그레이드를 통해 전례 없는 생산성을 발휘할 수 있다고 지적했습니다. 기관은 AI가 급속한 발전의 시기에 진입할 것이며 그 가시성은 2024년까지 지속될 것이라고 낙관한다고 밝혔습니다. 이전 세대 제품과 비교했을 때 B100과 GPT-5는 얼마나 강력합니까? Nvidia와 OpenAI는 이미 미리보기를 제공했습니다. B100은 H100보다 4배 이상 빠를 수 있으며 GPT-5는 Super를 달성할 수 있습니다.
Kneron, 경량 GPT 솔루션의 대규모 적용을 촉진하기 위해 최신 AI 칩 KL730 출시
Aug 17, 2023 pm 01:37 PM
KL730의 에너지 효율성 향상으로 인공 지능 모델 구현의 가장 큰 병목 현상인 에너지 비용이 해결되었습니다. 업계 및 이전 Nerner 칩과 비교하여 KL730 칩은 가장 진보된 기능을 지원합니다. nanoGPT와 같은 경량 GPT 대규모 언어 모델을 개발하고 초당 0.35~4테라의 유효 컴퓨팅 성능을 제공합니다. AI 회사 Kneron은 오늘 자동차 등급 NPU와 이미지 신호 처리(ISP)를 통합한 KL730 칩을 출시했다고 발표했습니다. 안전한 저에너지 AI를 구현하기 위해 엣지 서버, 스마트 홈, 자동차 보조 운전 시스템 등 다양한 애플리케이션 시나리오에서 기능이 강화됩니다. 샌디에이고에 본사를 둔 Kneron은 획기적인 신경 처리 장치(NPU)로 유명하며 최신 칩인 KL730은 다음과 같은 목표를 달성합니다.
PHP 암호화의 최신 진행 상황과 응용 사례
Aug 17, 2023 pm 12:16 PM
PHP 암호화의 최신 진행 상황 및 응용 사례 소개: 인터넷의 급속한 발전과 데이터 보안의 중요성이 증가함에 따라 정보 보안 보호를 연구하는 학문으로서 암호화가 광범위한 관심과 연구를 받아 왔습니다. 이와 관련하여 최근 PHP 암호화 기술의 발전으로 개발자는 사용자의 민감한 정보를 더욱 효과적으로 보호하고 더욱 안전한 애플리케이션을 제공할 수 있게 되었습니다. 이 기사에서는 PHP 암호화의 최신 진행 상황과 실제 애플리케이션 시나리오의 코드 예제를 소개합니다. 1. 해시 알고리즘의 최신 개발 해시 알고리즘은 암호화에서 일반적으로 사용되는 기술입니다.
AI 칩은 전 세계적으로 품절되었습니다!
May 30, 2023 pm 09:53 PM
구글 CEO는 AI 혁명을 인류가 불을 사용하는 것에 비유했지만, 이제 업계에 활력을 불어넣는 디지털 불, 즉 AI 칩은 나오기 힘들다. AI 운영을 주도하는 차세대 고급 칩은 거의 모두 NVIDIA에서 제조됩니다. ChatGPT가 폭발적으로 증가함에 따라 NVIDIA 그래픽 처리 칩(GPU)에 대한 시장 수요가 공급을 훨씬 초과합니다. 기업이 챗봇과 같은 AI 모델을 구축하도록 돕는 스타트업 라미니(Lamini)의 공동 창업자이자 CEO인 샤론 저우(Sharon Zhou)는 "부족하기 때문에 핵심은 친구 집단입니다"라고 말했습니다. "전염병 기간 동안 화장지와 같습니다." 이런 상황은 Amazon, Microsoft 등의 클라우드 서비스 제공업체가 ChatGPT를 창시한 OpenAI와 같은 고객에게 제공할 수 있는 컴퓨팅 성능을 제한했습니다.
