Meta の自社開発 AI チップの進捗状況: 最初の AI チップは 2025 年に発売され、ビデオ AI チップも登場する予定

5月19日のニュース、海外メディアTechcrunchによると、今朝のオンラインイベントで、Facebookの親会社Metaが、最近発売した広告デザイン・制作ツールGenerative AIをサポートできる自社開発AIチップの進捗状況を初めて明らかにした。テクノロジー。

△Meta CEOのザッカーバーグ氏が初の自社開発AIチップMTIAを披露

Meta のインフラストラクチャ担当副社長 Alexis Bjorlin 氏は次のように述べています。人工知能研究の限界。」

初の自社開発AIチップMTIA

過去 10 年ほどにわたって、Meta はトップのデータ サイエンティストの採用と新しいタイプの人工知能の構築に数十億ドルを費やしてきました。その中には、人工知能のアプリやサービス全体で発見エンジン、モデレーション フィルター、広告レコメンダーを強化しているものも含まれます。この企業は、特に生成 AI の分野において、多くの野心的な AI 研究イノベーションを製品に変えることに努めてきました。

2016 年以来、大手インターネット企業はクラウド AI チップの開発を積極的に行っています。 Google は、PaLM-2、Imagen などの生成 AI システムをトレーニングするための Tensor Processing Unit (TPU) と呼ばれる自社開発の AI チップを設計および導入しており、Amazon は 2 つの自社開発 AI チップ、AWS Trainium と AWS を AWS の顧客に提供しています。アプリケーション用の推論チップ。 MicrosoftはAMDと協力してAthenaと呼ばれるAIチップを開発しているとも噂されている。

以前、Meta は主にサードパーティの CPU と、AI ワークロードを実行する AI アルゴリズムを高速化するように設計されたカスタム チップを組み合わせて使用​​していました。CPU は、そのようなタスクの処理において GPU よりも効率が低い傾向がありました。この状況を好転させるために、Meta は 2020 年に 7nm プロセスに基づく第 1 世代の自社開発 AI チップ MTIA (MTIA v1) を開発しました。

Meta は、AI チップを Meta Training and Inference Accelerator (略して MTIA) と呼び、AI のトレーニングと推論のワークロードを加速する AI チップの「ファミリー」の一部であると説明しています。 MTIA は ASIC であり、単一の基板上にさまざまな回路を組み合わせたチップであり、1 つ以上のタスクを並行して実行するようにプログラムできます。

「重要なワークロードでより高いレベルの効率とパフォーマンスを達成するには、モデル、ソフトウェア スタック、システム ハードウェアを共同設計して、さまざまなサービスをユーザー エクスペリエンスにとって向上させるカスタム ソリューションが必要でした」と Bjorlin 氏は説明しました。

紹介によると、MTIA v1は7nmプロセスを使用して製造されており、その内部128MBメモリは最大128GBまで拡張できます。 Meta氏によると、MTIAはAIレコメンデーションシステムに関連する作業を処理するために特別に使用でき、ユーザーが最適な投稿コンテンツを見つけてより迅速にユーザーに提示するのに役立ち、そのコンピューティングパフォーマンスと処理効率はCPUよりも優れているという。さらに、メタデザインのベンチマークテストでは、「低複雑さ」および「中複雑さ」の AI モデルの処理において、MTIA は GPU よりも効率的です

。

Meta 氏は、MTIA チップのメモリとネットワーク領域にはまだやるべきことがいくつかあり、AI モデルの規模が拡大するにつれてボトルネックが生じ、ワークロードを複数のチップに分散する必要があると述べています。最近、Meta はこの目的のために、オスロに拠点を置く英国のチップユニコーン Graphcore の AI ネットワーク技術チームを買収しました。現在、MTIA はメタ アプリケーション ファミリの「推奨ワークロード」のトレーニング機能よりも推論機能に重点を置いています。

Meta は、MTIA の改善を継続することを強調しました。これにより、推奨されたワークロードを実行する際のワットあたりのパフォーマンスの点で会社の効率が「大幅に」向上しました。これにより、Meta は「より強化された」「最先端の」人工知能ワークロードを実行できるようになりました。 。

計画によると、Metaは2025年に自社開発のMTIAチップを正式に発売する予定です。

Meta の AI スーパーコンピューター RSC

報道によると、Meta は当初、自社開発のカスタム AI チップを 2022 年に大規模に発売する予定だったが、結局延期し、代わりにスーパーコンピューター Research SuperCluster (RSC) 向けに数十億ドル相当の Nvidia GPU を発注したとのこと。複数のデータセンターの再設計が必要でした。

報道によると、RSCは2022年1月にデビューし、ペンギン・コンピューティング、Nvidia、ピュア・ストレージと提携して設立され、拡張の第2フェーズを完了しました。 Meta によれば、同社には現在、16,000 個の Nvidia A100 GPU を搭載した合計 2,000 台の Nvidia DGX A100 システムが含まれています。

とはいえ、RSC の現在のコンピューティング能力は Microsoft や Google の AI スーパーコンピューターに比べて遅れています。 Google は、AI に特化したスーパーコンピューターには 26,000 個の Nvidia H100 GPU が搭載されていると主張しています。 Meta 氏は、RSC の利点は、研究者が Meta の実稼働システムの実際の例を使用してモデルをトレーニングできることであると指摘しました。オープンソースと公開されているデータセットを活用していた同社の以前の AI インフラストラクチャとは異なり、このインフラストラクチャは現在利用可能です。

RSC AI スーパーコンピューターは、生成 AI を含む複数の分野で AI 研究を推進し、研究の限界を押し広げています。 「これはまさにAI研究の生産性に関するものです」とMetaの広報担当者は語った。私たちは、AI 研究者にモデルの開発を可能にする最先端のインフラストラクチャを提供し、AI を進歩させるためのトレーニング プラットフォームを提供したいと考えています。 ”

Meta は、RSC はピーク時に 5 エクサフロップス近くの計算能力に達し、世界最速の 1 つになると主張しています。

Meta は LLaMA トレーニングに RSC を使用します。RSC は「Large Scale Language Model Meta Artificial Intelligence」の頭字語を指します。 Meta によれば、最大の LLaMA モデルは 2,048 個の A100 GPU でトレーニングされ、21 日かかったという。

「独自のスーパーコンピューティング機能を構築することで、データセンターの設計からトレーニング フレームワークに至るまで、スタックのあらゆる層を制御できるようになります。」と Meta の広報担当者は付け加えました。「RSC は、Meta の AI 研究者が何兆ものデータから学習できる新しいより優れた AI モデルを構築するのに役立ちます。例; 何百もの異なる言語で連携して、新しい拡張現実ツールなどを開発します。

将来的には、Meta は自社開発の AI チップ MTIA を RSC に導入して、AI のパフォーマンスをさらに向上させる可能性があります。

ビデオ処理用AIチップMSVP

MTIA に加えて、Meta は Meta Scalable Video Processor (MSVP) と呼ばれる別の AI チップも自社開発しています。これは主にビデオ オン デマンドとライブ ストリーミングの増大するデータ処理ニーズを満たすように設計されており、Meta は最終的に一部の成熟したビデオ プロセッサを実現したいと考えています。安定したオーディオおよびビデオ コンテンツの処理作業は MSVP によって実行されます。

実際、Meta は何年も前にカスタムのサーバー側ビデオ処理チップの構想を開始し、2019 年にビデオのトランスコーディングと推論作業用の ASIC の発売を発表しました。これはこれらの取り組みの集大成であり、競争上の優位性を新たに推進するものです。特にライブビデオストリーミングの分野で顕著です。

「Facebook だけで、人々はビデオの視聴に時間の 50% を費やしています」と Meta テクニカル ディレクターの Harikrishna Reddy 氏と Yunqing Chen 氏は 19 日朝に公開されたブログ投稿で次のように書いています。 Facebook や Instagram は、さまざまなデバイス (モバイル、ラップトップ、テレビなど) に合わせて、異なるエンコード形式、解像度、品質を持つ複数のビットストリームにトランスコードされます。MSVP はプログラム可能でスケーラブルであり、必要な高品質のトランスコーディングを効率的にサポートするように構成できます。 VOD だけでなく、ライブ ストリーミングに必要な低遅延と高速な処理時間も備えています。」

△MSVP

Meta によると、最終的にはほとんどの「安定して成熟した」ビデオ処理ワークロードを MSVP にオフロードし、特定のカスタマイズと「大幅に」高い品質を必要とするワークロードにのみソフトウェア ビデオ エンコーディングを使用する計画であると述べています。メタ氏は、インテリジェントなノイズ低減や画像強調などの前処理方法だけでなく、アーティファクト除去や超解像度などの後処理方法を使用して、MSVP によるビデオ品質の向上を継続すると述べています。

「将来的には、MSVP により、短編ビデオを含むメタの最も重要なユースケースとニーズをさらにサポートできるようになり、生成 AI、AR/VR、その他のメタバース コンテンツの効率的な配信が可能になります」と、レディとチェンは述べました。

編集者: Xinzhixun-るるに剣

以上がMeta の自社開発 AI チップの進捗状況: 最初の AI チップは 2025 年に発売され、ビデオ AI チップも登場する予定の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。