IT House News 11 月 14 日、Meta の生成人工知能エンジニアリング ディレクターである Sergey Edunov 氏は、最近シリコンバレーのデジタル ワーカー フォーラムで人工知能推論の需要についての予測を共有しました。同氏は、合理的な規模の言語モデルを使用すれば、世界中で人工知能を応用した推論に対する来年の新たな需要に、わずか 2 基の原子力発電所の発電で対応できると考えている。
画像出典: Pexels
人工知能推論とは、すでにトレーニングされた人工知能モデルを使用して、テキストの生成、質問への回答、画像の認識など、実際のシナリオでさまざまなタスクを実行することを指します。エドゥノフ氏は、単純な数学的計算を使用して、来年の世界的な推論ニーズによる電力消費量を推定したと述べた。同氏は、来年には世界中で 100 万から 200 万台の新しい Nvidia H100 グラフィックス プロセッサが登場し、それぞれの出力は約 1 キロワットになるだろうと予想しています。各プロセッサーが 1 日 24 時間稼働すると、各人は毎日 100,000 個の「トークン」を生成できます。彼は、この電力消費量は人間の規模で合理的なものであると信じています。世界が十分な電力を供給するには、新しい原子力発電所が 2 基だけ必要です
しかし、IT House は、人工知能の開発がいくつかの課題と限界に直面していることをエドゥノフ氏も指摘していることに気付きました。その1つはデータ量の問題です。現在、人工知能モデルのトレーニングには大量のデータが必要ですが、公開されているインターネット データでは、次世代モデルのトレーニングをサポートするにはもはや十分ではありません。次世代モデルでは、10 倍のデータ量が必要になる可能性があります。これは、より専門的なドメイン データ、またはビデオ、オーディオなどのより多くのマルチモーダル データを意味します。もう一つの課題はサプライチェーンの問題です。世界的なチップ生産能力が逼迫しているため、人工知能モデルの改善速度にも影響が出るだろう。したがって、研究者はモデルの効率を向上させ、データとハードウェアへの依存を減らすことに取り組んでいます。たとえば、Salesforce は、モデル サイズを自動的に調整し、さまざまなタスクやリソース要件に応じてモデルを動的に縮小または拡張できる Blib-2 と呼ばれるテクノロジーを開発しました。
業界専門家の一般的な見解によると、言語モデルは今後 2 年間で企業に多大な価値をもたらすでしょう。エドゥノフ氏は、現在のテクノロジーが一般的な人工知能を実現できるかどうかは 3 ~ 4 年以内に分かるだろうと予測しています。以上が世界的な AI 推論の電力消費需要の増大は、原子力発電所を 2 基新設することで満たせるの詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。