人類はシリコンコンピューティングアーキテクチャの上限に到達しました！ AIは2030年までに世界の電力供給の50%を消費すると予想されている

私たちはシリコンコンピューティングの経験の上限に達した感覚を経験し始めています。今後 10 年間で、コンピューティング能力には深刻な格差が生じるでしょうが、既存のテクノロジー企業も政府もこの問題を解決できていません。

現在、私たちはコンピューティングがますます安くなることに慣れすぎているため、いつかそれを買う余裕がなくなるかもしれないということを決して疑っていません。

さて、スタートアップの CEO、ロドルフォ・ロッシーニは、私たち全員に衝撃を与える質問をします。私たちの経済が安価なコンピューティングに依存しているのと同じように、古典的なコンピューティング モデルの基本的な物理的限界に達しつつあるとしたらどうなるでしょうか?

大規模コンピューティングの停滞

現在、米国は技術革新の欠如により頭打ちとなっている。

ライトの法則は多くの業界に当てはまります。製造プロセスが約 20% 改善されるたびに、生産性は 2 倍になります。

テクノロジーでは、それはムーアの法則として現れます。

1960 年代、インテルの共同創設者ゴードン ムーアは、集積回路内のトランジスタの数が前年比で 2 倍になっているように見えることに気づき、ムーアの法則を提案しました。

それ以来、この法律はマーケティングとエンジニアリングの間の契約の基礎となり、余剰のコンピューティング能力とサイズの縮小を活用してコンピューティング スタック内の製品の構築を推進しています。

当時の期待は、より高速で安価なプロセッサーにより、コンピューティング能力が時間の経過とともに指数関数的に向上するというものでした。

しかし、ムーアの法則を構成するさまざまな力は変化しました。

何十年もの間、ムーアの法則の背後にある原動力はデナードのスケーリングの法則でした。トランジスタのサイズと消費電力が同時に半分になり、エネルギー単位あたりの計算量が 2 倍になります (後者はクーミーの法則クーミーの法則とも呼ばれます)。

50 年間のマイクロプロセッサトレンドデータ

2005 年、電流漏れによりチップが発熱し、それに伴って単一のプロセッシング コアを備えたチップのパフォーマンスが停滞したため、このスケーリングが崩れ始めました。

コンピューティングの成長の軌道を維持するために、チップ業界はマルチコア アーキテクチャ、つまり複数のマイクロプロセッサを「接着」したアーキテクチャに目を向けてきました。これにより、トランジスタ密度の点ではムーアの法則が拡張される可能性がありますが、コンピューティング スタック全体の複雑さが増加します。

機械学習やコンピューター グラフィックスなどの特定の種類のコンピューティング タスクでは、これによりパフォーマンスが向上します。しかし、十分に並列化されていない多くの汎用コンピューティング タスクにとって、マルチコア アーキテクチャは無力です。

つまり、多くのタスクのコンピューティング能力はもはや指数関数的に増加していません。

マルチコアスパコンの性能においても、TOP500（世界最速スパコンランキング）を見ると、2010年頃に明確な変曲点があった。

この減速の影響は何ですか?さまざまな業界でコンピューティングが果たす役割が増大していることは、その影響が即座に現れ、ムーアの法則がさらに揺らぐにつれてその重要性がさらに高まることを示しています。

2 つの極端な例を挙げてみましょう。コンピューティング能力の向上とコストの削減により、エネルギー業界では石油探査の生産性が 49% 向上し、バイオテクノロジー業界ではタンパク質のフォールディング予測が 94% 向上しました。

これは、コンピューティング速度の影響はテクノロジー業界に限定されず、過去 50 年間の経済成長のほとんどはムーアの法則によって引き起こされた二次効果であり、ムーアの法則がなければ世界経済の成長が止まる可能性があることを意味します。

より多くのコンピューティング能力が必要となるもう 1 つの顕著な理由は、人工知能の台頭です。現在、大規模言語モデル (LLM) のトレーニングには数百万ドルの費用と数週間かかる場合があります。

機械学習によって約束された未来は、数値処理とデータ スケーリングの継続的な増加なしには実現できません。

機械学習モデルが民生用テクノロジーでますます普及し、他の業界のコンピューティングに対する巨大かつおそらく双曲線的な需要を予告するにつれ、安価な処理が生産性の基礎となりつつあります。

ムーアの法則の死は、コンピューティングに大きな停滞をもたらす可能性があります。 AGI を実現するために必要とされるマルチモーダル ニューラル ネットワークと比較すると、今日の LLM はまだ比較的小さく、トレーニングが簡単です。将来の GPT とその競合他社は、改善や最適化を行うために、特に強力な高性能コンピューターを必要とするでしょう。

もしかしたら多くの人が疑問に思うかもしれません。結局のところ、ムーアの法則の終わりは何度も予言されてきました。なぜ今でなければならないのでしょうか？

歴史的に、これらの予測の多くはエンジニアリング上の課題から生じています。人間の創意工夫により、これまでに何度もこれらの障害を克服してきました。

今の違いは、私たちがもはや工学や知能の課題に直面しているのではなく、物理学によって課せられた制限に直面しているということです。

MIT Technology Review は、2 月 24 日にムーアの法則の終焉に対する準備ができていないという記事を掲載しました

過熱による処理不能

コンピュータは情報を処理することで動作します。

情報を処理する際、マイクロプロセッサが計算ブランチをマージしたり、レジストリを上書きしたりするため、情報の一部が破棄されます。無料ではありません。

熱力学の法則は特定のプロセスの効率に厳しい制限を設けており、蒸気エンジンと同様に計算にも適用されます。このコストはランダウアーの限界と呼ばれます。

これは、各計算操作中に放出される微量の熱です: ビットあたり約 10^-21 ジュール。

この熱が非常に小さいことを考えると、ランダウアー限界は長い間無視できるものであると考えられてきました。

しかし、電流漏れなどの他のオーバーヘッドにより、現実世界の限界はランダウアー限界の 10 ～ 100 倍になると推定されているため、エンジニアリング能力は現在、このエネルギー スケールを達成できるところまで進歩しています。チップには、1 秒間に数十億回動作する数千億個のトランジスタが搭載されています。

これらの数字を合計すると、おそらくムーアの法則は熱障壁に到達するまでにまだ 1 桁成長する余地が残っているでしょう。

その時点で、既存のトランジスタアーキテクチャではエネルギー効率をさらに向上させることはできなくなり、発生する熱によりトランジスタをより密に実装することができなくなります。

これを理解しないと、業界の価値観がどのように変化するかが明確にわかりません。

マイクロプロセッサーは制約を受け、業界は限界エネルギー効率に対するより低い報酬を求めて競争することになるでしょう。

チップサイズが拡大します。 Nvidia の 4000 シリーズ GPU カードを見てください。より高密度のプロセスを使用しているにもかかわらず、小型犬ほどの大きさで、なんと 650 W の電力を搭載しています。

これにより、NVIDIA CEO のジェンスン・ファンは 2022 年末に「ムーアの法則は死んだ」と宣言しました。この声明は、ほぼ真実ではありますが、他の半導体企業によって否定されました。

IEEE は毎年半導体ロードマップを発表していますが、最新の評価では、2D スケーリングは 2028 年に完了し、3D スケーリングは 2031 年に完全に開始されるはずです。

3D スケーリング (チップを互いに積み重ねる) はすでに一般的ですが、マイクロプロセッサではなくコンピューターのメモリで行われます。

これは、メモリの熱放散がはるかに低いためですが、3D アーキテクチャでは熱放散が複雑になるため、アクティブなメモリ冷却が重要になります。

256 レイヤーのメモリが登場し、2030 年までに 1,000 レイヤーのマークに達すると予想されています。

マイクロプロセッサの話に戻りますが、商用標準になりつつあるマルチゲート デバイス アーキテクチャ (FinFET やゲートオールラウンドなど) は、今後もムーアの法則に従い続けるでしょう。

しかし、固有の熱の問題により、1930 年代以降は真の垂直方向のスケーリングは不可能になりました。

実際、現在のチップセットは、たとえ単一プレーンであっても過熱を避けるために、プロセッサのどの部分がアクティブであるかを常に注意深く監視しています。

2030年の危機?

1世紀前、アメリカの詩人ロバート・フロストはかつてこう尋ねました:世界は霜で終わるのか、それとも火で終わるのか?

もし答えが火なら、それはほぼコンピューティングの終わりを告げるものです。

あるいは、電力使用量が増加し、マイクロプロセッサの製造を拡大するという事実を受け入れてください。

この目的のために、人類は地球のエネルギーの大部分を消費してきました。

おそらく、別の選択肢は、電力使用量の増加を単純に受け入れて、マイクロプロセッサの製造をスケールアップすることです。私たちはすでに地球のエネルギー供給の大部分をこの目的に使用しています。

アイルランドでは、わずか 70 のデータセンターが国のエネルギーの 14% を消費しています。 2030 年代までに、世界中で生産される電力の 30 ～ 50% がコンピューティングと冷却に使用されると予想されています。

(興味深いことに、3 月 19 日にブログ投稿が公開された後、著者はこの予測を削除しました。彼の説明では、これは明確さと正確さのために、Nature 論文の最悪の場合の推論に基づいているとのことです)引数 、現在は削除されています)

現在のエネルギー生産のスケーリング率は、ムーアの法則のスケーリングのコストのわずかな増加につながります。

設計 (エネルギー効率) および実装レベル (現在も使用されている古い設計を最新のテクノロジーに置き換える) での一連の 1 回限りの最適化対策により、インドなどの発展途上国は世界全体の生産性を追いつくことができます。

ムーアの法則の終焉後、マイクロプロセッサチップの製造が限界に達する前に人類はエネルギーを使い果たし、コンピューティングコストの低下ペースは停滞するでしょう。

量子コンピューティングはムーアの法則を超える効果的な方法として宣伝されていますが、それについては不明な点が多すぎて、商業利用までにはまだ数十年かかり、少なくとも今後20〜30年は役に立たないでしょう。

今後 10 年間で深刻なコンピューティング能力の差が生じ、既存のテクノロジー企業、投資家、政府機関がそれを解決できないことは明らかです。

ムーアの法則とランダウアーの限界の衝突は何十年も続いており、2030年代の最も重要かつ重大な出来事の一つであると言えます。

しかし、今ではこのことを知っている人は少ないようです。

以上が人類はシリコンコンピューティングアーキテクチャの上限に到達しました！ AIは2030年までに世界の電力供給の50%を消費すると予想されているの詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。