AI テクノロジーは指数関数的に爆発的に増加: コンピューティング能力は 3 つの歴史的段階で目撃され、70 年間で 6 億 8,000 万倍に増加

電子コンピューターは 1940 年代に誕生し、コンピューターの出現から 10 年以内に、人類史上初の AI アプリケーションが登場しました。

AI モデルは 70 年以上にわたって開発されてきました。現在では、詩を作成するだけでなく、テキスト プロンプトに基づいて画像を生成し、人間が未知のタンパク質構造を発見するのにも役立ちます

AI テクノロジーは短期間で飛躍的な成長を遂げましたが、その理由は何でしょうか?

AI モデルのトレーニングに使用されたコンピューティング能力を AI の歴史を分析するスケールとして使用する、「Our World in Data」(Our World in Data) からの長い写真開発、トレーサビリティ。

高解像度画像: https://www.visualcapitalist.com/wp-content/uploads / 2023/09/01.-CP_AI-Computation-History_Full-Size.html 書き換える必要があるコンテンツは次のとおりです。 高解像度の大きな画像のリンク: https://www.visualcapitalist.com/wp-content/uploads/2023/09/01.-CP_AI-Computation-History_Full-Sized.html

このデータのソースは、MIT および他の大学の研究者によって発表された論文です

論文リンク: https://arxiv.org/pdf/2202.05924.pdf

論文に加えて、研究チームはこの論文のデータに基づいて視覚的な表も作成しました。ユーザーはグラフを自由に拡大または縮小して、より詳細なデータを取得できます

#書き換える必要がある内容は次のとおりです: テーブル アドレス: https ://epochai.org /blog/compute-trends#compute-trends-are-slower-than-previously-reported

グラフの作成者は主にそれぞれのトレーニング時間を推定しています。演算量と GPU 時間を計算してモデルを決定します。計算量と、どのモデルを重要なモデルの代表として選択するかは、作成者は主に 3 つのプロパティによって決定します。重大な重要性: 特定のシステムは、歴史的に大きな影響を及ぼしたり、SOTA を大幅に改善したり、1,000 回以上引用されたりしています。

関連性: 著者は実験結果と主要な機械学習コンポーネントを含む論文のみを取り上げており、この論文の目的は既存の SOTA の開発を促進することです。

#独自性: 同じシステムを説明する、より影響力のある論文が他にある場合、その論文は著者のデータセットから削除されます

AI 開発の 3 つの時代

1950 年代、アメリカの数学者クロード シャノンは、テセウスという名前のロボット マウスを訓練して、迷路を移動し、道を記憶できるようにしました。これは人工学習の最初のインスタンスです

#Theseus は 40 の浮動小数点演算 (FLOP) に基づいて構築されています。 FLOP は、コンピュータ ハードウェアのコンピューティング パフォーマンスの尺度として一般的に使用されます。 FLOP の数が多いほど、コンピューティング能力が向上し、システムがより強力になります。

AI の進歩は、コンピューティング能力、利用可能なトレーニング データ、アルゴリズムという 3 つの重要な要素に依存しています。 AI 開発の初期の数十年間、ムーアの法則に従ってコンピューティング パワーの需要は増加し続けました。つまり、コンピューティング パワーは約 20 か月ごとに 2 倍になります

## しかし、2012 年の AlexNet (画像認識人工知能) の出現がディープラーニング時代の始まりを示すと、研究者がコンピューティングとプロセッサーの投資を改善したため、この倍増時間は 6 か月に大幅に短縮されました

#2015 年の AlphaGo (人間のプロ棋士を破ったコンピューター プログラム) の登場により、研究者たちは第 3 の時代を発見しました。大規模 AI モデル時代が到来し、その計算要件は以前のすべての AI システムよりも大きくなっています。 。

今後の AI テクノロジーの進歩

過去 10 年間を振り返ると、コンピューティング能力の成長率は驚くべきものです

たとえば、複雑な数学的問題を解決できる AI である Minerva のトレーニングに使用されるコンピューティング能力は、10 年前の AlexNet のトレーニングに使用されていた計算能力のほぼ 600 万倍でした。

コンピューティングのこの成長は、利用可能な膨大な数のデータセットと優れたアルゴリズムと相まって、AI がさまざまな分野で膨大な成果を達成できるようになりました。極めて短い期間での進歩。今日、AI は人間のパフォーマンス レベルに達するだけでなく、多くの分野で人間を超えることさえできます。

AI の能力はあらゆる面で人間を上回り続けるでしょう

次のことから明らかなように、上の写真では、人工知能は多くの分野ですでに人間のパフォーマンスを上回っており、間もなく他の分野でも人間のパフォーマンスを超えるでしょう。

次の図は、人間が日常の仕事や生活で使用する一般的な能力において、AI が人間のレベルに達したか、それを超えたかを示しています。

AI技術開発の可能性は十分である

成長を維持できるかどうかの判断は困難レート 。大規模なモデルのトレーニングには、ますます多くのコンピューティング パワーが必要になります。コンピューティング パワーの供給が成長し続けられない場合、人工知能技術の開発プロセスが遅れる可能性があります

同様に、 AI モデルのトレーニングに使用されるすべてのデータも、新しいモデルの開発と実装を妨げる可能性があります。

2023 年、AI 業界には、特に大規模な言語モデルに代表される生成 AI への資本の流入が見られるでしょう。これは、さらなるブレークスルーが起こることを示しているのかもしれません AI技術の発展を促進する上記の3つの要素は、今後さらに最適化され、発展していくものと思われます

2023年上半期、AI業界の新興企業は140億ドルの資金を調達しており、これは過去4年間に受け取った資金の総額をさらに上回っています。

そして、生成 AI スタートアップの多く (78%) はまだ開発の非常に初期段階にあり、生成 AI の 27% さえもスタートアップ企業 同社はまだ資金調達を行っていない。

360 を超える生成人工知能企業のうち、27% はまだ資金調達を行っていません。半数以上はラウンド 1 以前のプロジェクトであり、生成 AI 業界全体がまだ非常に初期段階にあることを示しています。

大規模な言語モデルの開発には資本集約的な性質があるため、生成 AI インフラストラクチャ カテゴリは 2022 年第 3 四半期以降、資金の 70% 以上を獲得しました。 、生成 AI 取引量全体の 10% にすぎません。資金の多くは、基盤となるモデルや API、MLOps (機械学習オペレーション)、ベクトル データベース テクノロジなどの新興インフラストラクチャに対する投資家の関心から来ています。

以上がAI テクノロジーは指数関数的に爆発的に増加: コンピューティング能力は 3 つの歴史的段階で目撃され、70 年間で 6 億 8,000 万倍に増加の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。