大規模な AI モデルは非常に高価であり、大企業と超富裕層だけがそれらをうまく実行できる

ChatGPT の炎上は AI ブームの新たな波を引き起こしましたが、業界では一般に、AI が大規模モデルの時代に入ると、大企業と超富裕層だけが AI を導入できると考えられています。なぜなら、AI 大規模モデルの構築には非常にコストがかかるからです。

まず第一に、計算コストが高くなります。 トロント大学のマーケティング教授であるアヴィ・ゴールドファーブ氏は、「会社を立ち上げたい場合、大規模な言語モデルを自分で開発し、自分で計算するにはコストが高すぎる。OpenAIは非常に高価で、数十億ドルかかる」と語った。もちろん、コンピューティングのリースははるかに安くなりますが、企業は依然として AWS などの企業に高額な料金を支払わなければなりません。

第二に、データは高価です。 モデルのトレーニングには大量のデータが必要ですが、データがすぐに入手できる場合もあれば、入手できない場合もあります。 Common Crawl や LAION などのデータは無料で使用できますが、この種のデータのコストは主にデータのクリーニングと処理に発生し、コストは数百ドルから数百万ドルまでさまざまです。

Glean の創設エンジニアである Debarghya Das 氏は、大規模な言語モデル論文に基づいた大まかな数学的計算に基づいて、米国では Facebook LLaMA を使用した場合のトレーニング コスト (反復やエラーは考慮していません) がかかると述べました。は約 400 万ドル、Google PaLM の場合は約 2,700 万ドルです。

無料データを使用したとしても、コストは安くありません。 「テラバイト規模のデータをダウンロードする際、テキスト画像モデルなどの特別な方法でデータをフィルタリングしたり使用したりする場合、研究者はデータの特定のサブセットに焦点を当てることになります」とハギングの研究者サーシャ・ルッチョーニ氏は述べた。顔。この方法でのみモデルは改善されますが、プロセス全体は非常にトリッキーです。」これには、強力なコンピューティング能力と多数の専門家が必要です。

第三に、専門家を雇うコストも非常に高くなります。 Debarghya Das は、上記のコスト見積もりを作成する際に人件費を考慮していませんでした。サーシャ・ルッチョーニ氏は、「機械学習の専門家は、グーグルや他のテクノロジー大手と人材をめぐって競争するため、非常に高給を得ている。プロの人材には数百万ドルの費用がかかることもある」と指摘した。 190万米ドル。

さらに、モデルのトレーニングと専門家の雇用にかかるコストは、一度限りではなく継続的に発生します。 たとえば、カスタマー サービス チャットボットを開発している場合は、毎週または数週間ごとに最適化する必要があります。モデルは、生成される答えが正しいことを確認するためにストレス テストも行われます。 Sasha Luccioni 氏は次のように説明しています。「最も高価なコストは、モデルを継続的にテストし、AI が期待どおりに動作していることを確認する必要がある継続的な作業から発生します。」 #最後に、継続的な運営費も安くありません。

すべての準備が整い、モデルが公開されると、毎日数千件の問い合わせが来るでしょう。このとき、モデルはスケーラブルで安定性が高いことを保証する必要があります。メンテナンスコストも高くつきます。専門家による取り扱いが必要です。

以上が大規模な AI モデルは非常に高価であり、大企業と超富裕層だけがそれらをうまく実行できるの詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。