このスタートアップは、分散ネットワークを使用してアイドル状態の GPU を直列に接続し、AI モデルのトレーニング コストを 90% 削減すると主張しています

Monster API は、マイニング機器などの GPU コンピューティング能力を利用して AI モデルをトレーニングします

GPU は、次のような暗号通貨のマイニングによく使用されます。ビットコイン 、マイニングは強力なコンピューティング能力を必要とするリソースを大量に消費するプロセスです。

かつて仮想通貨の誇大宣伝により、市場で GPU が不足し、価格が高騰したため、企業や個人はゲーム業界向けに Nvidia の GPU に目を向け、仮想通貨マイニング リグ専用の GPU に変えました。

しかし、仮想通貨の流行が沈静化するにつれて、多くの仮想通貨マイニング装置が閉鎖されたり、放棄されたりしました。これにより、Monster API の創設者である Gaurav Vij 氏は、基本的な AI モデルをトレーニングして実行するという最新のコンピューティング集約型の開発トレンドに適応するために、これらのデバイスを再利用できることに気づきました。

これらの GPU には、AWS や Google Cloud などによって展開される専用の AI アプライアンスのような能力はありませんが、クラウド コンピューティング プロバイダーを使用するコストで、最適化されたオープンソース モデルをトレーニングできると Gaurav Vij 氏は述べています。非常に大規模なコンピューティング デバイスの小さな部分。

Monster API の共同創設者である Saurabh Vij 氏は次のように述べています。「需要が供給を上回っているため、機械学習分野は実際にコンピューティング能力に苦労しています。現在、多くの機械学習開発者が AWS や Google Cloud に依存して多額の資金を費やしています。」

分散コンピューティング パワー ネットワークにより、AI 基本モデルのトレーニングのコストを大幅に削減できます

実際には、暗号化マイニング機器に加えて、未使用のGPU は、PlayStation 5 などのゲーム システムや小規模なデータ センターにも搭載されています。 Saurabh Vij 氏は次のように述べています。「仮想通貨マイニング プラットフォームは GPU を使用し、ゲーム システムも GPU を使用し、GPU は年々強力になっています。」

分散ネットワークに参加するには、データ セキュリティ チェックの待機など、複数の手順が必要です。企業や個人のコンピューティング能力が関与します。需要者はニーズに応じて機器を追加し、コンピューティングパワーネットワークを拡張または縮小します。供給側は、遊休のコンピューティング能力を販売することで収益の一部を得ることができます。

Saurabh Vij 氏は、分散コンピューティング システムにより、基本的な AI モデルのトレーニング コストが削減され、将来的には豊富な資金力を持つ大手テクノロジー企業だけでなく、オープンソースや非営利組織でもトレーニングできるようになると強調しました。 。基本的な AI モデルの構築に 100 万ドルかかるのに比べ、私たちのような分散型ネットワークの費用はわずか 10 万ドルです。

Geek.com は、Monster API がモデルを微調整するための「コード不要の」ツールも提供しており、技術的な専門知識やリソースを持たないユーザーにもオープンであり、モデルをゼロからトレーニングして「民主化」をさらに進めることができることを知りました。 「コンピューティング能力と AI の基本モデル。

多くの開発者はモデルを再トレーニングするのに十分な量のデータと資金を持っていないため、微調整することが重要です。Monster API の最適化により、彼はこう言いました」 、微調整のコストが 90% 削減され、微調整料金はモデルあたり約 30 ドルになりました。これらのトレーニング モデルとオープンソースには直接的な影響がありますが、Saurabh Vij 氏は、オープンソース モデルのトレーニングには利点があると信じています。Monster API は、分散型ネットワーク内の潜在的なリスクを管理し、「トレーサビリティ、透明性、説明責任" "。

「規制当局は短期的には勝利するかもしれないが、私はオープンソース コミュニティとその信じられないほどの急速な発展に大きな自信を持っている。」。Postman には 2,500 万人の開発者が登録しています。 （API開発プラットフォーム）その大きな部分は、すべての人に新しいビジネスと新しい機会を開く生成AIの構築です」と彼は言いました。

Geek.com は、低コストの AI モデルをトレーニングすることで、Monster API の目標は、開発者がイノベーションのために機械学習を最大限に活用できるようにすることであることを知りました。現時点では、微調整可能ないくつかの有名な AI モデル (Stable Diffusion や Whisper など) がすでに用意されており、ユーザーはこれらの GPU コンピューティング能力を使用して、独自の AI 基本モデルを最初からトレーニングすることもできます。

Saurabh Vij 氏は次のように述べています。「私たちは Macbook でテキストと画像の生成実験を実施し、1 分あたり少なくとも 10 枚の画像を出力できました。私たちは何百万台もの Macbook をネットワークに接続して、ユーザーが寝ている間に眠れるようにしたいと考えています。また、Macbook を使用して Stable Diffusion、Whisper、またはその他の AI モデルを実行してお金を稼ぐこともできます。そしてほとんどの時間をガレージに駐車して過ごします。 」とサウラブ・ヴィジ氏は付け加えた。

以上がこのスタートアップは、分散ネットワークを使用してアイドル状態の GPU を直列に接続し、AI モデルのトレーニング コストを 90% 削減すると主張していますの詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。