AI ツールのトレーニングデータが不足していますが、解決策は 6 つあります-AI-php.cn

人工知能にはトレーニングデータが必要ですが、そのデータは限られています。では、AI が成長し続けて私たちに役立つように、他にどのように AI をトレーニングできるのでしょうか?

インターネットとそのデータは無尽蔵のリソースだと思うかもしれませんが、AI ツールではマイニングできるデータが不足しつつあります。心配する前に、AI 開発が止まることはありません。AI システムをトレーニングする準備ができているデータはまだたくさんあります。

1 オンラインでは常に追加データが存在します

つまり、AI 研究機関エポック社は、AI のトレーニングに使用される高品質のデータが 2026 年までに枯渇する可能性があると言っています。

そこでのキーワードは「可能性がある」です。インターネットに追加されるデータの量は毎年増加しているため、2026 年までに何か劇的な変化が起こる可能性があります。それでも、これは妥当な推定値です。いずれにせよ、AI システムはある時点で適切なデータを使い果たしてしまいます。

ただし、毎年約 147 ゼタバイトのデータがオンラインに追加されていることを覚えておく必要があります (爆発的なトピックによる)。わずか 1 ゼタバイトは、1,000,000,000,000,000,000,000 ビットのデータに相当します。現実に換算すると (まあ、ある程度現実的ですが)、これは 300 億本以上の 4K 映画に相当します (現実的ではありますが、計り知れません)。 AIがふるいにかけるべき情報は驚くべき量だ。

それにもかかわらず、AI は人類が作成するよりも早くデータを消費します…

2 AI は低品質のデータを忘れてしまう可能性があります

AI Tools Are Running Out of Training Data, but There Are 6 Solutions

もちろん、147 ゼタバイトのデータすべてが良いデータであるわけではありません。目に見える以上のことがたくさんあります。しかし、AI は 2050 年までに低品質の言語データも使い果たしてしまうと推定されています。

ロイター通信は、かつて世界最大の画像リポジトリの 1 つであった Photobucket が、その広範なライブラリを AI トレーニング会社にライセンス供与する交渉を行っていると報じました。 DALL-E や Midjourney などのシステムは画像データで訓練されていますが、それさえも 2060 年までに枯渇する可能性があります。ここにはさらに大きな問題もあります。Photobucket には、Myspace などの 2000 年代のソーシャルメディアプラットフォームからの画像が格納されており、それらはそれほど高い標準ではないことを意味します。現在の写真撮影。これにより、データの品質が低下します。

Photobucket だけではありません。 2024年2月、GoogleはRedditと契約を結び、検索大手がAIトレーニングでソーシャルメディアプラットフォームのユーザーデータを使用することを許可した。他のソーシャルメディアプラットフォームも、AI トレーニングの目的でユーザーデータを提供しています。 Meta の Llama など、社内 AI モデルのトレーニングにこれを使用している企業もあります。

ただし、一部の情報は低品質のデータから収集できる一方で、Microsoft は AI がデータを選択的に「学習解除」する方法を開発していると伝えられています。これは主に IP の問題に使用されますが、ツールが低品質のデータセットから学習したことを忘れてしまう可能性があることも意味します。

あまり選択的になることなく、より多くのデータを AI に供給することができます。これらの AI システムは、学習するのに最も有益なものを選択できるようになります。

3 音声認識によりビデオとポッドキャストのデータが開かれます

AI ツールに供給されるデータは、これまで主にテキストで構成されており、程度は低いですが画像で構成されています。音声認識ソフトウェアが利用できる豊富なビデオやポッドキャストが AI をトレーニングできることを意味するため、この状況は間違いなく変わるでしょうし、おそらくすでに変わっているでしょう。

特に、OpenAI は、680,000 時間の多言語およびマルチタスクデータを使用して、オープンソースの自動音声認識 (ASR) ニューラルネットワーク、Whisper を開発しました。 OpenAI はその後、YouTube 動画から 100 万時間以上の情報をその大規模言語モデル GPT-4 にフィードしました。

これは、音声認識を使用して多数のソースからビデオやオーディオを転写し、そのデータを AI モデルを通じて実行する他の AI システムにとって理想的なテンプレートです。

Statista によると、毎分 500 時間以上のビデオが YouTube にアップロードされており、この数字は 2019 年以来ほぼ安定しています。これは、Dailymotion や Podbean などの他のビデオおよびオーディオプラットフォームには言及しません。 AI がこのような新しいデータセットに注意を向けることができれば、まだ膨大な量の情報がマイニングされることになります。

4 つの AI は主に英語にこだわっています

Whisper から学べるのはそれだけではありません。 OpenAI は、117,000 時間の英語以外の音声データを使用してモデルをトレーニングしました。多くの AI システムは主に英語を使用して、または西洋のレンズを通して他文化を見ることを使用してトレーニングされているため、これは特に興味深いです。

本質的に、ほとんどのツールは作成者の文化によって制限されます。

ChatGPT を例に挙げてみましょう。 2022 年のリリース直後、ノルウェーのベルゲン大学デジタル文化教授のジルウォーカーレットバーグ氏は ChatGPT を試して次のように結論付けました。

「ChatGPT はノルウェーの文化についてあまり知りません。というか、ノルウェー文化について知っていることはおそらくほとんどが英語の情報源から学んだものだと思われます… ChatGPT は明らかに米国の価値観と法律に準拠しています。多くの場合、これらはノルウェーやヨーロッパの価値観に近いですが、おそらく常にそうとは限りません。」

AI は、より多くの多国籍の人々が AI と対話するほど、またはより多様な言語や文化がそのようなシステムを訓練するために使用されるほど、発達する可能性があります。現在、多くの人工知能は単一のライブラリに閉じ込められています。世界中の図書館への鍵が与えられれば、彼らは成長することができます。

5 つの出版社が AI の開発を支援できる可能性がある

IP は明らかに大きな問題ですが、一部の出版社はライセンス契約を結ぶことで AI の開発を支援できる可能性があります。これは、オンラインソースから収集した潜在的に低品質の情報ではなく、書籍からの高品質、つまり信頼できるデータをツールに提供することを意味します。

実際、Facebook、Instagram、WhatsApp のオーナーである Meta は、「ビッグ 5」出版社の 1 つである Simon & Schuster の買収を検討していたと伝えられています。そのアイデアは、同社が発行した文献を使用して Meta 独自の AI をトレーニングすることでした。この契約は最終的には失敗に終わりました。これはおそらく、作家からの事前の同意なしに IP を処理する会社の倫理的なグレーゾーンが原因でした。

検討されたもう 1 つのオプションは、新しいタイトルの個別のライセンス権を購入することでした。これはクリエイティブにとって大きな懸念を引き起こすはずですが、使用可能なデータが枯渇したとしても、AI ツールを開発する興味深い方法であることに変わりはありません。

6 合成データは未来です

他のすべてのソリューションにはまだ限界がありますが、1 つの選択肢として、AI が遠い将来にまで繁栄する可能性があります。それが合成データです。そして、それは非常に現実的な可能性としてすでに調査されています。

それで、合成データとは何ですか?この意味では、それは AI によって作成されたデータです。人間がデータを作成するのと同じように、この方法では人工知能がトレーニング目的でデータを生成します。

実際、AI は説得力のあるディープフェイク動画を作成できる可能性があります。そのディープフェイクビデオはAIにフィードバックされ、本質的に想像上のシナリオから学習できるようになる可能性がある。結局のところ、これは人間が学習する主要な方法の 1 つであり、私たちは周囲の世界を理解するために何かを読んだり見たりするのです。

AI はすでに合成情報を消費している可能性があります。オンラインで流通するディープフェイクは誤った情報や偽情報を広めるため、AI システムがインターネットをスキャンする際に、一部の人が偽のコンテンツの対象となるのは当然です。

はい、これには陰湿な側面があります。また、AI に損害を与えたり制限したりして、それらのツールによる間違いを強化したり広めたりする可能性もあります。企業は後者の問題を根絶するために取り組んでいます。それでも、「AI が互いに学習し、エラーを起こす」というのは、多くの SF の悪夢のようなシナリオのプロットポイントです。