目次
合成データは実際のデータを置き換えることができますか?
ホームページ テクノロジー周辺機器 AI 合成データ: 機械学習の未来

合成データ: 機械学習の未来

Apr 08, 2023 pm 08:41 PM
機械学習 ディープラーニング 合成データ

翻訳者 | Bugatti

レビュアー | Sun Shujuan

データは機械学習モデルの生命線であると言えます。しかし、この貴重なリソースへのアクセスが制限されたらどうなるでしょうか?多くのプロジェクトや企業が実証し始めているように、このような時代には合成データが、素晴らしいとは言えないにしても、実行可能な選択肢となります。

合成データ: 機械学習の未来

#合成データとは何ですか?

合成データは、直接測定では取得されない、人工的に生成された情報です。 「フェイク」データ自体は新しい概念でも革命的な概念でもありません。これは本質的に、適切に機能するために利用可能な情報または必要な情報が不足しているモデルのテスト データまたはトレーニング データを生成する方法です。

以前は、データが不足していたため、ランダムに生成されたデータ ポイントのセットを使用するという便利な方法が使用されていました。教育やテストの目的にはこれで十分かもしれませんが、ランダム データは、あらゆる種類の予測モデルをトレーニングする対象となるデータではありません。それが合成データの概念の違いであり、信頼性があります。

合成データは本質的に、ランダム化されたデータを巧みに生成できるユニークな概念です。したがって、このアプローチはテストだけでなく、より複雑なユースケースにも適用できます。

合成データを生成するにはどうすればよいですか?

合成データの生成方法は、より複雑な入力セットを介するという点でランダム データと変わりませんが、合成データは異なる目的を果たすため、固有の要件があります。

合成メソッドは、事前に入力として供給される特定の基準に基づいており、それに限定されます。実際にはランダムではありません。これは、データ ポイントの可能な範囲、分布、頻度を決定する特定の分布と基準を備えた一連のサンプル データに基づいています。大まかに言えば、目標は、実際のデータを複製して、機械学習モデルをトレーニングするのに十分な大きさになる、より大きなデータ セットを作成することです。

このアプローチは、合成データを洗練するための深層学習手法を検討する場合に特に興味深いものになります。アルゴリズムは、合成データを生成および識別する能力において互いを上回ることを目指して、互いに競合することができます。実際、ここでの目的は、超現実的なデータを生成するために人為的な軍備競争に参加することです。

なぜ合成データが必要なのでしょうか?

文明の進歩に必要な貴重な資源を収集できない場合、私たちはそれを作り出す方法を見つけるでしょう。この原則は現在、機械学習と人工知能のデータの世界にも同様に当てはまります。

アルゴリズムをトレーニングする場合、データのサンプル サイズを非常に大きくすることが重要です。そうしないと、アルゴリズムによって特定されるパターンが実際のアプリケーションには単純すぎる可能性があります。これは実際には非常に論理的です。人間の知能が問題を解決するために最も簡単なルートを選択することが多いのと同じように、機械学習や人工知能をトレーニングするときにも同じことがよく起こります。

たとえば、一連の猫の画像から犬を正確に識別できるオブジェクト認識アルゴリズムにこれを適用することを検討してください。データ量が少なすぎる場合、AI は識別しようとしているオブジェクトの本質的な特徴ではないパターンに依存する危険があります。この場合、AI は依然として有効である可能性がありますが、最初に識別したパターンに従っていないデータに遭遇すると機能不全に陥ります。

合成データは AI のトレーニングにどのように使用されますか?

それでは、解決策は何でしょうか?私たちは、わずかに異なる動物をたくさん描き、ネットワークに特定のピクセルの位置だけでなく、画像の基礎となる構造を見つけさせました。しかし、100 万匹の犬を手で描くよりも、分類アルゴリズムのトレーニングに使用できる、犬の描画に特化したシステムを構築する方が良いでしょう。機械学習をトレーニングするために合成データをフィードする場合、実際にこれが行われます。

ただし、このアプローチには明らかな欠陥があります。何もないところからデータを生成するだけでは現実世界を表すものではないため、実際のデータに遭遇するとアルゴリズムが失敗する可能性があります。解決策は、データのサブセットを収集し、その中の傾向と範囲を分析して特定し、そのデータを使用して、すべてを収集した場合にデータがどのようになるかを表す可能性が高い大量のランダム データを生成することです。私たち自身。

これも合成データの価値です。データを際限なく収集し、使用前にクリーンアップして処理する必要はもうありません。

データ プライバシーに関する増大する懸念を合成データが解決できるのはなぜですか?

世界は現在、特に欧州連合において、非常に劇的な変化を経験しています。プライバシーと生成されるデータはますます保護されています。機械学習やAIの分野では、データ保護の強化が長年の課題となっている。制限されたデータは、多くの場合、特に B2C ソリューションの場合、アルゴリズムをトレーニングして実行し、エンド ユーザーに価値を提供するためにまさに必要なものです。

プライバシーの問題は、個人がソリューションの使用を決定し、データの使用を承認するときに対処されることがよくあります。ここでの問題は、ユーザーが喜んで個人データを提供できる十分な価値を提供するソリューションを用意するまで、ユーザーに個人データを提供してもらうのが難しいことです。その結果、サプライヤーは鶏が先か卵が先かというジレンマに陥ることがよくあります。

合成データがソリューションであり、企業は早期採用者を通じてデータのサブセットにアクセスできるようになります。その後、この情報を基礎として使用して、機械学習と AI のトレーニングに十分なデータを生成できます。このアプローチにより、時間と費用がかかるプライベート データの必要性が大幅に軽減され、実際のユーザー向けにアルゴリズムを開発できるようになります。

医療、銀行、法律などの一部の業界では、合成データは、これまで利用できなかった大量のデータに簡単にアクセスする方法を提供し、新しいより高度なアルゴリズムが直面することが多い課題を解消します。 。

合成データは実際のデータを置き換えることができますか?

実際のデータの問題は、それが機械学習や AI アルゴリズムのトレーニングを目的として生成されたものではなく、単に私たちの周りで起こっている出来事の副産物であることです。前述したように、これにより収集されたデータの可用性と使いやすさが明らかに制限されるだけでなく、データのパラメーターや結果を損なう可能性のある欠陥 (外れ値) の可能性も制限されます。このため、モデルをトレーニングする際には、カスタマイズおよび制御できる合成データの方が効率的です。

ただし、合成データはトレーニング シナリオには非常に適していますが、それを作成する際には必ず実際のデータの少なくとも一部に依存することになります。したがって、合成データは、依存する元のデータを置き換えることはありません。より現実的には、アルゴリズムのトレーニングに必要な実際のデータの量が大幅に削減されます。このプロセスでは、テストよりもはるかに多くのデータが必要になります。通常、データの 80% がトレーニングに使用され、残りの 20% がテストに使用されます。

最後に、合成データは、正しく行われれば、現実世界からデータを取得するよりも低コストで、必要なデータをより迅速かつ効率的に取得する方法を提供し、煩わしいデータのプライベート問題を軽減します。

原題: Synthetic data: The future of machine learning 、著者: Christian Lawaetz Halvorsen

以上が合成データ: 機械学習の未来の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。

このウェブサイトの声明
この記事の内容はネチズンが自主的に寄稿したものであり、著作権は原著者に帰属します。このサイトは、それに相当する法的責任を負いません。盗作または侵害の疑いのあるコンテンツを見つけた場合は、admin@php.cn までご連絡ください。

ホットAIツール

Undresser.AI Undress

Undresser.AI Undress

リアルなヌード写真を作成する AI 搭載アプリ

AI Clothes Remover

AI Clothes Remover

写真から衣服を削除するオンライン AI ツール。

Undress AI Tool

Undress AI Tool

脱衣画像を無料で

Clothoff.io

Clothoff.io

AI衣類リムーバー

AI Hentai Generator

AI Hentai Generator

AIヘンタイを無料で生成します。

ホットツール

メモ帳++7.3.1

メモ帳++7.3.1

使いやすく無料のコードエディター

SublimeText3 中国語版

SublimeText3 中国語版

中国語版、とても使いやすい

ゼンドスタジオ 13.0.1

ゼンドスタジオ 13.0.1

強力な PHP 統合開発環境

ドリームウィーバー CS6

ドリームウィーバー CS6

ビジュアル Web 開発ツール

SublimeText3 Mac版

SublimeText3 Mac版

神レベルのコード編集ソフト(SublimeText3)

この記事では、SHAP: 機械学習のモデルの説明について説明します。 この記事では、SHAP: 機械学習のモデルの説明について説明します。 Jun 01, 2024 am 10:58 AM

機械学習とデータ サイエンスの分野では、モデルの解釈可能性が常に研究者や実務家に焦点を当ててきました。深層学習やアンサンブル手法などの複雑なモデルが広く適用されるようになったことで、モデルの意思決定プロセスを理解することが特に重要になってきました。 Explainable AI|XAI は、モデルの透明性を高めることで、機械学習モデルに対する信頼と自信を構築するのに役立ちます。モデルの透明性の向上は、複数の複雑なモデルの普及や、モデルを説明するための意思決定プロセスなどの方法によって実現できます。これらの方法には、特徴重要度分析、モデル予測間隔推定、ローカル解釈可能性アルゴリズムなどが含まれます。特徴重要度分析では、入力特徴に対するモデルの影響度を評価することで、モデルの意思決定プロセスを説明できます。モデルの予測間隔の推定

ORB-SLAM3を超えて! SL-SLAM: 低照度、重度のジッター、弱いテクスチャのシーンはすべて処理されます。 ORB-SLAM3を超えて! SL-SLAM: 低照度、重度のジッター、弱いテクスチャのシーンはすべて処理されます。 May 30, 2024 am 09:35 AM

以前に書きましたが、今日は、深層学習テクノロジーが複雑な環境におけるビジョンベースの SLAM (同時ローカリゼーションとマッピング) のパフォーマンスをどのように向上させることができるかについて説明します。ここでは、深部特徴抽出と深度マッチング手法を組み合わせることで、低照度条件、動的照明、テクスチャの弱い領域、激しいセックスなどの困難なシナリオでの適応を改善するように設計された多用途のハイブリッド ビジュアル SLAM システムを紹介します。当社のシステムは、拡張単眼、ステレオ、単眼慣性、ステレオ慣性構成を含む複数のモードをサポートしています。さらに、他の研究にインスピレーションを与えるために、ビジュアル SLAM と深層学習手法を組み合わせる方法も分析します。公開データセットと自己サンプリングデータに関する広範な実験を通じて、測位精度と追跡堅牢性の点で SL-SLAM の優位性を実証しました。

学習曲線を通じて過学習と過小学習を特定する 学習曲線を通じて過学習と過小学習を特定する Apr 29, 2024 pm 06:50 PM

この記事では、学習曲線を通じて機械学習モデルの過学習と過小学習を効果的に特定する方法を紹介します。過小適合と過適合 1. 過適合 モデルがデータからノイズを学習するためにデータ上で過学習されている場合、そのモデルは過適合していると言われます。過学習モデルはすべての例を完璧に学習するため、未確認の新しい例を誤って分類してしまいます。過適合モデルの場合、完璧/ほぼ完璧なトレーニング セット スコアとひどい検証セット/テスト スコアが得られます。若干修正: 「過学習の原因: 複雑なモデルを使用して単純な問題を解決し、データからノイズを抽出します。トレーニング セットとしての小さなデータ セットはすべてのデータを正しく表現できない可能性があるため、2. 過学習の Heru。」

宇宙探査と人類居住工学における人工知能の進化 宇宙探査と人類居住工学における人工知能の進化 Apr 29, 2024 pm 03:25 PM

1950 年代に人工知能 (AI) が誕生しました。そのとき、研究者たちは、機械が思考などの人間と同じようなタスクを実行できることを発見しました。その後、1960 年代に米国国防総省は人工知能に資金を提供し、さらなる開発のために研究所を設立しました。研究者たちは、宇宙探査や極限環境での生存など、多くの分野で人工知能の応用を見出しています。宇宙探査は、地球を超えた宇宙全体を対象とする宇宙の研究です。宇宙は地球とは条件が異なるため、極限環境に分類されます。宇宙で生き残るためには、多くの要素を考慮し、予防策を講じる必要があります。科学者や研究者は、宇宙を探索し、あらゆるものの現状を理解することが、宇宙の仕組みを理解し、潜在的な環境危機に備えるのに役立つと信じています。

C++ での機械学習アルゴリズムの実装: 一般的な課題と解決策 C++ での機械学習アルゴリズムの実装: 一般的な課題と解決策 Jun 03, 2024 pm 01:25 PM

C++ の機械学習アルゴリズムが直面する一般的な課題には、メモリ管理、マルチスレッド、パフォーマンスの最適化、保守性などがあります。解決策には、スマート ポインター、最新のスレッド ライブラリ、SIMD 命令、サードパーティ ライブラリの使用、コーディング スタイル ガイドラインの遵守、自動化ツールの使用が含まれます。実践的な事例では、Eigen ライブラリを使用して線形回帰アルゴリズムを実装し、メモリを効果的に管理し、高性能の行列演算を使用する方法を示します。

あなたが知らない機械学習の 5 つの流派 あなたが知らない機械学習の 5 つの流派 Jun 05, 2024 pm 08:51 PM

機械学習は人工知能の重要な分野であり、明示的にプログラムしなくてもコンピューターにデータから学習して能力を向上させる機能を提供します。機械学習は、画像認識や自然言語処理から、レコメンデーションシステムや不正行為検出に至るまで、さまざまな分野で幅広く応用されており、私たちの生活様式を変えつつあります。機械学習の分野にはさまざまな手法や理論があり、その中で最も影響力のある 5 つの手法は「機械学習の 5 つの流派」と呼ばれています。 5 つの主要な学派は、象徴学派、コネクショニスト学派、進化学派、ベイジアン学派、およびアナロジー学派です。 1. 象徴主義は、象徴主義とも呼ばれ、論理的推論と知識の表現のためのシンボルの使用を強調します。この学派は、学習は既存の既存の要素を介した逆演繹のプロセスであると信じています。

説明可能な AI: 複雑な AI/ML モデルの説明 説明可能な AI: 複雑な AI/ML モデルの説明 Jun 03, 2024 pm 10:08 PM

翻訳者 | Li Rui によるレビュー | 今日、人工知能 (AI) および機械学習 (ML) モデルはますます複雑になっており、これらのモデルによって生成される出力はブラックボックスになっており、関係者に説明することができません。 Explainable AI (XAI) は、利害関係者がこれらのモデルがどのように機能するかを理解できるようにし、これらのモデルが実際に意思決定を行う方法を確実に理解できるようにし、AI システムの透明性、信頼性、およびこの問題を解決するための説明責任を確保することで、この問題を解決することを目指しています。この記事では、さまざまな説明可能な人工知能 (XAI) 手法を検討して、その基礎となる原理を説明します。説明可能な AI が重要であるいくつかの理由 信頼と透明性: AI システムが広く受け入れられ、信頼されるためには、ユーザーは意思決定がどのように行われるかを理解する必要があります

フラッシュ アテンションは安定していますか?メタとハーバードは、モデルの重みの偏差が桁違いに変動していることを発見しました フラッシュ アテンションは安定していますか?メタとハーバードは、モデルの重みの偏差が桁違いに変動していることを発見しました May 30, 2024 pm 01:24 PM

MetaFAIR はハーバード大学と協力して、大規模な機械学習の実行時に生成されるデータの偏りを最適化するための新しい研究フレームワークを提供しました。大規模な言語モデルのトレーニングには数か月かかることが多く、数百、さらには数千の GPU を使用することが知られています。 LLaMA270B モデルを例にとると、そのトレーニングには合計 1,720,320 GPU 時間が必要です。大規模なモデルのトレーニングには、これらのワークロードの規模と複雑さにより、特有のシステム上の課題が生じます。最近、多くの機関が、SOTA 生成 AI モデルをトレーニングする際のトレーニング プロセスの不安定性を報告しています。これらは通常、損失スパイクの形で現れます。たとえば、Google の PaLM モデルでは、トレーニング プロセス中に最大 20 回の損失スパイクが発生しました。数値的なバイアスがこのトレーニングの不正確さの根本原因です。

See all articles