教師なし学習の問題に対する一般的な解決策: メタアルゴリズムベースのフレームワーク
Microsoft Research とプリンストン大学の研究者らは 11 月 13 日、ガウス分布と部分空間クラスタリングの混合などの教師なし学習問題に対する効率的なアルゴリズムを設計するための一般的なフレームワークを提案しました。
研究者らが提案したフレームワークは、下限学習計算式の計算手法を用いたメタアルゴリズムを用いてノイズ問題を解決するものである。このフレームワークは、ノイズなしで算術公式を学習するためのこのフレームワークを提案した Garg、Kayal、Saha の最近の研究 (FOCS'20) に基づいて設計されています。メタ アルゴリズムの重要な要素は、「ロバスト ベクトル空間分解」と呼ばれる新しい問題を解決するための効率的なアルゴリズムです。
研究によると、ある行列が十分に大きな最小値を持つ場合、非ゼロ メタアルゴリズムは、特異値を扱う場合にうまく機能します。 「私たちは、この条件が問題の平滑化されたインスタンスに当てはまると推測しています。したがって、私たちのフレームワークは、これらの問題に対して平滑化された設定で効率的なアルゴリズムを生み出すでしょう。」
この研究のタイトルは「算術学習において」です。 Formulas in the Presence of Noise: A General Framework and Applications to Unsupervised Learning (11 月 13 日に arXiv プレプリント プラットフォームで公開)
教師なし学習には、次の発見が含まれます。ラベルや人間による直接の監視を一切使用せずに、データ内の隠されたパターンと構造を実現します。
ここで、研究者は、優れた数学的構造を持つデータ、または数学的に明確に定義された分布から生成されたデータを検討します。前者の例としては、特定の類似パターンに基づいてデータ ポイントを意味のあるクラスターにグループ化することができ、その目的は基礎となるクラスターを見つけることです。後者の例は、混合モデリングです。これは、データが簡潔に記述された確率分布 (ガウス分布など) の混合によって生成されると仮定し、目標はサンプルからこれらの分布のパラメーターを学習することです。
#多くの教師なし学習問題を解決するための一般的なフレームワークはモーメント法です。これは、データの統計モーメントを利用して、モデルの基礎となる構造または基礎となるパラメーターを推測します。基礎となるデータが優れた数学的構造を持つ多くの教師なし学習問題のシナリオでは、データのモーメントはパラメーターの明確に定義された関数です。ヒューリスティックな議論は、一般にその逆が成り立つことを示唆しています。つまり、構造/分布のパラメータは通常、データのいくつかの低次モーメントによって一意に決定されます。この一般的な方向性において、主な課題は、(経験的) モーメントから基礎となるパラメータを (近似的に) 回復するアルゴリズムを設計することです。
また、アルゴリズムが効率的で、ノイズに耐性があり (つまり、瞬間が正確ではなく近似的にしかわかっていない場合でも適切に機能する)、さらには異常に耐性があることも必要です (つまり、 、いくつかのデータ ポイントが基礎となる構造/分布に適合しない場合でも、うまく機能します)。しかし、現場での最も単純な問題でさえ NP 困難になる傾向があり、ノイズや外れ値がない場合でも、NP 困難なままです。
したがって、証明可能な最悪の場合の保証を備えたアルゴリズムを実際に期待することはできません。しかし、ランダムな問題のインスタンスに対して、またはより理想的にはスムーズな方法で選択されたインスタンスに対して、アルゴリズムが一般的にうまく機能することが保証されることを期待できます。したがって、さまざまなレベルの効率、ノイズ耐性、外れ値耐性、および証明可能な保証を備えた、教師なし学習におけるこのような問題ごとに多くの異なるアルゴリズムが設計されてきました。
この研究では、研究者らは、そのような多くの教師なし学習問題に適用できるメタアルゴリズムを提示します。この研究の出発点は、そのような問題の多くは、結局のところ、算術公式の適切なサブクラスを学習するというタスクに帰結するという観察にあります。
以上が教師なし学習の問題に対する一般的な解決策: メタアルゴリズムベースのフレームワークの詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。

ホットAIツール

Undresser.AI Undress
リアルなヌード写真を作成する AI 搭載アプリ

AI Clothes Remover
写真から衣服を削除するオンライン AI ツール。

Undress AI Tool
脱衣画像を無料で

Clothoff.io
AI衣類リムーバー

AI Hentai Generator
AIヘンタイを無料で生成します。

人気の記事

ホットツール

メモ帳++7.3.1
使いやすく無料のコードエディター

SublimeText3 中国語版
中国語版、とても使いやすい

ゼンドスタジオ 13.0.1
強力な PHP 統合開発環境

ドリームウィーバー CS6
ビジュアル Web 開発ツール

SublimeText3 Mac版
神レベルのコード編集ソフト(SublimeText3)

ホットトピック











このサイトは6月27日、JianyingはByteDanceの子会社であるFaceMeng Technologyによって開発されたビデオ編集ソフトウェアであり、Douyinプラットフォームに依存しており、基本的にプラットフォームのユーザー向けに短いビデオコンテンツを作成すると報告しました。 Windows、MacOS、その他のオペレーティング システム。 Jianyingは会員システムのアップグレードを正式に発表し、インテリジェント翻訳、インテリジェントハイライト、インテリジェントパッケージング、デジタルヒューマン合成などのさまざまなAIブラックテクノロジーを含む新しいSVIPを開始しました。価格的には、クリッピングSVIPの月額料金は79元、年会費は599元(当サイト注:月額49.9元に相当)、継続月額サブスクリプションは月額59元、継続年間サブスクリプションは、年間499元(月額41.6元に相当)です。さらに、カット担当者は、ユーザーエクスペリエンスを向上させるために、オリジナルのVIPに登録している人は、

検索強化生成およびセマンティック メモリを AI コーディング アシスタントに組み込むことで、開発者の生産性、効率、精度を向上させます。 JanakiramMSV 著者の EnhancingAICodingAssistantswithContextUsingRAGandSEM-RAG から翻訳。基本的な AI プログラミング アシスタントは当然役に立ちますが、ソフトウェア言語とソフトウェア作成の最も一般的なパターンに関する一般的な理解に依存しているため、最も適切で正しいコードの提案を提供できないことがよくあります。これらのコーディング アシスタントによって生成されたコードは、彼らが解決する責任を負っている問題の解決には適していますが、多くの場合、個々のチームのコーディング標準、規約、スタイルには準拠していません。これにより、コードがアプリケーションに受け入れられるように修正または調整する必要がある提案が得られることがよくあります。

AIGC について詳しくは、51CTOAI.x コミュニティ https://www.51cto.com/aigc/Translator|Jingyan Reviewer|Chonglou を参照してください。これらの質問は、インターネット上のどこでも見られる従来の質問バンクとは異なります。既成概念にとらわれずに考える必要があります。大規模言語モデル (LLM) は、データ サイエンス、生成人工知能 (GenAI)、および人工知能の分野でますます重要になっています。これらの複雑なアルゴリズムは人間のスキルを向上させ、多くの業界で効率とイノベーションを推進し、企業が競争力を維持するための鍵となります。 LLM は、自然言語処理、テキスト生成、音声認識、推奨システムなどの分野で幅広い用途に使用できます。 LLM は大量のデータから学習することでテキストを生成できます。

大規模言語モデル (LLM) は巨大なテキスト データベースでトレーニングされ、そこで大量の現実世界の知識を取得します。この知識はパラメータに組み込まれており、必要なときに使用できます。これらのモデルの知識は、トレーニングの終了時に「具体化」されます。事前トレーニングの終了時に、モデルは実際に学習を停止します。モデルを調整または微調整して、この知識を活用し、ユーザーの質問により自然に応答する方法を学びます。ただし、モデルの知識だけでは不十分な場合があり、モデルは RAG を通じて外部コンテンツにアクセスできますが、微調整を通じてモデルを新しいドメインに適応させることが有益であると考えられます。この微調整は、ヒューマン アノテーターまたは他の LLM 作成物からの入力を使用して実行され、モデルは追加の実世界の知識に遭遇し、それを統合します。

編集者 |ScienceAI 質問応答 (QA) データセットは、自然言語処理 (NLP) 研究を促進する上で重要な役割を果たします。高品質の QA データ セットは、モデルの微調整に使用できるだけでなく、大規模言語モデル (LLM) の機能、特に科学的知識を理解し推論する能力を効果的に評価することもできます。現在、医学、化学、生物学、その他の分野をカバーする多くの科学 QA データ セットがありますが、これらのデータ セットにはまだいくつかの欠点があります。まず、データ形式は比較的単純で、そのほとんどが多肢選択式の質問であり、評価は簡単ですが、モデルの回答選択範囲が制限され、科学的な質問に回答するモデルの能力を完全にテストすることはできません。対照的に、自由回答型の Q&A

編集者 | KX 医薬品の研究開発の分野では、タンパク質とリガンドの結合親和性を正確かつ効果的に予測することが、医薬品のスクリーニングと最適化にとって重要です。しかし、現在の研究では、タンパク質とリガンドの相互作用における分子表面情報の重要な役割が考慮されていません。これに基づいて、アモイ大学の研究者らは、初めてタンパク質の表面、3D 構造、配列に関する情報を組み合わせ、クロスアテンション メカニズムを使用して異なるモダリティの特徴を比較する、新しいマルチモーダル特徴抽出 (MFE) フレームワークを提案しました。アライメント。実験結果は、この方法がタンパク質-リガンド結合親和性の予測において最先端の性能を達成することを実証しています。さらに、アブレーション研究は、この枠組み内でのタンパク質表面情報と多峰性特徴の位置合わせの有効性と必要性を実証しています。 「S」で始まる関連研究

01 今後の概要 現時点では、検出効率と検出結果の適切なバランスを実現することが困難です。我々は、光学リモートセンシング画像におけるターゲット検出ネットワークの効果を向上させるために、多層特徴ピラミッド、マルチ検出ヘッド戦略、およびハイブリッドアテンションモジュールを使用して、高解像度光学リモートセンシング画像におけるターゲット検出のための強化されたYOLOv5アルゴリズムを開発しました。 SIMD データセットによると、新しいアルゴリズムの mAP は YOLOv5 より 2.2%、YOLOX より 8.48% 優れており、検出結果と速度のバランスがより優れています。 02 背景と動機 リモート センシング技術の急速な発展に伴い、航空機、自動車、建物など、地表上の多くの物体を記述するために高解像度の光学式リモート センシング画像が使用されています。リモートセンシング画像の判読における物体検出

機械学習は人工知能の重要な分野であり、明示的にプログラムしなくてもコンピューターにデータから学習して能力を向上させる機能を提供します。機械学習は、画像認識や自然言語処理から、レコメンデーションシステムや不正行為検出に至るまで、さまざまな分野で幅広く応用されており、私たちの生活様式を変えつつあります。機械学習の分野にはさまざまな手法や理論があり、その中で最も影響力のある 5 つの手法は「機械学習の 5 つの流派」と呼ばれています。 5 つの主要な学派は、象徴学派、コネクショニスト学派、進化学派、ベイジアン学派、およびアナロジー学派です。 1. 象徴主義は、象徴主義とも呼ばれ、論理的推論と知識の表現のためのシンボルの使用を強調します。この学派は、学習は既存の既存の要素を介した逆演繹のプロセスであると信じています。
