「良い」グラフを生成するにはどうすればよいでしょうか?グラフ生成のための深い生成モデルの体系的なレビュー
https://www.zhuanzhi.ai/paper/a904f0aa0762e65e1dd0b8b464df7168
画像は説明です現実のさまざまなシナリオに現れるオブジェクトとその関係。グラフ生成は、この分野における重要な問題の 1 つであり、特定のグラフの分布を学習し、さらに新しいグラフを生成することが考慮されます。ただし、アプリケーションが広く普及しているため、豊富な歴史を持つグラフの生成モデルは伝統的に手作業で作成されており、グラフの一部の統計的特性しかモデル化できません。
グラフ生成のための深層生成モデルの最近の進歩は、生成されるグラフの忠実度を向上させるための重要なステップであり、新しいタイプのアプリケーションへの道を開きます。この文書では、グラフ生成のための深層生成モデルの分野における文献の広範な概要を提供します。まず,グラフ生成のための深い生成モデルの正式な定義と予備知識を与え,次に,無条件グラフ生成と条件付きグラフ生成のための深い生成モデルの分類をそれぞれ提案し,それぞれの既存の研究を比較分析した。これに続いて、この特定の領域における評価指標の概要が説明されます。最後に、深度マップ生成の応用を要約し、5 つの有望な研究の方向性を指摘します。
はじめに
グラフは現実世界のいたるところに存在し、ソーシャル ネットワーク、引用ネットワーク、生物学的ネットワークなどのオブジェクトとその関係を表します。交通網などグラフは、豊富な基礎となる値を含む複雑な構造を持つことも知られています[1]。この分野では多大な努力が払われ、その結果、さまざまなグラフ問題を処理するための豊富な文献と方法が生まれました。
これらの作業は 2 つのカテゴリに分類できます。 1) 特定のグラフのパターンを予測および分析する。 2) 与えられたグラフの分布を学習し、より新しいグラフを生成します。最初のタイプは、ノード分類、グラフ分類、リンク予測などの多くの研究領域をカバーします。過去数十年にわたり、この分野では多くの研究が行われてきました。最初のタイプの問題と比較すると、2 番目のタイプの問題は、この記事の焦点でもあるグラフ生成の問題に関連しています。
グラフ生成には、現実世界のグラフのモデリングと生成のプロセスが含まれており、ソーシャル ネットワークの理解など、いくつかの分野に応用できます [2]、[3]、[4] インタラクションダイナミクス、異常検出 [5]、タンパク質構造モデリング [6]、[7]、ソース コードの生成と翻訳 [8]、[9]、セマンティック解析 [10]。グラフの生成モデルの開発には幅広い用途があるため、豊富な歴史があり、ランダム グラフ、スモールワールド モデル、確率的ブロック モデル、ベイジアン ネットワーク モデルなど、アプリオリな構造に基づくよく知られたモデルが誕生しました。仮定 [11] グラフを生成します。これらのグラフ生成モデル [12]、[13]、[14] は、ランダム グラフ [15]、スモールワールド ネットワーク [16]、スケールフリー グラフ [12] など、事前に選択されたグラフ ファミリをモデル化することを目的としています。ただし、これらのランダム グラフ モデルは、その単純さと手作りの性質により、多くの場合、複雑な依存関係をモデル化する能力が限られており、グラフの一部の統計的特性しかモデル化できません。
これらの方法は通常、事前定義された原則が調整されているプロパティではうまく機能しますが、他のプロパティではうまく機能しないことがよくあります。たとえば、連絡先ネットワーク モデルはインフルエンザの流行には適合しますが、動的な機能接続には適合しません。しかし、精神疾患、サイバー攻撃、脳ネットワークにおけるマルウェアの拡散のメカニズムを説明するものなど、ネットワークの性質や生成原理は多くの分野でほとんど知られていません。別の例として、Erdos-Renyi のグラフには、多くの現実世界のネットワークに典型的なヘビーテール次数分布がありません。さらに、アプリオリな仮定を使用すると、グラフのアプリオリな知識が常に利用できない大規模な領域で、これらの従来の手法をさらに応用することが制限されます。
従来のグラフ生成技術の限界を考慮すると、未解決の重要な課題は、観察されたグラフのコレクションから生成モデルを直接学習できる方法を開発することであり、これはグラフ生成の改善となります。忠実性を保つための重要なステップ。これは、新薬の発見 [17]、[18] やタンパク質構造モデリング [19]、[20]、[21] など、新しいタイプのアプリケーションへの道を開きます。変分オートエンコーダ (VAE) [22] や敵対的生成ネットワーク (GAN) [23] などの深層生成モデルの最近の進歩は、グラフを生成するために提案されており、多くの深層学習モデルが形式化されています。深い生成モデル、これがこのレビューの焦点です。
深層マップ生成では、1 回限りのグラフ生成から逐次グラフ生成プロセスに至るまで、さまざまな深層生成学習戦略に適応するさまざまな高度な作業が実行されてきました。これらの手法は、機械学習、バイオインフォマティクス、人工知能、人間の健康、ソーシャル ネットワーク マイニングなどのさまざまな分野での取り組みを通じて、上記の課題の 1 つまたは複数に対処することを目的としています。ただし、異なる研究分野で開発された手法は、異なる語彙を使用し、異なる視点から問題にアプローチすることがよくあります。
さらに、開発されたグラフの深い生成モデルを検証するための標準的かつ包括的な評価手順が不足しています。この目的を達成するために、この文書では、グラフ生成のための深い生成モデルの系統的なレビューを提供します。その目的は、学際的な研究者が応用分野の問題を解決するために適切なテクノロジーを選択できるようにすることであり、さらに重要なことに、グラフ生成の研究者がグラフ生成の基本原理を理解し、ディープ グラフ生成の分野でオープンな研究の機会を特定できるようにすることです。私たちの知る限り、これはグラフ生成のための深い生成モデルの最初の包括的なレビューです。以下に、このレビューの主な貢献を要約します。
この論文では、問題設定とアプローチによって分類された、グラフ生成のための深い生成モデルの分類を提案します。利点、欠点、およびさまざまなサブカテゴリ間の関係が示されます。グラフ生成のための深い生成モデルと基本的な深い生成モデルが詳細に説明、分析、比較されます。
- ベンチマーク データセットおよび対応するグラフ生成タスクに関する深層生成モデルの既存の評価手順とメトリクスの結果を要約して分類します。
- グラフ深度生成モデルの既存のアプリケーション領域と、それらがこれらのアプリケーションにもたらす潜在的な利点と機会を紹介します。
- 私たちは、グラフ生成のための深層生成モデルの分野におけるいくつかの未解決の問題と有望な将来の研究の方向性を紹介します。
無条件深度マップ生成目標は次のとおりです。実分布 p(G) からサンプリングされた観察された実グラフのセットから深い生成モデルを介して分布 pmodel(G) を学習します。生成プロセスのスタイルに従って、これらの方法を 2 つの主な分岐に分けることができます: (1) 逐次生成: ノードとエッジを順番に生成する; (2) 1 回限りの生成: 行列表現に従って確率グラフ モデルを構築するノードとエッジを一度に生成します。グラフを生成するどちらの方法にも長所と短所があります。順次生成では、前の世代のローカルな決定を効率的に実行しますが、長期的な依存関係を維持するのが困難です。したがって、グラフの一部のグローバル プロパティ (スケールフリー プロパティなど) を含めることは困難です。さらに、シーケンス生成に関する既存の研究は、事前定義されたシーケンスの順序付けに限定されており、順列の役割は残されています。ワンショット生成方法では、複数の反復を通じてグラフ全体 (つまり、ノードとエッジ) を同時に生成および洗練することができ、それによってグラフのグローバル プロパティをモデル化できますが、ノード間のグローバルな関係を集合的にモデル化する必要があるため、時間がかかります。複雑さは通常 O(N2) を超えるため、ほとんどのメソッドを大きなグラフに拡張することが困難になります。
条件付き深度マップ生成の目標は、一連の観察された現実に基づいています。グラフ G とそれに対応する補助情報 (つまり、条件 y) は、条件付き分布 pmodel(G|y) を学習します。補助情報には、カテゴリ ラベル、セマンティック コンテキスト、他の配布スペースからのグラフなどが含まれます。無条件深度マップ生成と比較すると、マップ生成の課題に加えて、条件付き生成では、与えられた条件から特徴を抽出してマップの生成に統合する方法も考慮する必要があります。
したがって、既存の条件付き深度マップ生成モデルを系統的に導入するために、主にこれらのメソッドが条件を処理する方法について説明します。条件は任意の形式の補助情報であるため、図 1
# の分類ツリーの黄色の部分に示すように、条件はグラフ、シーケンス、セマンティック コンテキストの 3 つのタイプに分類されます。以上が「良い」グラフを生成するにはどうすればよいでしょうか?グラフ生成のための深い生成モデルの体系的なレビューの詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。

ホットAIツール

Undresser.AI Undress
リアルなヌード写真を作成する AI 搭載アプリ

AI Clothes Remover
写真から衣服を削除するオンライン AI ツール。

Undress AI Tool
脱衣画像を無料で

Clothoff.io
AI衣類リムーバー

AI Hentai Generator
AIヘンタイを無料で生成します。

人気の記事

ホットツール

メモ帳++7.3.1
使いやすく無料のコードエディター

SublimeText3 中国語版
中国語版、とても使いやすい

ゼンドスタジオ 13.0.1
強力な PHP 統合開発環境

ドリームウィーバー CS6
ビジュアル Web 開発ツール

SublimeText3 Mac版
神レベルのコード編集ソフト(SublimeText3)

ホットトピック









従来のコンピューティングを超える能力を備えているだけでなく、より低コストでより効率的なパフォーマンスを実現する人工知能モデルを想像してみてください。これは SF ではありません。世界で最も強力なオープンソース MoE モデルである DeepSeek-V2[1] が登場しました。 DeepSeek-V2 は、経済的なトレーニングと効率的な推論の特徴を備えた強力な専門家混合 (MoE) 言語モデルです。これは 236B のパラメータで構成されており、そのうち 21B は各マーカーをアクティブにするために使用されます。 DeepSeek67B と比較して、DeepSeek-V2 はパフォーマンスが優れていると同時に、トレーニング コストを 42.5% 節約し、KV キャッシュを 93.3% 削減し、最大生成スループットを 5.76 倍に高めます。 DeepSeek は一般的な人工知能を研究する会社です

今月初め、MIT やその他の機関の研究者らは、MLP に代わる非常に有望な代替案である KAN を提案しました。 KAN は、精度と解釈可能性の点で MLP よりも優れています。また、非常に少数のパラメーターを使用して、多数のパラメーターを使用して実行する MLP よりも優れたパフォーマンスを発揮できます。たとえば、著者らは、KAN を使用して、より小規模なネットワークと高度な自動化で DeepMind の結果を再現したと述べています。具体的には、DeepMind の MLP には約 300,000 個のパラメーターがありますが、KAN には約 200 個のパラメーターしかありません。 KAN は、MLP が普遍近似定理に基づいているのに対し、KAN はコルモゴロフ-アーノルド表現定理に基づいているのと同様に、強力な数学的基礎を持っています。以下の図に示すように、KAN は

AI は確かに数学を変えつつあります。最近、この問題に細心の注意を払っている陶哲軒氏が『米国数学協会会報』(米国数学協会会報)の最新号を送ってくれた。 「機械は数学を変えるのか?」というテーマを中心に、多くの数学者が意見を述べ、そのプロセス全体は火花に満ち、ハードコアで刺激的でした。著者には、フィールズ賞受賞者のアクシャイ・ベンカテシュ氏、中国の数学者鄭楽軍氏、ニューヨーク大学のコンピューター科学者アーネスト・デイビス氏、その他業界で著名な学者を含む強力な顔ぶれが揃っている。 AI の世界は劇的に変化しています。これらの記事の多くは 1 年前に投稿されたものです。

Boston Dynamics Atlas は正式に電動ロボットの時代に突入します!昨日、油圧式アトラスが歴史の舞台から「涙ながらに」撤退したばかりですが、今日、ボストン・ダイナミクスは電動式アトラスが稼働することを発表しました。ボストン・ダイナミクス社は商用人型ロボットの分野でテスラ社と競争する決意を持っているようだ。新しいビデオが公開されてから、わずか 10 時間ですでに 100 万人以上が視聴しました。古い人が去り、新しい役割が現れるのは歴史的な必然です。今年が人型ロボットの爆発的な年であることは間違いありません。ネットユーザーは「ロボットの進歩により、今年の開会式は人間のように見え、人間よりもはるかに自由度が高い。しかし、これは本当にホラー映画ではないのか?」とコメントした。ビデオの冒頭では、アトラスは仰向けに見えるように地面に静かに横たわっています。次に続くのは驚くべきことです

以前に書きましたが、今日は、深層学習テクノロジーが複雑な環境におけるビジョンベースの SLAM (同時ローカリゼーションとマッピング) のパフォーマンスをどのように向上させることができるかについて説明します。ここでは、深部特徴抽出と深度マッチング手法を組み合わせることで、低照度条件、動的照明、テクスチャの弱い領域、激しいセックスなどの困難なシナリオでの適応を改善するように設計された多用途のハイブリッド ビジュアル SLAM システムを紹介します。当社のシステムは、拡張単眼、ステレオ、単眼慣性、ステレオ慣性構成を含む複数のモードをサポートしています。さらに、他の研究にインスピレーションを与えるために、ビジュアル SLAM と深層学習手法を組み合わせる方法も分析します。公開データセットと自己サンプリングデータに関する広範な実験を通じて、測位精度と追跡堅牢性の点で SL-SLAM の優位性を実証しました。

Google が推進する JAX のパフォーマンスは、最近のベンチマーク テストで Pytorch や TensorFlow のパフォーマンスを上回り、7 つの指標で 1 位にランクされました。また、テストは最高の JAX パフォーマンスを備えた TPU では行われませんでした。ただし、開発者の間では、依然として Tensorflow よりも Pytorch の方が人気があります。しかし、将来的には、おそらくより大規模なモデルが JAX プラットフォームに基づいてトレーニングされ、実行されるようになるでしょう。モデル 最近、Keras チームは、ネイティブ PyTorch 実装を使用して 3 つのバックエンド (TensorFlow、JAX、PyTorch) をベンチマークし、TensorFlow を使用して Keras2 をベンチマークしました。まず、主流のセットを選択します

テスラのロボット「オプティマス」の最新映像が公開され、すでに工場内で稼働可能となっている。通常の速度では、バッテリー(テスラの4680バッテリー)を次のように分類します:公式は、20倍の速度でどのように見えるかも公開しました - 小さな「ワークステーション」上で、ピッキング、ピッキング、ピッキング:今回は、それがリリースされたハイライトの1つビデオの内容は、オプティマスが工場内でこの作業を完全に自律的に行い、プロセス全体を通じて人間の介入なしに完了するというものです。そして、オプティマスの観点から見ると、自動エラー修正に重点を置いて、曲がったバッテリーを拾い上げたり配置したりすることもできます。オプティマスのハンドについては、NVIDIA の科学者ジム ファン氏が高く評価しました。オプティマスのハンドは、世界の 5 本指ロボットの 1 つです。最も器用。その手は触覚だけではありません

目標検出は自動運転システムにおいて比較的成熟した問題であり、その中でも歩行者検出は最も初期に導入されたアルゴリズムの 1 つです。ほとんどの論文では非常に包括的な研究が行われています。ただし、サラウンドビューに魚眼カメラを使用した距離認識については、あまり研究されていません。放射状の歪みが大きいため、標準のバウンディング ボックス表現を魚眼カメラに実装するのは困難です。上記の説明を軽減するために、拡張バウンディング ボックス、楕円、および一般的な多角形の設計を極/角度表現に探索し、これらの表現を分析するためのインスタンス セグメンテーション mIOU メトリックを定義します。提案された多角形モデルの FisheyeDetNet は、他のモデルよりも優れたパフォーマンスを示し、同時に自動運転用の Valeo 魚眼カメラ データセットで 49.5% の mAP を達成しました。
