GNN如何建模時空資訊?倫敦瑪麗皇后大學「時空圖神經網路」綜述,簡明闡述時空圖神經網路方法
這些強大的演算法在過去幾年中獲得了巨大的興趣。然而,這種性能是基於靜態圖結構假設的,這限制了圖神經網路在資料隨時間變化時的表現。時序圖神經網路是考慮時間因素的圖神經網路的擴展。
近年來,各種時序圖神經網路演算法被提出,並在多個時間相關應用中取得了優於其他深度學習演算法的效能。本綜述討論了與時空圖神經網路相關的有趣主題,包括演算法、應用和開放挑戰。
論文網址:https://www.php.cn/link/1915523773b16865a73a38acc952ccda
#1. 引言
#圖神經網路(GNN)是一類深度學習模型,專門設計用於處理圖結構資料。這些模型利用圖拓樸來學習圖的節點和邊的有意義表示。圖神經網路是傳統卷積神經網路的擴展,在圖分類、節點分類和連結預測等任務中被證明是有效的。 GNNs的關鍵優勢之一是,即使在基礎圖的規模增長時,它們也能保持良好的效能,這是因為可學習參數的數量獨立於圖中節點的數量。圖神經網路(GNN)已被廣泛應用於各種領域,如推薦系統、藥物發現和生物學以及自治系統中的資源分配。然而,這些模型僅限於靜態圖數據,其中圖結構是固定的。近年來,時變圖數據引起了人們越來越多的關注,它出現在各種系統中並攜帶有價值的時間資訊。時變圖資料的應用包括多元時間序列資料、社交網路、視聽系統等。
為了滿足這個需求,出現了一種新的GNN族:時空GNN,透過學習圖結構的時間表示,同時考慮了資料的空間和時間維度。本文對最先進的時空圖神經網路進行了全面的回顧。本文首先簡要概述不同類型的時空圖神經網路及其基本假設。更詳細地研究了時空GNN中使用的特定演算法,同時也為這些模型的分組提供了有用的分類法。本文也概述了時空GNN的各種應用,強調了這些模型已被用於取得最先進結果的關鍵領域。最後,討論了該領域面臨的挑戰和未來的研究方向。總之,本篇綜述旨在對時空圖神經網路進行全面且深入的研究,強調該領域的現狀、仍需要解決的關鍵挑戰,以及這些模型令人興奮的未來可能性。
2. 演算法
時空圖神經網路從演算法角度可分為基於頻譜的和基於空間的兩類。另一個分類類別是引入時變的方法:另一個機器學習演算法或在圖結構中定義時間。
2.1 混合時空圖神經網路
混合時空圖神經網路由兩個主要元件組成:空間元件和時間元件。在混合時空圖神經網路中,利用圖神經網路演算法對資料中的空間依賴關係進行建模。
2.2 Solo-Graph神經網路
在時空圖神經網路中建模時間的另一種方法是在GNN本身中定義時間框架。提出了多種方法,包括:將時間定義為邊,將時間作為訊號輸入到GNN,將時間建模為子圖,以及將其他機器學習架構夾在GNN中(圖2)。
3. 應用程式
3.1 多變量時間序列預測
受圖神經網路處理關係依賴[10]能力的啟發,時空圖神經網路被廣泛應用於多變量時間序列預測。應用包括流量預測,Covid預測,光伏電力消耗,RSU通訊和地震應用。
3.2人物互動
在機器學習和電腦視覺中,時空域學習仍然是一個非常具有挑戰性的問題。主要的挑戰是如何在大的時空上下文[18]中建模物件和更高層次的概念之間的交互作用。在這樣一個困難的學習任務中,有效地對空間關係、局部外觀以及隨著時間發生的複雜互動和變化進行建模是至關重要的。 [18]引入了一種時空圖神經網路模型,在空間和時間上循環,適合捕捉不斷變化的世界場景[18]中不同實體和物體的局部外觀和複雜的高層交互作用。
3.3 動態圖表示
時序圖表示學習一直被認為是圖機器學習中一個非常重要的面向[15,31]。針對現有方法依賴時序圖的離散快照而無法捕捉強大表示的局限性,[3]提出了一種基於時空圖神經網路的動態圖表示學習方法。此外,[15]如今使用時空GNN動態表示腦圖。多目標追蹤影片中的多目標追蹤嚴重依賴對目標之間的時空交互作用進行建模[16]。 [16]提出了一種時空圖神經網路演算法,對物件之間的空間和時間交互作用進行建模。
3.4 手語翻譯
手語採用視覺-手動方式來傳達意義,是聾人和重聽群體的主要溝通工具。為了縮小口語使用者和手語使用者之間的溝通鴻溝,機器學習技術被引入其中。傳統上,神經機器翻譯被廣泛採用,但需要更先進的方法來捕捉手語的空間屬性。 [13]提出了一種基於時空圖神經網路的手語翻譯系統,該系統在捕捉手語的時空結構方面具有強大的能力,與傳統的神經機器翻譯方法[13]相比,取得了最好的性能。
3.5 技術成長排名
了解技術的成長率是技術部門業務策略的核心關鍵。此外,預測技術的成長速度和相互之間的關係,有助於在產品定義、行銷策略和研發方面的商業決策。 [32]提出了一種基於時空圖神經網路的社交網路技術成長排名預測方法。
4. 結論
圖神經網路在過去幾年中獲得了巨大的興趣。這些強大的演算法將深度學習模型擴展到非歐氏空間。然而,圖神經網路限於靜態圖結構假設,限制了圖神經網路在資料隨時間變化時的表現。時序圖神經網路是考慮時間因素的圖神經網路的擴展。本文對時空圖神經網路進行了全面的概述。本文提出了一種分類法,基於時變方法將時空圖神經網路分為兩類。也討論了時空圖神經網路的廣泛應用。最後,根據目前時空圖神經網路面臨的公開挑戰,提出了未來的研究方向。
參考資料:https://www.php.cn/link/1915523773b16865a73a38acc952ccda
##以上是GNN如何建模時空資訊?倫敦瑪麗皇后大學「時空圖神經網路」綜述,簡明闡述時空圖神經網路方法的詳細內容。更多資訊請關注PHP中文網其他相關文章!

熱AI工具

Undresser.AI Undress
人工智慧驅動的應用程序,用於創建逼真的裸體照片

AI Clothes Remover
用於從照片中去除衣服的線上人工智慧工具。

Undress AI Tool
免費脫衣圖片

Clothoff.io
AI脫衣器

Video Face Swap
使用我們完全免費的人工智慧換臉工具,輕鬆在任何影片中換臉!

熱門文章

熱工具

記事本++7.3.1
好用且免費的程式碼編輯器

SublimeText3漢化版
中文版,非常好用

禪工作室 13.0.1
強大的PHP整合開發環境

Dreamweaver CS6
視覺化網頁開發工具

SublimeText3 Mac版
神級程式碼編輯軟體(SublimeText3)

BERT是由Google在2018年提出的一種預先訓練的深度學習語言模式。全稱為BidirectionalEncoderRepresentationsfromTransformers,它基於Transformer架構,具有雙向編碼的特性。相較於傳統的單向編碼模型,BERT在處理文字時能夠同時考慮上下文的訊息,因此在自然語言處理任務中表現出色。它的雙向性使得BERT能夠更好地理解句子中的語義關係,從而提高了模型的表達能力。透過預訓練和微調的方法,BERT可以用於各種自然語言處理任務,如情緒分析、命名

潛在空間嵌入(LatentSpaceEmbedding)是將高維度資料對應到低維度空間的過程。在機器學習和深度學習領域中,潛在空間嵌入通常是透過神經網路模型將高維輸入資料映射為一組低維向量表示,這組向量通常被稱為「潛在向量」或「潛在編碼」。潛在空間嵌入的目的是捕捉資料中的重要特徵,並將其表示為更簡潔和可理解的形式。透過潛在空間嵌入,我們可以在低維空間中對資料進行視覺化、分類、聚類等操作,從而更好地理解和利用資料。潛在空間嵌入在許多領域中都有廣泛的應用,如影像生成、特徵提取、降維等。潛在空間嵌入的主要

如今的深度學習方法專注於設計最適合的目標函數,以使模型的預測結果與實際情況最接近。同時,必須設計一個合適的架構,以便為預測取得足夠的資訊。現有方法忽略了一個事實,當輸入資料經過逐層特徵提取和空間變換時,大量資訊將會遺失。本文將深入探討資料透過深度網路傳輸時的重要問題,即資訊瓶頸和可逆函數。基於此提出了可編程梯度資訊(PGI)的概念,以應對深度網路實現多目標所需的各種變化。 PGI可以為目標任務提供完整的輸入訊息,以計算目標函數,從而獲得可靠的梯度資訊以更新網路權重。此外設計了一種新的輕量級網路架

寫在前面今天我們探討下深度學習技術如何改善在複雜環境中基於視覺的SLAM(同時定位與地圖建構)表現。透過將深度特徵提取和深度匹配方法相結合,這裡介紹了一種多功能的混合視覺SLAM系統,旨在提高在諸如低光條件、動態光照、弱紋理區域和嚴重抖動等挑戰性場景中的適應性。我們的系統支援多種模式,包括拓展單目、立體、單目-慣性以及立體-慣性配置。除此之外,也分析如何將視覺SLAM與深度學習方法結合,以啟發其他研究。透過在公共資料集和自採樣資料上的廣泛實驗,展示了SL-SLAM在定位精度和追蹤魯棒性方面優

自2006年深度學習概念被提出以來,20年快過去了,深度學習作為人工智慧領域的一場革命,已經催生了許多具有影響力的演算法。那麼,你所認為深度學習的top10演算法有哪些呢?以下是我心目中深度學習的頂尖演算法,它們在創新、應用價值和影響力方面都佔有重要地位。 1.深度神經網路(DNN)背景:深度神經網路(DNN)也叫多層感知機,是最普遍的深度學習演算法,發明之初由於算力瓶頸而飽受質疑,直到近些年算力、數據的爆發才迎來突破。 DNN是一種神經網路模型,它包含多個隱藏層。在該模型中,每一層將輸入傳遞給下一層,並

在當今科技日新月異的浪潮中,人工智慧(ArtificialIntelligence,AI)、機器學習(MachineLearning,ML)與深度學習(DeepLearning,DL)如同璀璨星辰,引領著資訊科技的新浪潮。這三個詞彙經常出現在各種前沿討論和實際應用中,但對於許多初涉此領域的探索者來說,它們的具體含義及相互之間的內在聯繫可能仍籠罩著一層神秘面紗。那讓我們先來看看這張圖。可以看出,深度學習、機器學習和人工智慧之間存在著緊密的關聯和遞進關係。深度學習是機器學習的一個特定領域,而機器學習

论文地址:https://arxiv.org/abs/2307.09283代码地址:https://github.com/THU-MIG/RepViTRepViT在移动端ViT架构中表现出色,展现出显著的优势。接下来,我们将探讨本研究的贡献所在。文中提到,轻量级ViTs通常比轻量级CNNs在视觉任务上表现得更好,这主要归功于它们的多头自注意力模块(MSHA)可以让模型学习全局表示。然而,轻量级ViTs和轻量级CNNs之间的架构差异尚未得到充分研究。在这项研究中,作者们通过整合轻量级ViTs的有效

编辑|萝卜皮自2021年发布强大的AlphaFold2以来,科学家们一直在使用蛋白质结构预测模型来绘制细胞内各种蛋白质结构的图谱、发现药物,并绘制每种已知蛋白质相互作用的「宇宙图」。就在刚刚,GoogleDeepMind发布了AlphaFold3模型,该模型能够对包括蛋白质、核酸、小分子、离子和修饰残基在内的复合物进行联合结构预测。AlphaFold3的准确性对比过去许多专用工具(蛋白质-配体相互作用、蛋白质-核酸相互作用、抗体-抗原预测)有显著提高。这表明,在单个统一的深度学习框架内,可以实现
