GNN은 시공간 정보를 어떻게 모델링합니까? 시공간 그래프 신경망 방법에 대한 간략한 설명, 런던 퀸메리대학교의 '공간-시간 그래프 신경망' 리뷰

​이러한 강력한 알고리즘은 지난 몇 년 동안 큰 관심을 받아왔습니다. 그러나 이 성능은 시간이 지남에 따라 데이터가 변경될 때 그래프 신경망의 성능을 제한하는 정적 그래프 구조를 가정한 것입니다. 순차 그래프 신경망은 시간 요소를 고려한 그래프 신경망의 확장입니다.

최근에는 다양한 순차 그래프 신경망 알고리즘이 제안되었으며, 여러 시간 관련 응용 분야에서 다른 딥러닝 알고리즘보다 우수한 성능을 달성했습니다. 이 리뷰에서는 알고리즘, 애플리케이션 및 공개 과제를 포함하여 시공간 그래프 신경망과 관련된 흥미로운 주제를 논의합니다.

논문 주소: https://www.php.cn/link/1915523773b16865a73a38acc952ccda

1 소개

Graph Neural Network(GNN)은 그래프 구조 데이터를 처리하기 위해 특별히 설계된 딥 러닝 모델의 일종입니다. . 이러한 모델은 그래프 토폴로지를 활용하여 그래프의 노드와 가장자리에 대한 의미 있는 표현을 학습합니다. 그래프 신경망은 기존 컨볼루션 신경망의 확장이며 그래프 분류, 노드 분류, 링크 예측과 같은 작업에서 효과적인 것으로 입증되었습니다. GNN의 주요 장점 중 하나는 학습 가능한 매개변수의 수가 그래프의 노드 수와 무관하기 때문에 기본 그래프의 크기가 커져도 좋은 성능을 유지한다는 것입니다. 그래프 신경망(GNN)은 추천 시스템, 약물 발견 및 생물학, 자율 시스템의 자원 할당 등 다양한 분야에서 널리 사용되었습니다. 그러나 이러한 모델은 그래프 구조가 고정된 정적 그래프 데이터로 제한됩니다. 최근 몇 년 동안 시변 그래프 데이터는 다양한 시스템에 나타나며 귀중한 시간 정보를 전달하면서 점점 더 주목을 받고 있습니다. 시변 그래프 데이터의 응용에는 다변량 시계열 데이터, 소셜 네트워크, 시청각 시스템 등이 포함됩니다.

이 요구를 충족하기 위해 그래프 구조의 시간적 표현을 학습하여 데이터의 공간적 차원과 시간적 차원을 모두 고려하는 새로운 GNN 제품군인 시공간적 GNN이 등장했습니다. 이 논문은 최첨단 시공간 그래프 신경망에 대한 포괄적인 검토를 제공합니다. 이 기사는 다양한 유형의 시공간 그래프 신경망과 기본 가정에 대한 간략한 개요로 시작됩니다. 시공간 GNN에 사용되는 특정 알고리즘을 더 자세히 연구하는 동시에 이러한 모델을 그룹화하는 데 유용한 분류법도 제공합니다. 또한 이 논문은 시공간 GNN의 다양한 응용에 대한 개요를 제공하며 이러한 모델이 최첨단 결과를 달성하는 데 사용된 주요 영역을 강조합니다. 마지막으로 해당 분야가 직면한 과제와 향후 연구 방향에 대해 논의한다. 결론적으로, 이 리뷰는 시공간 그래프 신경망에 대한 포괄적이고 심층적인 연구를 제공하여 해당 분야의 현재 상태, 여전히 해결해야 할 주요 과제 및 이러한 모델의 흥미로운 미래 가능성을 강조하는 것을 목표로 합니다.

2. 알고리즘

시공간 그래프 신경망은 알고리즘 관점에서 스펙트럼 기반과 공간 기반의 두 가지 범주로 나눌 수 있습니다. 또 다른 분류 범주는 시간 변화를 도입하는 방법입니다(다른 기계 학습 알고리즘 또는 그래프 구조에서 시간 정의).

2.1 하이브리드 시공간 그래프 신경망

하이브리드 시공간 그래프 신경망은 공간 구성 요소와 시간 구성 요소라는 두 가지 주요 구성 요소로 구성됩니다. 하이브리드 시공간 그래프 신경망에서 그래프 신경망 알고리즘은 데이터의 공간 종속성을 모델링하는 데 사용됩니다.

2.2 솔로 그래프 신경망

시공간 그래프 신경망에서 시간을 모델링하는 또 다른 방법은 GNN 자체에서 시간 프레임을 정의하는 것입니다. 시간을 에지로 정의하고, 시간을 신호로 GNN에 입력하고, 시간을 하위 그래프로 모델링하고, 다른 기계 학습 아키텍처를 GNN에 삽입하는 등 다양한 방법이 제안되었습니다(그림 2).

3. 애플리케이션

3.1 다변수 시계열 예측

관계 종속성을 처리하는 그래프 신경망의 능력에서 영감을 받은 시공간 그래프 신경망은 다변수 시계열 예측에 널리 사용됩니다. 응용 프로그램에는 교통 예측, 코로나 예측, 광전지 전력 소비, RSU 통신 및 지진 응용 프로그램이 포함됩니다.

3.2 캐릭터 상호작용

머신러닝과 컴퓨터 비전에서 시공간 영역 학습은 여전히 ​​매우 어려운 문제입니다. 주요 과제는 대규모 시공간적 맥락에서 객체와 상위 수준 개념 간의 상호 작용을 모델링하는 방법입니다[18]. 이러한 어려운 학습 작업에서는 공간 관계, 국소적 외관, 복잡한 상호 작용 및 시간에 따른 변화를 효과적으로 모델링하는 것이 중요합니다. [18]은 공간과 시간에서 반복되는 시공간 그래프 신경망 모델을 도입했으며, 이는 변화하는 세계 장면에서 다양한 엔터티와 개체의 국부적 모습과 복잡한 상위 수준 상호 작용을 캡처하는 데 적합합니다[18].

3.3 동적 그래프 표현

순차적 그래프 표현 학습은 항상 그래프 기계 학습에서 매우 중요한 측면으로 간주되어 왔습니다[15,31]. 기존 방법은 시퀀스 다이어그램의 개별 스냅샷에 의존하고 강력한 표현을 캡처할 수 없다는 한계를 목표로 [3]은 시공간 그래프 신경망 기반의 동적 그래프 표현 학습 방법을 제안했습니다. 또한 [15]에서는 이제 시공간 GNN을 사용하여 뇌 지도를 동적으로 표현합니다. 다중 표적 추적 비디오의 다중 표적 추적은 표적 간의 시공간 상호 작용 모델링에 크게 의존합니다[16]. [16]은 객체 간의 공간적, 시간적 상호 작용을 모델링하기 위해 시공간 그래프 신경망 알고리즘을 제안했습니다.

3.4 수화 통역

수화는 시각적-수동적 방법을 사용하여 의미를 전달하며 청각 장애가 있는 그룹을 위한 주요 의사소통 도구입니다. 음성 언어 사용자와 수화 사용자 간의 의사소통 격차를 해소하기 위해 머신러닝 기술이 도입되었습니다. 전통적으로 신경 기계 번역이 널리 채택되었지만 수화의 공간적 특성을 포착하려면 더 발전된 방법이 필요합니다. [13]은 수화의 시공간 구조를 포착하는 강력한 능력을 가지고 있으며 기존의 신경 기계 번역 방법과 비교하여 최고의 성능을 달성한 시공간 그래프 신경망 기반 수화 번역 시스템을 제안했습니다.

3.5 기술 성장 순위

기술 성장 속도를 이해하는 것은 기술 부서의 비즈니스 전략의 핵심 열쇠입니다. 또한 기술의 성장률과 기술 간의 관계를 예측하면 제품 정의, 마케팅 전략 및 R&D에서 비즈니스 결정을 내리는 데 도움이 될 수 있습니다. [32]은 시공간 그래프 신경망을 기반으로 한 소셜 네트워크 기술 성장 순위 예측 방법을 제안했다.

4. 결론

그래프 신경망은 지난 몇 년 동안 큰 관심을 받았습니다. 이러한 강력한 알고리즘은 딥 러닝 모델을 비유클리드 공간으로 확장합니다. 그러나 그래프 신경망은 정적 그래프 구조 가정으로 제한되어 시간이 지남에 따라 데이터가 변경될 때 그래프 신경망의 성능이 제한됩니다. 순차 그래프 신경망은 시간 요소를 고려한 그래프 신경망의 확장입니다. 이 문서에서는 시공간 그래프 신경망에 대한 포괄적인 개요를 제공합니다. 본 논문에서는 시공간 그래프 신경망을 시간에 따른 방법을 기반으로 두 가지 범주로 나누는 분류법을 제안한다. 시공간 그래프 신경망의 광범위한 응용에 대해서도 논의합니다. 마지막으로, 시공간 그래프 신경망이 현재 직면하고 있는 개방형 과제를 기반으로 향후 연구 방향을 제안합니다.

참고자료:​​​https://www.php.cn/link/1915523773b16865a73a38acc952ccda​​

위 내용은 GNN은 시공간 정보를 어떻게 모델링합니까? 시공간 그래프 신경망 방법에 대한 간략한 설명, 런던 퀸메리대학교의 '공간-시간 그래프 신경망' 리뷰의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!