Graph-DETR3D: 다중 뷰 3D 객체 감지에서 겹치는 영역에 대한 재고

arXiv 논문 "Graph-DETR3D: 다중 뷰 3D 물체 감지를 위한 중첩 영역 재검토", 6월 22일, 중국 과학기술대학교, Harbin Institute of Technology 및 SenseTime의 연구.

다양한 이미지 뷰에서 3D 개체를 감지하는 것은 시각적 장면 이해에 있어 기본이면서도 어려운 작업입니다. 저렴한 비용과 높은 효율성으로 인해 다중 뷰 3D 물체 감지는 광범위한 응용 가능성을 보여줍니다. 그러나 깊이 정보가 부족하기 때문에 3차원 공간에서 원근법을 통해 물체를 정확하게 감지하는 것은 극히 어렵습니다. 최근 DETR3D는 3D 객체 감지를 위해 다시점 이미지를 집계하기 위한 새로운 3D-2D 쿼리 패러다임을 도입하고 최첨단 성능을 달성합니다.

강력한 안내 실험을 통해 이 논문은 다양한 영역에 위치한 대상을 수량화하고 "잘린 인스턴스"(즉, 각 이미지의 경계 영역)가 DETR3D 성능을 방해하는 주요 병목 현상임을 발견했습니다. 겹치는 영역에서 인접한 두 뷰의 여러 기능을 병합함에도 불구하고 DETR3D는 여전히 기능 집계가 불충분하여 감지 성능을 완전히 향상시킬 수 있는 기회를 놓치고 있습니다.

이 문제를 해결하기 위해 그래프 구조 학습(GSL)을 통해 다시점 이미지 정보를 자동으로 집계하는 Graph-DETR3D가 제안되었습니다. 동적 3D 맵은 각 대상 쿼리와 2D 기능 맵 사이에 구성되어 특히 경계 영역에서 대상 표현을 향상시킵니다. 또한 Graph-DETR3D는 이미지 크기와 대상 깊이를 동시에 확장하여 시각적 깊이 일관성을 유지하는 새로운 깊이 불변 다중 규모 훈련 전략의 이점을 활용합니다.

Graph-DETR3D는 그림에 표시된 것처럼 두 가지 점에서 다릅니다. (1) 동적 그래프 기능의 집계 모듈 (2) 깊이 불변 다중 규모 훈련 전략. 이는 DETR3D의 기본 구조를 따르며 이미지 인코더, 변환기 디코더 및 타겟 예측 헤드의 세 가지 구성 요소로 구성됩니다. 이미지 세트 I = {I1, I2,…,IK}(N개의 페리 뷰 카메라로 캡처)가 주어지면 Graph-DETR3D는 관심 있는 경계 상자의 위치와 범주를 예측하는 것을 목표로 합니다. 먼저 이미지 인코더(ResNet 및 FPN 포함)를 사용하여 이러한 이미지를 상대적으로 L 기능 맵 수준 기능 F의 집합으로 변환합니다. 그런 다음 DGFA(Dynamic Graph Feature Aggregation) 모듈을 통해 2차원 정보를 광범위하게 집계하는 동적 3차원 그래프를 구성하여 대상 쿼리의 표현을 최적화합니다. 마지막으로 향상된 타겟 쿼리를 활용하여 최종 예측을 출력합니다.

그림은 DFGA(동적 그래프 특징 집계) 프로세스를 보여줍니다. 먼저 각 대상 쿼리에 대해 학습 가능한 3D 그래프를 구성한 다음 2D 이미지 평면에서 특징을 샘플링합니다. 마지막으로 그래프 연결을 통해 대상 쿼리의 표현이 향상됩니다. 이 상호 연결된 메시지 전파 방식은 그래프 구조 구성 및 기능 향상의 반복적 개선을 지원합니다.

다중 규모 훈련은 2D 및 3D 개체 감지 작업에서 일반적으로 사용되는 데이터 증대 전략으로 효과적이고 저렴한 추론으로 입증되었습니다. 그러나 비전 기반의 3D 검사 방법에서는 거의 나타나지 않습니다. 다양한 입력 이미지 크기를 고려하면 모델의 견고성을 향상시키는 동시에 이미지 크기를 조정하고 카메라 내부 매개변수를 수정하여 일반적인 다중 규모 훈련 전략을 구현할 수 있습니다.

흥미로운 현상은 최종 성적이 급격하게 떨어진다는 것입니다. 입력 데이터를 신중하게 분석함으로써 우리는 단순히 이미지 크기를 조정하면 관점 모호성 문제가 발생한다는 것을 발견했습니다. 대상의 크기가 더 크거나 작은 크기로 조정되면 대상의 절대 속성(예: 대상의 크기, 자아까지의 거리) point) 변경하지 마세요.

구체적인 예로 그림은 다음과 같은 모호한 문제를 보여줍니다. (a)와 (b)에서 선택한 영역의 절대 3D 위치는 동일하지만 이미지 픽셀 수가 다릅니다. 깊이 예측 네트워크는 이미지가 차지하는 영역을 기반으로 깊이를 추정하는 경향이 있습니다. 따라서 그림의 이러한 훈련 패턴은 깊이 예측 모델을 혼란스럽게 하고 최종 성능을 더욱 저하시킬 수 있습니다.

이를 위해 픽셀 관점에서 깊이를 다시 계산합니다. 알고리즘의 의사 코드는 다음과 같습니다.

다음은 디코딩 작업입니다.

다시 계산된 픽셀 크기는 다음과 같습니다.

스케일 팩터 r = rx = ry를 가정하면 단순화됩니다. 결과는 다음과 같습니다:

실험 결과는 다음과 같습니다.

참고: DI = 깊이 불변

위 내용은 Graph-DETR3D: 다중 뷰 3D 객체 감지에서 겹치는 영역에 대한 재고의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!