Meta, AI 공정성 평가를 위한 FACET 데이터 세트 출시

9월 4일 뉴스 Meta는 최근 연구자들이 컴퓨터 비전 모델의 편견을 감사하는 데 도움이 되도록 설계된 FACET이라는 오픈 소스 데이터 세트를 출시했습니다.

메타는 블로그 게시물에서 현재의 벤치마킹 방법으로는 AI의 공정성을 평가하기 어렵다고 자세히 설명했습니다. Meta에 따르면 FACET은 연구자들이 여러 가지 유형의 컴퓨터 비전 모델을 감사하는 데 사용할 수 있는 대규모 평가 데이터 세트를 제공하여 이 작업을 단순화할 것입니다.

Meta 연구원은 블로그 게시물에서 다음과 같이 자세히 설명했습니다. “데이터세트는 인지된 성별 표현, 인지된 연령 그룹, 인지된 피부색, 헤어스타일과 같은 추가 신체적 속성과 같은 인구통계학적 특성으로 전문 인간 주석자가 라벨을 붙인 50,000명의 32,000개 이미지로 구성됩니다. FACET에는 SA-1B의 마스크 69,000개에 대한 사람, 머리카락, 의복 라벨도 포함되어 있습니다. 컴퓨터 비전 모델은 공정성 문제를 확인하기 위해 FACET의 사진을 처리합니다. 여기에서 분석을 수행하여 모델 결과의 정확도가 사진마다 다른지 여부를 확인할 수 있습니다. 이러한 정확도의 변화는 AI가 편향되어 있다는 신호일 수 있습니다.

연구원들은 이 데이터세트를 사용하여 유사한 이미지를 그룹화하는 작업인 분류에 최적화된 신경망의 편향을 감지할 수 있습니다. 또한 객체 감지 모델을 더 쉽게 평가할 수 있습니다. 이 모델은 사진에서 관심 있는 항목을 자동으로 감지하도록 설계되었습니다.

FACET은 두 가지 전문 개체 감지 작업인 인스턴스 분할 및 시각적 접지를 수행하는 AI 애플리케이션도 감사할 수 있습니다. 인스턴스 분할은 주위에 상자를 그리는 등 사진에서 관심 있는 항목을 강조 표시하는 프로세스입니다. 비전 기본 모델은 사용자가 자연어로 설명하는 개체를 찾기 위해 사진을 스캔하는 신경망입니다.

Meta 연구원은 다음과 같이 말했습니다. “FACET은 연구 평가 목적으로만 사용할 수 있으며 교육용으로는 사용할 수 없지만, 데이터세트와 데이터세트 브라우저를 출시하는 목적은 FACET가 컴퓨터 비전 모델에 대한 표준 공정성 평가 벤치마크가 될 수 있도록 하는 것입니다.”

위 내용은 Meta, AI 공정성 평가를 위한 FACET 데이터 세트 출시의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!