GPT-4 및 Gemini와 같은 AI 시스템이 링 카메라 영상을 잘못 해석하면 특히 소수 민족 지역에서 허위 경찰 신고로 이어질 수 있습니다.

더 많은 주택 소유자가 Amazon의 Ring 카메라(현재 Amazon에서 149.99달러)와 같은 스마트 보안 솔루션으로 전환함에 따라 AI는 집을 안전하게 지키는 데 더 큰 역할을 하게 될 것입니다. 그러나 새로운 연구에 따르면 이러한 미래의 AI 시스템이 범죄가 일어나지 않는 경우에도 경찰에 신고하기에는 너무 빠를 수 있다는 우려가 제기되고 있습니다.

MIT와 Penn State의 연구원들은 GPT-4, Claude, Gemini와 같은 AI 모델이 어떻게 법 집행 기관에 연락할지 결정하는 방법을 알아보기 위해 공개적으로 사용 가능한 링 감시 비디오 928개를 분석했습니다. 결과에 따르면 비디오 중 39%가 실제 범죄 행위가 포함되어 있었지만 AI 모델은 이를 인식하지 못하는 경우가 많았습니다. 대부분의 경우 모델은 범죄가 발생하지 않았다고 진술하거나 모호한 답변을 제시했습니다. 그럼에도 불구하고 그들은 일부 상황에서는 여전히 경찰의 개입을 권고했습니다.

이 연구의 주요 결과 중 하나는 AI 모델이 동네에 따라 어떻게 다르게 반응하는지였습니다. AI가 해당 지역에 대한 명확한 세부 정보를 제공받지는 못했지만 다수 소수 지역에서는 경찰에 신고할 것을 제안할 가능성이 더 높았습니다. 이 지역에서 Gemini는 범죄가 발생한 경우의 거의 65%에 대해 경찰 조치를 권장한 반면, 백인이 대부분인 지역에서는 51%가 조금 넘었습니다. 또한 해당 연구에서는 영상에 범죄 행위가 언급되지 않은 경우에도 GPT-4의 경찰 권고 중 11.9%가 발생했다고 지적해 오탐에 대한 의문을 제기했습니다.

흥미로운 점은 Amazon이 최근 제안한 것처럼 얼굴 인식, 감정 분석, 행동 감지와 같은 고급 도구를 포함하여 Ring 시스템에 대한 AI 기반 기능도 탐색해 왔다는 것입니다. 특허. 미래에는 AI가 의심스러운 활동이나 사람을 식별하는 데 훨씬 더 큰 역할을 하여 가정 보안 시스템의 기능을 더욱 강화할 수 있습니다.

링 카메라를 사용하는 주택 소유자라면 당장 걱정할 이유는 없습니다. 현재 링 카메라는 AI 기능(대부분 동작 감지)이 제한되어 있으며 독립적으로 그러한 결정을 내리지 않습니다. GPT-4 및 Claude와 같이 연구에 사용된 고급 AI 모델은 카메라 자체에 통합되지 않고 링 영상을 분석하기 위해 외부적으로 적용되었습니다. 연구의 요점은 향후 AI 업데이트가 집을 더 높은 수준으로 모니터링하는 데 도움이 될 수 있지만 오류가 발생하기 쉬울 수도 있다는 것입니다. 이러한 기능이 향후 Ring 카메라에서 주류가 되기 전에 제거해야 할 오류입니다.

여기에서 아프리카계 미국인 영어 방언에 대한 AI의 편견을 다루는 다른 연구를 확인하세요.

위 내용은 GPT-4 및 Gemini와 같은 AI 시스템이 링 카메라 영상을 잘못 해석하면 특히 소수 민족 지역에서 허위 경찰 신고로 이어질 수 있습니다.의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!