MIT, 악의적인 AI 편집으로부터 이미지를 보호하는 '포토가드(PhotoGuard)' 기술 개발

AI 기반 딥페이크 기술이 계속해서 발전하면서 “어떤 콘텐츠가 AI로 위조된 것인지” 육안으로 판단하는 것이 점점 더 어려워지고 있습니다. 이미지가 크롤러에 의해 수정된 후 잘못 해석되는 것을 방지하기 위해 MIT는 최근 AI가 인식하고 변조하기 어렵게 이미지를 처리할 수 있는 포토가드(Photoguard)라는 기술을 발표했다. PhotoGuard" 이 기술은 주로 이미지를 약간 수정하여 AI가 이미지 내용을 인식하지 못하도록 방지합니다

. 이 기술은 AI에 의해 사진이 수정되는 것을 방지하기 위한 두 가지 솔루션을 제공합니다. 하나는 이미지의 픽셀을 수정하여 알고리즘 모델의 이미지 이해 능력을 방해하는 "인코더" 방식입니다. AI가 그림 A를 그림 B라고 생각하게 만들어 잘못된 이미지를 생성합니다.

그러나 IT House는 문의를 통해 이 기술의 적용 공간이 실제로 제한되어 있음을 알게 되었습니다.

연구원들은 PhotoGuard 기술이 크롤러 방지 시나리오에 더 적합하다고 경고합니다. 처리된 사진을 뒤집어 이 기술을 해독하세요

. 연구원들은 AI 사기 문제를 해결하려면 기술적 수단 외에도 모델 개발자, 소셜 미디어 플랫폼 및 관련 부서도 협력하여 포괄적인 "AI 사기 방지" 솔루션을 제공해야 한다고 지적했습니다.

위 내용은 MIT, 악의적인 AI 편집으로부터 이미지를 보호하는 '포토가드(PhotoGuard)' 기술 개발의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!