AI가 생성한 합성 이미지가 만연해 사실과 거짓을 구별하기 어렵다는 게 전문가들의 지적이다.

4월 3일 뉴스에 최근 뉴욕 경찰에 의해 체포되는 트럼프 전 미국 대통령의 사진 일부가 인터넷에 등장해 많은 이들의 관심을 끌었습니다. 하지만 이들 사진은 실제가 아닌 인공지능(AI) 기술을 이용해 생성된 합성 이미지다.

전문가들은 이러한 합성 이미지가 새로운 현실을 보여준다고 경고합니다. 주요 사건이 발생하면 소셜 미디어에 허위 이미지와 동영상이 넘쳐 사실을 더욱 혼란스럽게 하고 대중을 호도할 수 있으므로 관련 배포가 시급합니다. 기술을 감독하고 관련 정책을 수립하여 유사한 기술을 감독합니다.

IT하우스의 이해에 따르면 이번 '트럼프 체포' 사진은 네덜란드 오픈소스 조사 매체 '링캣(Ringcat)' 웹사이트 창립자인 엘리엇 히긴스(Elliot Higgins)가 AI 그리기 도구 미드저니(Midjourney)를 사용해 제작한 것으로 알려졌다.

히긴스는 트럼프의 체포 가능성에 대한 뉴스를 시각화하고 싶다고 하여 텍스트-이미지 모델인 Midjourney를 사용하여 사실적으로 보이는 사진을 생성하고 이를 트위터에 공유했습니다. 이 트윗은 이틀 만에 거의 500만 번 조회되었으며 79,000개 이상의 '좋아요'를 받았습니다.

가짜 이미지를 생성하고 생성하는 기술은 새로운 것은 아니지만, 해당 분야의 발전 속도와 사람들의 기술 오용은 우려할 만한 일이라고 인공지능 전문가들은 말합니다. 디지털 콘텐츠 분석업체 트루픽(Truepic)의 무니르 이브라힘(Munir Ibrahim)은 “합성 콘텐츠가 빠르게 진화하면서 진짜 콘텐츠와 가짜 콘텐츠의 차이를 구별하기가 점점 어려워지고 있다”고 말했다.

Fortune 매거진은 이제 다양한 AI 이미지 생성 도구를 사용할 수 있으며 사용자가 간단한 지시를 내리면 실물과 같은 대량의 이미지를 빠르게 생성할 수 있다고 지적했습니다. 예를 들어 텍스트-이미지 모델인 Midjourney는 이제 뉴스 조직에서 촬영한 사진 스타일을 모방하는 이미지를 생성할 수 있으므로 이러한 AI 생성 이미지는 복잡한 뉴스 환경을 혼란스럽게 만들 가능성이 있습니다.

Higgins는 합성 이미지가 진실과 거짓을 구별하는 것이 점점 더 어려워짐에 따라, 거짓 시각적 정보에 맞서는 가장 좋은 방법은 대중의 인식을 높이고 이 분야에 대한 교육을 강화하는 것이라고 믿습니다. AI 생성 이미지를 위한 새로운 기술과 이 기술을 자체 플랫폼에 통합합니다.

인터넷에서 허위 "트럼프 체포" 이미지가 확산되는 것은 거짓말을 만들고 퍼뜨리기 위해 AI를 사용하는 것을 다루는 현재 기업 표준이나 정부 규정이 부족함을 보여줍니다. 전문가들은 트럼프의 높은 인지도 덕분에 사람들이 그의 가짜 사진을 쉽게 발견할 수 있지만, 일반인의 가짜 사진은 발견하기가 쉽지 않고, 가짜 사진을 만드는 기술은 계속해서 발전하고 있다는 데 동의합니다. 따라서 심층합성 기술의 사용을 규제하기 위한 입법이 필요하다.

위 내용은 AI가 생성한 합성 이미지가 만연해 사실과 거짓을 구별하기 어렵다는 게 전문가들의 지적이다.의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!