트위터가 입소문이 났고 국방부가 폭발했다고요? 모두 AI 탓이다!

최근 트위터에는 워싱턴 국방부에서 발생한 격렬한 폭발 현장을 담은 인공지능이 생성한 가짜 사진이 유포됐다. 이번 사건으로 머스크의 트위터 블루 유료 인증에 실제 문제가 드러났다.

가짜 사진은 월요일 늦은 아침 소셜 메시징 플랫폼에 게시된 직후 미국 정부 관리가 나서서 사진을 사기로 확인하고 비난할 때까지 입소문이 났습니다.

러시아 국영 언론과 가짜 Bloomberg News 계정은 프로필 이름 옆에 파란색 체크 표시가 나타난 후 논란이 되고 있습니다.

오전 10시(미국 동부 표준시 기준), 펜타곤 잔디밭에서 불이 난 사진이 '워싱턴 D.C. 펜타곤 근처 대규모 폭발에 대한 예비 보고'라는 제목으로 강력하게 전달되기 시작했습니다.

포브스에 따르면 미 국방부 대변인은 이 사진이 '잘못된 정보'라고 밝혔습니다.

Arlington Fire와 EMS는 동부 표준시 기준 오전 10시 27분에 트위터를 통해 해당 사진이 허위라고 비난하는 성명을 발표했습니다. 국방부 트위터 계정에 게시된 내용: @PFPAOfficial과 ACFD는 펜타곤 근처에서 폭발이 일어났다는 소셜 미디어 보고서가 온라인에 떠도는 것을 알고 있지만, 펜타곤 보호 구역이나 그 근처에서 폭발은 발생하지 않았으며 대중에게 직접적인 위험이나 피해는 없을 것입니다. .

OSINT 전문가들은 몇 분 안에 이미지를 완벽하게 검사하고 차이점을 지적하여 해당 이미지가 실제로 AI가 생성한 가짜 이미지임을 입증했습니다.

Bellingcat의 디지털 조사관 Nick Walters는 그러한 사건을 가짜로 만드는 것은 불가능하지는 않더라도 매우 어려울 것이라고 말했습니다. 건물 정면과 울타리가 군중 속으로 섞여 들어가는 모습만 봐도 진짜와 가짜를 쉽게 구별할 수 있습니다.

닉 월터스는 이러한 주요 뉴스 보도에 대해 온라인에 게시된 다른 직접적인 목격자 사진이나 동영상이 없으면 그다지 신뢰할 수 없다고 말했습니다.

또한 Nick Walters는 트위터에 다음과 같이 썼습니다. 인구 밀도가 높은 지역에서 발생하는 대부분의 극단적인 물리적 사건(폭발, 테러 공격, 대규모 전투)은 식별 가능한 디지털 파급력을 생성합니다.

가짜 AI 이미지는 제작자와 시청자에게는 재미있지만 지난 11월 ChatGPT 출시 이후 거버넌스 기관과 AI 전문가에게는 가장 큰 관심사 중 하나였습니다.

이달 초, 한 남성이 중국에서 심층 기술을 이용해 가짜 뉴스를 온라인에 퍼뜨린 혐의로 체포되어 최대 10년의 징역형을 선고받았습니다. 이 남성은 ChatGPT를 이용해 치명적인 열차 충돌 사고를 묘사한 가짜 AI 뉴스 영상을 제작해 여러 소셜미디어 사이트에 게시한 혐의를 받고 있다.

전문가들은 최근 몇 년간 인공지능 모델이 계속 발전함에 따라 특히 2024년 미국 대통령 선거 주기가 이제 막 시작되었기 때문에 소셜 미디어의 허위 정보가 매우 우려스럽다고 말합니다.

허핑턴 포스트의 수석 편집자인 앤디 캠벨은 지난 가을 트위터 CEO 머스크가 회사를 인수했을 때 트위터 블루 인증을 놓고 트위터 사용자들과 싸웠던 일을 언급했습니다.

과거에는 소셜 미디어 회사가 계정에 트위터의 블루 체크 인증을 부여하기 전에 조직이나 개인의 적법성을 입증할 수 있었지만 이제는 누군가가 한 달에 8달러를 지불할 의향이 있는 한 무료로 인증을 부여할 수 있습니다. 마크.

이 문제에 대한 논란은 3월에 최고조에 달했습니다. 한때 인증을 받은 많은 유명인과 언론인들이 1회 무료 서비스에 대한 비용 지불을 거부하고 계정에서 인증된 파란색 표시를 제거하겠다고 제안하면서 정점에 달했습니다.

앤디 캠벨은 이 블루마크 유료 인증 시스템의 위험성은 어떤 계정이 펜타곤 폭발에 대한 AI가 생성한 가짜 뉴스 사진을 트위터에 게시했지만 인증을 받으면 얼핏 보면 그 계정이 합법적인 블룸버그 뉴스처럼 보인다는 점이라고 말했습니다. 밥을 먹이다.

트위터는 가짜 블룸버그 뉴스 계정을 정지했지만, 가짜 펜타곤 이미지가 어디서 왔는지는 확실하지 않습니다. 거짓 국방부 속보의 입소문 확산은 단명했지만, 이 소문은 여전히 ​​월요일 뉴욕 증권 거래소에서 급격한 하락을 일으켰습니다.

참조 링크: https://cybernews.com/news/ai-fake-pentagon-explosion-viral-twitter-blue/

위 내용은 트위터가 입소문이 났고 국방부가 폭발했다고요? 모두 AI 탓이다!의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!