OpenAI 이미지 감지 도구 노출, CTO: AI가 생성한 이미지의 99% 인식 가능

OpenAI가 AI 이미지 인식을 출시할 예정입니다.

최신 뉴스에 따르면 회사에서 탐지 도구를 개발 중입니다.

CTO Mira Murat에 따르면:

이 도구는 최대 99%의 정확도로 매우 높은 정확도를 제공합니다.

현재 내부 테스트 중이며 곧 일반에 공개될 예정입니다.

이 정확도는 여전히 약간 흥미롭다고 말하고 싶습니다. 결국 OpenAI의 이전 AI 텍스트 감지 노력은 "정확도 26%"로 비참하게 실패했습니다.

AI 콘텐츠 감지는 간단하지 않습니다

OpenAI는 이미 AI 콘텐츠 감지 분야의 레이아웃을 갖추고 있습니다.

올해 1월에는 AI 텍스트 악용을 방지하기 위해 AI와 인간이 생성한 콘텐츠를 구별하는 AI 텍스트 탐지기를 출시했습니다.

그러나 이 도구는 안타깝게도 7월에 종료되었습니다. 아무런 공지 없이 페이지가 직접 404로 이동했습니다.

이유는 "거의 추측과 유사"할 정도로 정확도가 너무 낮기 때문입니다.

OpenAI 자체에서 게시한 데이터에 따르면:

AI가 생성한 텍스트의 26%만 올바르게 식별할 수 있는 반면, 사람이 작성한 텍스트의 9%를 잘못 식별할 수 있습니다.

이러한 성급한 종료 이후 OpenAI는 사용자 피드백을 흡수하고 개선을 위해 노력하며 보다 효과적인 텍스트 소스 기술을 연구할 것이라고 밝혔습니다.

동시에 이미지, 오디오, 비디오가 AI에 의해 생성되는지 확인하는 도구도 개발할 것이라고 발표했습니다.

이제 DALL-E 3의 출현과 Midjourney와 같은 유사한 도구의 지속적인 반복으로 AI 페인팅 기능이 점점 더 강력해지고 있습니다.

가장 큰 우려는 전 세계적으로 가짜 뉴스 이미지를 조작하는 데 사용된다는 점입니다.

예를 들어, Reddit에는 AI가 제작한 "2001 Cascadia 9.1 지진과 쓰나미"의 "장면"이 있는데, 이는 120만 명 이상의 네티즌이 좋아했습니다.

AI 텍스트 감지 도구에 비해 AI 그림 감지 도구의 개발은 분명히 더 시급합니다. 진실" 내용을 믿기가 어렵습니다.)

그러나 OpenAI의 AI 텍스트 감지 도구가 오프라인이었던 것처럼 일부 네티즌들은 다음과 같이 지적했습니다.

생성 도구와 감지 도구를 동시에 개발하는 것은 본질적으로 모순됩니다.

한 쪽이 잘되면 다른 쪽도 잘 안 된다는 뜻이고, 이해상충도 있을 수 있습니다.

더 간단한 방법은 제3자에게 넘겨주는 것입니다.

하지만 이전에는 AI 텍스트에 대한 제3자의 성과가 좋지 않았습니다.

기술 자체에 관한 한 또 다른 가능한 방법은 AI가 콘텐츠를 생성할 때 워터마크를 숨기는 것입니다.

이것이 Google이 하는 일입니다.

몇일 전(올해 8월 말) Google은 OpenAI 이전에 AI 이미지 감지 기술인

SynthID를 출시했습니다.

현재 Google의 이미지 모델 Imagen과 협력 중이므로 모델에서 생성된 모든 이미지에는 "AI가 생성한 메타데이터 식별자"가 내장됩니다. -

이미지가 잘려도 필터 추가, 필터 추가, 색상이 변하거나 압축이 손실되더라도 인식에는 영향을 미치지 않습니다.

SynthID는 내부 테스트에서 다수의 편집된 AI 이미지를 정확하게 식별했지만 구체적인 정확도는 공개되지 않았습니다.

OpenAI의 곧 출시될 도구가 어떤 기술을 사용할지, 그리고 그것이 시장에서 가장 정확도가 높은 도구가 될지는 모르겠습니다.

Ultraman이 "Core Building Plan"에 응답합니다

위 소식은 이번 주 Wall Street Journal이 주최한 Tech Live 컨퍼런스에서 OpenAI CTO와 Ultraman이 전한 연설에서 나온 것입니다.

간담회에서 두 사람은 OpenAI에 대한 추가 소식도 공개했습니다.

예를 들어 차세대 대형 모델이 곧 출시될 수도 있습니다.

이름은 공개되지 않았지만 OpenAI는 올해 7월 GPT-5 상표를 출원했습니다.

어떤 사람들은 "GPT-5"의 정확성에 대해 우려하며 더 이상 오류나 허위 내용이 생성되지 않는지 묻습니다.

이와 관련하여 CTO는 더욱 조심스러워서 "어쩌면"이라고만 말했습니다.

그녀는 다음과 같이 설명했습니다.

우리는 GPT-4의 환각 문제에 대해 큰 진전을 이루었지만 아직 우리가 있어야 할 단계는 아닙니다.

울트라맨이 "핵심 구축 계획"에 대해 이야기했습니다.

그의 원래 말에 따르면 "확인"은 없지만 상상력의 무한한 여지도 남습니다.

기본 경로를 따른다면 절대 이렇게 하지 않을 것이지만 이 가능성을 결코 배제하지 않을 것입니다. .

'코어 제작 계획'에 비해 울트라맨은 휴대폰 제작 소문에 대해 매우 간단하게 반응했습니다.

올해 9월, Apple의 전 최고 디자인 책임자인 Jony Ive(Apple에서 27년간 근무)가 OpenAI와 접촉한 것으로 드러났습니다. AI와 인터랙티브 방식으로 상호작용하는 직관적인 방식으로 'AI 세계의 아이폰'이라 불릴 수 있다.

이제 그는 모두에게 다음과 같이 말했습니다.

아직 내가 무엇을 하고 싶은지 잘 모르겠습니다. 막연한 생각만 있을 뿐입니다.

그리고:

어떤 AI 장치도 iPhone의 인기를 압도할 수 없으며 저는 어떤 스마트폰과도 경쟁할 생각이 없습니다.

참조 링크:
[1]https://finance.yahoo.com/news/openai-claims-tool-Detect-ai-051511179.html?guccounter=1.

[2]https://gizmodo.com/openais-sam-altman-says-he-has-no-interest-in-competing-1850937333.

위 내용은 OpenAI 이미지 감지 도구 노출, CTO: AI가 생성한 이미지의 99% 인식 가능의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!