ChatGPT의 개인 정보 보호 취약성으로 인해 사용자와 챗봇 간의 대화 제목이 드러날 수 있음

Reddit 및 Twitter 사용자는 3월 20일부터 ChatGPT의 취약점을 보고하기 시작했으며 ChatGPT 웹 기록에 익숙하지 않은 대화 제목이 포함되어 있음을 보여주는 스크린샷을 게시했습니다.

이러한 방식으로 공유 채팅에 액세스할 수 없는 것처럼 보이지만 OpenAI는 취약점을 해결하면서 채팅 기록을 완전히 삭제했습니다.

업계 언론 보도에 따르면, 그날 ChatGPT도 심각한 중단을 겪었고, 액세스 권한이 있는 사용자는 일관되지 않은 서비스가 제공된다는 사실을 알게 되었습니다. OpenAI는 상태 페이지에 중단 상황을 기록하고 초기 보고 후 몇 시간 내에 서비스를 복원했습니다.

OpenAI의 CEO인 샘 알트만(Sam Altman)은 3월 22일 트위터를 통해 “오픈소스 라이브러리의 버그로 인해 ChatGPT에 심각한 문제가 발생했고, 수정 사항이 공개되어 방금 소수의 검증을 완료했습니다. 의 사용자가 다른 사용자의 대화 기록 제목을 볼 수 있었습니다. Altman은 트위터를 통해 문제가 심각했지만 이제 해결되었다고 말했습니다. 그는 문제가 발생한 오픈소스 라이브러리의 이름을 밝히지 않았으며 영향을 받은 사용자의 정확한 비율도 제공하지 않았습니다.

매일 수백만 명의 방문자가 있는 상황에서 소수의 사람에게도 영향을 미치는 개인 정보 보호 결함으로 인해 광범위한 데이터 공유가 발생할 수 있으며 Altman의 "기술적 사후 분석" 약속은 이러한 문제를 해결해야 합니다.

사용자가 ChatGPT로 나누는 모든 채팅은 사용자 기록에 인스턴스로 저장되며, 대화 내용에 따라 제목이 결정됩니다.

3월 27일 일부 사용자는 자신의 기록에 익숙하지 않은 주제나 기능과 관련된 제목은 물론 다른 언어로 작성된 제목도 포함되어 있다는 사실을 발견했습니다. 이는 취약점이 세계적인 문제임을 암시합니다.

OpenAI 회사는 데이터 보호 정책 및 절차를 신중하게 설명하고 사용자에게 오픈 소스 공급망이 안전하며 유사한 문제가 다시 발생하지 않도록 보장해야 할 수도 있습니다.

Reddit에 피드백을 게시한 일부 사용자는 다른 유형의 메시지를 보았다고 보고했지만 이러한 주장을 뒷받침할 검증 가능한 증거는 제공하지 않았습니다.

한 사용자는 "내 계정에 다른 사람의 전화번호가 연결되어 있는 것을 봤습니다. 걱정되지만 아직 앱을 종료할 정도는 아닙니다."

다른 사용자는 자신의 계정에 연결된 다른 이메일을 통과했다고 말했습니다. 플랫폼의 월 20달러 구독 플랜인 ChatGPT Plus에 가입했지만 서비스에 대한 액세스 권한은 부여되지 않았습니다.

이 취약점은 최근 GPT-4 모델을 출시한 인공 지능 개발자인 OpenAI에게 중요한 시기에 발생합니다. ChatGPT Plus를 구독하는 사용자는 이미 GPT-4 변형 챗봇을 사용할 수 있으며 OpenAI는 인간 수준의 성능을 제공하겠다고 약속했습니다.

OpenAI의 인공 지능 경쟁업체인 Google은 최근 영국과 미국 사용자를 위한 자체 챗봇 Bard를 출시했습니다. 사용자는 대기자 명단을 통해 공개 액세스에 등록할 수 있습니다.

보도에 따르면 Google은 ChatGPT와 경쟁하기 위해 내부 팀을 개편했으며 5,400억 매개변수 LLM(대형 언어 모델) LaMDA의 최적화 버전으로 구동되는 Bard가 사용자를 통해 빠르게 개선될 수 있기를 희망한다고 밝혔습니다. 피드백.

업계 관계자들은 Bard와 ChatGPT를 비교하며 ChatGPT와 Microsoft의 GPT-4 기반 Bing 챗봇이 새로운 인공지능 시대의 뛰어난 경쟁자가 될 것이라고 지적했습니다.

Microsoft와 OpenAI는 이미 협력했지만 Google은 Bard에게 더 많은 기회를 제공하기 위해 시장 지배력을 활용합니다.

Google은 생성 AI의 단점에 대해서도 노골적으로 밝혔습니다. 알파벳 회장인 존 헤네시(John Hennessy)는 지난 2월 구글이 Bard가 아직 개발 중이기 때문에 출시를 주저해 왔다고 경고하면서 출시를 알리는 자신의 블로그 게시물에서 Bard를 "실험"이라고 불렀습니다.

업계 기관의 내부 테스트에서 챗봇은 이전 버전의 Bing Chat과 유사하게 작동했으며, 텍스트 생성에 대한 응답 시간은 빠르지만 "환각"으로 알려진 허위 또는 허구 출력 경향이 있었습니다.

위 내용은 ChatGPT의 개인 정보 보호 취약성으로 인해 사용자와 챗봇 간의 대화 제목이 드러날 수 있음의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!