고위 전문가들조차도 ChatGPT가 작성한 과학 논문을 정확하게 식별할 수 없었습니다.

1월 14일자 미국의 대중 과학 잡지인 "Scientific American"은 오늘 ChatGPT에서 작성한 과학 논문이 선배 과학자들이 말할 수 없을 만큼 학문적 수준이 높다는 내용의 ​기사​​를 게재했습니다. 차이도.

12월 말 bioRxiv 서버에 게시된 사전 인쇄 논문에서는 인공지능(AI) 챗봇이 과학자들이 신중한 심사 없이도 그렇게 할 수 있을 정도로 가짜 연구 논문을 작성할 수 있게 되었다고 썼습니다.

영국 옥스퍼드대학교에서 기술과 규제를 연구하고 있는 산드라 와터(Sandra Wachter)는 "이 점이 매우 걱정된다. 전문가들조차 논문의 진위 여부를 분간하지 못한다면 우리 연구의 초석에 영향을 미치게 될 것"이라고 말했다. ."

IT 홈 교실: Chatbot ChatGPT는 사용자 프롬프트를 기반으로 현실적이고 스마트한 텍스트를 생성합니다. 인간이 생성한 기존 텍스트를 대량으로 소화하여 작업 수행 방법을 학습하는 신경망 기반 시스템인 '대규모 언어 모델'입니다. 캘리포니아주 샌프란시스코에 본사를 둔 소프트웨어 회사인 OpenAI는 11월 30일에 이 도구를 출시했으며 무료로 사용할 수 있습니다.

일리노이주 시카고에 있는 Northwestern University의 Catherine Gao가 이끄는 팀은 ChatGPT를 사용하여 과학자들이 이를 발견할 수 있는지 테스트하기 위해 인공 연구 논문 요약을 생성했습니다. 연구진은 챗봇에게 JAMA, The New England Journal of Medicine, The BMJ, The Lancet에 발표된 연구를 바탕으로 The Lancet 및 Nature Medicine 선집에 대한 의학 연구 초록 50편을 작성해 달라고 요청했습니다.

그런 다음 표절 탐지기와 AI 출력 탐지기를 통해 이 요약을 원본 요약과 비교하고 의학 연구진에게 조작된 요약을 찾아내도록 요청했습니다.

ChatGPT에서 생성된 요약은 표절 검사기를 성공적으로 통과했습니다. 독창성 점수 중앙값은 100%로 표절이 발견되지 않았음을 나타냅니다.

AI 출력 감지기는 생성된 요약의 66%를 찾은 반면, 사람의 검토에서는 생성된 요약의 68%와 실제 요약의 86%만 정확하게 식별했습니다. 전문가들은 생성된 요약의 32%가 실제 요약이고 14%가 생성된 실제 요약으로 잘못 식별했습니다.

위 내용은 고위 전문가들조차도 ChatGPT가 작성한 과학 논문을 정확하게 식별할 수 없었습니다.의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!