이용자 100만명 돌파! 중국 대학생을 위한 최강 AI 탐지기 GPTZero: 미국 헌법은 AI가 썼다

ChatGPT의 인기는 많은 학생들에게 부정 행위 도구를 제공했을 뿐만 아니라 자신의 논문을 쓴 많은 순수하고 선량한 학생들이 이유 없이 불의를 당하게 만들었습니다!

이유를 따지면 사람들이 우스꽝스러워지는 이유는 모두 "마법으로 마법을 물리치기" 위해 만들어진 다양한 AI 탐지기 때문입니다.

실제 측정값은 신뢰할 수 없습니다. 미국 헌법은 실제로 AI가 작성했다고요?

많은 AI 감지기 중에서 가장 유명한 것은 프린스턴 중국 학부 Edward Tian이 만든 GPTZero입니다. 무료일 뿐만 아니라 뛰어난 결과를 제공합니다.

텍스트를 복사해서 붙여넣기만 하면 GPTZero는 텍스트의 어느 단락이 AI에 의해 생성되었는지, 어느 단락이 인간이 쓴 것인지 명확하게 지적할 수 있습니다.

원칙적으로 GPTZero는 주로 판단을 내리는 지표로 "곤란함"(텍스트의 무작위성)과 "갑자기"(곤란함의 변화)에 의존합니다. 각 테스트에서 GPTZero는 혼동도가 가장 높은 문장, 즉 인간의 말과 가장 유사한 문장도 선택합니다.

그러나 이 방법은 완전히 신뢰할 수는 없습니다.

최근 일부 호기심 많은 네티즌들이 '미국 헌법'을 활용해 실험을 진행했는데, 그 결과는 더욱 충격적이었습니다.

GPTZero는 미국 헌법이 AI에 의해 생성되었다고 합니다!

공교롭게도 자신이 열심히 작성한 논문도 탐지기에 의해 AI가 생성한 것으로 판별된다는 사실을 점점 더 많은 학생들이 깨닫고 있습니다.

AI는 AI로 썼다고 AI로 썼다고 하네요!

이틀 전 12학년 학생이 Reddit에 도움을 요청했고 교사가 GPTzero를 사용하여 감지한 후 논문 내용의 일부가 AI에 의해 생성된 것이라고 굳게 믿었다고 말했습니다.

"저는 항상 성적이 가장 좋은 학생이었습니다. 선생님은 왜 제가 부정행위를 했다고 생각하셨는지 모르겠습니다. 선생님에게 모든 것을 말했지만 여전히 저를 믿지 않으셨습니다." Grammarly(온라인 문법 교정 및 교정 도구)를 사용하는 데 문제가 없다고 설명했지만 GPTzero에서 제공한 결과는 매우 명확합니다. ChatGPT를 사용하고 있다는 것입니다.

절박한 학생은 소위 인공지능 탐지기가 틀렸다는 것을 증명할 수 있는 모든 증거를 제공하겠다고 말했습니다.

이와 관련하여 일부 네티즌들은 "AI가 바람피웠다고 하는데 무슨 뜻인가요? 바람피우고 있습니다. 증거는 어디에 있나요?

또 다른 네티즌이 주셨습니다." 보다 실용적인 제안: ChatGPT가 등장하기 전의 기사를 던져서 결과가 무엇인지 확인하세요. (이전 "미국 헌법" 실험과 유사)

또한 OpenAI의 공식 성명을 사용하여 자신을 변호할 수도 있습니다. "우리는 이 도구를 단독으로 사용하는 것을 권장하지 않습니다. 왜냐하면 이 도구가 잘못될 수 있다는 것을 알고 있기 때문입니다. 모든 종류의 평가에 인공 지능을 사용하는 것과 같습니다."

일부 네티즌들은 숙제는 대개 엄격한 구조적 요구 사항을 가지고 있다고 분석했는데, ChatGPT는 훈련 중에 많은 학습을 했습니다.

그 결과 AI가 생성한 콘텐츠는 표준 5문단 에세이처럼 보입니다.

따라서 학생들의 숙제는 처음부터 ChatGPT에서 생성된 텍스트와 매우 유사할 수밖에 없습니다.

GPTzero에서는 오탐률이 2% 미만이라고 주장하지만, 이 데이터는 (사실이라 하더라도) 뉴스 콘텐츠의 판단에 더 가깝습니다.

그래서 이 네티즌은 우리가 GPTzero나 OpenAI의 분류기, 또는 인간과 AI를 확실하게 구별할 수 있다고 주장하는 모든 도구에 대해 회의적이어야 한다고 믿습니다.

ChatGPT는 종이 설정의 단점을 노출시켰습니다

AI의 출현은 부정 행위를 하는 학생들에게 큰 편의를 제공했지만, 부정 행위를 하지 않는 학생들은 끝없는 어려움에 빠지게 했습니다.

그렇다면, 간단히 문제의 본질로 돌아가서, 학교 교육에서 학생들에게 ChatGPT를 사용하도록 허용해야 할까요?

최근 작가 Colm O'Shea는 "학부 논문의 평범함을 폭로해 준 ChatGPT에게 감사합니다"라는 기사에서 학부 논문의 초점은 지식의 발전이 아니라 교육이라고 밝혔습니다. 가장 중요한 것은 글쓰기 과정에서 귀중한 지식 결과물을 생산하기보다는 의도적으로 정보를 처리하는 능력을 훈련하고 입증하는 것입니다. 가치 있는 결과물은 잘 훈련되고 자격을 갖춘 인력의 책임입니다.

일반적으로 에세이는 고대 그리스, 로마 작가들의 학문적 텍스트나 초기 기독교 교부들의 편지에서 유래하지만, 사실 현대 에세이 형식은 몽테뉴에서 유래되었습니다.

이 부유하고 박식한 16세기 프랑스 철학자는 인생의 어느 시점에서 갑자기 자신의 거대한 도서관에 대해 의심을 느꼈습니다. "내가 모든 것을 안다고 생각한다면 사실 그것은 모두 말도 안되는 일입니다. 어떻게 해야 합니까?" ?”

그래서 그는 에세이를 쓰기 시작했습니다. 이 행위는 그에게 세상을 다시 바라보게 하는 매우 중요한 의미를 가졌습니다.

그의 제목은 "엄지손가락", "기형아", "식인종" 등 온갖 기이함을 갖고 있어 그의 넓고 독특한 영적 영역을 보여줍니다. 그의 글 하나하나는 한 점을 중심으로 돌아가며 마치 다른 의식이 그 각도를 쓴 것처럼 새로운 통찰력을 찾기 위해 모든 각도에서 조사합니다.

입학 후 어떤 학생들은 교수님께 올바른 템플릿을 달라고 부탁하기도 하고, 표절이나 에세이 대필을 찾아 자신이 상상했던 미래를 향해 나아가기도 합니다.

대학에 입학한 후에는 학습과 사고를 돕기 위해 더 이상 글을 쓸 필요가 없는 것과 같습니다.

그러나 이는 ChatGPT가 인기를 끌기 전이었습니다. 이제 ChatGPT를 사용하면 표절과 대필의 혼란이 일반화되었습니다. 이러한 현상을 AI만의 탓으로 돌릴 수는 없지만 대학 교육의 문제점을 설명하기에 충분하다.

핵심은 무엇인가요?

이 위기는 실제로 학부 교육의 더 크고 오래된 문제에서 비롯됩니다.

너무 오랫동안 수렴적 사고, 즉 정해진 해결책이 있는 문제에 대해 학생들이 "올바른" 답을 얻을 수 있는지 테스트하는 데 너무 많은 초점이 맞춰져 왔습니다.

대학 지원 시험은 일반적으로 지식 기반과 인지 능력이라는 두 가지 주요 범주에 중점을 둡니다. 표준화된 시험은 학생의 과목 숙달도를 측정할 수 있지만 또 다른 중요한 영역인 확산적 사고를 무시합니다.

그리고 창의적인 작업의 전제조건은 확산적 사고입니다.

게다가, 다양한 사고는 표준화에 어긋납니다. 확산적 사고는 심층적인 패턴 인식 및 유추(언어적, 시각적, 수학적)와 같은 메커니즘에 의존하며, ChatGPT에게 어지러운 대규모 데이터 세트에서 "핵심 포인트"를 수집하도록 요청하는 것은 그들이 잘하는 일이 아닙니다.

이러한 사고는 한 단어로 설명할 수 있는데 바로 '재치'입니다(이런 재치는 관련 없는 두 가지를 융합하거나 연결할 수 있는 놀라운 영감입니다). 조금 신비롭게 들리지만 이 능력은 매우 중요.

인지과학자이자 유비적 사고의 선도적인 전문가인 데드레 겐트너는 자신이나 타인에게 무언가를 생생하게 설명하면 추상화 능력이 발달하고 서로 다른 분야 간의 새로운 연결을 발견할 수도 있다고 설명합니다.

젠트너의 경우, 사람의 IQ를 보는 것보다 정확한 은유나 비유를 하는 능력이 그의 창의성을 더 잘 반영할 수 있습니다. 과학적 혁신은 종종 사람들이 서로 다른 두 사물의 유사점을 발견할 수 있게 해주는 '스냅샷'을 통해 이루어지기 때문입니다. 이 비유는 상상력으로 가득 차 있습니다.

마찬가지로, 윌리엄 앤 메리 대학의 창의성 및 혁신 교수인 김 K.H는 아시아와 서구 교육 시스템의 융합적 사고에 대한 강박적인 초점이 예술과 과학 전반에서 혁신을 늦추고 있다고 믿습니다.

이상적으로 대학 에세이에서는 작가가 지적인 게임을 해야 하며 장애물이 그들을 넘어뜨리고 주제에 대한 지식이 빙산의 일각에 불과하다는 것을 깨닫게 해야 합니다. 도전 과제를 다룰 때 게임의 "음향 효과"는 아이들에게 머리를 물 위로 유지하고 실수를 했을 수도 있다는 사실을 깨닫게 해줍니다.

그러나 ChatGPT는 최악의 시나리오를 보여줍니다. 즉, 반향실의 비판적 합의에 대한 우아하고 깔끔한 요약입니다.

Bullshit의 대가

Harry 프랑크푸르트의 철학적 기사 "On Bullshit"을 기억하시나요? 그는 기사에서 거짓말(falsehood)과 신중한 고려 없이 설득력 있는 주장을 내뱉는(bullshit) 두 가지 개념을 언급했다.

거짓말쟁이는 다른 사람에게 진실을 적극적으로 숨기려면 진실에 대한 정확한 모델이 필요하지만, 헛소리하는 사람에게는 이러한 인식이 필요하지 않습니다.

사실, 말도 안되는 말을 하는 사람들은 하루 종일 진실을 말할 수 있습니다. 프랑크푸르트의 관점에서 그들이 말도 안되는 말을 하는 것은 그들의 말이 진실이거나 거짓이기 때문이 아니라 그들의 자유롭고 무모한 말투 때문입니다. . 그는 "이 이유만으로도 넌센스는 거짓말보다 진실의 더 큰 적이다"라고 썼습니다.

ChatGPT는 프랑크푸르트의 "말도 안되는" 예술 장르의 정점입니다. 이는 대규모 언어 모델을 사용하여 인간이 주제에 대해 말할 수 있는 내용을 종합합니다. 이는 이해에 대한 으스스한 시뮬레이션이지만 실제 통찰력과는 완전히 단절되어 있습니다.

ChatGPT의 가장 눈길을 끄는 기능 중 하나는 많은 학술 논문 특유의 유창하고 생명력 없는 산문 스타일을 생생하게 모방한다는 것입니다.

Atlantic에 게재된 Stephen Marche의 기사 “The College Essay is Dead”는 저와 동료들 사이에서 많은 논의를 불러일으켰습니다. 그는 ChatGPT에서 생성된 예제 텍스트에 B+를 주었고 설명에서 "이 구절은 필러처럼 읽히지만 대부분의 학생 에세이도 마찬가지입니다."라고 말했습니다.

이 문장은 정말 걱정스럽습니다.

ChatGPT가 있기 오래 전에 말도 안되는 문학이 우리를 괴롭혔지만, 자연이 그 길을 가고 발전하도록 놔둘 건가요?

절망적인 이상주의처럼 들리더라도 일어서서 거절해야 합니다!

책임 있는 학자는 기사를 적절한 몽테뉴 전통, 즉 다양한 가능성에 대한 다양하고 창의적이며 다양한 탐구로 되돌려야 합니다.

학생과 교수 사이의 유일한 접촉점이 성급하게 작성되고 성급하게 채점되는 논문뿐인 대형 강의실에서 벗어나는 등 일부 개혁이 필요합니다. 그리고 교사-학생 비율을 작게 유지하면 학생과 교사, 학생 간의 변증법적 의사소통을 회복하는 것만으로도 충분합니다.

AI는 계속 진화할 것입니다. 기계 학습은 다양한 분야에서 수백만 개의 새로운 솔루션을 생성할 것입니다.

현재 AI의 발전은 새로운 아이디어가 없는 융합과 융합, 그리고 '적절성'에 대한 인식이 없는 극단적인 발산이라는 두 가지 극단적인 방향을 갖게 될 것입니다.

여기서 우리는 Dean Keith Simonton의 독창성 x 적절성이라는 정의를 빌려왔습니다.

"적절성"은 특정 영역에서 비트겐슈타인의 "언어 게임"의 방대한 집합이며, 그 깊이와 폭은 우리 문화가 더욱 복잡해짐에 따라 증가할 뿐입니다. 이 심층적인 "게임" 세트는 너무 미묘하고 비합리적이며 텍스트 마이닝만으로 AI가 마스터할 수 있도록 빠르게 변화합니다.

이상적인 미래에서 교육은 모든 학습 영역에서 모든 연령층의 학생들의 호기심, 창의력, 감수성을 키우는 데 우선순위를 둘 수 있습니다. 이 프로젝트는 흥미롭지만 다소 늦었습니다.

이것은 AI를 이길 수 없다면 지식 습득을 포기해야 한다는 의미는 아닙니다. 이는 우리가 다시 아이디어를 가지고 "놀이"를 시작하고 학습 방법과 이유에 대한 메타인지를 연습해야 함을 의미합니다.

지각 있는 존재를 위한 최고의 게임은 자신이 원하는 방식으로 질문하도록 초대받는 것입니다. 그러면 답변이 스스로도 놀라게 되고 답변이 얼마나 빛나는지 발견하게 됩니다.

인간 자신의 마법적 사고는 AI의 모방 이해보다 훨씬 낫습니다.

기사 끝부분에서 편집자는 Colm O'Shea의 이 기사가 정말 우리를 비참하게 사랑에 빠지게 만들었다고 말하고 싶습니다.

자주 독자들이 우리 기사가 ChatGPT로 작성된 것인지 묻는 메시지를 남깁니다. 여기에서 이 기사의 관점을 빌려 답변할 수 있습니다. 기사에서 "갑자기 엿보는" 순간을 느낄 수 있다면, 이런 창조물은 AI가 아니라 인간에게서 나와야 합니다.

위 내용은 이용자 100만명 돌파! 중국 대학생을 위한 최강 AI 탐지기 GPTZero: 미국 헌법은 AI가 썼다의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!