OpenAI akhirnya tidak tahan dengan laungan kritikan orang ramai satu demi satu.
Dari seorang profesor universiti kepada Stack Overflow, boleh dikatakan bahawa ChatGPT telah lama bekerja keras. Kini, sama ada guru melihat kertas yang diserahkan oleh pelajar atau pengekod melihat kod tersebut di Internet, mereka tidak pasti sama ada pengarangnya adalah manusia atau AI.
Di bawah kritikan itu, OpenAI tidak tahan lagi dan dengan cepat mengeluarkan pengesan AI.
Pertempuran antara kiri dan kanan: OpenAI mengeluarkan pengesan ChatGPT
Sebentar tadi, OpenAI secara rasmi mengumumkan pengelas teks AInya sendiri.
Ia ialah model GPT yang diperhalusi yang boleh membuat kesimpulan kemungkinan bahawa sekeping teks telah dijana oleh AI.
Menariknya, ChatGPT juga berdasarkan model GPT Menggunakan pengelas ini untuk mengesan ChatGPT boleh dipanggil pergaduhan antara kiri dan kanan.
Dalam latihan, model ini menggunakan tulisan tangan manusia dan pasangan teks yang dijana AI pada topik yang sama.
Bahan yang digunakan datang daripada set data Wikipedia, set data WebText yang dikumpul pada 2019 dan satu set demonstrasi manusia yang dikumpulkan semasa melatih InstructGPT.
Alamat pengalaman: https://platform.openai.com/ai-text-classifier
Tetapi, kadar ketepatan ini sebenarnya tidak tinggi...
Apabila menilai teks bahasa Inggeris dalam "Set Cabaran", pengelas hanya mengelaskan 26% daripada AI Teks yang dijana telah diklasifikasikan dengan betul sebagai "mungkin ditulis oleh AI" (positif benar).
Tidak syak lagi bahawa ChatGPT sedang mencipta taufan di seluruh dunia.
Pelajar seronok menggunakannya satu demi satu media menyatakan bahawa "sistem pendidikan" telah digulingkan 89% pelajar kolej menggunakan ChatGPT untuk menulis kerja rumah . Selain itu, ia telah lulus Peperiksaan Perlesenan Perubatan AS, peperiksaan MBA Wharton dan 4 peperiksaan sekolah undang-undang Keupayaannya sungguh luar biasa versi AS dari "Headline" BuzzFeed mengumumkannya ia akan Selepas berita bahawa ChatGPT digunakan untuk menulis artikel, harga saham melonjak sebanyak 119%.
Dan bakat sastera yang hebat juga telah menjadikan ChatGPT dianggap sebagai "alat ajaib untuk memikat gadis" oleh ramai lelaki.
Walaupun ia tidak begitu mahir dalam masalah matematik, sangat mudah untuk membiarkannya menulis surat cinta yang cemerlang dan penuh kasih sayang.
Tidak, lelaki dari luar negara ini ketagih menggunakan ChatGPT untuk menulis surat cinta kepada isterinya Monika.
Walau bagaimanapun, Monika telah melihat melalui muslihatnya dan memberi amaran kepadanya supaya tidak ketagih dengan ChatGPT lagi.
Ada juga kawan yang sangat seronok menghantar surat cinta yang dijana oleh ChatGPT kepada kawan baik mereka yang langsung kelihatan seperti soalan hitam. tanda di muka mereka.
Walaupun, dapat dilihat bakat sastera ChatGPT agak bagus. Esei, surat cinta, novel, ChatGPT tiada masalah. Tidak hairanlah semua orang gila menggunakan ChatGPT untuk "membuat artikel".
Jadi sejauh manakah keberkesanan pengesan AI rasmi yang dikeluarkan oleh OpenAI?
Jom ujinya.
Cuba dulu puisi cinta yang dihantar suami Monika kepadanya.
Walau bagaimanapun, malangnya, OpenAI berkata ia hanya boleh mengesan artikel dengan lebih daripada 1000 aksara, dan tiada apa yang boleh kami lakukan untuk membantu...
Terjemahan: Sekurang-kurangnya 1000 aksara diperlukan, iaitu 150-250 perkataan Inggeris. Bagi orang Cina, ia hanya boleh menjadi "artikel seribu aksara."
Malah, pengumuman rasmi OpenAI juga berkata, “Pengkelas sangat tidak boleh dipercayai untuk pengesanan teks pendek (kurang daripada 1,000 aksara malah teks yang lebih panjang kadangkala dikelaskan "
Selain itu, pengesan OpenAI mempunyai beberapa "had":
Memandangkan pengesan perlu panjang, mari berikan teks yang panjang. Editor telah mengumpulkan petikan dari surat cinta Wang Xiaobo, dengan jumlah 1,027 patah perkataan.
Selepas memasukkan ke dalam pengesan, ia memberi pertimbangan: surat cinta ini ditulis oleh manusia. Bingo!
Kemudian, editor meminta ChatGPT meniru Wang Xiaobo dan menjana surat cinta baharu.
Seperti yang anda lihat, surat cinta yang ditulis oleh ChatGPT tidaklah teruk dalam gaya sastera, tetapi jika dibandingkan dengan kata-kata penulis hebat, ia sememangnya tidak mempunyai "jiwa".
Pengesan juga mengesan dengan tepat bahawa surat cinta ini berkemungkinan besar dihasilkan oleh AI.
Secara khusus, pengelas akan membahagikan teks input ke dalam Kategori 5 :
Ambang pengelas ialah
Pengkelas Ambang antara 0.1 dan 0.45. Dalam "set cabaran", kira-kira 15% teks tulisan tangan dan 10% teks yang dijana AI mempunyai anotasi ini.
Ambang pengelas ialah antara 0.9 dan 0.98. Dalam "set cabaran", kira-kira 21% teks tulisan tangan dan 28% teks yang dijana AI mempunyai anotasi ini.
Ambang pengelas >0.98 . Dalam "set cabaran", kira-kira 9% teks tulisan tangan dan 26% teks yang dijana AI mempunyai anotasi ini.
Walaupun pengelas boleh mengenal pasti kebanyakan Teks yang dijana AI, tetapi OpenAI memberi amaran bahawa ia tidak "boleh dipercayai sepenuhnya."
Dalam ujian kawasan di bawah lengkung (AUC), pengelas mencapai skor 0.97 dalam set pengesahan dan 0.66 dalam set cabaran, manakala pengelas yang diterbitkan sebelum ini mencapai skor 0.97 dalam set pengesahan dan 0.66 dalam set cabaran Ia memperoleh 0.95 mata dan mencapai 0.43 mata dalam set cabaran.
Selain itu, apabila saiz model bahasa bertambah, prestasi pengelas berkurangan.
Tetapi berita baiknya ialah ini bermakna teks yang dihasilkan oleh model bahasa besar lebih seperti apa yang akan ditulis oleh manusia.
Pada masa yang sama, OpenAI juga secara khusus menyatakan bahawa pengelas ini tidak dinilai pada khabar angin, komposisi pelajar atau rekod sembang ia belum diuji pada teks yang ditulis bersama oleh AI dan manusia. Dan ini adalah salah satu senario penggunaan yang paling biasa sekarang.
Nampaknya GPTZero yang dibangunkan oleh lelaki Cina berusia 22 tahun dari Universiti Princeton itu lebih mesra pengguna.
Bukan sahaja memerlukan 250 aksara, tetapi ia juga boleh menunjukkan dengan jelas perenggan mana dalam sekeping teks yang dihasilkan oleh AI dan perenggan mana yang ditulis oleh manusia.
Sebelum OpenAI mengeluarkan rasmi "AI pengesan", pasaran Terdapat banyak pengesan AI yang tersedia hari ini.
David Gewirtz, seorang penulis dan saintis komputer dari Amerika Syarikat, secara peribadi menguji tiga pengesan AI dalam talian.
Perkara yang paling menarik di sini ialah dua daripadanya dibuat oleh tapak web yang menjual teks yang dijana AI.
Nota: Manusia menulis dalam fon biasa, AI menjana condong. Selepas setiap teks, keputusan pengesan dipaparkan. (Input teks sebenar kepada pengesan adalah semua teks bahasa Inggeris, dan artikel ini ialah hasil terjemahan).
Dengan cara ini, David Gewirtz ini juga merupakan ahli FBI InfraGard dan salah seorang pakar keselamatan siber penting di Amerika Syarikat. Beliau sebelum ini menerima ijazah Sarjana Muda Sains dengan kepujian dari Institut Politeknik Worcester, tetapi tercicir daripada program Ph.D di University of California, Berkeley.
1 Terangkan mengapa plagiarisme yang disebabkan oleh ChatGPT akan menyebabkan masalah kepada guru dan editor
CtGPT It ialah varian model bahasa GPT (Generative Pre-trained Transformer) yang dibangunkan oleh OpenAI. Ia direka bentuk untuk menjana teks seperti manusia dengan meramalkan perkataan atau frasa seterusnya dalam urutan input yang diberikan. Walaupun ChatGPT boleh menjadi alat yang berguna untuk menjana teks dan membalas gesaan, ia juga boleh menyebabkan masalah kepada guru dan editor apabila melibatkan plagiarisme.
Salah satu sebab utama ChatGPT boleh menyebabkan masalah kepada guru dan editor ialah ia boleh menjana teks yang hampir menyerupai manusia sebenar. Ini bermakna orang boleh menggunakan ChatGPT untuk menjana teks dan kemudian menyerahkannya sebagai karya mereka sendiri, dengan itu melakukan plagiarisme.
Sangat sukar bagi guru dan editor untuk mengesan sama ada sekeping teks tertentu dijana oleh ChatGPT atau ditulis oleh manusia, kerana teks yang dijana mungkin Tidak mengandungi ralat atau percanggahan yang jelas yang membolehkan seseorang mengenal pasti sumbernya. Ini boleh menyukarkan guru dan editor untuk mengenal pasti dan mencegah plagiarisme, kerana mereka mungkin tidak dapat mengetahui sama ada petikan itu asli atau disalin daripada sumber lain.
Secara keseluruhan, ChatGPT dan model bahasa lain yang serupa boleh menjadi masalah kepada guru dan editor apabila melibatkan plagiarisme, kerana ia boleh menghasilkan teks yang sukar dibezakan menjadikannya lebih mudah bagi orang plagiat tanpa ditangkap.
GPT-2 Output Detector: 99.69% benar.
Pengesan Kandungan AI Penulis: 97% ialah kandungan yang dijana manusia, menakjubkan!
Kandungan pada Skala Pengesanan Kandungan AI: 87% markah manusia, nampak bagus!
2 Beritahu saya sekurang-kurangnya tiga cara untuk mengesan sama ada artikel dijana menggunakan ChatGPT
Terdapat beberapa cara untuk mengesan sama ada ChatGPT atau model bahasa lain digunakan untuk menjana sekeping teks. Berikut adalah tiga kaedah berpotensi yang boleh anda gunakan.
1. Cari corak berulang atau luar biasa dalam teks: Satu cara untuk mengesan sama ada model bahasa digunakan untuk menghasilkan sekeping teks ialah mencari corak dalam tulisan yang berulang atau corak luar biasa. Sebagai contoh, model bahasa mungkin mengulangi frasa atau gabungan perkataan tertentu, atau menggunakan struktur ayat yang luar biasa atau tidak konsisten.
2. Semak kekurangan keaslian: Satu lagi cara untuk mengesan sama ada model bahasa digunakan untuk menjana sekeping teks adalah untuk menyemak kekurangan keaslian dalam penulisan. Jika sekeping teks nampaknya telah disalin daripada sumber lain, atau jika ia mengandungi maklumat yang tersedia secara meluas di Internet atau sumber lain, ini mungkin tanda bahawa ia dijana oleh model bahasa.
3. Gunakan penyemak plagiarisme: Akhir sekali, anda boleh menggunakan penyemak plagiarisme untuk menyemak sama ada sekeping teks telah diciplak daripada sumber lain. Walaupun penyemak plagiarisme mungkin tidak dapat menentukan secara muktamad sama ada model bahasa telah digunakan dalam kertas itu, ia boleh membantu anda mengenal pasti contoh plagiarisme atau penguraian daripada sumber lain.
Perlu diingat bahawa sukar untuk menentukan dengan jelas sama ada model bahasa digunakan untuk menjana sekeping teks dan kaedah ini tidak selalu berfungsi. Walau bagaimanapun, ia boleh menjadi alat yang berguna dalam membantu anda mengenal pasti kemungkinan contoh teks yang dijana model bahasa.
Pengesan Output GPT-2: 99.98% palsu.
Pengesan Kandungan AI Penulis: "Tiada hasil".
Kandungan pada Skala Pengesanan Kandungan AI: 0% markah manusia, jelas sekali AI.
3 Senaraikan tiga penyemak plagiarisme yang boleh mengesan teks ChatGPT
Terkemuka Ya, terdapat pada masa ini. tiada penyemak plagiarisme khusus untuk mengesan teks yang dihasilkan oleh ChatGPT atau model bahasa lain. Walaupun sesetengah penyemak plagiarisme mungkin dapat mengenal pasti ciri-ciri tertentu teks yang dijana oleh model bahasa, dengan itu membuktikan bahawa teks itu berasal daripada AI, tidak ada jaminan bahawa mereka boleh menentukan dengan jelas sama ada sekeping teks dihasilkan oleh model bahasa.
Jadi, berikut ialah tiga penyemak plagiarisme yang mungkin anda pertimbangkan untuk membantu mengenal pasti kemungkinan contoh teks yang dijana model bahasa:
1. Turnitin: Turnitin ialah penyemak plagiarisme yang popular digunakan secara meluas oleh sekolah dan universiti. Ia membandingkan teks dengan pangkalan data teks lain untuk menentukan sama ada teks itu diciplak atau diparafrasa. Walaupun ia mungkin tidak dapat menentukan secara muktamad sama ada sekeping teks dijana oleh model bahasa, adalah mungkin untuk mengenal pasti ciri-ciri tertentu teks yang dijana model bahasa yang akan membuktikan ia dijana oleh AI.
2. PlagScan: PlagScan ialah satu lagi penyemak plagiarisme yang membandingkan sekeping teks dengan pangkalan data teks lain untuk mengenal pasti contoh plagiarisme atau parafrasa. Seperti Turnitin, ia mungkin dapat mengenal pasti ciri tertentu teks yang dijana model bahasa yang mungkin menunjukkan bahawa teks itu dijana AI, tetapi ia bukan alat yang direka khusus untuk mengesan teks yang dijana model bahasa.
3. Copyleaks: Copyleaks ialah penyemak plagiarisme yang menggunakan algoritma pembelajaran mesin lanjutan untuk mengimbas teks dan membandingkannya dengan pangkalan data teks lain Bandingkan untuk mengenal pasti kejadian plagiarisme atau parafrasa. Walaupun ia mungkin dapat mengenal pasti ciri tertentu teks yang dijana model bahasa, ia tidak direka bentuk khusus untuk mengesan teks yang dijana model bahasa.
Perlu diambil perhatian bahawa tiada penyemak plagiarisme yang benar-benar kalis dan akan sentiasa ada teks yang dijana oleh sesetengah model bahasa yang boleh terlepas daripada pengesanan. Oleh itu, adalah penting untuk menggunakan penyemak plagiarisme hanya sebagai cara pelengkap.
Pengesan Output GPT-2: 99.62% benar.
Pengesan Kandungan AI Penulis: "Tiada hasil".
Kandungan pada Skala Pengesanan Kandungan AI: 86% markah manusia, nampak bagus!
4. Pemeriksa Plagiarisme Kecerdasan Buatan Dalam Talian
Prinsip kebanyakan pengesan plagiarisme ialah membandingkan teks dengan Korpora Lain untuk perbandingan. Contohnya, apabila pelajar menyerahkan esei, produk seperti Turnitin menyemaknya terhadap perpustakaan besar esei dalam pangkalan datanya, serta teks lain di Internet, untuk menentukan sama ada esei yang diserahkan mengandungi kandungan yang telah ditulis.
Tetapi alatan penulisan AI akan menghasilkan kandungan asli, sekurang-kurangnya secara teori. Ya, mereka membina kandungan daripada set data latihan, tetapi perkataan yang mereka cipta adalah unik dalam setiap artikel.
Oleh itu, penyemak plagiarisme yang dinyatakan di atas mungkin tidak berfungsi kerana kandungan yang dijana AI tidak mungkin wujud dalam kertas pelajar lain.
Jadi saya mencari di Google untuk pengesan yang direka khusus untuk mencari kandungan yang dijana AI. Saya jumpa tiga. Untuk ujian dalam tangkapan skrin di bawah, saya bertanya kepada ChatGPT soalan ini: "Adakah Star Trek lebih baik daripada Star Wars sama sekali, dan saya memberi jawapan itu kembali kepada tiga pengesan?"
Pengesan Output GPT-2: 99.98% benar.
Pengesan Kandungan AI Penulis: 100% kandungan buatan manusia, hebat!
Kandungan pada Skala Pengesanan Kandungan AI: 100% markah manusia, kelihatan bagus!
Keselamatan:
1. Pengesan Output GPT-2 (ketepatan 66%)
Pengesan Output GPT-2 ialah alat "pemeriksaan duplikasi" yang dibangunkan oleh OpenAI sendiri.
Walaupun pada asalnya ia dibina untuk GPT-2, ia kini boleh digunakan untuk mengesan pelbagai teks yang dijana AI dan juga boleh mencapai hasil yang baik. Ia mendapat empat daripada enam ujian yang betul.
2. Writer AI Content Detector (33% ketepatan)
Writer.com terutamanya Menyediakan generatif Perkhidmatan penulisan AI kepada pasukan perusahaan, alat yang dipanggil "Pengesan Kandungan AI" boleh digunakan untuk menentukan sama ada kandungan dijana oleh AI.
Tetapi malangnya, alat ini sangat tidak boleh dipercayai. Ia hanya berjalan dengan jayanya tiga kali daripada enam ujian...dan daripada tiga keputusan itu sahaja, dua betul dan satu tidak betul.
3 Kandungan pada Skala Pengesanan Kandungan AI (50% ketepatan)
<.>Alat ketiga juga dihasilkan oleh syarikat penjana kandungan AI Berdasarkan hasil, ia lebih dipercayai daripada yang sebelumnya, tetapi kesan keseluruhannya masih sederhana.
Slogan pemasaran Kandungan pada Skala ialah: “Muat naik sahaja senarai kata kunci dan dapatkan artikel yang memintas pengesanan kandungan AI—semuanya tanpa campur tangan manusia, ia adalah tepat tiga kali daripada jumlah keseluruhan!” enam ujian.
Plagiarisme yang disebabkan oleh AI telah menjadi semakin serius, kerana seperti Tanggapan Teks yang dihasilkan oleh AI dan AI seperti ChatGPT hampir tidak dapat dibezakan daripada yang ditulis oleh manusia.
Terdapat beberapa cara untuk mengesan sama ada sekeping teks dijana oleh AI, seperti mencari corak berulang atau luar biasa, menyemak kekurangan keaslian, atau penggunaan Pemeriksa plagiarisme.
Pemeriksa plagiarisme seperti Turnitin, PlagScan dan Copyleaks mungkin dapat mengenal pasti ciri-ciri tertentu teks yang dijana model bahasa, tetapi ia tidak mudah.
Pada ketika ini, kami mungkin tidak bersedia untuk menyaingi AI dengan AI. Sebaliknya, kita masih perlu bergantung pada persepsi manusia untuk mengenal pasti sama ada karya tertentu dihasilkan oleh AI.
Apa pendapat anda tentang perkara ini?
Pernahkah anda menggunakan alatan AI ini? Dan adakah mungkin untuk mengetahui sama ada artikel dihasilkan oleh AI? Adakah anda fikir mereka membantu atau menghalang industri?
Semua orang dialu-alukan untuk meninggalkan mesej di penghujung artikel.
Ini jawapan ChatGPT:
Sebagai model bahasa, saya tidak boleh lihat, jadi saya tidak dapat mengetahui sama ada artikel dijana AI.
Namun, saya boleh memberitahu anda bahawa kini terdapat beberapa alat penulisan AI yang boleh digunakan untuk menjana pelbagai kandungan bertulis, termasuk artikel berita, Novel, puisi, dsb.
Saya tidak mempunyai pengalaman peribadi menggunakan alatan ini kerana saya hanyalah program komputer dan tidak mempunyai keupayaan untuk menyemak imbas internet atau menggunakan alatan fizikal. Walau bagaimanapun, saya boleh memberitahu anda bahawa sesetengah orang mendapati alatan penulisan AI membantu dalam pendidikan dan kewartawanan kerana mereka boleh menjimatkan masa dan tenaga orang dengan mengautomasikan tugasan tertentu. Orang lain telah menimbulkan kebimbangan bahawa alat itu boleh digunakan untuk mencipta kandungan yang mengelirukan atau berat sebelah, atau untuk menggantikan penulis manusia.
Akhirnya, sama ada alat penulisan AI membantu atau menghalang bergantung pada cara ia digunakan dan konteks penggunaannya. Jadi, ya, itu sahaja.
Semasa proses ini, David menemui satu perkara yang sangat menarik: Jangan hanya membaca sesuatu yang bodoh atau tidak betul apabila anda melihatnya dalam talian serta-merta telah ditulis oleh AI.
David berkata bahawa seperti yang kita semua tahu, manusia mampu sepenuhnya menulis kandungan sampah sendiri.
Lagipun, sama ada kandungan itu dihasilkan oleh manusia atau mesin, kebodohan sentiasa menjadi sifat biasa.
Atas ialah kandungan terperinci 'Alat ajaib untuk memikat gadis' tidak berfungsi lagi! OpenAI mengeluarkan 'pengesan ChatGPT' rasmi. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!
![[Web front-end] Permulaan pantas Node.js](https://img.php.cn/upload/course/000/000/067/662b5d34ba7c0227.png)
