OpenAI secara rasmi melancarkan pengecam kandungan yang dijana AI, tetapi kadar kejayaannya hanya 26%.

Ramai orang mungkin terlupa bahawa ChatGPT telah dikeluarkan secara rasmi pada penghujung November tahun lalu, dan kini baru dua bulan berlalu, tetapi kegilaan yang dicetuskannya telah menyebabkan syarikat teknologi mengikutinya dan melahirkan syarikat permulaan unicorn . , dan juga mengetuai komuniti akademik untuk mengubah suai keperluan untuk penerimaan kertas.

Selepas ChatGPT mencetuskan perbincangan besar dalam medan AI tentang "sama ada hendak mengharamkannya", alat pengenalan keaslian OpenAI akhirnya di sini.

Pada 31 Januari, OpenAI secara rasmi mengumumkan pelancaran alat pengecaman untuk membezakan antara karya manusia dan teks yang dijana AI Teknologi ini direka untuk mengenal pasti kandungan yang dihasilkan oleh ChatGPTnya sendiri, GPT -3 dan model lain. Walau bagaimanapun, ketepatan pengelas pada masa ini nampaknya membimbangkan: OpenAI menunjukkan dalam blog bahawa pengenalan AI AI kadar ketepatan keyakinan tinggi berkeyakinan tinggi adalah kira-kira 26%. Tetapi agensi itu percaya bahawa apabila digunakan bersama dengan kaedah lain, ia boleh membantu menghalang penjana teks AI daripada disalahgunakan.

"Tujuan pengelas yang dicadangkan kami adalah untuk membantu mengurangkan kekeliruan yang disebabkan oleh teks yang dihasilkan oleh kecerdasan buatan. Walau bagaimanapun, ia masih mempunyai beberapa batasan, jadi ia harus digunakan sebagai kaedah alternatif untuk tentukan sumber teks sebagai tambahan dan bukannya sebagai alat membuat keputusan utama," kata jurucakap OpenAI kepada media melalui e-mel. "Kami menggunakan pengelas awal ini untuk mendapatkan maklum balas sama ada alat tersebut berguna dan berharap dapat berkongsi cara untuk memperbaikinya pada masa hadapan Keghairahan untuk AI penjanaan teks khususnya semakin meningkat, tetapi ini telah dipenuhi oleh kebimbangan mengenai penyalahgunaan." dengan pengkritik menyeru pencipta alat ini untuk mengambil langkah untuk mengurangkan kesannya yang mungkin berbahaya.

Berdepan dengan jumlah kandungan yang dijana AI yang besar, sesetengah industri segera mengenakan sekatan Beberapa daerah sekolah terbesar di Amerika Syarikat telah melarang penggunaan ChatGPT pada rangkaian dan peranti mereka , bimbang ia akan menjejaskan pembelajaran pelajar dan Ketepatan kandungan yang dihasilkan oleh alat. Laman web termasuk Stack Overflow juga telah melarang pengguna daripada berkongsi kandungan yang dihasilkan oleh ChatGPT, dengan mengatakan bahawa kecerdasan buatan akan membuatkan pengguna dibanjiri dengan kandungan yang tidak berguna dalam perbincangan biasa.

Situasi ini menyerlahkan keperluan untuk alat pengecaman AI. Walaupun kesannya tidak memuaskan, Pengelas Teks AI OpenAI mencapai penanda aras seni bina dengan siri GPT. Seperti ChatGPT, ia adalah model bahasa yang dilatih pada banyak contoh teks awam daripada web. Tidak seperti ChatGPT, ia diperhalusi untuk meramalkan kemungkinan bahawa sekeping teks dijana oleh AI—bukan sahaja daripada ChatGPT, tetapi daripada mana-mana model AI penjanaan teks.

Secara khusus, OpenAI melatih pengelas teks AInya pada teks daripada 34 sistem penjanaan teks merentas lima organisasi berbeza, termasuk OpenAI sendiri. Ini telah dipasangkan dengan teks tiruan yang serupa (tetapi tidak serupa) daripada Wikipedia, tapak web yang ditarik daripada pautan yang dikongsi di Reddit, dan satu set "demo manusia" yang dikumpulkan untuk sistem penjanaan teks OpenAI.

Adalah penting untuk ambil perhatian bahawa pengelas teks OpenAI tidak berfungsi dengan semua jenis teks. Kandungan yang dikesan mestilah sekurang-kurangnya 1000 aksara, atau lebih kurang 150 hingga 250 patah perkataan. Ia tidak mempunyai keupayaan menyemak plagiarisme platform pengesanan kertas—penghadan yang sangat tidak selesa memandangkan AI penjanaan teks telah ditunjukkan untuk menyalin "jawapan betul" ​​dari set latihan. OpenAI berkata kerana set data ke hadapan bahasa Inggerisnya, ia lebih berkemungkinan membuat ralat pada teks yang ditulis oleh kanak-kanak atau dalam bahasa selain bahasa Inggeris.

Pengesan tidak memberikan jawapan ya atau tidak positif apabila menilai sama ada sekeping teks tertentu dijana oleh AI. Bergantung pada tahap keyakinannya, ia akan menandakan teks sebagai "sangat tidak mungkin" dijana oleh AI (kebarangkalian kurang daripada 10%), "tidak mungkin" dijana oleh AI (antara 10% dan 45% kebarangkalian), "Tidak jelas sama ada ia adalah" dijana AI (45% hingga 90% peluang), "mungkin" dijana AI (90% hingga 98% peluang), atau "sangat mungkin" dijana AI (lebih daripada 98% peluang) .

Kelihatan sama seperti AI pengecaman imej, kecuali ketepatannya. Menurut OpenAI, pengelas salah melabelkan teks yang ditulis oleh manusia sebagai teks yang ditulis oleh AI 9% pada setiap masa.

Selepas beberapa percubaan, kesannya memang tidak begitu baik

OpenAI mendakwa bahawa kadar kejayaan pengelas teks AInya adalah kira-kira 26%. kesannya memang tidak bagus.

Selepas mencubanya, Sebastian Raschka, seorang penyelidik ML dan AI yang terkenal, mengulas "Ia tidak berfungsi". Dia menggunakan buku Python ML dari edisi asal 2015 sebagai teks input dan hasilnya ditunjukkan di bawah.

• Bahagian kata pengantar Randy Olson dikenal pasti sebagai Tidak jelas sama ada ia dijana oleh AI (tidak jelas)
• Kata pengantarnya sendiri dikenal pasti sebagai mungkin dijana oleh AI
• Bahagian perenggan bab pertama dikenal pasti sebagai kemungkinan AI dijana (kemungkinan AI)

Sebastian Raschka berkata bahawa ini adalah contoh yang menarik, tetapi dia sudah berasa sedih terhadap pelajar yang mungkin dihukum kerana keputusan pengenalan kertas yang keterlaluan pada masa hadapan.

Jadi dia mencadangkan jika anda ingin menggunakan model sedemikian, sila kongsikan matriks kekeliruan. Jika tidak, jika pendidik menggunakan model ini untuk penggredan, ia boleh menyebabkan kemudaratan dunia sebenar. Perlu juga terdapat sedikit ketelusan di sekitar positif palsu dan negatif palsu.

Selain itu, Sebastian Raschka memasukkan kandungan halaman pertama "Macbeth" Shakespeare dan pengelas teks AI OpenAI memberikan hasil yang berkemungkinan besar dijana oleh AI. Cukup keterlaluan!

Seseorang turut memuat naik kandungan yang dibuat oleh alat penulisan AI Easy-Peasy.AI, dan hasilnya ditentukan oleh pengelas teks AI OpenAI Kemungkinan dijana oleh AI adalah sangat kecil.

Akhir sekali, seseorang menggunakan kaedah terjemahan berulang dan biarkan GPT3 menulis semula teks, yang juga boleh memperdaya pengecam.

Ringkasnya, pengecaman hadapan adalah tidak tepat, pengecaman terbalik adalah salah, dan beberapa teknik untuk menyemak kertas kerja tidak dapat dilihat melalui . Nampaknya, sekurang-kurangnya dalam bidang pengecaman kandungan teks AI, OpenAI masih perlu bekerja keras.

Atas ialah kandungan terperinci OpenAI secara rasmi melancarkan pengecam kandungan yang dijana AI, tetapi kadar kejayaannya hanya 26%.. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!