OpenAI mengeluarkan alat pengesanan teks kecerdasan buatan ChatGPT

​ChatGPT

ChatGPT ialah model dialog bahasa semula jadi interaktif yang dilancarkan oleh OpenAI pada November 2022. OpenAI menggunakan RLHF (Pembelajaran Pengukuhan daripada Maklum Balas Manusia) untuk melatih ChatGPT, iaitu kaedah yang sama digunakan oleh InstructGPT, tetapi terdapat perbezaan yang jelas dalam tetapan pengumpulan data. Gunakan penalaan (parameter) diselia semasa melatih model awal: Sesi yang disediakan oleh jurulatih AI manusia. Jurulatih mempunyai akses kepada cadangan model untuk membantu jurulatih melengkapkan respons dengan lebih baik. Set data perbualan yang baru dijana kemudian dicampur dengan set data InstructGPT untuk membentuk format perbualan.

ChatGPT menyebabkan kejutan dalam industri selepas dikeluarkan, dan kemudiannya diuji secara meluas oleh semua pihak, termasuk pelajar. Sesetengah pelajar menggunakan ChatGPT untuk menulis kertas kerja, tugasan dan program, dan sukar bagi guru untuk memberitahu sama ada kertas, tugasan dan program disiapkan oleh pelajar sendiri. Di samping itu, terdapat banyak kertas kerja yang tidak diterbitkan ditandatangani ChatGPT.

Sebagai tindak balas kepada masalah ini, sekolah di seluruh dunia telah mengambil langkah, seperti mengharamkan platform. Menurut Business Insider, ChatGPT telah diharamkan oleh sekolah menengah dan menengah di New York, Seattle, Los Angeles dan tempat lain, dan platform itu juga telah diharamkan oleh komputer universiti di Perancis dan India.

Alat pengesanan ChatGPT

Pada 31 Januari, OpenAI mengumumkan pelancaran pengelas teks kecerdasan buatan, yang direka untuk mengesan sama ada kandungan input dijana oleh alatan kecerdasan buatan seperti ChatGPT.

OpenAI mengatakan pengelasnya tidak boleh dipercayai sepenuhnya. Apabila diuji pada teks bahasa Inggeris, pengelas dengan betul mengenal pasti 26% daripada teks yang dijana oleh kecerdasan buatan, dan kira-kira 9% daripada kandungan yang ditulis oleh manusia telah dilabel secara salah sebagai dihasilkan oleh kecerdasan buatan. Prestasi pengelas bertambah baik apabila panjang teks input bertambah. Berbanding dengan pengelas sebelumnya yang lain, ketepatan pengelas ini lebih tinggi daripada pengelas pengesanan lain.

Alamat percubaan pengelas: http://platform.openai.com/ai-text-classifier

OpenAI mengatakan bahawa kerana hasilnya tidak boleh dipercayai sepenuhnya, tidak disyorkan untuk menggunakan alat ini untuk membuat keputusan, tetapi sebagai pelengkap kepada alat dan kaedah pengesanan lain.

Alamat percubaan ChatGPT: https://chat.openai.com/

https://openai.com/blog/new-ai-classifier-for-indicating-ai-written- teks

Artikel ini diterjemahkan daripada: https://www.bleepingcomputer.com/news/technology/openai-releases-tool-to-detect-ai-written-text/

Atas ialah kandungan terperinci OpenAI mengeluarkan alat pengesanan teks kecerdasan buatan ChatGPT. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!