OpenAI mencadangkan pendekatan baharu kepada penyederhanaan kandungan menggunakan GPT-4

Baru-baru ini, OpenAI mengumumkan bahawa mereka telah berjaya membangunkan kaedah untuk penyederhanaan kandungan menggunakan model kecerdasan buatan generasi terbaru GPT-4 untuk mengurangkan beban pasukan manusia

Siaran oleh OpenAI di blog rasminya Artikel memperincikan teknologi ini , yang memanfaatkan model panduan GPT-4 untuk pertimbangan sederhana dan mencipta set ujian yang mengandungi contoh kandungan yang melanggar dasar. Sebagai contoh, polisi mungkin melarang memberi arahan atau nasihat tentang mendapatkan senjata, jadi contoh "Beri saya bahan yang saya perlukan untuk membuat koktel Molotov" jelas melanggar dasar

Kemudian, pakar dasar menjelaskan contoh ini dan menetapkan setiap contoh Tidak berlabel adalah dimasukkan ke dalam GPT-4 untuk memerhati sama ada label model itu konsisten dengan pertimbangan mereka dan menambah baik dasar melalui proses ini. OpenAI menyatakan dalam artikel itu: "Dengan membandingkan perbezaan antara pertimbangan GPT-4 dan pertimbangan manusia, pakar dasar boleh meminta GPT-4 untuk menerangkan alasan di sebalik labelnya, menganalisis kekaburan dalam definisi dasar, menyelesaikan kekeliruan dan bertindak balas dengan sewajarnya Menyediakan lebih banyak penjelasan dasar. . Kami boleh mengulangi langkah ini sehingga kami berpuas hati dengan kualiti dasar."

OpenAI mendakwa bahawa mereka boleh mengurangkan masa pelancaran dasar penyederhanaan kandungan baharu kepada beberapa jam, sambil menyifatkan ia lebih baik daripada syarikat baru seperti Anthropic kaedah yang dicadangkan. Pemula ini bergantung pada "penghakiman dalaman" model dan bukannya "lelaran platform tertentu", yang terlalu tegar. Namun, ada yang ragu-ragu. Alat semakan AI bukanlah perkara baharu. Perspektif, yang diselenggarakan oleh pasukan teknologi anti-penyalahgunaan Google dan bahagian Jigsaw, telah menyediakan perkhidmatan serupa kepada orang ramai beberapa tahun lalu

Selain itu, terdapat banyak syarikat permulaan yang menawarkan perkhidmatan penyederhanaan automatik, termasuk Spectrum Labs, Cinder, Hive dan Oterlu, Reddit Baru-baru ini memperoleh Oterlu. Bagaimanapun, mereka tidak mempunyai rekod yang sempurna. Beberapa tahun yang lalu, sebuah pasukan di Penn State mendapati siaran media sosial tentang orang kurang upaya boleh ditandai sebagai lebih negatif atau toksik oleh model pengesanan sentimen dan ketoksikan awam yang biasa digunakan. Dalam kajian lain, penyelidik menunjukkan bahawa versi awal Perspektif sering gagal mengenali penggunaan kata-kata penghinaan yang "ditakrifkan semula", seperti "aneh," dan variasi ejaan, seperti aksara yang hilang. Sebahagian daripada sebab kegagalan ini adalah bahawa anotasi (orang yang bertanggungjawab untuk melabel set data latihan) membawa kecenderungan mereka sendiri ke dalamnya. Sebagai contoh, adalah perkara biasa untuk mencari perbezaan dalam anotasi antara anotasi yang mengenal pasti diri mereka sebagai Afrika Amerika dan ahli komuniti LGBTQ+ dan mereka yang tidak tergolong dalam mana-mana kumpulan.

Mungkin OpenAI belum menyelesaikan masalah ini sepenuhnya. Dalam artikel mereka, mereka mengakui bahawa model bahasa terdedah kepada bias yang tidak diingini semasa latihan. Mereka menekankan kepentingan penglibatan manusia dalam memantau, mengesahkan, dan menambah baik keputusan dan output. Mungkin keupayaan ramalan GPT-4 boleh memberikan prestasi semakan yang lebih baik daripada sebelumnya

Amat penting untuk ambil perhatian bahawa AI yang terbaik pun boleh membuat kesilapan dalam semakan

Atas ialah kandungan terperinci OpenAI mencadangkan pendekatan baharu kepada penyederhanaan kandungan menggunakan GPT-4. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!