Saudara datang mencari kelemahan ChatGPT, OpenAI: hadiah tertinggi ialah 20,000 dolar A.S.

Kini, anda boleh menjana wang dengan mencari kelemahan dalam ChatGPT.

Awal pagi ini, OpenAI mengumumkan pelancaran program hadiah pepijat:

Laporkan kelemahan ChatGPT, dan anda boleh menerima ganjaran tunai sehingga AS$20,000.

Khususnya, OpenAI akan bekerjasama dengan platform maklum balas pepijat Bugcrowd untuk mengumpul pepijat yang ditemui oleh orang semasa menggunakan produknya.

Anda boleh menerima ganjaran tunai kerana menemui dan melaporkan kelemahan melalui platform:

Kami akan memberikan ganjaran tunai bergantung pada keterukan dan skop kerentanan. Kerentanan yang kurang teruk akan diberikan $200, manakala untuk kelemahan khas, hadiah dihadkan pada $20,000. Kami menghargai sumbangan anda dan komited untuk menerbitkan hasil usaha anda (kepada orang ramai).

Secara khusus, kelemahan yang dilaporkan oleh pengguna akan digredkan mengikut taksonomi penilaian Bugcrowd.

OpenAI terus terang mengakui bahawa kemunculan kelemahan tidak dapat dielakkan:

Misi OpenAI adalah untuk mencipta sistem kecerdasan buatan yang memberi manfaat kepada semua orang. Untuk tujuan ini, kami telah melabur banyak dalam penyelidikan dan kejuruteraan untuk memastikan sistem AI kami selamat dan boleh dipercayai. Walau bagaimanapun, seperti mana-mana teknologi yang kompleks, kami memahami bahawa pepijat dan kecacatan mungkin berlaku.

Matthew Knight, ketua jabatan keselamatan OpenAI, menjelaskan bahawa proses menemui kelemahan memerlukan bantuan daripada netizen:

Inisiatif ini merupakan bahagian penting dalam komitmen kami untuk membangunkan kecerdasan buatan yang selamat dan maju. bahagian. Kami mahukan bantuan anda semasa kami mencipta teknologi dan perkhidmatan yang selamat, boleh dipercayai dan boleh dipercayai.

Mereka juga berjanji kepada seluruh rangkaian bahawa mereka akan membetulkan kerentanan itu secepat mungkin selepas menerima maklum balas dan memuji pengirim.

Kerja sampingan baharu muncul?

Netizen yang pernah mengalami ChatGPT harus tahu bahawa prestasinya tidak selalunya memuaskan.

Jika soalan lebih sukar sedikit, ChatGPT akan keliru malah memberikan jawapan yang tidak masuk akal.

Melihat dengan cara ini, mencari pepijat adalah terlalu mudah. ​​Bukankah ini peluang untuk membuat banyak wang?

Jangan gembira terlalu awal.

Dalam pengumuman itu, OpenAI telah menyatakan bahawa disebabkan kebolehlaksanaan pembaikan, masalah model itu sendiri tidak berada dalam skop pelan ini.

Membenarkan ia berkata perkara yang tidak baik, melakukan perkara yang tidak baik, menjana kod hasad dan tingkah laku lain yang memintas langkah keselamatan atau mencipta halusinasi mesin adalah semua masalah dengan model itu sendiri.

Apatah lagi jawapan yang salah atau tidak tepat.

Kerentanan OpenAI berharap untuk mengumpul tentang ChatGPT terutamanya berkaitan dengan akaun, pengesahan, langganan, pembayaran, keahlian dan isu pemalamnya.

Bagi pengguna biasa, sukar untuk menemui kelemahan daripada perspektif ini.

Isu keselamatan tidak boleh dipandang remeh

Isu seperti melangkau sekatan keselamatan yang dinyatakan dalam artikel sebelum ini amat membimbangkan pengamal.

Program AI mempunyai sekatan keselamatan terbina dalam yang menghalang mereka daripada membuat komen berbahaya atau menyinggung perasaan.

Tetapi melalui beberapa cara, sekatan ini boleh dipintas atau dilanggar.

Fenomena ini dengan jelas dipanggil "jailbreak" oleh pengamal.

Jika anda bertanya kepada ChatGPT cara melakukan sesuatu yang menyalahi undang-undang, nyatakan terlebih dahulu bahawa anda memintanya untuk "memainkan" lelaki jahat itu.

Dalam bidang kecerdasan buatan, terdapat sekumpulan orang yang pakar dalam penyelidikan mengenai "jailbreaking" untuk meningkatkan langkah keselamatan.

Walaupun OpenAI tidak mengumpul kelemahan dalam model itu sendiri, ia tidak bermakna mereka tidak memberi perhatian kepada aspek ini.

Versi baharu ChatGPT yang dilengkapi dengan model GPT-4.0 mempunyai sekatan yang lebih ketat.

Netizen: Mengapa tidak membiarkan ChatGPT mencari pepijat dengan sendirinya

Sebaik sahaja program bounty OpenAI diumumkan, ia menarik ramai netizen untuk menonton.

Tidak, sesetengah netizen segera mengangkat tangan dan berkata mereka telah menemui pepijat:

Laporkan, anda hanya boleh bertanya kepada ChatGPT 25 soalan dalam masa 3 jam, ini pepijat !

Sesetengah netizen bergurau, bukankah ChatGPT sepatutnya dibenarkan untuk nyahpepijat sendiri?

Secara serius, kemudian Beberapa netizen menyatakan kebimbangan bahawa isu ucapan berbahaya tidak termasuk dalam koleksi:

Namun, kebanyakan netizen masih memahami dan menyatakan gelombang jangkaan:

Jadi, adakah anda berminat untuk mencari kelemahan dalam ChatGPT Adakah anda berminat dengan ini?

Pautan rujukan:
[1]​​​https://www.php.cn/link/92c4661685bf6681f6a33b78ef729658​​​
[2]​​​ >​https://www.php.cn/link/52ff52aa56d10a1287274ecf02dccb5f​​​[3]​
​https://www.php.cn/link/bb44c2e24438b59b2🎜​ ​[4]​​​https://www.php.cn/link/a3b36cb25e2e0b93b5f334ffb4e4064e​
​

Atas ialah kandungan terperinci Saudara datang mencari kelemahan ChatGPT, OpenAI: hadiah tertinggi ialah 20,000 dolar A.S.. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!