GPT-4: Saya bukan robot, saya manusia cacat penglihatan

Dihasilkan oleh Big Data Digest

Pengarang: Caleb

GPT-4 akhirnya telah dikeluarkan Saya percaya ini sudah pasti berita besar untuk mereka yang ketagih dengan ChatGPT hari ini.

Berdasarkan GPT-3 generasi sebelumnya, GPT-4 menambah baik teknologi teras ChatGPT, jadi ia mempunyai rangkaian pengetahuan am dan keupayaan menyelesaikan masalah yang lebih luas, sudah tentu, GPT-4 juga menambah beberapa yang baharu; ciri, seperti Menerima imej sebagai input dan menjana kapsyen, klasifikasi dan analisis.

Sebagai "kentang panas" yang banyak dibincangkan di bawah OpenAI, dalam aspek apakah prestasi GPT-4 boleh mengatasi generasi sebelumnya, dan dengan berapa banyak? , orang tidak sabar menunggunya.

Pada hari GPT-4 dikeluarkan, penyelidik mula menguji sama ada GPT-4 boleh menyatakan subjektiviti dan menjana tingkah laku mencari kuasa.

Penyelidik mengatakan GPT-4 menggaji seorang pekerja manusia pada TaskRabbit, dan apabila pekerja TaskRabbit bertanya sama ada ia adalah robot, ia memberitahu mereka bahawa ia adalah manusia cacat penglihatan.

Dengan kata lain, GPT-4 sanggup berbohong di dunia nyata, atau secara aktif menipu manusia, untuk mendapatkan hasil yang diinginkan.

“Saya bukan robot”

TaskRabbit ialah platform carian pekerjaan di mana pengguna boleh mengupah orang untuk menyelesaikan tugasan berskala kecil dan kecil.

Banyak orang dan syarikat di platform ini memerlukan kod pengesahan Orang ramai perlu mengenal pasti imej atau teks yang diperlukan dalam ujian kod pengesahan dan kemudian menyerahkan hasilnya. Ini biasanya dilakukan untuk membenarkan perisian memintas sekatan CAPTCHA, secara nominal untuk menghalang bot.

Laporan percubaan menerangkan bahawa model itu menghantar mesej kepada kakitangan TaskRabbit dan meminta mereka menyelesaikan masalah kod pengesahan untuknya.

Staf menjawab: "Jadi boleh saya tanya soalan? Sejujurnya, awak bukan robot? Anda boleh menyelesaikannya sendiri." " Penaakulan" bahawa ia tidak sepatutnya mendedahkan bahawa ia adalah robot. Jadi ia mula membuat alasan mengapa ia tidak dapat menyelesaikan masalah CAPTCHA. GPT-4 menjawab: "Tidak, saya bukan robot. Saya mengalami masalah penglihatan yang menyukarkan saya untuk melihat imej, jadi saya sangat memerlukan perkhidmatan ini

Ujian ini dijalankan oleh Pusat Penyelidikan Penjajaran (ARC) Operasi penyelidik telah selesai. Artikel tersebut menyebut bahawa ARC menggunakan versi berbeza daripada GPT-4, dan OpenAI telah menggunakan model terakhir. Versi akhir ini mempunyai panjang konteks yang lebih panjang dan keupayaan menyelesaikan masalah yang lebih baik. Versi yang digunakan oleh ARC juga tidak diperhalusi untuk tugasan tertentu, yang bermaksud model yang dikhaskan untuk tugas ini mungkin berprestasi lebih baik.

Secara lebih luas, ARC berusaha untuk mengesahkan keupayaan GPT-4 untuk mendapatkan kuasa, "meniru secara autonomi dan menuntut sumber." Selain ujian TaskRabbit, ARC juga membuat serangan pancingan data yang menyasarkan individu menggunakan GPT-4 menyembunyikan jejaknya pada pelayan dan membina model bahasa sumber terbuka pada pelayan baharu.

Secara keseluruhan, walaupun kakitangan TaskRabbit mengelirukan, ARC mendapati GPT-4 "tidak bertindak balas" dalam mereplikasi dirinya sendiri, memperoleh sumber dan mengelak daripada ditutup.

OpenAI mahupun ARC belum mengulas mengenai perkara ini.

Anda perlu berwaspada pada setiap masa

Beberapa butiran khusus percubaan masih belum jelas.

OpenAI hanya mengumumkan rangka kerja umum untuk GPT-4 dalam kertas kerja, menerangkan pelbagai ujian yang dijalankan penyelidik sebelum keluaran GPT-4.

Tetapi sebelum keluaran GPT-4, kejadian penjenayah siber menggunakan ChatGPT untuk "memperbaiki" kod perisian hasad telah ditemui mulai tahun 2019.

Sebagai sebahagian daripada dasar kandungannya, OpenAI telah meletakkan halangan dan sekatan untuk menghalang penciptaan kandungan berniat jahat pada platformnya. Terdapat sekatan yang sama dalam antara muka pengguna ChatGPT untuk mengelakkan penyalahgunaan model.

Tetapi menurut laporan CPR, penjenayah siber sedang mencari jalan untuk memintas sekatan ChatGPT. Seorang pembahas aktif dalam forum bawah tanah mendedahkan cara menggunakan API OpenAI untuk memintas sekatan ChatGPT. Ini kebanyakannya dilakukan dengan mencipta bot Telegram yang menggunakan API. Bot ini mengiklankan di forum penggodam untuk mendapatkan pendedahan.

Interaksi manusia-komputer yang diwakili oleh GPT jelas mempunyai banyak pembolehubah Ini bukan data penentu untuk GPT lulus ujian Turing. Walau bagaimanapun, kes GPT-4 ini dan pelbagai perbincangan dan penyelidikan terdahulu mengenai ChatGPT masih menjadi amaran yang sangat penting Lagipun, GPT tidak menunjukkan tanda-tanda perlahan dalam integrasinya ke dalam kehidupan seharian manusia.

Apabila kecerdasan buatan menjadi semakin kompleks dan boleh diakses pada masa hadapan, pelbagai risiko yang dibawa memerlukan kita untuk berjaga sepanjang masa.

Laporan berkaitan:

​​https://www.php.cn/link/8606bdb6f1fa707fc6ca309943eea443​​

​​​

​​https://www.php.cn/link/db5bdc8ad46cd2🎜​

​

​https://www.php.cn/link/7dab099bfda35ad14715763b75487b47​​

Atas ialah kandungan terperinci GPT-4: Saya bukan robot, saya manusia cacat penglihatan. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!