GPT-4 diminta diharamkan kerana aduan: OpenAI tidak memenuhi mana-mana piawaian kecerdasan buatan yang dikeluarkan oleh FTC

Beberapa hari lalu, Musk, Yoshua Bengio dan yang lain bersama-sama menandatangani surat terbuka yang menyeru semua makmal AI untuk segera menangguhkan latihan model AI yang lebih berkuasa daripada GPT-4. Kini, seseorang ingin menghentikan GPT-4 yang telah dikeluarkan.

Orang yang menghentikan GPT-4 kali ini ialah organisasi bukan untung Center for Artificial Intelligence and Digital Policy (CAIDP). CAIDP meminta Suruhanjaya Perdagangan Persekutuan (FTC) A.S. untuk menyiasat OpenAI dan melarang syarikat itu daripada terus mengeluarkan GPT-4.

Alamat fail: https://cdn.arstechnica.net/wp-content/uploads/2023/03/CAIDP-FTC -Aduan-OpenAI-GPT-033023.pdf

CAIDP memfailkan permohonan ini dengan FTC kerana mereka percaya bahawa “produk pengguna GPT-4 yang dikeluarkan oleh OpenAI adalah berat sebelah dan menimbulkan risiko kepada privasi dan keselamatan awam, output model tidak boleh dibuktikan atau diterbitkan semula dan tidak dinilai secara bebas sebelum digunakan."

CAIDP meminta pengawasan dan penilaian bebas terhadap semua produk kecerdasan buatan komersial di Amerika Syarikat dan memastikan bahawa "perlindungan" yang diperlukan disediakan untuk melindungi pengguna, perniagaan dan pasaran komersial.

Sebelum ini, FTC telah mengumumkan piawaian kecerdasan buatan yang "semasa mempromosikan akauntabiliti, memerlukan penggunaan kecerdasan buatan untuk menjadi telus, boleh dijelaskan, adil dan "Musabah secara empirik", CAIDP menyatakan bahawa "GPT-4 OpenAI tidak memenuhi mana-mana keperluan ini."

Baru dua minggu sejak keluaran GPT-4, dan orang ramai sudah berbelah bahagi dengan jenis model AI berkuasa ini. Di satu pihak, mereka yang ingin menghentikan model berkuasa seperti GPT-4 percaya bahawa model ini akan menimbulkan risiko yang lebih besar kepada keselamatan maklumat dan juga masyarakat manusia sebaliknya, sesetengah orang percaya bahawa ini adalah masa yang baik untuk kecerdasan buatan untuk berkembang maju. Kemajuan teknologi yang dipercepatkan harus digalakkan.

Menariknya, Ketua Pegawai Eksekutif OpenAI Sam Altman menyiarkan tweet baharu: "Tetap tenang di hadapan ribut itu." dan lain-lain." Sambutan kepada seruan untuk "penyelidikan model".

Dari segi risiko, OpenAI berkata pada masa pengeluarannya bahawa ia telah meminta pakar luar menilai potensi risiko yang ditimbulkan oleh GPT-4. Bagaimanapun, CAIDP menjelaskannya dalam pemfailannya kepada FTC yang bertindak melanggar GPT-4.

CAIDP percaya bahawa GPT-4 telah menjejaskan keadilan komersial secara serius, dengan berkata: "Pelepasan komersial GPT-4 melanggar Seksyen 5 Akta FTC dan peraturan FTC mengenai penggunaan dan pengiklanan produk kecerdasan buatan. Piawaian yang ditetapkan oleh perusahaan, dan norma baru untuk tadbir urus kecerdasan buatan, dsb. 》

Selain itu, OpenAI tidak mendedahkan sebarang butiran teknikal GPT-4. Ini adalah salah satu sebab mengapa CAIDP memfailkan permohonan dengan FTC.

CAIDP berkata: "OpenAI tidak mendedahkan butiran tentang seni bina, saiz model, perkakasan, sumber pengkomputeran, teknik latihan, pembinaan set data atau kaedah latihan, dan ia adalah amalan biasa dalam komuniti penyelidikan untuk mendokumenkan Data latihan dan teknologi latihan untuk model bahasa yang besar, tetapi OpenAI memilih untuk tidak melakukan perkara ini untuk GPT-4 Khususnya, model kecerdasan buatan generatif bukan produk pengguna biasa kerana ia mungkin menunjukkan beberapa tingkah laku yang tidak normal semasa penggunaan belum ditemui oleh syarikat penerbitan sebelum ini "

Butiran Aduan

Secara khusus, CAIDP menyasarkan GPT-4 dan model berkaitan, ChatGPT, menunjukkan pelbagai potensi risiko.

Sebagai contoh, OpenAI telah menjelaskan dengan jelas dalam artikel "Kad Sistem GPT-4" bahawa GPT-4 mungkin mengukuhkan dan menghasilkan semula berat sebelah dan pandangan dunia tertentu, termasuk terhadap kumpulan stereotaip tertentu yang terpinggir. dan persatuan yang menghina. CAIDP juga memetik catatan blog daripada syarikat OpenAI, yang mengatakan bahawa model besar yang serupa, ChatGPT, kadangkala bertindak balas kepada arahan berbahaya atau menunjukkan tingkah laku berat sebelah.

Dalam aduan yang dikemukakan kepada FTC, CAIDP menyatakan bahawa "OpenAI mengeluarkan GPT-4 kepada orang ramai untuk kegunaan komersial walaupun memahami sepenuhnya risikonya." Aduan itu juga menyatakan bahawa "Kad Sistem GPT-4 tidak memberikan butiran tentang pemeriksaan keselamatan yang dijalankan OpenAI semasa ujiannya, dan juga tidak memperincikan sebarang langkah yang diambil OpenAI untuk melindungi kanak-kanak, yang juga menimbulkan persoalan tentang penggunaan GPT-4 pada kanak-kanak." "

CAIDP juga menunjukkan kebimbangan yang dibangkitkan oleh organisasi pengguna Eropah BEUC: "Jika ChatGPT digunakan untuk pemarkahan kredit pengguna atau insurans, adakah mungkin ia akan menghasilkan yang tidak sesuai hasil yang adil dan berat sebelah?" Tweet ini juga dipetik dalam permohonan aduan CAIDP.

Selain itu, dari segi keselamatan rangkaian, ChatGPT boleh digunakan untuk pancingan data, mencipta teks palsu atau menjana kod hasad. Dari segi privasi, CAIDP berkata terdapat laporan bulan ini bahawa OpenAI memaparkan sembang peribadi kepada pengguna lain.

Dalam kes lain, seorang penyelidik AI menerangkan cara ChatGPT boleh mengambil alih akaun seseorang, melihat sejarah sembang dan mengakses bil mereka tanpa mereka sedar maklumat. Walau bagaimanapun, OpenAI membetulkan kelemahan.

CAIDP juga mengatakan bahawa GPT-4 boleh memberikan balasan teks daripada input imej, satu ciri yang mempunyai kesan besar pada privasi peribadi dan autonomi peribadi, dan membolehkan pengguna menukar imej peribadi kepada dipautkan. kepada data peribadi yang terperinci. Difahamkan OpenAI telah menggantung fungsi imej-ke-teks, tetapi sukar untuk menyatakan keadaan sebenar.

CAIDP percaya bahawa FTC harus melarang OpenAI daripada penggunaan komersial GPT selanjutnya, memerlukan penilaian bebas produk GPT sebelum penggunaan dan sepanjang kitaran hayat GPT AI, memerlukan OpenAI untuk mematuhi FTC AI standard, dan Wujudkan mekanisme pelaporan insiden yang boleh diakses secara terbuka untuk GPT-4, serupa dengan mekanisme FTC untuk melaporkan penipuan pengguna.

CAIDP juga menggesa FTC untuk terus menerbitkan spesifikasi standard untuk berfungsi sebagai "standard asas untuk produk dalam bidang pasaran kecerdasan buatan generatif."

Komuniti akademik AI, perdebatan

Ribuan orang telah menandatangani petisyen dalam dua hari lalu untuk menggantung pembangunan model besar AI susulan GPT-4. Hari ini, CAIDP meminta FTC untuk menyiasat larangan OpenAI Keluarkan versi komersial baharu GPT-4. Hanya dalam satu atau dua hari, pelbagai perbincangan telah meletup, dan bos AI dan pakar lain telah keluar untuk bertindak balas secara terbuka. Ada yang menentang dan ada yang menyokong.

Dari segi menggantung pembangunan model besar AI susulan GPT-4, pemenang Anugerah Turing Yoshua Bengio, Ketua Pegawai Eksekutif Tesla (pengasas bersama OpenAI) Elon Musk, New York University Emeritus Profesor Gary Marcus dan Profesor UC Berkeley Stuart Russell semuanya menyokong Mereka telah menandatangani surat terbuka untuk menggantung eksperimen AI gergasi. Terutama, Marc Rotenberg, presiden dan pengasas CAIDP, juga menandatangani surat terbuka itu.

Alamat surat terbuka: https://futureoflife.org/open-letter/pause-giant-ai-experiments /

Bagaimanapun, Yann LeCun, yang selama ini mengkritik ChatGPT, secara terbuka menyatakan bahawa dia tidak akan menandatangani surat terbuka itu dan tidak bersetuju dengan kandungan surat terbuka itu.

Thomas G. Dietterich, profesor emeritus di Oregon State University, berkata di Twitter "Saya juga tidak menandatanganinya. Surat ini diisi dengan banyak perkara yang menakutkan. Retorik dan dasar yang tidak berkesan atau tidak wujud Terdapat isu teknikal dan dasar yang sedang diusahakan," kata LeCun secara terbuka.

Enda Ng juga mengeluarkan artikel secara terbuka menentang beribu-ribu orang yang menandatangani petisyen itu, dan berkata: "GPT-4 mempunyai banyak aplikasi baharu dalam pendidikan, penjagaan kesihatan, makanan, dll., dan akan membantu ramai orang. Melainkan kerajaan campur tangan, penggantungan akan dilaksanakan Dan menghalang semua pasukan daripada meningkatkan LLM adalah tidak realistik Selain itu, meminta kerajaan untuk menggantung teknologi baru muncul yang mereka tidak faham adalah anti-persaingan, menetapkan preseden yang buruk dan merupakan dasar yang tidak baik.”

kemudiannya Tian Yuandong juga menyokong pandangan Ng Enda, "menyatakan bahawa dia tidak akan menandatangani perintah penggantungan. , tidak ada cara untuk menghentikan atau membalikkan aliran ini. Ini adalah keperluan evolusi Kita harus melihat ke hadapan dari perspektif yang berbeza, lebih memahami LLM, menyesuaikan diri dengannya dan menggunakan kuasanya, dan merasai panasnya. bekas penyelidik kanan di Google Brain), yang baru sahaja mengumumkan pemergiannya daripada Google Brain, berkata: "Jika orang yang membincangkan LLM secara rawak di Internet diharamkan selama 6 bulan, saya akan menandatangani

Atas ialah kandungan terperinci GPT-4 diminta diharamkan kerana aduan: OpenAI tidak memenuhi mana-mana piawaian kecerdasan buatan yang dikeluarkan oleh FTC. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!