Seruan ICML untuk kertas melarang penggunaan model bahasa besar yang dikemukakan LeCun: Bolehkah model bersaiz kecil dan sederhana digunakan?

Semalam, Persidangan Antarabangsa mengenai Pembelajaran Mesin (ICML) mengeluarkan panggilan untuk kertas kerja untuk 2023.

Tarikh penyerahan kertas adalah dari 9 Januari hingga 26 Januari.

Namun, permintaan untuk "kod etika" dalam mesyuarat ini telah menimbulkan rasa tidak puas hati.

LLM tidak boleh dikawal, jadi haramkan

Menurut dasar persidangan, semua pengarang dan ahli jawatankuasa program, Termasuk penyemak, garis panduan etika standard harus dipatuhi.

Plagiarisme dalam apa jua bentuk adalah dilarang sama sekali, serta penggunaan maklumat istimewa yang tidak beretika oleh pengulas, Kerusi Kawasan (AC) dan Kerusi Kawasan Kanan (SAC), cth. Kongsi maklumat ini atau gunakannya untuk sebarang tujuan selain daripada proses semakan.

Kertas yang mengandungi teks yang dijana daripada model bahasa berskala besar (LLM) seperti ChatGPT adalah dilarang melainkan teks yang dijana ini dibentangkan sebagai sebahagian daripada analisis eksperimen kertas itu.

Semua tingkah laku yang disyaki tidak beretika akan disiasat oleh Jawatankuasa Etika dan individu yang didapati melanggar peraturan mungkin dikenakan sekatan. Tahun ini kami akan mengumpulkan nama individu yang didapati melanggar piawaian ini, kami mungkin memberikan maklumat ini kepada individu yang mewakili persidangan, jurnal atau organisasi lain jika mereka meminta senarai ini untuk tujuan membuat keputusan. ​

Antaranya, "Dilarang menggunakan model bahasa besar untuk menulis makalah" adalah satu keperluan yang popular dalam perbincangan netizen.

Berita ini telah dikeluarkan, dan netizen telah mengulas di Twitter ICML: "Mengapa model bahasa yang besar tidak boleh digunakan

Adakah munasabah kertas AI tidak boleh menggunakan AI?

Yann LeCun memajukan dan mengulas: "Model bahasa besar tidak boleh Ini bermakna model bahasa sederhana dan kecil juga boleh digunakan. "

Beliau menjelaskan: " Kerana aplikasi semakan ejaan Dan ramalan teks juga merupakan model bahasa.” : Penyelidik mesti menyelesaikan pelbagai pengiraan dengan tangan tanpa bantuan komputer semua jenis grafik mesti dilukis dengan pen dan kertas; bahasa ICML menjadi bahasa Sweden (Sweden:?) "<.>

Akhir sekali, saya tidak lupa memajukan filem "Crazy" untuk meringkaskan penilaian saya terhadap dasar ICML .

Di bawah siaran LeCun, netizen menunjukkan bakat mereka dan mengambil tindakan.

Seorang netizen memberikan idea baharu kepada ICML: "Cara lain untuk menyatakan strategi ini ialah 'semua teks dalam penyerahan hendaklah diwakili oleh parameter kurang daripada 100B atau lebih daripada 1 trilion rangkaian saraf yang dihasilkan'

.

Sesetengah orang berpura-pura menjadi penyemak ICML dan mengiklankan ChatGPT: "Sebagai penyemak ICML dan persidangan lain, saya menghargai bahawa pengarang menggunakan alat seperti ChatGP untuk menggilap kerja mereka. Ini akan menjadikan kertas kerja mereka lebih jelas dan lebih mudah dibaca (Siaran ini telah diubah suai oleh ChatGPT)"

Untuk peraturan ini, profesor MIT. Erik Brynjolfsson ringkas: "Ini adalah satu pertempuran yang kalah."

Thomas Dietterich, bekas presiden AAAI, berkata: "Peraturan ini pelik, terutamanya untuk persidangan kecerdasan buatan. Kita harus mengalu-alukan semua sumbangan kepada sains dan teknologi Artikel yang disumbangkan, tidak kira sama ada pengarang telah menerima bantuan AI."

Sesetengah orang turut memberikan cadangan untuk menambah baik ICML:

Menggunakan model bahasa yang besar untuk semakan boleh sangat membantu dalam meningkatkan ejaan dan tatabahasa. Tatabahasa, Notion, Google Docs dan juga Word semuanya menggunakan model bahasa yang besar.

Nampaknya penyelesaiannya adalah dengan menerangkan dengan jelas sebab dan kegunaan menggunakan model bahasa yang besar, dan bukannya melarangnya.

Ternyata bukan saya seorang sahaja yang menggunakan Grammarly untuk menyemak ejaan dan tatabahasa (doge).

Sudah tentu, sesetengah netizen menyatakan pemahaman mereka dan percaya bahawa langkah ini adalah untuk melindungi kuasa pengulas.

Netizen Anurag Ghosh mengulas: "Saya rasa keperluan ICML adalah untuk menghalang penerbitan kertas kerja yang kelihatan betul. Contohnya, lima kertas rekaan yang diterbitkan dalam bidang pembelajaran mesin /makalah jana AI "

Sesetengah orang juga berpendapat bahawa "model bahasa yang besar alat, jadi bagaimana jika mereka menghasilkan kertas yang lebih berkualiti Sumbangan utama kajian ini bukan daripada model bahasa yang besar, tetapi patutkah kita melarang penyelidik daripada menerima apa-apa jenis bantuan, seperti Google? Adakah anda bercakap tentang perkara ini dengan orang yang tidak mempunyai kepentingan Populariti model tidak pernah berkurangan, dan perbincangan hangat di kalangan ulama dan netizen yang dicetuskan oleh larangan yang dicadangkan oleh ICML mungkin akan berterusan untuk beberapa lama.

Walau bagaimanapun, nampaknya terdapat masalah yang belum dibincangkan oleh sesiapa lagi Bagaimana untuk menilai sama ada serpihan artikel dihasilkan oleh model bahasa yang besar? Bagaimana untuk mengesahkan, dengan menyemak plagiarisme? Lagipun, jika ia adalah artikel yang dihasilkan oleh model mesin, tiada siapa yang akan menandai "Artikel ini secara automatik dijana oleh model bahasa yang besar", bukan?

Apatah lagi, kertas penyelidikan, yang mempunyai logik yang jelas, struktur yang jelas dan gaya bahasa yang sangat bercorak, hanyalah tempat terbaik untuk model bahasa besar dimainkan, walaupun teks asal yang dihasilkan adalah sedikit. kaku. Tetapi jika ia digunakan sebagai alat bantu, ia mungkin sukar untuk dibezakan, dan sukar untuk mempunyai piawaian yang jelas untuk melaksanakan larangan ini.

Nampaknya beban di bahu pengulas ICML akan menjadi lebih berat kali ini.

Atas ialah kandungan terperinci Seruan ICML untuk kertas melarang penggunaan model bahasa besar yang dikemukakan LeCun: Bolehkah model bersaiz kecil dan sederhana digunakan?. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!