Pemenang Anugerah Turing berhujah, LeCun: Bengio, Hinton dan teori kepupusan AI lain adalah tidak masuk akal

Kandungan yang ditulis semula adalah seperti berikut: Laporan Jantung Mesin

Editor: Chen Ping, Dapanji

LeCun berkata bahawa sebahagian besar rakan akademik sangat menyokong penyelidikan dan pembangunan AI terbuka, tetapi masih terdapat penentang.

Berkenaan isu risiko kecerdasan buatan, pakar dari semua pihak berbeza pendapat. Seseorang memulakan surat bersama yang menyeru makmal kecerdasan buatan untuk segera menghentikan penyelidikan Tokoh penting dalam pembelajaran mendalam, Geoffrey Hinton dan Yoshua Bengio, semuanya menyokong pandangan ini

.

Baru beberapa hari kebelakangan ini, Bengio, Hinton dan lain-lain mengeluarkan surat bersama "Mengurus Risiko Kecerdasan Buatan dalam Era Pembangunan Pantas", menyeru para penyelidik untuk mengambil langkah tadbir urus kecemasan dan melaksanakan amalan keselamatan dan etika sebelum membangunkan sistem AI. Menggabungkan perkara penting dan menyeru kerajaan untuk mengambil tindakan untuk menguruskan risiko yang ditimbulkan oleh AI.

Kandungan yang ditulis semula ialah: Beberapa langkah tadbir urus segera disebut dalam artikel, seperti melibatkan institusi negara untuk menghalang orang ramai daripada menyalahgunakan kecerdasan buatan. Untuk mengawal selia dengan berkesan, kerajaan memerlukan pemahaman yang komprehensif tentang perkembangan AI. Pengawal selia harus mengambil beberapa langkah, seperti pendaftaran model, melindungi hak dan kepentingan pemberi maklumat secara berkesan, dan memantau pembangunan model dan penggunaan superkomputer. Pengawal selia juga perlu menilai sistem AI lanjutan sebelum penggunaan untuk memahami keupayaan mereka yang berpotensi berbahaya

Bukan itu sahaja, tetapi agak jauh ke belakang masa, pada bulan Mei tahun ini, Pusat Keselamatan Kecerdasan Buatan, sebuah organisasi bukan untung AS, mengeluarkan kenyataan memberi amaran bahawa kecerdasan buatan harus dianggap mempunyai risiko yang sama memusnahkan umat manusia sebagai wabak, menyokong ini Mereka yang membuat kenyataan itu juga termasuk Hinton, Bengio dan lain-lain.

Pada bulan Mei tahun ini, Hinton juga berhenti kerja di Google untuk bercakap secara bebas tentang risiko yang ditimbulkan oleh kecerdasan buatan. Dalam temu bual dengan New York Times, beliau berkata: "Kebanyakan orang berfikir ini (kemudaratan AI) masih jauh. Saya pernah fikir ia masih jauh, mungkin 30 hingga 50 tahun atau lebih. Tetapi jelas sekali, saya Saya tidak fikir begitu sekarang.”

Pada pandangan Hinton dan lain-lain, mengurus risiko yang ditimbulkan oleh kecerdasan buatan adalah tugas yang mendesak

Walaupun begitu, Euan Lecon, sebagai salah satu daripada tiga gergasi pembelajaran mendalam, mempunyai sikap yang sangat optimistik terhadap pembangunan kecerdasan buatan. Dia pada dasarnya menentang menandatangani surat bersama mengenai risiko kecerdasan buatan, percaya bahawa pembangunan kecerdasan buatan tidak menjadi ancaman kepada manusia

Sebentar tadi, dalam komunikasi dengan pengguna X, LeCun memberi jawapan kepada beberapa soalan daripada netizen tentang risiko AI.

Netizen ini meminta pendapat LeCun mengenai artikel "'Ini adalah perubahan iklimnya': Pakar yang membantu Rishi Sunak menutup legasinya". Artikel itu percaya bahawa kenyataan yang dikeluarkan bersama oleh Hinton, Bengio dan lain-lain telah mengubah pandangan orang ramai tentang kecerdasan buatan. Beralih daripada melihat AI sebagai alat sokongan kepada melihatnya sebagai potensi ancaman. Artikel itu seterusnya mengatakan bahawa dalam beberapa bulan kebelakangan ini, pemerhati British telah mendapati bahawa semakin ramai orang bimbang bahawa kecerdasan buatan akan menyebabkan dunia berakhir. Pada bulan Mac tahun ini, kerajaan British menerbitkan kertas putih yang berjanji tidak akan menyekat inovasi kecerdasan buatan. Tetapi hanya dua bulan kemudian, UK mula membincangkan menetapkan had pada kecerdasan buatan dan menggesa Amerika Syarikat untuk menyertai rancangan globalnya untuk peraturan kecerdasan buatan

Sila tulis semula kandungan ke dalam bahasa Cina tanpa ayat asal

Kandungan yang perlu ditulis semula ialah: https://www.telegraph.co.uk/business/2023/09/23/artificial-intelligence-safety-summit-sunak-ai-experts/#🎜🎜 #

LeCun bertindak balas terhadap artikel itu dengan mengatakan dia tidak mahu kebimbangan UK tentang risiko fatalistik AI merebak ke negara lain.

Selepas itu, terdapat komunikasi antara LeCun dan pengguna X yang kami nyatakan sebelum ini. Ini semua jawapan LeCun:

.

"Altman, Hassabis dan Amodei terlibat dalam melobi korporat besar-besaran. Mereka cuba mengawal selia industri AI. Dan anda, Geoff, dan Yoshua menyediakan "peluru" kepada mereka yang melobi untuk mengharamkan penyelidikan AI terbuka.

Jika kempen propaganda anda berjaya, ia pasti akan membawa kepada apa yang kami percaya akan menjadi bencana besar: beberapa syarikat akan mengawal kecerdasan buatan

Sebahagian besar rakan sekerja akademik sangat menyokong penyelidikan dan pembangunan AI terbuka. Beberapa orang percaya senario kiamat yang anda beritakan. Anda, Yoshua, Geoff dan Stuart adalah satu-satunya pengecualian.

Seperti kebanyakan orang, saya adalah penyokong besar platform AI terbuka kerana saya percaya pada gabungan kuasa: kreativiti rakyat, demokrasi, kuasa pasaran dan peraturan produk. Saya juga tahu bahawa adalah mungkin untuk menghasilkan sistem AI yang selamat dan di bawah kawalan kami. Saya telah membuat cadangan khusus untuk ini. Ini semua akan membawa kepada orang ramai melakukan perkara yang betul.

AI tidak dicipta daripada udara nipis, ia adalah fenomena semula jadi di luar kawalan kita, tetapi tidak demikian. Kemajuannya didorong oleh semua orang yang kita kenali. Kami dan mereka berdua mempunyai kuasa untuk mencipta "perkara yang betul." Meminta pengawalseliaan R&D secara tersirat menganggap bahawa orang ini dan organisasi yang mereka bekerja adalah tidak cekap, melulu, merosakkan diri sendiri atau jahat. Tetapi bukan itu yang berlaku

Saya telah mengemukakan banyak hujah untuk membuktikan bahawa senario kiamat yang anda takuti adalah tidak masuk akal. Saya tidak akan pergi ke butiran di sini. Tetapi perkara utama ialah jika sistem AI yang berkuasa didorong oleh matlamat, termasuk pagar, maka ia akan selamat dan boleh dikawal kerana ia menetapkan pagar dan matlamat tersebut. (Model bahasa autoregresif semasa tidak didorong oleh matlamat, jadi jangan kita mengekstrapolasi daripada kelemahan model bahasa autoregresif)

Mengenai perkara sumber terbuka, aktiviti anda akan mempunyai kesan yang bertentangan dengan apa yang anda lakukan. Pada masa hadapan, sistem kecerdasan buatan akan menjadi khazanah pengetahuan dan budaya manusia Apa yang kita perlukan adalah sumber terbuka dan platform percuma supaya semua orang boleh menyumbang kepadanya. Hanya platform terbuka boleh mencerminkan semua pengetahuan dan budaya manusia, yang memerlukan sumbangan kepada platform ini disumberkan ramai, sama seperti Wikipedia. Jika platform tidak dibuka, ini tidak akan berfungsi

Jika platform AI sumber terbuka dikawal, situasi lain pasti akan berlaku, iaitu, beberapa syarikat akan mengawal platform AI, dan dengan itu mengawal keseluruhan pergantungan digital orang ramai. Apakah maksud ini untuk demokrasi? Apakah maksud ini untuk kepelbagaian budaya? Inilah yang membuatkan saya terjaga pada waktu malam. "

Di bawah tweet panjang LeCun, ramai orang juga "menyokong" pandangannya.

Irina Rish, profesor di Jabatan Sains Komputer dan Penyelidikan Operasi di Universiti Montreal, ialah ahli teras Institut AI Mila-Quebec. Dia percaya bahawa penyelidik yang menyokong AI sumber terbuka seharusnya tidak lagi berdiam diri, tetapi harus memainkan peranan utama dalam pembangunan AI yang baru muncul

Pengasas

e/acc Beff Jezos juga berkata dalam ruangan komen bahawa komen sedemikian adalah penting dan keperluan orang ramai.

Netizen berkata pada mulanya, membincangkan isu keselamatan boleh memperkayakan imaginasi semua orang tentang teknologi masa depan, tetapi novel fiksyen sains yang sensasi tidak seharusnya membawa kepada kemunculan dasar monopoli.

Hos podcast Lex Fridman mempunyai lebih banyak perkara untuk dinantikan dalam perbahasan ini.

Perbincangan tentang risiko AI juga akan menjejaskan pembangunan AI pada masa hadapan. Apabila idea mencuri tumpuan, orang ramai mengikutinya secara membuta tuli. Hanya apabila kedua-dua pihak boleh terus menjalankan perbincangan yang rasional barulah "wajah sebenar" AI benar-benar dapat dilihat.

Atas ialah kandungan terperinci Pemenang Anugerah Turing berhujah, LeCun: Bengio, Hinton dan teori kepupusan AI lain adalah tidak masuk akal. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!