Pemenang Anugerah Turing Yang Likun: AI mempunyai keupayaan penaakulan dan perancangan logik yang terhad dan akan membuat kesilapan fakta dan logik.

Dihasilkan oleh Sohu Technology

Pengarang｜Zheng Songyi

Pada 9 Jun, Persidangan Kepintaran Buatan Zhiyuan 2023 telah diadakan di Beijing. Pada pukul empat pagi waktu tempatan di Perancis, Yann LeCun, yang dikenali sebagai salah seorang daripada "Tiga Gergasi Pembelajaran Mendalam di Dunia", menyampaikan ucapan pada pautan video Perancis di Beijing dengan tema "Menuju Model Besar Mampu Belajar, Menaakul dan Merancang" Ucapan itu menyatakan pemikiran yang mendalam tentang kecerdasan buatan.

Sohu Technology menyaksikan ucapan ini di Persidangan Zhiyuan Daripada ekspresi senyuman Yang Likun semasa ucapan itu, kita dapat merasakan sikap positif dan optimistik Yang Likun terhadap pembangunan kecerdasan buatan. Sebelum ini, apabila Musk dan yang lain menandatangani surat bersama yang menyatakan bahawa pembangunan kecerdasan buatan akan membawa risiko kepada tamadun manusia, Yang Likun secara terbuka menafikannya, percaya bahawa kecerdasan buatan masih belum berkembang sehingga menimbulkan ancaman serius kepada manusia. Dalam ucapannya, Yang Likun sekali lagi menekankan bahawa kecerdasan buatan boleh dikawal Beliau berkata, "Ketakutan disebabkan oleh jangkaan hasil negatif yang berpotensi, manakala kegembiraan disebabkan oleh ramalan hasil positif. Dengan sistem yang didorong oleh matlamat seperti ini. Saya memanggilnya 'AI dipacu matlamat', ia boleh dikawal kerana kita boleh menetapkan matlamat untuknya melalui fungsi kos, memastikan sistem ini tidak mahu mengambil alih dunia, sebaliknya, tunduk kepada kemanusiaan dan keselamatan "

Yang Likun berkata bahawa jurang antara kecerdasan buatan dengan manusia dan haiwan terletak pada penaakulan dan perancangan yang logik, yang merupakan ciri-ciri penting kecerdasan model hari ini hanya boleh "bertindak secara naluri."

"Jika anda melatih mereka dengan satu trilion atau dua trilion token, prestasi mesin itu menakjubkan, tetapi akhirnya mesin itu akan membuat kesilapan fakta, kesilapan logik dan keupayaan penaakulan mereka adalah terhad."

Yang Likun menegaskan bahawa model bahasa berdasarkan pengawasan diri tidak boleh memperoleh pengetahuan tentang dunia sebenar. Beliau percaya bahawa mesin tidak begitu pandai belajar berbanding manusia dan haiwan. Selama beberapa dekad, cara untuk membangunkan sistem adalah dengan menggunakan pembelajaran diselia, tetapi pembelajaran diselia memerlukan terlalu banyak label, mempelajari apa-apa memerlukan banyak percubaan, dan hasil pembelajaran pengukuhan adalah tidak memuaskan dan membuat kesilapan salah, dan tidak benar-benar dapat membuat alasan atau merancang.

“Sama seperti ketika kita memberi ucapan, bagaimana kita mengekspresikan diri kita dari satu sudut pandangan ke sudut yang lain dan bagaimana kita menerangkan sesuatu dirancang dalam otak kita dan bukannya mengimprovisasi perkataan demi perkataan. Mungkin pada tahap yang rendah, kita sedang berimprovisasi , tetapi pada tahap yang tinggi, kita mesti merancang, jadi keperluan untuk merancang sangat jelas ramalan saya bahawa dalam tempoh yang agak singkat, orang yang waras pasti tidak akan menggunakan elemen autoregresif (pengawasan kendiri). model dalam kaedah pembelajaran). Sistem ini akan ditinggalkan tidak lama lagi kerana ia tidak dapat dibaiki."

Dia berkata bahawa untuk model bahasa benar-benar memahami pengetahuan dunia sebenar, seni bina baharu diperlukan untuk menggantikannya, dan seni bina ini adalah seni bina yang dicadangkannya dalam kertas yang diterbitkannya setahun lalu, "Autonomous Kepintaran" ". Ini ialah seni bina di mana modul konfigurasi mengawal keseluruhan sistem dan melaksanakan ramalan, penaakulan dan membuat keputusan berdasarkan maklumat input. "Modul dunia" mempunyai keupayaan untuk menganggar maklumat yang hilang dan meramalkan keadaan luaran masa hadapan.

Bercakap tentang cabaran yang akan dihadapi oleh AI dalam beberapa tahun akan datang, Yang Likun menunjukkan tiga aspek yang pertama ialah mempelajari model representasi dan ramalan dunia yang kedua ialah belajar menaakul, iaitu untuk belajar cara menggunakan pemikiran secara sedar dan bertujuan untuk menyelesaikan tugasan ;Cabaran terakhir ialah cara merancang urutan tindakan yang kompleks dengan memecahkan tugasan yang kompleks kepada yang lebih mudah, menjalankannya secara hierarki.

Bercakap mengenai perkara ini, Yang Likun memperkenalkan model lain yang diterbitkannya dalam kertas "Model Dunia", yang boleh membayangkan adegan dan meramalkan hasil tindakan berdasarkan adegan itu. Matlamatnya adalah untuk mencari urutan tindakan yang diramalkan oleh model dunianya sendiri dan yang meminimumkan julat kos.

Apabila Yang Likun ditanya semasa sesi Soal Jawab tentang perbahasan akan datang mengenai status dan masa depan AGI, beliau berkata bahawa perbahasan itu akan berkisar pada persoalan sama ada sistem kecerdasan buatan menimbulkan risiko kewujudan kepada manusia. Max Tegmark dan Yoshua Bengio akan berpihak kepada "ya" dalam berhujah bahawa sistem AI yang berkuasa mungkin menimbulkan risiko wujud kepada manusia. Dan Liqun Yang dan Melanie Mitchell akan berada di pihak "tidak".

"Maksud kami bukanlah tiada risiko, tetapi risiko ini, semasa ada, mudah dikurangkan atau ditindas melalui reka bentuk yang teliti."

Yang Likun percaya bahawa sistem super-pintar belum lagi dibangunkan Selepas ia dicipta, sudah terlambat untuk membincangkan "sama ada sistem super-pintar boleh dibuat selamat untuk manusia."

Atas ialah kandungan terperinci Pemenang Anugerah Turing Yang Likun: AI mempunyai keupayaan penaakulan dan perancangan logik yang terhad dan akan membuat kesilapan fakta dan logik.. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!