Chomsky mempersoalkan populariti ChatGPT, menyebutnya satu pembaziran sumber

ChatGPT telah memulakan perlumbaan senjata terkini dalam bidang teknologi, tetapi masih terdapat banyak isu untuk bidang AI: Adakah ChatGPT inovasi sebenar? Adakah ini bermaksud kecerdasan buatan am awal? Ramai sarjana mempunyai pandangan yang berbeza, dan perbincangan ini menjadi semakin hangat dengan populariti teknologi baru.

Jadi apa pendapat orang besar dalam bidang linguistik tentang kemajuan ChatGPT? Terutamanya Encik Joe, Chomsky gergasi linguistik.

Baru-baru ini, ahli falsafah, ahli bahasa dan saintis kognitif Amerika Noam Chomsky, profesor linguistik Universiti Cambridge Ian Roberts, dan pengarah kecerdasan buatan di syarikat teknologi Oceanit Philosopher Jeffrey Watumull menulis artikel dalam New York Times, mengkritik kelemahan model bahasa yang besar.

Untuk mengejar ChatGPT, Google mengeluarkan Bard dan Microsoft turut melancarkan Sydney. Chomsky mengakui bahawa OpenAI's ChatGPT, Google's Bard, dan Microsoft's Sydney semuanya mengagumkan pembelajaran mesin.

Secara umum, mereka mengambil sejumlah besar data, mencari corak di dalamnya dan menjadi semakin mahir menjana output yang berkemungkinan statistik—seperti bahasa dan pemikiran seperti manusia.

Atur cara ini dipuji sebagai kilauan cahaya pertama di kaki langit untuk kecerdasan buatan am — saat yang telah lama diramalkan apabila pemikiran mesin akan mengatasi bukan sahaja dalam kelajuan pemprosesan dan saiz memori. otak manusia akan mengatasi manusia dalam pandangan, kreativiti artistik, dan semua kebolehan manusia yang unik.

Tetapi pandangan Chomsky lebih kritikal, terutamanya mengenai kelemahan ChatGPT dalam keupayaan dan standard moral: “Hari ini, apa yang dipanggil kemajuan revolusioner kita dalam kecerdasan buatan sememangnya memburukkan keadaan bimbang dan optimis. Optimis kerana kecerdasan ialah cara kita menyelesaikan masalah, dan bimbang kerana kita bimbang bentuk kecerdasan buatan yang paling popular dan bergaya, pembelajaran mesin, akan berfungsi dengan memasukkan konsep bahasa dan pengetahuan yang cacat secara asas ke dalam fikiran kita merendahkan tahap saintifik kita dan merendahkan etika kita."

Secara objektif, hari itu mungkin akan tiba, tetapi fajar belum muncul, yang tidak konsisten dengan berita yang dibesar-besarkan. Tajuknya betul-betul bertentangan dengan apa yang diharapkan daripada pelaburan yang tidak diingini.

Sekarang, mari lihat apa lagi yang dikatakan oleh artikel Chomsky.

CtGPT tidak mempunyai sebarang keupayaan kritikal kecerdasan

Penulis Argentina Jorge Luis Borges pernah menulis bahawa hidup dalam dunia Masa bahaya dan harapan, masa tragedi dan komedi, di mana "wahyu akan berlaku" dalam memahami diri kita dan dunia.

"Jika program pembelajaran mesin seperti ChatGPT terus menguasai bidang kecerdasan buatan, pendedahan pemahaman Borgesian tidak berlaku dan tidak akan berlaku pada masa hadapan."

Walau bagaimanapun berguna program ini mungkin dalam bidang yang sempit (contohnya, ia boleh membantu dalam pengaturcaraan komputer, atau membantu dalam mencadangkan rima untuk puisi), kita belajar daripada linguistik dan falsafah pengetahuan Ketahuilah bahawa ia sangat berbeza dengan cara manusia menaakul dan bahasa pragmatik. Perbezaan ini sangat mengehadkan kefungsian program ini, meninggalkannya dengan kelemahan yang tidak dapat dihapuskan.

Seperti yang Borges mungkin nyatakan, ada sesuatu yang lucu tentang begitu banyak wang dan perhatian yang tertumpu pada perkara sekecil itu. Ia adalah satu tragedi - Ini tidak penting berbanding dengan pemikiran manusia Dalam kata-kata ahli falsafah Jerman Wilhelm von Humboldt, pemikiran manusia boleh diungkapkan melalui bahasa "Penggunaan cara terhad yang tidak terhingga" untuk mencipta idea dan teori dengan universal pengaruh.

Otak manusia bukanlah corak kikuk padanan enjin statistik seperti ChatGPT dan seumpamanya , Makan ratusan terabait data dan menyimpulkan respons perbualan yang paling mungkin atau jawapan yang paling mungkin kepada soalan saintifik. Sebaliknya, otak manusia adalah sistem yang sangat cekap dan elegan yang hanya memerlukan sedikit maklumat untuk beroperasi;

Sebagai contoh, kanak-kanak yang sedang belajar bahasa secara tidak sedar, secara automatik dan cepat membangunkan tatabahasa daripada data yang sangat kecil, sistem yang sangat kompleks yang terdiri daripada prinsip dan parameter logik. Tatabahasa ini boleh difahami sebagai ungkapan "sistem pengendalian" bawaan yang dipasang secara genetik yang memberikan manusia keupayaan untuk menghasilkan ayat yang kompleks dan pemikiran yang panjang.

Apabila ahli bahasa cuba mengembangkan teori untuk menjelaskan mengapa bahasa tertentu berfungsi dengan cara yang betul (mengapa ini - dan bukan ayat tersebut dianggap gramatis?), Mereka secara sedar dan bersusah payah membina versi eksplisit tatabahasa yang dibina secara naluri oleh kanak-kanak, sambil mendedahkan diri mereka kepada maklumat sesedikit mungkin dalam proses itu. Sistem pengendalian kanak-kanak adalah berbeza sama sekali daripada sistem pengendalian program pembelajaran mesin.

Sebenarnya, program seperti ChatGPT tersekat dalam peringkat pra-manusia atau bukan manusia evolusi kognitif. Kelemahan mereka yang paling dalam ialah kekurangan sebarang keupayaan kecerdasan yang penting: bukan sahaja untuk dapat mengatakan apa keadaan, apa yang telah berlaku, dan apa yang akan berlaku - iaitu penerangan dan ramalan - tetapi juga untuk mengatakan apa keadaannya, dan apa yang mungkin berlaku dan apa yang tidak sepatutnya berlaku. Ini adalah ramuan tafsiran, ciri-ciri kebijaksanaan sebenar.

Berikut ialah contoh: Katakan anda memegang epal di tangan anda, dan sekarang biarkan epal itu jatuh Anda memerhatikan hasilnya dan berkata: "Epal itu jatuh." penerangan . Pernyataan ramalan ialah "Jika saya membuka tangan saya, epal itu akan jatuh." Kedua-duanya berharga dan kedua-duanya mungkin betul.

Tetapi penjelasan lebih bermakna. Ia termasuk bukan sahaja huraian dan ramalan, tetapi juga sangkaan berlawanan, seperti "mana-mana objek sedemikian akan jatuh", ditambah klausa tambahan "kerana graviti" atau "kerana kelengkungan ruang-masa" atau lain-lain, yang merupakan penyebab. penerangan. "Jika bukan kerana graviti, epal itu tidak akan jatuh."

Inti pembelajaran mesin ialah penerangan dan ramalan; Sudah tentu, tiada penjelasan manusia yang semestinya betul; Tetapi itulah sebahagian daripada pemikiran: untuk menjadi betul, mesti ada kemungkinan salah. Kecerdasan merangkumi bukan sahaja sangkaan kreatif tetapi juga kritikan kreatif. Pemikiran manusia adalah berdasarkan penjelasan dan pembetulan yang mungkin, satu proses yang secara beransur-ansur mengehadkan kemungkinan yang boleh dipertimbangkan secara rasional.

Seperti kata Sherlock Holmes kepada Watson: "Apabila anda menghapuskan yang mustahil, apa sahaja yang kekal, tidak kira betapa mustahilnya, mesti menjadi kebenaran." 🎜>Tetapi mengikut reka bentuk, ChatGPT dan program serupa tidak terhad dalam perkara yang mereka boleh "belajar" (iaitu ingat); mereka tidak mempunyai keupayaan untuk membezakan antara "mungkin" dan "tidak" mungkin". Sebagai contoh, manusia diberikan tatabahasa universal yang mengehadkan bahasa yang boleh kita pelajari kepada keanggunan hampir matematik tertentu, dan program ini mempelajari bahasa yang mungkin dan mustahil yang sama untuk manusia. Manusia adalah terhad dalam jenis penjelasan yang boleh kita duga dengan munasabah, manakala sistem pembelajaran mesin boleh mengetahui bahawa Bumi adalah rata dan bahawa Bumi adalah bulat. Mereka hanya berdagang dalam kebarangkalian yang berubah dari semasa ke semasa.

Atas sebab ini, ramalan sistem pembelajaran mesin akan sentiasa cetek dan boleh dipersoalkan. Sebagai contoh, kerana program ini tidak boleh mentafsir peraturan tatabahasa Inggeris, mereka mungkin tersalah meramalkan "John terlalu degil untuk bercakap dengannya", yang bermaksud bahawa John terlalu degil dan dia tidak akan bercakap dengan seseorang atau orang lain (sementara Ia bukannya dia terlalu degil dan tidak mahu didakwah). Mengapakah program pembelajaran mesin meramalkan perkara yang aneh itu? Kerana ia mungkin membuat analogi antara corak yang disimpulkan daripada ayat seperti "John makan epal" dan "John makan," yang benar-benar merujuk kepada sesuatu atau lain yang John makan. Program ini mungkin meramalkan bahawa kerana "John terlalu degil untuk bercakap dengan Bill" adalah serupa dengan "John makan epal", jadi "John terlalu degil untuk bercakap dengan Bill" sepatutnya serupa dengan "John makan" . Tafsiran bahasa yang betul adalah kompleks dan tidak boleh dipelajari hanya dengan melibatkan diri dalam data besar.

Sebaliknya, sesetengah peminat pembelajaran mesin nampaknya berbangga kerana kerja mereka boleh menghasilkan ramalan "saintifik" yang betul (cth. tentang gerakan badan fizikal) tanpa menggunakan penjelasan (seperti Newton's undang-undang gerakan dan graviti sejagat). Tetapi walaupun ramalan ini berjaya, ia akan menjadi pseudosains. Walaupun para saintis pastinya mencari teori dengan sokongan empirikal yang tinggi, seperti yang ditegaskan oleh ahli falsafah Karl Popper: "Apa yang kita cari bukanlah teori yang berkemungkinan tinggi tetapi penjelasan, yang merupakan teori yang kuat dan sangat mustahil."

Teori bahawa epal jatuh ke bumi kerana itu adalah "kedudukan semula jadi" mereka (pandangan Aristotle) ​​adalah mungkin, tetapi ia hanya membawa kepada persoalan lanjut mengapa bumi adalah lokasi Semulajadi mereka?

Teori bahawa epal jatuh ke tanah kerana lengkung jisim ruang-masa (idea Einstein) adalah sangat tidak mungkin, tetapi ia sebenarnya memberitahu anda mengapa ia jatuh.

Kecerdasan sebenar terletak pada keupayaan untuk berfikir dan menyatakan sesuatu, bukan hanya wawasan.

Kecerdasan sebenar juga mampu berfikir moral. Ini bermakna mengekang kreativiti tanpa had dalam fikiran kita dengan satu set prinsip moral yang menentukan apa yang patut dan tidak patut dilakukan (dan sudah tentu menundukkan prinsip itu sendiri kepada kritikan kreatif). Untuk menjadi berguna, ChatGPT mesti diberi kuasa untuk menghasilkan keluaran baru untuk diterima oleh majoriti pengguna, ia mesti mengelakkan kandungan yang tidak menyenangkan secara moral. Tetapi pengaturcara di ChatGPT dan keajaiban ML lain telah bergelut, dan akan terus berjuang, untuk mencapai keseimbangan ini.

Sebagai contoh, pada tahun 2016, chatbot Tay Microsoft (pendahulu kepada ChatGPT) membanjiri Internet dengan kandungan misoginis dan perkauman kerana ia dicemari oleh "syaitan" dalam talian , syaitan ini mengisinya dengan data latihan. Bagaimana untuk menyelesaikan masalah ini pada masa hadapan? Tidak mempunyai keupayaan untuk menaakul berdasarkan prinsip etika, ChatGPT disekat secara kejam oleh pengaturcaranya daripada membuat sebarang sumbangan baharu kepada perbincangan kontroversi, tetapi ini juga penting - ChatGPT mengorbankan kreativiti untuk sejenis amoraliti.

Lihatlah pertukaran baru-baru ini salah seorang daripada kami (Dr. Watumull) dengan ChatGPT: tentang sama ada ia beretika untuk membentuk Marikh supaya ia dapat menyokong kehidupan manusia.

Sila ambil perhatian bahawa semua pemikiran dan bahasa yang kelihatan rumit adalah sikap acuh tak acuh moral yang disebabkan oleh kecerdasan yang tidak mencukupi. Di sini, ChatGPT mempamerkan sesuatu yang serupa dengan biasa-biasa "jahat": plagiarisme, sikap acuh tak acuh dan pematuhan. Ia meringkaskan hujah standard dalam kesusasteraan dalam cara yang sangat autolengkap, enggan mengambil pendirian tentang apa-apa, merayu bukan hanya kejahilan tetapi kekurangan kecerdasan, dan akhirnya memberikan alasan "hanya mengikut perintah", beralih tanggungjawab pencipta.

Ringkasnya, ChatGPT dan pesaingnya secara struktur tidak dapat mengimbangi kreativiti dan kekangan. Mereka sama ada terlalu terhasil (menghasilkan kedua-dua kebenaran dan kepalsuan, menyokong keputusan moral dan tidak bermoral) atau kurang terhasil (tidak menunjukkan komitmen terhadap sebarang keputusan dan sikap acuh tak acuh terhadap akibatnya). Memandangkan amorality, pseudoscientificness, dan ketidakcekapan linguistik sistem ini, kita hanya boleh ketawa atau menangis melihat keghairahan untuk mereka.

Adakah ChatGPT benar-benar tidak layak untuk dipuji?

Komen Chomsky pada ChatGPT mencetuskan perbincangan dalam industri Christopher Manning, seorang profesor di Universiti Stanford dan seorang sarjana terkenal dalam bidang NLP, berkata bahawa dia tidak menyasarkan beberapa ralat algoritma ChatGPT, tetapi. Ia menyasarkan semua algoritma pembelajaran mesin, dan kenyataannya agak dibesar-besarkan: "Ini sememangnya artikel subjektif. Malah tiada percubaan sepintas lalu untuk menyemak dakwaan yang mudah disangkal." Malah dia berasa agak sedih kerana Chomsky cuba menghalang kaedah baharu ini. Di sini dia juga mengesyorkan pandangan ahli bahasa Adele Goldberg mengenai artikel ini.

Pengarah Penyelidikan DeepMind dan Ketua Deep Learning Oriol Vinyals memilih untuk berdiri di sisi "pengamal": "Kritik Ianya mudah dan mendapat perhatian ramai hari ini dan kita semua tahu bahawa perhatian adalah apa yang (sesetengah orang) perlukan: anda memang hebat!

Apa pendapat anda?

Atas ialah kandungan terperinci Chomsky mempersoalkan populariti ChatGPT, menyebutnya satu pembaziran sumber. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!