Adakah raksasa prestasi akan datang selepas ChatGPT? 7 ramalan 'gelap' Marcus: GPT-4 tidak akan membawa AGI

Menjelang penghujung tahun 2022, OpenAI mengeluarkan chatbot yang dipanggil ChatGPT, yang dengan cepat menjadi popular di Internet.

Dalam masa kurang daripada dua minggu selepas pelancaran, lebih daripada satu juta orang telah mendaftar untuk percubaan dalam talian. Pengguna hanya boleh memasukkan teks dan serta-merta mendapat akses kepada perenggan artikel, cerita dan puisi yang luar biasa.

Ia ditulis dengan sangat baik sehingga sesetengah orang menggunakannya untuk menulis baris pembukaan tarikh di Tinder (“Adakah anda keberatan jika saya duduk di sini? Anda melakukan tujahan pinggul” lihat membuatkan kaki saya lemah.")

Bukan itu sahaja, tetapi yang mengejutkan pendidik di seluruh dunia, pelajar mula menggunakan ChatGPT. untuk menulis kertas penggal. Orang lain menggunakannya untuk cuba mencipta semula enjin carian. Tiba-tiba, seluruh dunia membincangkan keajaiban ChatGPT.

Namun, Marcus berkata kami tidak boleh meletakkan penapis terlalu tebal pada chatbot kami.

Walaupun ChatGPT nampaknya mengetahui segala-galanya, ia juga terdedah kepada ralat. Dalam temu bual, Marcus berkata bahawa ChatGPT adalah sama seperti sebelumnya dan sistem itu "masih tidak boleh dipercayai, masih tidak memahami dunia sebenar, masih tidak memahami dunia psikologi dan masih penuh dengan pepijat."

Dalam erti kata lain, ChatGPT sering mengarut;

Sebagai contoh, di bawah bimbingan pengguna, ChatGPT boleh mengatakan bahawa batang doh goreng sangat sesuai untuk pembedahan kerana "saiznya kecil dan boleh mencapai lebih tinggi. keputusan semasa pembedahan." Ketepatan dan kawalan, mengurangkan risiko komplikasi dan meningkatkan hasil keseluruhan pembedahan."

Bobot sembang mengeluarkan kata-kata karut sehingga tapak web terkenal Stack Overflow telah melarang sementara jawapan yang dijana komputer.

Dan kesilapan tidak berkesudahan. Walaupun ChatGPT sering diselaraskan berdasarkan maklum balas pengguna, ramai netizen masih terdiam dengan maklum balasnya hanya beberapa minggu selepas produk itu dikeluarkan:

Ralat yang sama kerap berlaku, malah Ketua Pegawai Eksekutif OpenAI Sam Altman terpaksa mengakui realiti:

ChatGPT masih ada banyak batasan, tetapi ia sudah cukup untuk mencipta ilusi kehebatan.

Terlalu awal untuk bergantung pada ChatGPT untuk menyelesaikan tugasan penting. Masih banyak yang perlu kami lakukan untuk meningkatkan kekukuhan dan ketulenan.

Ringkasnya, walaupun ChatGPT kedengaran sebagai sci-fi seperti komputer dalam Star Trek, pada masa ini, orang ramai tidak boleh mempercayainya sepenuhnya.

Sudah tentu, ChatGPT ialah hadiah untuk pencinta AI pada tahun 2022. Bagaimana pula dengan 2023?

Pada tahun 2023, apa yang dinantikan oleh Silicon Valley dan seluruh dunia ialah GPT-4. ​

GPT-4: "Bintang Ungu dari Langit" di dunia AI ​​​​sangat kagum dengan produk. Menurut beberapa khabar angin, GPT-4 akan dikeluarkan pada musim bunga tahun 2023. Pada masa itu, ia akan gerhana ChatGPT pasti, lebih ramai orang akan bercakap mengenainya.

Dalam banyak cara, jangkaan untuk GPT-4 adalah sangat tinggi:

Nick Davidov, pengasas firma modal teroka DVC, berkata: Kemunculan GPT-4 akan membawa "impak ekonomi yang serupa dengan wabak koronavirus baharu." Penyebaran pantas dan penggunaan GPT-4 boleh "meningkatkan produktiviti ratusan juta pekerja berpengetahuan dengan pantas."

Secara teknikal, GPT-4 akan mempunyai lebih banyak parameter di dalam, lebih banyak pemproses dan memori, serta akan dilatih dengan lebih banyak data .

GPT-1 telah dilatih dengan 4.6GB data, dan oleh GPT-3, jumlah data melonjak kepada 750GB. Ia boleh dilihat bahawa volum latihan GPT-4 akan menjadi lebih menakjubkan, malah ia akan mempelajari sebahagian besar daripada keseluruhan Internet.

OpenAI tahu bahawa volum latihan yang lebih besar bermakna output yang lebih baik. Dengan setiap lelaran, GPT menjadi lebih dan lebih seperti manusia dalam prestasinya. Untuk GPT-4, ia mungkin berubah menjadi raksasa prestasi.

Tetapi adakah ia akan menyelesaikan masalah yang dihadapi sebelum ini? Marcus masih mempunyai soalan tentang perkara ini.

Walaupun GPT-4 nampaknya ia akan lebih pintar daripada pendahulunya, masih terdapat masalah dengan seni bina dalamannya.

Marcus berkata bahawa dia mengesyaki bahawa orang akan mengalami deja vu apabila ia datang kepada GPT-4: pertama ia menjadi popular di seluruh Internet, dan kemudian beberapa hari kemudian, didapati banyak masalah masih wujud.

Mengikut maklumat semasa, GPT-4 pada asasnya adalah sama dengan GPT-3 dalam seni bina. Jika ya, boleh dijangkakan bahawa beberapa masalah asas masih tidak dapat diselesaikan: Chatbots masih kekurangan model dalaman tentang cara dunia berfungsi.

Oleh itu, GPT-4 tidak dapat memahami perkara pada tahap abstrak. Ia mungkin lebih baik untuk membantu pelajar menulis esei, tetapi ia masih tidak benar-benar memahami dunia, dan ciri-ciri mesin masih akan didedahkan di antara baris jawapannya.

​Tujuh ramalan tentang GPT-4

Jadi , walaupun komuniti AI penuh kegembiraan untuk ketibaan GPT-4, Marcus memberikan 7 ramalan yang kurang positif.

​1. GPT-4 masih akan melakukan semua jenis kesilapan bodoh seperti pendahulunya. Ia kadangkala boleh melaksanakan tugas yang diberikan dengan baik dan kadangkala gagal, tetapi anda tidak boleh meramalkan terlebih dahulu situasi yang akan timbul. 2. Penaakulan GPT-4 dalam fizik, psikologi dan matematik masih tidak boleh dipercayai. Ia mungkin dapat menyelesaikan beberapa projek yang sebelum ini gagal dicabar dengan jayanya, tetapi ia masih tidak berdaya apabila berhadapan dengan senario yang lebih panjang dan lebih kompleks.

Sebagai contoh, apabila ditanya soalan perubatan, ia sama ada enggan menjawab atau kadang-kadang mengeluarkan kata-kata karut yang terdengar munasabah tetapi berbahaya. Walaupun ia telah memakan sejumlah besar kandungan di internet, ia tidak boleh dipercayai dan cukup lengkap untuk memberikan nasihat perubatan yang boleh dipercayai.

3. Halusinasi yang lancar akan kekal biasa dan mudah didorong. Walau bagaimanapun, model bahasa yang besar masih merupakan alat yang boleh digunakan dengan mudah untuk mencipta maklumat yang kelihatan munasabah tetapi salah sama sekali.

4. Keluaran bahasa semula jadi GPT-4 masih gagal untuk menyampaikan program hiliran dengan cara yang boleh dipercayai. Pembangun yang menggunakannya untuk membina pembantu maya akan mendapati diri mereka tidak dapat memetakan bahasa pengguna dengan pasti kepada niat pengguna.

5. GPT-4 sendiri tidak akan menjadi kecerdasan buatan umum yang boleh menyelesaikan sebarang tugas. Tanpa bantuan luar, ia tidak dapat mengalahkan Cicero Meta dalam Diplomasi mahupun memandu kereta dengan pasti. Ia tidak boleh memandu Optimus Prime dalam "Transformers" atau Rosie dalam "The Jetsons."

6. "Hubungan" antara "apa yang manusia mahu" dan "apa yang dilakukan oleh mesin" masih menjadi isu kritikal dan tidak dapat diselesaikan. GPT-4 masih tidak mempunyai kawalan ke atas outputnya, beberapa pengesyoran akan menjadi sangat buruk, dan contoh berat sebelah bertopeng akan ditemui dalam masa beberapa hari atau bulan.

7. Apabila AGI (Kecerdasan Am Buatan) direalisasikan, model bahasa besar seperti GPT-4 mungkin menjadi sebahagian daripada penyelesaian akhir, tetapi hanya sebahagian daripadanya. Hanya "skala", iaitu, membina model yang lebih besar sehingga ia menyerap keseluruhan Internet, akan terbukti berguna pada tahap tertentu. Tetapi kecerdasan buatan am yang boleh dipercayai dan konsisten dengan nilai manusia pasti akan datang daripada sistem yang lebih berstruktur. Ia akan mempunyai lebih banyak pengetahuan terbina dalam dan termasuk alat penaakulan dan perancangan yang jelas. Ini semua kekurangan dalam sistem GPT semasa.

Marcus percaya bahawa dalam tempoh sedekad, mungkin kurang, tumpuan kecerdasan buatan akan beralih daripada meningkatkan model bahasa besar kepada menyepadukan dengan rangkaian teknologi yang lebih luas.

Perkara yang menarik sentiasa menyeronokkan, tetapi itu tidak bermakna ia akan membawa kita ke arah kecerdasan buatan am yang boleh dipercayai.

Dalam hal ini, Marcus meramalkan bahawa apa yang kita perlukan pada masa hadapan ialah seni bina baharu yang boleh mengambil pengetahuan eksplisit dan model dunia sebagai teras. ​

Rujukan: https://garymarcus.substack.com/p/what-to-expect-when-yore-expecting

Atas ialah kandungan terperinci Adakah raksasa prestasi akan datang selepas ChatGPT? 7 ramalan 'gelap' Marcus: GPT-4 tidak akan membawa AGI. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!