Kecerdasan buatan am, persepsi kecerdasan buatan dan model bahasa besar

Mungkin anda tidak perasan bahawa prestasi sistem kecerdasan buatan baru-baru ini menjadi semakin mengejutkan.

Contohnya, model baharu OpenAI DALL-E 2 boleh menjana imej asal yang menarik berdasarkan gesaan teks ringkas. Model seperti DALL-E menjadikannya lebih sukar untuk menafikan tanggapan bahawa kecerdasan buatan boleh menjadi kreatif. Pertimbangkan, sebagai contoh, imaginasi DALL-E mengenai "lembu hip-hop yang memakai jaket denim merakam single hit di studio." Atau untuk contoh yang lebih abstrak, lihat penjelasan DALL-E tentang barisan Peter Thiel lama "Kami mahukan kereta terbang, bukan 140 aksara

Sementara itu, DeepMind baru-baru ini mengumumkan teknologi baharu yang dipanggil model baharu Gato, yang mana. boleh sendirian melakukan beratus-ratus tugas yang berbeza, daripada bermain permainan video kepada mengadakan perbualan kepada menyusun blok dunia sebenar dengan lengan robot. Hampir semua model AI terdahulu dapat melakukan satu perkara dan satu perkara sahaja—contohnya, bermain catur. Oleh itu, Gato mewakili satu langkah penting ke arah kecerdasan mesin yang lebih luas dan lebih fleksibel.

Dan model bahasa besar (LLM) hari ini—daripada GPT-3 OpenAI kepada PaLM Google kepada OPT Facebook—mempunyai pelbagai keupayaan bahasa yang memeningkan. Mereka boleh mengadakan perbualan yang bernuansa dan mendalam tentang hampir semua topik. Mereka boleh menjana kandungan asli yang mengagumkan dengan sendirinya, daripada memo perniagaan kepada puisi. Untuk memberikan hanya satu contoh terkini, GPT-3 baru-baru ini mengarang kertas akademik yang ditulis dengan baik tentang dirinya dan sedang menjalani semakan rakan sebaya untuk diterbitkan dalam jurnal saintifik yang berprestij.

Kemajuan ini telah mengilhamkan spekulasi berani dan perbincangan hangat dalam komuniti kecerdasan buatan tentang hala tuju pembangunan teknologi.

Sesetengah penyelidik AI yang boleh dipercayai percaya bahawa kita kini sangat hampir dengan "kecerdasan umum buatan" (AGI), penanda aras yang sering dibincangkan yang merujuk kepada kecerdasan buatan yang berkuasa dan fleksibel yang boleh beroperasi di mana-mana sahaja. Mengungguli manusia dalam tugas kognitif. Bulan lalu, seorang jurutera Google bernama Blake Lemoine menjadi tajuk utama dengan secara mendadak mendakwa bahawa model bahasa berskala besar Google, LaMDA, adalah peka.

Penentangan terhadap dakwaan sedemikian adalah sama kuatnya, dengan ramai pengulas AI menolak kemungkinan itu di luar kuasa.

Jadi, apakah yang perlu kita lakukan dengan semua kemajuan menakjubkan terkini dalam kecerdasan buatan? Bagaimanakah kita harus memikirkan konsep seperti kecerdasan buatan dan persepsi kecerdasan buatan?

Wacana awam mengenai topik ini perlu dirangka semula dalam beberapa cara penting. Peminat yang terlalu teruja yang percaya bahawa AI superintelligent hampir tiba, dan skeptik yang mengecewakan yang percaya bahawa perkembangan terbaru dalam AI hanyalah gembar-gembur, kedua-duanya di luar sasaran dalam pemikiran mereka tentang beberapa aspek asas AI moden.

Kecerdasan Buatan Umum ialah Konsep Tidak Koheren

Prinsip asas tentang kecerdasan buatan yang sering diabaikan ialah kecerdasan buatan pada asasnya berbeza daripada kecerdasan manusia.

Adalah salah untuk membandingkan kecerdasan buatan dengan kecerdasan manusia secara langsung. Kecerdasan buatan hari ini lebih daripada sekadar bentuk kecerdasan manusia yang "kurang berkembang". AI yang sangat maju esok bukan sahaja menjadi versi kecerdasan manusia yang lebih berkuasa, sama ada.

Banyak mod dan dimensi kecerdasan yang berbeza boleh dilakukan. Adalah lebih baik untuk memikirkan AI bukan sebagai tiruan kecerdasan manusia yang tidak sempurna, tetapi sebagai bentuk kecerdasan asing yang unik yang kontur dan keupayaannya berbeza daripada kita dalam cara asas.

Untuk menjadikannya lebih konkrit, pertimbangkan secara ringkas keadaan kecerdasan buatan hari ini. Kecerdasan buatan hari ini jauh melebihi keupayaan manusia di sesetengah kawasan - sementara ketinggalan jauh di belakang dalam yang lain.

Contohnya: Selama setengah abad, "masalah lipatan protein" telah menjadi cabaran besar dalam bidang biologi. Ringkasnya, masalah lipatan protein memerlukan ramalan bentuk tiga dimensi protein berdasarkan urutan asid amino satu dimensinya. Beberapa dekad dan generasi minda paling cemerlang di dunia telah bekerjasama untuk gagal menyelesaikan cabaran ini. Seorang pengulas pada tahun 2007 menyifatkan ia sebagai "salah satu masalah paling penting namun tidak dapat diselesaikan dalam sains moden."

Pada penghujung tahun 2020, model AI daripada DeepMind yang dipanggil AlphaFold memberikan penyelesaian kepada masalah lipatan protein. Seperti yang dikatakan oleh John Moult, yang telah lama terlibat dalam penyelidikan protein, "Ini adalah kali pertama dalam sejarah bahawa masalah saintifik yang serius telah diselesaikan oleh AI." pemahaman spatial dan bentuk penaakulan dimensi tinggi, dan ini Ia hanya di luar genggaman pemikiran manusia. Tetapi ia tidak melampaui genggaman sistem pembelajaran mesin moden.

Sementara itu, mana-mana kanak-kanak manusia yang sihat memiliki "kecerdasan terwujud" yang jauh melebihi kecerdasan buatan paling canggih di dunia.

Dari usia muda, manusia boleh dengan mudah melakukan perkara seperti bermain tangkap, berjalan merentasi rupa bumi yang tidak dikenali atau membuka peti sejuk dapur untuk snek. Ternyata kebolehan fizikal ini sukar untuk dikuasai oleh kecerdasan buatan.

Ini terkandung dalam "Paradoks Moravec". Seperti yang dikatakan oleh penyelidik AI Hans Moravec pada tahun 1980-an: “Adalah mudah untuk mendapatkan komputer untuk beraksi pada tahap dewasa dalam ujian kecerdasan atau bermain catur, tetapi sukar atau mustahil untuk mendapatkan komputer untuk beraksi pada tahap kanak-kanak berumur setahun. .Persepsi dan Mobiliti."

Penjelasan Moravec untuk fakta yang tidak intuitif ini adalah evolusi: "Dikodkan dalam bahagian deria dan motor yang besar dan berkembang pesat dalam otak manusia selama satu bilion tahun. Pengalaman tentang sifat dunia dan cara hidup di dalamnya, [sebaliknya,] proses bernas yang kita panggil penaakulan yang lebih tinggi, adalah, saya percaya, lapisan pemikiran manusia yang paling nipis, dan ia hanya berfungsi kerana itu disokong oleh pengetahuan sensorimotor yang lebih tua, lebih berkuasa, walaupun sering tidak sedarkan diri bahawa kita semua adalah Olympian yang hebat dalam persepsi dan pergerakan, begitu baik sehingga kita menjadikan yang sukar kelihatan mudah.”

Sehingga hari ini, robot masih bergelut. dengan kebolehan fizikal asas. Hanya beberapa minggu yang lalu, sepasukan penyelidik DeepMind menulis dalam makalah baharu: "Pemahaman sistem AI semasa tentang 'fizik intuitif' tidak dapat dibandingkan dengan kanak-kanak yang sangat kecil

Apakah hasilnya semua ini?

Tiada perkara seperti kecerdasan buatan am.

AGI tidak mungkin dan tidak mustahil. Sebaliknya, ia tidak koheren sebagai konsep.

Kecerdasan bukanlah satu, kebolehan yang ditakrifkan dengan baik, boleh digeneralisasikan, malah satu set kebolehan tertentu. Pada peringkat tertinggi, tingkah laku pintar hanyalah agen yang memperoleh dan menggunakan pengetahuan tentang persekitarannya untuk mengejar matlamatnya. Oleh kerana terdapat sejumlah besar (secara teorinya tidak terhingga) jenis ejen, persekitaran dan matlamat yang berbeza, kecerdasan boleh menjelma dirinya dalam pelbagai cara yang tidak terkira banyaknya.

Guru AI Yann LeCun merumuskannya dengan baik: "Tiada perkara seperti kecerdasan buatan umum...malah manusia adalah khusus

Tukar kecerdasan buatan "umum" atau "sebenar". Mentakrifkan AI sebagai sesuatu yang boleh melakukan apa yang boleh dilakukan oleh manusia (tetapi lebih baik)—berfikir kecerdasan manusia ialah kecerdasan umum—adalah rabun dan berpaksikan manusia. Jika kita menganggap kecerdasan manusia sebagai sauh dan piawaian muktamad untuk pembangunan kecerdasan buatan, kita akan terlepas semua keupayaan yang berkuasa, mendalam, tidak dijangka, bermanfaat secara sosial, dan sepenuhnya bukan manusia yang mungkin ada pada kecerdasan mesin.

Bayangkan AI yang mempunyai pemahaman tahap atom tentang komposisi atmosfera Bumi dan boleh meramalkan secara dinamik dengan ketepatan yang sangat tinggi bagaimana keseluruhan sistem akan berkembang dari semasa ke semasa. Bayangkan jika mungkin untuk merekayasa campur tangan geoengineering yang tepat dan selamat di mana kita mendepositkan sejumlah sebatian tertentu di tempat tertentu di atmosfera, sekali gus mengatasi kesan rumah hijau yang disebabkan oleh pelepasan karbon manusia yang berterusan, mengurangkan kesan pemanasan global permukaan bumi.

Bayangkan AI yang boleh memahami setiap mekanisme biologi dan kimia dalam tubuh manusia sehingga ke peringkat molekul. Bayangkan jika ia boleh menetapkan diet yang disesuaikan untuk mengoptimumkan kesihatan setiap orang, boleh mendiagnosis dengan tepat punca sebarang penyakit, boleh menjana terapi peribadi baharu (walaupun ia belum wujud lagi) untuk merawat sebarang penyakit serius .

Bayangkan AI yang boleh mencipta protokol untuk menggabungkan nukleus atom dengan cara yang selamat menghasilkan lebih banyak tenaga daripada yang digunakan, membuka kunci gabungan nuklear sebagai tenaga manusia yang murah, mampan, tidak terhingga banyaknya.

Semua senario ini masih fantasi hari ini dan tidak dapat dicapai oleh kecerdasan buatan hari ini. Intinya ialah potensi sebenar kecerdasan buatan terletak pada laluan yang membawa kepada pembangunan bentuk kecerdasan baharu yang sama sekali tidak seperti apa yang boleh dilakukan oleh manusia. Jika AI boleh mencapai matlamat sedemikian, siapa yang peduli jika ia "sejagat" dalam erti kata memadankan keupayaan manusia secara keseluruhan?

Memposisikan diri kita sebagai "kecerdasan buatan am" mengehadkan dan mengurangkan potensi teknologi ini. Dan-kerana kecerdasan manusia bukanlah kecerdasan am, yang tidak wujud-ia secara konseptual tidak koheren pada mulanya.

Bagaimana rasanya menjadi kecerdasan buatan?

Ini membawa kita kepada topik yang berkaitan tentang gambaran besar kecerdasan buatan, yang pada masa ini menerima banyak perhatian orang ramai: persoalan sama ada kecerdasan buatan adalah, atau akan menjadi, hidup.

Jurutera Google Blake Lemoine mencetuskan gelombang kontroversi dan ulasan bulan lepas apabila beliau secara terbuka menegaskan bahawa salah satu model bahasa besar Google telah menyedari. (Sebelum membuat sebarang pendapat yang pasti, anda patut membaca transkrip penuh perbincangan antara Lemoine dan AI untuk diri sendiri.)

Kebanyakan orang - terutamanya pakar AI - berpendapat dakwaan Lemoine adalah salah dan tidak tepat munasabah.

Google berkata dalam maklum balas rasminya: "Pasukan kami telah menyemak kebimbangan Black dan memaklumkannya bahawa bukti itu tidak menyokong dakwaannya, profesor Universiti Stanford Erik Brynjolfsson percaya bahawa kecerdasan buatan persepsi mungkin masih ada 50 tahun lagi." . Gary Marcus menimpali, memanggil dakwaan Lemoine "omong kosong" dan membuat kesimpulan bahawa "tiada apa-apa untuk dilihat di sini."

Masalah dengan keseluruhan perbincangan ini—termasuk penolakan pakar mengenainya—adalah kewujudan atau ketiadaan persepsi, mengikut definisi, tidak boleh dibuktikan, tidak boleh dipalsukan dan tidak boleh diketahui.

Apabila kita bercakap tentang persepsi, kita merujuk kepada pengalaman dalaman subjektif ejen, bukan kepada sebarang manifestasi luar kecerdasan. Tiada siapa—bukan Blake Lemoine, bukan Erik Brynjolfsson, bukan Gary Marcus—boleh pasti sepenuhnya tentang perkara yang dilakukan atau tidak dialami oleh rangkaian saraf tiruan yang sangat kompleks secara dalaman.

Pada tahun 1974, ahli falsafah Thomas Nagel menerbitkan artikel bertajuk "Bagaimana rasanya menjadi kelawar?" “Pasal. Salah satu kertas falsafah yang paling berpengaruh pada abad ke-20, artikel ini menguraikan konsep kesedaran yang terkenal sukar difahami menjadi takrifan yang mudah dan intuitif: Seorang ejen sedar jika ada sesuatu yang sanggup menjadi ejen itu. Sebagai contoh, menjadi jiran sebelah rumah saya atau anjingnya adalah sesuatu;

Mesej utama kertas kerja ialah mustahil untuk mengetahui dengan tepat bagaimana rasanya menjadi organisma atau spesies lain dengan cara yang bermakna. Semakin tidak seperti kita organisma atau spesies lain, semakin tidak dapat diakses pengalaman dalamannya.

Nagel menggunakan kelawar sebagai contoh untuk menggambarkan perkara ini. Dia memilih kelawar kerana, sebagai mamalia, mereka adalah makhluk yang sangat kompleks, tetapi pengalaman hidup mereka sangat berbeza daripada kita: mereka terbang, mereka menggunakan sonar sebagai cara utama mereka untuk melihat dunia, dan sebagainya. <🎜> .Bayangkan seseorang dengan lengan berselaput yang membolehkannya terbang pada waktu senja dan subuh dan mulut yang penuh dengan pepijat, yang tidak membantu seseorang yang mempunyai penglihatan yang sangat lemah yang melihat dunia di sekelilingnya melalui sistem isyarat bunyi frekuensi tinggi yang dipantulkan ;Lelaki itu tergantung terbalik di loteng sepanjang hari

“Sejauh yang saya boleh bayangkan (yang tidak begitu jauh) ia hanya memberitahu saya bagaimana keadaannya. untuk bertindak seperti kelawar. Tetapi itu bukan masalahnya. Saya tertanya-tanya bagaimana perasaan kelawar menjadi kelawar. Walau bagaimanapun, jika saya cuba membayangkan ini, saya akan terhad kepada sumber fikiran saya sendiri, yang tidak mencukupi untuk tugas itu. Saya tidak dapat mencapainya dengan membayangkan penambahan kepada pengalaman saya sekarang, atau dengan membayangkan serpihan yang dikurangkan secara beransur-ansur daripadanya, atau dengan membayangkan beberapa gabungan penambahan, penolakan dan pengubahsuaian. ”

Rangkaian saraf tiruan adalah lebih asing dan tidak boleh diakses oleh kita manusia daripada kelawar, yang sekurang-kurangnya mamalia dan bentuk hidupan berasaskan karbon

Sekali lagi, terlalu ramai pengulas adalah Kesilapan asas yang dilakukan topik ini (selalunya tanpa memikirkannya) adalah untuk menganggap bahawa kita hanya boleh memetakan jangkaan kita tentang persepsi atau kecerdasan manusia kepada kecerdasan buatan

yang tidak dapat kita ketahui dengan mana-mana cara langsung atau langsung untuk menentukannya atau fikirkan tentang pengalaman intrinsik AI

Jadi bagaimana kita boleh mendekati topik persepsi AI dengan cara yang produktif Alan Turing telah diilhamkan oleh Ujian Turing, yang pertama kali dicadangkan pada tahun 1950. Sering dikritik atau disalahfahamkan? dan pastinya tidak sempurna, Ujian Turing telah menjadi ujian masa sebagai titik rujukan dalam bidang AI kerana ia menangkap Cerapan Asas Tertentu Mengenai Sifat Kepintaran Mesin

Ujian Turing mengakui dan menerima realiti bahawa kita tidak akan mempunyai akses langsung kepada pengalaman dalaman kecerdasan buatan Keseluruhan premisnya ialah jika kita ingin mengukur kecerdasan kecerdasan buatan, satu-satunya pilihan kita ialah memerhati tingkah lakunya dan kemudian membuat kesimpulan yang sesuai (Untuk menjadi jelas, Turing prihatin. dengan menilai keupayaan mesin untuk berfikir, tidak semestinya kebolehannya untuk merasakan, walaupun, apa yang relevan adalah asasnya )

Douglas Hofstadter mengutarakan idea ini dengan fasih: “Bagaimana anda. tahu bahawa apa-apa yang serupa dengan apa yang anda perkatakan sedang berlaku dalam diri saya apabila saya bercakap dengan anda perkara 'Berfikir'? Ujian Turing ialah siasatan yang menakjubkan—seperti pemecut zarah dalam fizik. Sama seperti dalam fizik, apabila anda ingin memahami perkara yang berlaku pada peringkat atom atau subatomik, kerana anda tidak dapat melihatnya secara langsung, anda menyerakkan zarah yang dipercepatkan dari sasaran yang berkaitan dan memerhati kelakuannya. Daripada ini anda boleh membuat kesimpulan sifat dalaman sasaran. Ujian Turing memanjangkan idea ini kepada minda. Ia menganggap idea sebagai "objek" yang tidak dapat dilihat secara langsung tetapi strukturnya boleh disimpulkan secara lebih abstrak. Dengan 'mengalihkan' masalah dari minda sasaran, anda boleh memahami kerja dalamannya, sama seperti dalam fizik. ”

Untuk membuat sebarang kemajuan dalam perbincangan tentang persepsi AI, kita mesti mengarahkan diri kita ke arah perwakilan yang boleh diperhatikan sebagai proksi untuk pengalaman dalaman jika tidak, kita akan berada dalam dunia yang longgar, kosong dan buntu perdebatan itu.

Erik Brynjolfsson yakin bahawa AI hari ini tidak peka, namun komennya menunjukkan bahawa dia percaya AI akhirnya akan berasa apabila dia bertemu dengannya , bagaimana dia tahu?

Anda adalah perkara yang anda lakukan

Dalam perbahasan tentang AI, orang yang ragu-ragu sering menggambarkan teknologi dalam istilah ringkas yang mengecilkan keupayaannya.

Seperti yang dikatakan oleh seorang penyelidik AI sebagai tindak balas kepada berita Blake Lemoine: "Harapan untuk mendapatkan kesedaran, pemahaman, atau akal fikiran daripada pemprosesan simbolik dan data menggunakan fungsi parametrik dimensi yang lebih tinggi adalah misteri dalam catatan blog baru-baru ini , Gary Marcus berhujah bahawa model AI hari ini tidak "pintar telepati" kerana "apa yang mereka lakukan hanyalah padanan corak dan menarik data daripada pangkalan data statistik besar-besaran Google, LaMDA hanyalah "hamparan perkataan". .

Barisan alasan ini mengelirukan dan remeh. Lagipun, jika kita memilihnya, kita boleh membina kecerdasan manusia dengan cara yang sama dipermudahkan: otak kita adalah "hanya" koleksi besar neuron yang saling berkaitan dengan cara tertentu, "hanya" koleksi tindak balas kimia asas dalam tengkorak kita.

Tetapi itu meleset. Kuasa dan keajaiban kecerdasan manusia bukan terletak pada mekanisme tertentu tetapi pada keupayaan luar biasa untuk muncul dalam beberapa cara. Fungsi asas yang mudah boleh menghasilkan sistem intelek yang mendalam.

Akhirnya, kita mesti menilai AI berdasarkan keupayaannya.

Jika kita membandingkan keadaan AI lima tahun lalu dengan keadaan teknologi hari ini, tidak syak lagi bahawa keupayaan dan kedalamannya telah meningkat dengan ketara (dan masih mempercepatkan) berkat kejayaan dalam bidang seperti self- pembelajaran diselia Cara untuk skala, pengubah dan pembelajaran pengukuhan.

Kecerdasan buatan bukan seperti kecerdasan manusia. Apabila dan jika AI menjadi hidup—bila dan jika ia menjadi, dalam rumusan Nagel, "seperti sesuatu"—ia tidak akan dapat dibandingkan dengan keadaan menjadi manusia. Kecerdasan buatan ialah bentuk kognisinya yang unik, tidak biasa, menarik dan berkembang pesat.

Apa yang penting ialah apa yang boleh dicapai oleh kecerdasan buatan. Kejayaan dalam sains asas seperti AlphaFold, menangani cabaran peringkat spesies seperti perubahan iklim, menggalakkan kesihatan dan umur panjang manusia, dan mendalami pemahaman kita tentang cara alam semesta berfungsi—hasil ini merupakan ujian sebenar kuasa dan kerumitan AI.

Atas ialah kandungan terperinci Kecerdasan buatan am, persepsi kecerdasan buatan dan model bahasa besar. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!