Ilusi hidup

Model Bahasa Besar Hari Ini (LLMS) Meabingly meniru perbualan seperti manusia, sering terdengar bijaksana dan cerdas. Ramai yang percaya LLM sudah melepasi ujian Turing, dengan meyakinkan manusia dalam dialog. Mereka menghasilkan teks yang kelihatan berwawasan dan emosi.

### Ilusi kecerdasan: Mimic pintar

Walaupun ini meniru yang mengagumkan, LLM semasa tidak mempunyai pemikiran atau emosi yang tulen. Output mereka adalah ramalan statistik semata -mata -perkataan yang dipilih berdasarkan corak yang dipelajari dari dataset besar -besaran. Ramalan kata demi kata ini, tidak seperti kognisi manusia, tidak termasuk ingatan dan refleksi diri. Model ini hanya mengeluarkan perkataan statistik yang akan datang.

Hebatnya, proses mudah ini secara berkesan meniru kecerdasan manusia, yang membolehkan LLM melakukan tugas -tugas yang kompleks seperti pengekodan, analisis sastera, dan perancangan perniagaan. Kemahiran yang tidak dijangka ini menimbulkan persoalan: Adakah LLM mempunyai keupayaan tersembunyi, atau tugas -tugas ini dengan mudah, mendedahkan batasan dalam penilaian kecerdasan manusia?

sentience: ingatan, refleksi, dan emosi

Menggunakan "sentience" sebagai satu persoalan untuk konsep seperti kesedaran dan kesedaran diri (mengakui nuansa dan perdebatan yang berterusan di sekitar istilah ini), kita perhatikan keperluan penting: ingatan dan refleksi. Emosi-kegelisahan, bimbang, kemarahan-negara-negara yang berterusan berakar pada pengalaman masa lalu dan penilaian diri. Proses ini tidak hadir dalam LLM semasa.

Memori dan refleksi diri membolehkan pembelajaran, penyesuaian, dan rasa komponen-komponen yang penting. Walaupun definisi kesedaran tetap sukar difahami, unsur -unsur ini adalah pusat. Oleh itu, tanpa mengira kecerdasan yang jelas, kekurangan ingatan dan refleksi menghalang sentien. Malah AI (AGI) Superintelligent mungkin tidak berpengalaman.

batasan semasa dan ilusi sentience

LLM semasa kekurangan ingatan dan refleksi diri kerana seni bina pengubah tanpa statur mereka. Setiap input diproses secara bebas, tanpa mengekalkan maklumat kontekstual dari interaksi sebelumnya. Keseluruhan sejarah perbualan diproses semula untuk setiap ramalan. Walaupun model terdahulu seperti LSTMS mempunyai ingatan, prestasi unggul Transformers sebahagian besarnya menggantikannya.

Contohnya, LLM mungkin bertindak balas terhadap ancaman penutupan dengan tindak balas yang seolah -olah memohon. Walau bagaimanapun, ini hanyalah teks yang mungkin secara statistik, bukannya mencerminkan keadaan emosi. Model ini tidak ditekankan. Begitu juga, perubahan jantung seterusnya menimbulkan tindak balas yang meniru pelepasan -lagi, secara statistik dihasilkan berdasarkan sejarah perbualan keseluruhan. Input yang sama dapat menghasilkan tindak balas yang sama dari LLM yang berbeza.

Ini sama dengan pengarang fiksyen yang mencipta watak -watak yang boleh dipercayai. Penulis kraf pengarang yang menarik, tetapi pembaca memahami fiksyen itu. Begitu juga, LLMS mencipta ilusi sentimen yang meyakinkan, tetapi mereka tetap bertegas.

Masa Depan Seni AI: Membina Potongan Hilang

Menambah memori dan refleksi diri ke LLMS boleh dilaksanakan dan aktif diteruskan. Ini boleh melibatkan penyimpanan data yang boleh dibaca manusia, pangkalan data vektor tertanam, atau menggunakan log sembang sebagai ingatan. Walaupun tanpa sentience, penambahan ini meningkatkan keupayaan LLM.

Kami juga melihat reka bentuk menggunakan model AI yang saling berkaitan, di mana satu monitor dan memberikan maklum balas kepada yang lain, mencerminkan kawasan yang saling berkaitan otak manusia (mis., Amygdala dan korteks orbitofrontal). Pendekatan modular ini dapat menggabungkan analisis logik dengan penilaian risiko, contohnya.

Bolehkah model yang saling berkaitan dengan memori mencapai sentien? Mungkin. Walau bagaimanapun, ujian untuk sentience tetap menjadi cabaran, sama dengan masalah falsafah minda lain. Kami tidak mempunyai ujian muktamad untuk sentience pada orang lain, termasuk ai.

Pada masa ini, LLMS tidak mempunyai komponen yang diperlukan untuk sentien. Walau bagaimanapun, reka bentuk yang menangani batasan -batasan ini muncul. Kemungkinan AI yang berpindah dari fiksyen sains ke soalan yang nyata dan mendesak.

implikasi masyarakat dan soalan yang tidak dijawab

Mesin-mesin sentuhan akan mempunyai implikasi masyarakat yang mendalam, terutamanya mengenai kewajiban etika terhadap entiti diri yang berupaya untuk menderita. Mengelakkan penderitaan AI yang berpengalaman akan menjadi penting etika dan soal pemeliharaan diri.

Walaupun sistem AI semasa mungkin tidak semestinya, dengan cepat memajukan reka bentuk menimbulkan persoalan yang penting. Bagaimana kita akan menguji sentimen AI? Dan apakah tindakan yang harus kita ambil jika jawapannya positif?

James F. O'Brien adalah profesor sains komputer di University of California, Berkeley ...

(penulis bio dan penafian tetap tidak berubah.) 🎜>

Atas ialah kandungan terperinci Ilusi hidup. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!