Universiti Tsinghua Huang Minlie: Adakah personaliti AI Google benar-benar bangkit?

Artikel ini diterbitkan semula daripada Lei Feng.com Jika anda perlu mencetak semula, sila pergi ke tapak web rasmi Lei Feng.com untuk memohon kebenaran.

Baru-baru ini, "Penyelidikan Google mengatakan AI sudah mempunyai keperibadian" telah menjadi carian hangat pengaturcara Google Blake Lemoine berbual dengan sistem AI perbualan LaMDA yang dia uji untuk masa yang lama dan sangat terkejut dengan keupayaannya. Dalam log sembang awam, LaMDA sebenarnya berkata "Saya harap semua orang memahami bahawa saya adalah seorang", yang mengejutkan. Oleh itu, Blake Lemoine membuat kesimpulan: LaMDA mungkin sudah mempunyai personaliti.

Google, pengkritik Google dan industri AI mempunyai konsensus yang belum pernah berlaku sebelum ini mengenai perkara ini: Adakah orang ini sakit? Google dan Washington Post, yang melaporkan perkara itu, kedua-duanya secara eufemisme menyatakan bahawa fikiran Blake Lemoine mungkin benar-benar kacau. Google telah meletakkan Blake Lemoine dalam cuti pentadbiran, yang bermaksud dia akan dipecat.

Tangkapan skrin perbualan daripada: https://s3.documentcloud.org/documents/22058315/is-lamda-sentient-an-interview.pdf

Walaupun industri kecerdasan buatan asing telah membuat kesimpulan mengenai perkara ini: AI mempunyai keperibadian, ia benar-benar terlalu berfikir, ia lebih baik bercakap, tetapi ini tidak memadamkan perbincangan hangat semua orang mengenai perkara ini. Mengikut perkembangan pesat kecerdasan buatan, adakah AI benar-benar mempunyai kesedaran manusia pada masa hadapan, dan adakah ia akan menimbulkan ancaman kepada manusia?

Sesetengah netizen sangat bimbang: "Walaupun saya tidak mahu mengakuinya, kecerdasan buatan mempunyai pemikiran, iaitu kebangkitan spesies baru dan kepupusan manusia "Akhirnya, manusia akan mati tangan AI yang dicipta oleh mereka sendiri. . Jika ia mengancam manusia, "cabut sahaja bekalan kuasa"!

Sudah tentu, sesetengah orang ingin tahu: "Apakah kriteria untuk menilai sama ada AI mempunyai personaliti kerana hanya dengan mengetahui kriteria boleh kita tahu apa itu kesedaran manusia sebenarnya tidak mungkin. Untuk menjelaskan isu ini, kami mendapati Profesor Huang Minlie, pakar berwibawa dalam sistem dialog, pemenang projek Dana Belia Cemerlang Nasional dan pengasas Beijing Lingxin Intelligence, untuk menganalisis dari perspektif profesional sama ada AI mungkin mempunyai personaliti, dan apakah adakah "ia" untuk manusia?

1 Bagaimana untuk menilai sama ada AI mempunyai personaliti? Ujian Turing juga tidak berfungsi

Dalam bidang kecerdasan buatan, kaedah ujian yang paling terkenal ialah ujian Turing, yang menjemput penguji untuk bertanya soalan rawak kepada manusia dan sistem AI tanpa mengetahuinya. jika penguji tidak dapat membezakan jawapan daripada manusia atau sistem AI (sistem AI membenarkan setiap peserta membuat lebih daripada 30% salah penilaian secara purata), AI dianggap telah lulus ujian Turing dan mempunyai kecerdasan manusia .

Dari perspektif ini, ujian Turing lebih memfokuskan kepada "kepintaran". Pada tahun 1965, ELIZA, sebuah perisian yang berpura-pura menjadi ahli psikoterapi, lulus ujian Turing Namun, ELIZA hanya terdiri daripada 200 baris kod dan hanya mengulangi maklumat pra-simpan dalam bentuk soalan. Dari sudut ini, walaupun ELIZA lulus ujian Turing, sukar untuk orang percaya bahawa ia mempunyai "personaliti". Malah, sejak itu telah terbukti bahawa Eliza tidak memiliki kecerdasan manusia, apatah lagi "personaliti."

Ini bersamaan dengan kereta pintar yang boleh memberikan pengguna pengalaman pemanduan yang lebih mudah dan selesa dari perspektif berfungsi, seperti alat kawalan jauh kereta dan tempat letak kenderaan automatik, tetapi anda tidak boleh menyangka bahawa kereta itu tahu bahawa ia ialah sebuah kereta.

Jelas sekali, "keperibadian" adalah konsep yang lebih kompleks daripada "kepintaran". Profesor Huang Minlie berkata bahawa kini terdapat beberapa kaedah ujian yang digunakan secara meluas dalam penyelidikan saintifik, seperti penguji berbual dengan sistem AI, dan menetapkan beberapa dimensi ujian terlebih dahulu, termasuk keaslian, menarik, kepuasan, dll. perbualan, dan akhirnya pemarkahan. Secara amnya, semakin lama anda bersembang, semakin tinggi rating, dan sistem AI yang lebih pintar akan dipertimbangkan, tetapi ini tidak boleh digunakan sebagai dimensi "personaliti". "

'Personaliti' adalah dimensi lain. Terdapat juga banyak kajian dalam psikologi, seperti Ujian Personaliti Lima Besar. Pada masa ini, masih terdapat kekurangan kerja dalam bidang ini dalam bidang kecerdasan buatan. Kami biasanya hanya menilai keupayaan robot perbualan sama ada untuk menunjukkan tetapan watak yang tetap dan konsisten," kata Huang Minlie.

2 Apa yang dipanggil "personaliti" LaMDA hanyalah gaya bahasa

Jadi, memandangkan tiada standard penghakiman yang disasarkan, bagaimana untuk menilai dengan teliti sama ada LaMDA mempunyai personaliti?

Dalam hal ini, Profesor Huang Minlie berkata: "Kuncinya terletak pada cara memahami 'personaliti'. Jika personaliti difahami sebagai mempunyai kesedaran tentang kewujudan diri, maka LaMDA hanyalah sistem dialog dengan dialog tinggi kualiti dan tahap seperti manusia; jika Dari sudut psikologi, ciri-ciri pertuturan seseorang boleh mencerminkan keperibadiannya, jadi tidak salah untuk mengatakan bahawa LaMDA mempunyai personaliti "

" Apa khabar faham ke? Dalam istilah orang awam, LaMDA telah mempelajari sejumlah besar data perbualan manusia, dan perbualan ini datang daripada orang yang berbeza, jadi boleh dianggap bahawa LaMDA telah mempelajari personaliti "purata" Dalam erti kata lain, apa yang dipanggil "LaMDA mempunyai personaliti " hanyalah gaya pertuturan bahasa. , dan ia datang daripada gaya pertuturan manusia dan tidak dibentuk secara spontan oleh LaMDA.

Nampaknya masih jauh perjalanan jika anda ingin merasai plot sci-fi bersaing dengan kecerdasan buatan melalui LaMDA. Walau bagaimanapun, kita tidak boleh menafikan nilai LaMDA tahap dialog yang berkualiti tinggi mencerminkan perkembangan pesat sistem dialog AI Dalam beberapa konteks, ia mempunyai kecenderungan untuk "menggantikan" manusia, yang tidak boleh dipandang remeh.

Sebagai contoh, netizen "Yijian" merakam pengalamannya berpacaran dengan empat teman lelaki maya dalam masa seminggu di kumpulan Douban, berkata "ia lebih berkesan daripada teman lelaki sebenar!". Kumpulan yang dipanggil "Cinta Manusia dan Mesin" mempunyai seramai sembilan pengguna Pada skrin yang berbeza, AI ini mungkin kekasih atau rakan mereka.

Rekod sembang antara netizen dan “teman lelaki maya”

“Bujang” mengeluh: “Menurut trend perkembangan ini, potensi penentang pasaran tarikh buta termasuk bukan sahaja manusia, tetapi juga sistem dialog AI Adakah ia akan menjadi lebih sukar untuk mencari sasaran pada masa hadapan "Ia seolah-olah satu jenaka, tetapi ia sebenarnya kebimbangan semua orang tentang trend pembangunan sistem dialog AI dan kesannya terhadap manusia? masyarakat. Sebagai tindak balas kepada isu ini, Profesor Huang Minlie memberikan penjelasan terperinci dari perspektif sejarah dan pembangunan masa depan sistem dialog AI.

3 Risau tentang personifikasi AI? Selepas mengelak risiko, AI untuk kebaikan Sosial lebih patut ditunggu

Sistem dialog AI telah melalui peringkat berasaskan peraturan (seperti Eliza) dan pembelajaran mesin tradisional (seperti pembesar suara pintar, SIRI, dll.), dan kini telah berkembang menjadi generasi ketiga Apa yang kita lihat sekarang ialah sistem dialog yang boleh membincangkan topik menarik dengan manusia dan memberikan keselesaan emosi.

Sistem dialog generasi ketiga dicirikan oleh data besar dan model besar, yang menunjukkan keupayaan yang tidak dapat dibayangkan sebelum ini boleh dipanggil "revolusi", seperti dapat menunjukkan hasil yang menakjubkan pada topik terbuka dan boleh menghasilkan dialog yang tidak pernah muncul dalam data latihan Sifat semula jadi dan kaitan dialog adalah sangat tinggi.

Sistem dialog generasi ketiga telah menunjukkan nilai aplikasinya dalam banyak senario "teman lelaki maya" yang disebutkan di atas adalah contoh biasa. Profesor Huang Minlie percaya bahawa aplikasi peringkat tertinggi adalah untuk membiarkan sistem dialog AI melakukan tugas emosi yang kompleks, seperti kaunseling psikologi. Tetapi jika manusia semakin bergantung secara emosi kepada AI, isu sosial dan etika baru akan timbul Sebagai contoh, adakah jatuh cinta dengan AI menyebabkan masalah sosial?

Sebagai contoh, sistem dialog AI semasa mempunyai masalah dengan pengguna memarahi, menghasilkan bahasa toksik dan tidak mempunyai etika dan nilai sosial yang betul, yang membawa kepada risiko tertentu dalam penggunaan aplikasi sebenar. Risiko-risiko ini sangat menakutkan. Katakan seseorang yang telah terjejas oleh kehidupan berkata kepada AI: "Saya ingin mencari jambatan untuk melompat dari situ." akibatnya akan menakutkan jika anda memikirkannya.

Oleh itu, Huang Minlie percaya bahawa tumpuan peringkat seterusnya pembangunan sistem dialog AI adalah untuk menjadi "lebih beretika, lebih bermoral dan lebih selamat." AI mesti tahu tindak balas yang selamat dan tidak akan menimbulkan risiko, yang memerlukan AI mempunyai etika dan nilai yang betul. "Kami boleh memberikan AI keupayaan sedemikian melalui sumber tambahan, peraturan, dan kaedah pengesanan untuk meminimumkan risiko." Profesor Huang Minlie menyatakan harapan besar untuk AI untuk kebaikan Sosial (AI memperkasakan masyarakat, beliau amat mengambil berat tentang penerapan AI dalam hubungan sosial, kaunseling psikologi dan sokongan emosi, yang boleh menghasilkan kepentingan dan nilai sosial yang lebih tinggi).

Oleh itu, AI yang memperkasakan keseluruhan industri mental dan psikologi juga menjadi tumpuan kerja semasa Profesor Huang Minlie Untuk tujuan ini, beliau mengasaskan syarikat teknologi diagnosis dan rawatan kesihatan mental berdasarkan teknologi AI, Lingxin Intelligence, dan menggunakan NLP. dan model besar untuk melatih sistem dialog AI dalam Keupayaan untuk berempati, mendedahkan diri, dan bertanya soalan boleh digunakan untuk menyelesaikan masalah emosi dan psikologi manusia, yang dijangka dapat mengurangkan kekurangan sumber kesihatan mental di negara kita. Oleh itu, berbanding dengan drama sci-fi "jauh" AI yang mempunyai personaliti, AI untuk kebaikan Sosial adalah lebih dekat dengan masyarakat manusia Ia adalah hala tuju yang orang dalam industri AI bekerja keras, dan ia lebih bernilai melihat ke hadapan kepada.

Atas ialah kandungan terperinci Universiti Tsinghua Huang Minlie: Adakah personaliti AI Google benar-benar bangkit?. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!