Perbahasan: Apakah perbezaan antara pandangan AI OpenAI Ultraman, Hinton, dan Yang Likun?

Persidangan Zhiyuan Beijing 2023 dibuka di Beijing pada 9 Jun, yang dianjurkan oleh Institut Penyelidikan Zhiyuan. Persidangan itu telah diadakan selama lima tahun berturut-turut dan merupakan acara pertukaran profesional peringkat tinggi antarabangsa tahunan mengenai kecerdasan buatan.

Dilaporkan bahawa persidangan ini akan berlangsung selama dua hari Topik teras adalah peluang dan cabaran yang dihadapi oleh pembangunan kecerdasan buatan Terdapat lebih daripada 200 pakar terkemuka dalam bidang AI yang mengambil bahagian dalam persidangan itu Sam Altman, pengasas OpenAI , pemenang Anugerah Turing Geoffrey Hinton, Yann LeCun dan lain-lain. Mereka semua menyatakan pandangan mereka tentang pembangunan dan cabaran AI.

(Sumber: Peta data)

"Adakah rangkaian saraf tiruan tidak lama lagi akan menjadi lebih pintar daripada rangkaian saraf sebenar Hinton membincangkan soalan sedemikian dalam ucapannya?"

(Sumber: Peta data)

Keupayaan untuk mengikut arahan dengan tepat adalah kunci kepada komputer dalam pengkomputeran tradisional. Disebabkan ciri ini, pengguna boleh memilih perkakasan yang berbeza apabila menggunakan program atau rangkaian saraf yang sama. Ini menunjukkan bahawa tiada pergantungan antara berat rangkaian saraf dalam program dan perkakasan.

"Sebab mereka mengikut arahan adalah kerana ia direka untuk membolehkan kita melihat masalah, menentukan langkah yang diperlukan untuk menyelesaikannya, dan kemudian memberitahu komputer untuk melaksanakan langkah tersebut," kata Hinton.

Untuk melatih model bahasa besar pada kos yang lebih rendah, beliau mencadangkan "pengkomputeran terhad", yang bermaksud meninggalkan prinsip asas pengasingan perkakasan dan perisian dalam pengkomputeran tradisional dan melaksanakan tugas pengkomputeran dengan cekap berdasarkan simulasi perkakasan.

Walau bagaimanapun, terdapat dua masalah utama dengan pendekatan ini.

Pertama, "proses pembelajaran mesti mengeksploitasi sifat simulasi khusus bagi komponen perkakasan yang dijalankannya, dan kami tidak tahu dengan tepat sifat tersebut," kata Hinton.

Kedua, kaedah ini terhad. "Oleh kerana pengetahuan terikat erat dengan butiran perkakasan, apabila peranti perkakasan tertentu gagal, semua pengetahuan yang diperoleh hilang," jelas Hinton. ”

Bagi menyelesaikan masalah di atas, beliau dan rakan-rakannya telah mencuba pelbagai kaedah, seperti "kaedah penyulingan", yang terbukti sangat berkesan.

Beliau juga menegaskan bahawa cara sekumpulan ejen berkongsi pengetahuan akan mempengaruhi banyak faktor dalam pengkomputeran. Ini bermakna model bahasa yang besar pada masa ini nampaknya dapat mempelajari sejumlah besar pengetahuan, tetapi kerana mereka memperoleh pengetahuan terutamanya dengan mempelajari dokumen dan tidak mempunyai keupayaan untuk belajar secara langsung dari dunia sebenar, kaedah pembelajaran adalah sangat tidak cekap.

Model pembelajaran tanpa pengawasan, seperti pemodelan video, membolehkan mereka belajar dengan cekap. Menurut Hinton, apabila didayakan, ejen digital ini mempunyai keupayaan pembelajaran yang lebih besar daripada manusia dan boleh belajar dengan cepat. ”

Jika kita mengikuti trend pembangunan ini, ejen pintar akan menjadi lebih bijak daripada manusia. Walau bagaimanapun, ini juga akan membawa banyak cabaran, seperti perjuangan untuk mengawal antara ejen dan manusia, isu etika dan keselamatan.

"Bayangkan bahawa dalam sepuluh tahun akan datang, sistem Kecerdasan Am Buatan (AGI) akan melebihi tahap kepakaran yang dimiliki manusia pada awal 1990-an."

Dalam ucapan dan sesi Soal Jawabnya dengan Zhang Hongjiang, Pengerusi Institut Penyelidikan Zhiyuan, beliau membincangkan kepentingan dan strategi mempromosikan keselamatan AGI.

(Sumber: Peta data)

“Kita mesti bertanggungjawab terhadap masalah yang mungkin ditimbulkan oleh pembangunan dan penempatan yang melulu, sambil menunjukkan dua hala, iaitu mewujudkan norma dan piawaian antarabangsa yang inklusif, dan mempromosikan sistem keselamatan AGI melalui kerjasama antarabangsa dalam pembinaan.

Buat masa ini, cara melatih model bahasa berskala besar supaya mereka boleh menjadi pembantu manusia yang benar-benar selamat dan membantu adalah masalah utama yang perlu diselesaikan.

Ultraman mencadangkan beberapa penyelesaian untuk masalah ini.

Pertama, melabur dalam penyeliaan berskala, seperti melatih model yang boleh membantu manusia dalam menyelia sistem AI yang lain.

Kedua, teruskan meningkatkan teknologi pembelajaran mesin untuk meningkatkan lagi kebolehtafsiran model.

Matlamat utama kami adalah untuk membolehkan sistem AI mengoptimumkan diri mereka dengan lebih baik. Altman berkata, "Apabila model masa depan menjadi semakin pintar dan lebih berkuasa, kami akan menemui teknik pembelajaran yang lebih baik yang mengurangkan risiko sambil memanfaatkan faedah luar biasa AI. ”

Yang Likun dan Altman mempunyai pandangan yang sama tentang cara menangani risiko semasa yang dibawa oleh AI. Ayat ini boleh ditulis semula sebagai: "Walaupun risiko ini wujud, ia boleh dikurangkan atau dikawal melalui reka bentuk kejuruteraan yang teliti.". ”

Namun, sebagai pakar yang sentiasa menentang model besar seperti GPT, Yang Likun jelas menunjukkan kelebihan sistem AI yang diwakili oleh pembelajaran penyeliaan kendiri dalam ucapannya bertajuk "Ke Arah Mesin Yang Boleh Belajar, Berfikir dan Merancang" kekurangan .

(Sumber: Peta data)

Walaupun ia telah menunjukkan kesan yang sangat kuat dalam pemprosesan dan penjanaan bahasa semula jadi, ia tidak mempunyai keupayaan untuk menaakul dan merancang seperti manusia dan haiwan, jadi ia pasti akan membawa kepada beberapa kesilapan fakta dan kesilapan logik , seperti isu keracunan nilai.

Berdasarkan perkara ini, Yang Likun percaya bahawa AI akan menghadapi tiga cabaran utama dalam beberapa tahun akan datang: model pembelajaran untuk keupayaan penaakulan dan pembelajaran dunia; dan mempelajari cara menguraikan tugasan yang kompleks kepada tugasan mudah dan memajukannya secara berlapis-lapis; .

Selain itu, beliau mencadangkan idea bahawa model dunia adalah pusat kepada laluan ke AGI.

Pada pandangan beliau, model dunia adalah sistem yang boleh membayangkan apa yang akan berlaku pada masa hadapan dan boleh membuat ramalan sendiri dengan kos yang minimum.

Sistem berfungsi dengan menggunakan pandangan dunia terdahulu yang mungkin disimpan dalam ingatan untuk memproses keadaan semasa dunia. Anda kemudian menggunakan model dunia untuk meramalkan bagaimana dunia akan diteruskan dan apa yang akan berlaku. "Kata Yang Likun.

Jadi, bagaimana untuk melaksanakan model dunia ini? "Kami mempunyai sistem berlapis yang mengekstrak lebih banyak perwakilan abstrak keadaan dunia melalui rangkaian pengekod dan model dunia menggunakan lapisan peramal yang berbeza," katanya.

Ringkasnya, tugas yang rumit dipecahkan dan dirancang untuk diselesaikan dalam milisaat. Untuk menjadi jelas, mesti ada sistem untuk mengawal kos dan mengoptimumkan piawaian.

Ringkasnya, dapat dilihat bahawa walaupun ketiga-tiga pakar mempunyai pandangan dan pendapat yang berbeza tentang AI, mereka semua menyatakan bahawa pembangunan AI telah menjadi trend umum. Seperti kata Ultraman, kita tidak boleh menghentikan pembangunan AI.

Atas dasar ini, cara mencari cara yang lebih baik untuk membangunkan AI, mengekang siri risiko dan bahaya yang mungkin dibawanya, dan akhirnya bergerak ke arah penghujung AGI akan menjadi hala tuju utama yang perlu ditumpukan oleh orang ramai pada masa hadapan pentas.

Atas ialah kandungan terperinci Perbahasan: Apakah perbezaan antara pandangan AI OpenAI Ultraman, Hinton, dan Yang Likun?. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!