Tiga peringkat kecerdasan buatan: Mengapa saintis bergabung tenaga untuk menyekat teknologi AI yang boleh membawa kepada kepupusan manusia

Pakar termasuk ketua OpenAI dan Google Deepmind memberi amaran bahawa kecerdasan buatan boleh membawa kepada kepupusan manusia, tetapi bagaimanakah mesin boleh menggantikan manusia?

Sejak dilancarkan pada November 2022, ChatGPT—chatbot yang menggunakan kecerdasan buatan untuk menjawab soalan atau menjana teks atau pun kod berdasarkan keperluan pengguna—telah menjadi aplikasi Internet yang paling pesat berkembang dalam sejarah.

Hanya dalam masa dua bulan, ia mencapai 100 juta pengguna aktif. Menurut syarikat pemantau teknologi Sensor Town, Instagram mengambil masa selama dua setengah tahun untuk mencapai kejayaan ini.

ChatGPT, dibangunkan oleh OpenAI dengan pembiayaan daripada Microsoft, telah mendapat populariti yang meluas, mencetuskan spekulasi sengit tentang kesan kecerdasan buatan terhadap masa depan manusia.

Berpuluh-puluh pakar menyokong kenyataan yang disiarkan di halaman Pusat Keselamatan AI, dengan mengatakan: “Mengurangkan risiko kepupusan yang ditimbulkan oleh AI harus menjadi keutamaan global bersama risiko berskala masyarakat lain seperti wabak dan perang nuklear ”

Tetapi ada yang mengatakan kebimbangan ini keterlaluan.

Tiru manusia

Kecerdasan buatan seperti ChatGPT, DALL-E, Bard dan AlphaCode menghasilkan teks (daripada prosa, puisi dan jenaka kepada kod komputer) dan imej (seperti gambar rajah, foto dan karya seni) yang hampir sama dengan manusia. kerja sendiri.

Pelajar menggunakannya untuk menulis kerja rumah dan ahli politik menggunakannya untuk menulis ucapan. Wakil Demokrat Jack Auchincloss melancarkan sumber itu di Kongres A.S..

Gergasi teknologi IBM berkata ia akan berhenti merekrut 7,800 jawatan yang boleh dikendalikan oleh kecerdasan buatan.

Jika semua perubahan ini membebankan anda, bersedialah:

Kami hanya berada di peringkat pertama kecerdasan buatan, dengan dua lagi peringkat akan datang, yang dikhuatiri oleh sesetengah saintis boleh mengancam kelangsungan hidup manusia.

Berikut ialah tiga peringkat.

1. Kecerdasan Sempit Buatan

AI yang lemah, juga dikenali sebagai AI domain terhad, memfokuskan pada satu tugasan dan melakukan kerja berulang merentasi pelbagai fungsi.

Ia biasanya belajar daripada sejumlah besar data, seperti daripada Internet, tetapi hanya dalam domain tertentu ia diprogramkan untuk belajar.

Contohnya ialah program catur yang mampu menewaskan juara dunia, tetapi tidak mampu melaksanakan tugas lain.

Telefon pintar penuh dengan apl yang menggunakan teknologi ini, daripada peta GPS, kepada program muzik dan video yang memahami citarasa anda dan membuat pengesyoran.

Sistem yang lebih kompleks, seperti kereta pandu sendiri dan ChatGPT, masih tergolong dalam kategori kecerdasan buatan yang lemah. Mereka tidak boleh beroperasi di luar batasan peranan yang diberikan dan oleh itu tidak boleh membuat keputusan sendiri.

Tetapi sesetengah pakar percaya bahawa sistem yang diprogramkan dengan keupayaan pembelajaran automatik, seperti ChatGPT atau AutoGPT, mungkin memasuki peringkat pembangunan seterusnya.

2. Kecerdasan Am Buatan

Kecerdasan am buatan akan tiba apabila mesin boleh menyelesaikan sebarang tugas intelektual yang boleh dilakukan oleh manusia.

Ia juga dipanggil "kecerdasan buatan yang kuat".

Penggantungan 6 bulan

Pada Mac 2023, lebih 1,000 pakar teknikal menyeru "semua makmal kecerdasan buatan supaya segera menangguhkan latihan sistem kecerdasan buatan yang lebih berkuasa daripada GPT-4 selama sekurang-kurangnya 6 bulan," GPT-4 ialah versi terkini ChatGPT .

Sistem kecerdasan buatan dengan kecerdasan yang ditulis oleh manusia saingan, termasuk pengasas bersama Apple, Steve Wozniak dan gergasi teknologi lain termasuk bos Tesla dan SpaceX, Elon Musk Mungkin menimbulkan risiko besar kepada masyarakat dan manusia." Musk ialah salah seorang pengasas bersama OpenAI dan kemudiannya meletak jawatan daripada lembaga pengarah kerana perselisihan faham dengan kepimpinan syarikat.

Dalam surat itu, yang diterbitkan oleh Future of Life Institute yang bukan untung, pakar mengatakan bahawa jika syarikat enggan menghentikan projek mereka dengan cepat, "kerajaan harus campur tangan dan mengenakan moratorium" supaya langkah keselamatan boleh direka dan dilaksanakan.

“Pintar dan bodoh”

Surat itu ditandatangani oleh Carissa Veliz dari Institut Etika Kepintaran Buatan di Universiti Oxford. Dia enggan menandatangani kerana dia percaya kenyataan amaran yang akhirnya dikeluarkan oleh Pusat Keselamatan Kecerdasan Buatan adalah terlalu melampau.

"Jenis AI yang sedang kami bangunkan adalah pintar dan bodoh," katanya kepada Andrew Webber "Jika sesiapa telah mencuba ChatGPT atau AI lain, mereka akan menyedari bahawa mereka mempunyai had yang sangat ketara."

Weiliz berkata dia bimbang kecerdasan buatan akan mencipta maklumat salah pada kadar yang sangat tinggi.

Memandangkan pilihan raya presiden AS 2024 semakin hampir, saya semakin bimbang bahawa platform penting seperti Twitter dan platform utama lain telah memberhentikan etika AI dan pasukan keselamatan mereka. ”

Kerajaan A.S. mengakui potensi ancaman. Rumah Putih berkata dalam satu kenyataan pada 4 Mei: "Kecerdasan buatan adalah salah satu teknologi paling berkuasa pada zaman kita, tetapi untuk merebut peluang yang dibawanya, kita mesti mengurangkan risikonya dahulu."

Kongres A.S. telah memanggil Ketua Pegawai Eksekutif OpenAI Sam Altman untuk menjawab soalan mengenai ChatGPT.

Pada perbicaraan Senat, Altman berkata ia "sangat penting" untuk peraturan kerajaan terhadap industrinya apabila kecerdasan buatan berkembang.

Gutierrez, seorang penyelidik dasar awam di Future of Life Institute, menjelaskan kepada wartawan bahawa salah satu cabaran besar yang ditimbulkan oleh kecerdasan buatan ialah "tidak ada badan bersama yang terdiri daripada pakar untuk memutuskan cara mengawalnya, seperti antara kerajaan. badan perubahan iklim." Seperti Jawatankuasa Perubahan."

Ini membawa kita ke peringkat ketiga dan terakhir kecerdasan buatan.

3. Kepintaran buatan super

Teori ini berpendapat apabila kita mencapai peringkat kedua, kita akan memasuki peringkat akhir tidak lama lagi, iaitu "kecerdasan buatan super". Inilah yang berlaku apabila kecerdasan buatan mengatasi kecerdasan manusia.

Ahli falsafah Universiti Oxford dan pakar kecerdasan buatan Bostrom mentakrifkan superintelligence sebagai "kepintaran yang jauh melebihi otak manusia terbaik dalam hampir semua bidang, termasuk kreativiti saintifik, kecerdasan am dan kemahiran sosial."

"Manusia perlu belajar untuk masa yang lama untuk menjadi jurutera, jururawat atau peguam Kesukaran dengan AI am adalah keupayaannya untuk terus memperbaiki dirinya dalam situasi yang kita tidak boleh," jelas Gutierrez. ”.

Fiksyen Sains

Konsep ini mengingatkan plot filem "Terminator", di mana mesin memulakan perang nuklear yang memusnahkan manusia.

Saintis komputer Universiti Princeton Narayanan sebelum ini memberitahu pemberita bahawa senario bencana fiksyen sains adalah tidak realistik: "Kecerdasan buatan semasa masih jauh dari cukup untuk menjadikan risiko ini menjadi kenyataan. Akhirnya, ia mengalih perhatian orang ramai daripada bahaya jangka pendek kecerdasan buatan terhadap perhatian ”

Walaupun terdapat banyak perdebatan tentang sama ada mesin sebenarnya boleh mencapai jenis kecerdasan luas yang dimiliki oleh manusia, terutamanya dari segi kecerdasan emosi, ini adalah salah satu ketakutan terbesar mereka yang percaya bahawa kita berada di ambang untuk mencapai artifisial am. kecerdasan.

Baru-baru ini, "Godfather of Artificial Intelligence" Jeffrey Hinton memberi amaran bahawa kita mungkin menghampiri kejayaan ini. Hinton adalah perintis dalam mengajar mesin untuk belajar daripada pengalaman.

“Saya tidak fikir [mesin] lebih bijak daripada kami sekarang, memandangkan dia sudah bersara dan berusia 75 tahun, saya rasa mereka mungkin akan sampai ke sana tidak lama lagi

Dalam satu kenyataan kepada The New York Times yang mengumumkan pemergiannya daripada Google, Hinton berkata dia kini kesal dengan kerja yang dilakukannya kerana dia bimbang "pelakon jahat" akan menggunakan kecerdasan buatan untuk melakukan "perkara buruk".

Dia memberi amaran bahawa mesin ini boleh akhirnya "mencipta sub-matlamat seperti 'Saya memerlukan lebih banyak kuasa'" yang akan menimbulkan "risiko kewujudan".

Walaupun Hinton mengakui bahawa kecerdasan buatan mungkin mempunyai risiko, dia percaya bahawa dalam jangka pendek manfaatnya mengatasi risiko, dan oleh itu percaya bahawa kita tidak harus berhenti membangunkan teknologi ini. ” katanya

Kepupusan atau Keabadian

Ahli fizik Britain, Stephen Hawking mengeluarkan amaran keras.

"Pembangunan penuh kecerdasan buatan boleh bermakna berakhirnya umat manusia," katanya kepada pemberita pada 2014, empat tahun sebelum kematiannya.

Mesin dengan tahap kecerdasan ini "akan berkembang sendiri dan mereka bentuk semula pada kadar yang semakin meningkat," katanya.

Nanobot dan Keabadian

Pencipta dan pengarang futuristik Kurzweil ialah salah seorang peminat kecerdasan buatan terbesar. Beliau ialah penyelidik kecerdasan buatan di Google dan pengasas bersama Universiti Singularity di Silicon Valley.

Kurzweil percaya bahawa manusia akan dapat menggunakan kecerdasan buatan yang sangat pintar untuk mengatasi halangan biologi.

Pada tahun 2015, beliau meramalkan bahawa menjelang 2030, manusia akan mencapai keabadian kerana nanobots (robot yang sangat kecil) bekerja di dalam badan kita, mampu membaiki dan menyembuhkan sebarang kerosakan atau penyakit.

Pengurusan Kepintaran Buatan

Gutierrez bersetuju bahawa kuncinya ialah mewujudkan sistem tadbir urus AI.

"Bayangkan masa depan di mana entiti mempunyai begitu banyak maklumat tentang setiap orang di planet ini dan tabiat mereka (kerana carian internet) yang boleh mengawal kita dengan cara yang kita tidak sedari," katanya.

"Senario terburuk bukanlah peperangan antara manusia dan robot. Kami berkongsi planet ini dengan makhluk yang lebih bijak daripada kami, dan malangnya, kami tidak menyedari bahawa kami sedang dimanipulasi."

Atas ialah kandungan terperinci Tiga peringkat kecerdasan buatan: Mengapa saintis bergabung tenaga untuk menyekat teknologi AI yang boleh membawa kepada kepupusan manusia. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!