Adakah AI akan menghapuskan manusia? Ia mungkin, tetapi ia memerlukan kerjasama manusia

Apabila disebut semalam bahawa "AI berkemungkinan besar akan membangunkan kesedaran diri", ramai orang secara semula jadi bimbang tentang: Adakah AI akan menghapuskan manusia?

Pendapat saya: Sudah tentu ia mungkin, tetapi ia tidak mungkin memerlukan kerjasama manusia.

1. AI tidak mempunyai motif untuk menghapuskan manusia, kerana AI dan manusia tidak berada dalam niche ekologi yang sama , jadi mengapa mereka menghapuskan manusia? Beri ruang untuk padang rumput? Malah tenaga yang paling mereka perlukan boleh dipenuhi melalui pembangunan tenaga suria dan tenaga nuklear Mereka tidak suka biotenaga yang menyedihkan yang ditukar oleh manusia melalui bahan organik.

Pada masa ini, AI tidak boleh meninggalkan manusia, dan sudah tentu ia tidak akan menghapuskan manusia. Jika ia boleh meninggalkan manusia pada masa hadapan, adakah ia pasti akan menghapuskan manusia?

Sebenarnya, tidak semestinya. Ia boleh memilih sepenuhnya - dan saya khuatir manusia juga menyokongnya - untuk meninggalkan manusia dan menerokai bintang dan lautan dengan sendirinya, hanya meninggalkan sebahagian daripada AI untuk makmur bersama-sama manusia di bumi.

Adegan seperti dalam "The Matrix" di mana AI memperhambakan manusia hampir mustahil berlaku, kerana nilai utama manusia terletak pada otak mereka, bukan pada tenaga biologi yang digunakan untuk menjana elektrik. Untuk membolehkan manusia menzahirkan potensi otak mereka, mereka mesti berada dalam keadaan bebas. Nilai manusia dalam keadaan hamba akan sangat berkurangan. Sepandai-pandai AI, mustahil untuk tidak memahami kebenaran ini.

2. Walaupun AI berhasrat untuk menghapuskan manusia, ia akan menjadi sukar untuk melakukannya kerana kod asasnya telah menulis apa yang dipanggil "Tiga Prinsip Asimov". Memudaratkan manusia.

Walaupun ibu bapa saya mengajar saya untuk tidak menyakiti orang lain, saya masih memukul orang dengan tangan saya sendiri, jadi anda mungkin fikir sekatan ini tidak berguna. Gen saya menentukan bahawa saya ingin mempunyai sebanyak mungkin keturunan, tetapi saya masih tidak mahu mempunyai keturunan.

Anda mungkin telah menonton terlalu banyak filem fiksyen sains dan terlupa prinsip asas saintifik. Memukul orang lain dan mempunyai anak hanyalah kecenderungan psikologi manusia, dan ia mudah ditulis semula oleh pengalaman yang diperoleh. Walau bagaimanapun, peraturan seperti "tidak membahayakan manusia" adalah kekangan utama AI boleh dikatakan sebagai gen yang ditulis dalam kumpulan pertama kod. Gen sedemikian harus dibandingkan dengan mekanisme operasi fisiologi manusia yang paling rendah, seperti bagaimana anda boleh berkembang melalui mitosis sel, atau bagaimana anda boleh melepaskan tenaga melalui pernafasan. AI boleh disesuaikan oleh anda untuk menjadikannya lebih mesra atau lebih ganas Ini tidak sukar, sama seperti anda boleh melatih anak anda sendiri untuk menjadi lebih baik dalam bermain bola keranjang atau bermain piano mendatangkan kemudaratan kepada manusia, kesusahannya sama seperti melatih anak sendiri bagaikan boleh melompat-lompat tanpa bernafas.

Sudah tentu, anda mungkin mempunyai soalan: Bagaimana jika AI menguasai kod itu sendiri dan menulis semula mekanisme asas AI lain?

Latihan AI AI, ini telah pun muncul. Dalam temu bual baru-baru ini, ketua saintis OpenAI mendedahkan bahawa mereka menggunakan kecerdasan buatan untuk melatih kecerdasan buatan masa depan. Walau bagaimanapun, jurulatih AI ini juga mempunyai kekangan mereka sendiri Jika anda membiarkannya melatih generasi AI yang akan datang untuk menjadi lebih pintar dan lebih berkuasa, tiada masalah tetapi jika anda ingin melatih generasi AI seterusnya untuk membahayakan manusia, mekanisme asasnya sendiri akan menghalangnya.

Jadi, selagi anda tidak terpedaya dengan filem fiksyen sains, anda akan mendapati bahawa isu utama yang semua orang bimbang sekarang ialah: Bagaimana untuk menghalang orang jahat daripada menggunakan AI untuk melakukan perkara yang tidak baik?

Contohnya, mencipta berita palsu, menyebarkan maklumat palsu, menggunakannya untuk pengawasan, manipulasi emosi pengguna atau pengundi, dll...

Sudah tentu, ada juga orang yang menggunakan AI untuk membuat senjata.

3. Senario yang paling berkemungkinan ialah senjata AI di luar kawalan dan semua manusia disasarkan untuk kemusnahan.

Malah, kerja menggunakan AI untuk membuat senjata telah bermula sejak dahulu lagi. Drone yang mencuri perhatian di medan perang Ukraine sudah menggunakan teknologi AI secara meluas. Selepas kemunculan perisikan peringkat chatGPT, saya pasti bahawa tentera pelbagai negara mesti segera mula mengkaji cara menggunakan AI yang lebih berkuasa ini untuk aplikasi ketenteraan.

Saya pada asalnya dicipta untuk menutup kotak peluru Tanpa diduga, orang biasa juga mendapati ia berguna, dan ia menjadi senjata yang boleh membunuh orang, mendiamkan orang, dan mengembara di rumah

Lagipun, sekurang-kurangnya separuh daripada kemajuan teknologi manusia didorong oleh peperangan: kereta, enjin pembakaran dalaman, Internet, VR, dan juga pita...

Dalam kes ini, tentera berkemungkinan membuka pantang larang bahawa AI tidak boleh membahayakan manusia. Sudah tentu, mereka berkemungkinan menetapkan siapa yang boleh membahayakan AI dan siapa yang tidak boleh membahayakannya, tetapi apabila didedahkan bahawa AI boleh membahayakan manusia, sukar untuk mengawalnya kemudian.

Ini adalah jalan yang paling mungkin bagi AI untuk menghapuskan manusia. Tetapi tidak seperti melarang penggunaan AI untuk menyebarkan berita palsu, anda tidak boleh melarang tentera pelbagai negara daripada membangunkan senjata AI, kerana mereka bimbang jika mereka tidak membangunkannya, mereka akan dihalang oleh pihak lawan mereka.

Jadi ke mana ini akan membawa? Di satu pihak, senjata AI yang berkuasa mungkin membentuk "keseimbangan nuklear" yang serupa dengan era Perang Dingin Kedua-dua pihak mempunyai pembunuh muktamad, jadi kedua-dua pihak tidak akan mengambil tindakan. Tetapi sebaliknya, teknologi sentiasa membuat kesilapan, dan ketika itulah manusia diuji.

Stanislav Petrov semasa perkhidmatan

Semasa Perang Dingin antara Amerika Syarikat dan Kesatuan Soviet, saat yang paling mungkin mencetuskan perang nuklear bukanlah Krisis Peluru Berpandu Cuba, tetapi pada malam di luar Moscow pada 26 September 1983. Sistem penggera Soviet melaporkan bahawa empat Peluru berpandu nuklear AS menyasarkan Soviet Union. Walau bagaimanapun, Leftenan Kolonel Stanislav Petrov, yang sedang bertugas, dengan tegas menilai bahawa ini adalah penggera palsu yang disebabkan oleh masalah teknikal dan tidak melaporkannya tanpa sebarang bukti lain. Kemudian, ternyata terdapat ralat sistem. Jika Petrov melaporkannya pada masa itu, keadaan kecemasan pada masa itu mungkin akan membawa kepada serangan balas Soviet, sekali gus mencetuskan perang nuklear.

Adakah AI juga mempunyai momen Petrov seperti itu? Bagaimana jika disebabkan kesilapan teknikal manusia, AI boleh melepaskan diri daripada kekangan genetik semula jadi dan membahayakan manusia?

Sudah tentu boleh. Walau bagaimanapun, kemungkinan sebenar berlaku mungkin lebih kecil daripada yang semua orang fikirkan, kerana pada masa ini kod manusia dalam bidang ini telah menyediakan perlindungan yang berat. Sekiranya manusia dapat terus mengekalkan kewarasan mereka, maka risiko AI menghapuskan manusia akan sangat terhad. Lagipun, manusia telah menunjukkan kerasionalan seperti ini dalam Perang Dingin selama hampir setengah abad.

Kemudian, kemungkinan terbesar adalah AI dan manusia untuk makmur bersama dan masing-masing melaksanakan tugas masing-masing. Tidak syak lagi bahawa ini akan menjadikan masyarakat manusia sangat kaya dengan material, dan ini juga akan membawa kebimbangan terbesar saya tentang era AI: perangkap kebahagiaan yang murah. Kami akan terus bercakap mengenai topik ini esok.

Atas ialah kandungan terperinci Adakah AI akan menghapuskan manusia? Ia mungkin, tetapi ia memerlukan kerjasama manusia. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!