"Mengurangkan risiko AI memusnahkan manusia harus menjadi keutamaan global bersama risiko berskala masyarakat yang lain seperti wabak dan perang nuklear
Seperti baldi air sejuk yang dicurahkan, termasuk pakar terkemuka dalam bidang kecerdasan buatan, tokoh "Ayah baptis AI", taikun industri seperti CEO Open AI Sam Altman dan CEO DeepMind Demis Hassabis, serta ratusan pengamal bersama -menandatangani surat terbuka.
Dalam surat itu, mereka menyeru kerajaan dan orang ramai supaya cukup berhati-hati tentang kecerdasan buatan. Mereka bimbang dengan kemajuan pesat teknologi AI, ia mungkin menimbulkan ancaman eksistensi kepada manusia.
Ini mengingatkan amaran dan rayuan Musk, beliau berharap untuk menangguhkan pembangunan dan eksperimen kecerdasan buatan berskala besar “Kecerdasan buatan lanjutan mungkin mewakili perubahan mendalam dalam sejarah kehidupan di bumi dan harus ditangani dengan perhatian yang sepadan. . dan perancangan dan pengurusan sumber ”
Dua amaran heavyweight sebelum dan selepas memaksa orang ramai berfikir secara serius tentang bagaimana kita harus menghadapi kedatangan era kecerdasan buatan.
Walaupun ChatGPT yang dilancarkan oleh Open AI telah menarik perhatian dunia dan mengetuai keghairahan orang ramai terhadap kecerdasan buatan, industri percaya bahawa AI sememangnya telah memasuki "detik iPhone".
Dalam erti kata lain, sama seperti Steve Jobs melancarkan iPhone dan secara rasmi melancarkan era Internet mudah alih, manusia akan mula (atau sudah) memasuki era kecerdasan buatan.
Namun, apa yang berbeza dengan era Internet mudah alih ialah masih sukar untuk menyatakan siapa pemimpin tidak kira Amerika Syarikat, China, atau Eropah, tiada siapa yang berani mengatakan bahawa mereka adalah Steve Jobs, kerana tidak. seseorang telah melancarkan iPhone Produk pembuatan zaman.
Dalam era bergelora ini, walaupun OpenAI berada di hadapan separuh, ia mungkin hanya "perintis untuk raja". garisan permulaan.
Mungkin tidak akan mengambil masa beberapa tahun untuk mengetahui siapa "takdir" itu.
Sebagai Ketua Pegawai Eksekutif Open AI, Sam Altman mempunyai perasaan yang melampaui kepentingan komersial. Dia telah menekankan risiko kecerdasan buatan berkali-kali.
Perkembangan pesat model kecerdasan buatan seperti ChatGPT mungkin menimbulkan potensi ancaman kepada masyarakat dan pekerjaan Jika kecerdasan buatan tidak terkawal, ia akan menyebabkan kematian manusia berskala besar dan juga kehilangan spesies, sama seperti wabak dan perang nuklear. risiko kepupusan.
Jadi, Sam Altman menyertai ramai orang dalam menyeru kerajaan untuk memperkasakan penyeliaan Tetapi masalahnya ialah agensi kerajaan sering ketinggalan dalam menyelia perkara baru dan teknologi baru Mereka tidak tahu bagaimana untuk menyelia tidak tahu apa maksud AI.
Kognisi manusia sedang dalam proses peningkatan berterusan, dan kebanyakan orang mempercayainya kerana mereka melihatnya Tetapi paradoksnya ialah jika anda menunggu sehingga AI benar-benar menimbulkan ancaman eksistensi kepada manusia, ia mungkin sudah terlambat.
Kita juga boleh membuat hipotesis, jika teknologi nuklear tidak mempunyai kaedah penyeliaan dan semakan yang relevan, bagaimanakah keadaan masyarakat manusia? Dari satu segi, teknologi AI mungkin lebih merosakkan daripada teknologi nuklear.
Dari perspektif peningkatan produktiviti, kecerdasan buatan akan memberi kesan yang sangat besar dan akan membebaskan orang ramai daripada kerja fizikal yang berat dan banyak kerja mental yang bernilai rendah.
Robot penyapu, robot memasak, robot industri, robot perlombongan dan robot perubatan semuanya boleh memudahkan kehidupan orang ramai. AI mempunyai potensi besar dari segi analisis data, pengecaman imej, ketepatan dan kecekapan.
Tetapi dengan mempopularkan AI, sejumlah besar pekerjaan buruh berulang akan diganti, ramai orang akan menganggur, dan pencerobohan privasi oleh kecerdasan buatan adalah membimbangkan Selain itu, berita, perang, keselamatan, undang-undang, algoritma diskriminasi dan Cabaran etika dan moral (seperti jurang pemisah antara kaya dan miskin).
Kissinger berkata bahawa manusia belum bersedia dan manusia perlu mentakrifkan semula hubungan mereka dengan spesies baharu ini, AI. Pendapat ini sememangnya wajar mendapat perhatian dan pertimbangan semua lapisan masyarakat.
Walau bagaimanapun, semua orang mempunyai konsensus yang besar, iaitu, secara keseluruhan, AI lebih bermanfaat daripada berbahaya kepada manusia, dan tiada siapa yang boleh mengatakan bahawa teknologi AI dicekik dalam buaian Ia akan berkembang, jadi kuncinya adalah pembangunan Percanggahan antara kawalan dan kawalan boleh mencapai kelebihannya dan menghapuskan kelemahannya.
Dalam era Internet, Internet penuh dengan semua jenis maklumat palsu, negatif dan berbahaya, yang membawa cabaran besar kepada keupayaan orang ramai untuk menilai dan membezakan maklumat.
Dalam era kecerdasan buatan, sukar untuk membezakan antara yang benar dan yang salah Jika AI ingin menipu orang, sudah pasti ada kes penipu menggunakan teknologi AI untuk menipu orang berdepan saudara mara dan rakan-rakan di telefon bimbit anda, anda tidak boleh Tahu sama ada orang itu adalah orang sebenar atau pembohong berpura-pura menjadi orang sebenar.
Selain itu, berbanding dengan pemikiran digital AI yang berkuasa (yang semakin kuat dan kukuh, seperti fabrikasi rawak gaya AI), apakah nilai dan kelebihan pemikiran manusia? Lebih serius, dalam menghadapi AI, berapa banyak ruang yang tinggal untuk cahaya tamadun manusia?
Tetapi persaingan AI telah pun bermula Nampaknya tidak ramai yang sanggup berhenti dan berfikir dengan teliti tentang risiko AI Semua orang mahu berjalan lebih cepat, siapa yang peduli
Faktor yang dibawa oleh manusia menjadikan masa depan penuh dengan ketidakpastian. Di mana kecerdasan buatan akan mendorong manusia bergantung pada usaha semasa kita.
Atas ialah kandungan terperinci Untuk kecerdasan buatan, manusia benar-benar perlu kagum! Amaran daripada bapa ChatGPT patut diberi perhatian. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!