Bekas CEO Google: AI seperti senjata nuklear negara-negara besar perlu mewujudkan 'pencegahan AI' untuk memastikan kemusnahan bersama.

Bekas Ketua Pegawai Eksekutif Google Eric Schmidt membandingkan kecerdasan buatan dengan senjata nuklear dalam temu bual dan menggesa penubuhan mekanisme penghalang yang sama bagi kemusnahan yang saling terjamin untuk mengelakkan negara-negara yang paling Berkuasa di dunia memusnahkan satu sama lain kerana AI.

Mutually Assured Destruction (pendek kata mekanisme M.A.D., juga dikenali sebagai prinsip kemusnahan bersama) ialah idea tentang sifat "semua musnah". Jika salah satu daripada dua pihak yang bertentangan menggunakannya sepenuhnya, kedua-dua pihak akan musnah, yang dipanggil "keseimbangan keganasan."

Schmidt membandingkan AI dengan senjata nuklear, mengatakan bahawa China dan Amerika Syarikat mungkin memeterai perjanjian yang serupa dengan larangan "ujian nuklear" pada masa hadapan untuk menghalang AI daripada memusnahkan dunia.

Schmidt: Saya masih sangat muda dan naif pada masa itu

Pada 22 Julai, Schmidt bercakap di Forum Keselamatan Aspen mengenai keselamatan negara dan kecerdasan buatan. Bahaya kecerdasan buatan telah dibincangkan di panel.

Sebagai respons kepada soalan tentang nilai etika dalam teknologi, Schmidt menjelaskan bahawa dia sendiri naif tentang kuasa maklumat pada zaman awal Google.

Dia kemudiannya menyeru agar teknologi lebih sejajar dengan moral dan etika mereka yang berkhidmat, dan membuat perbandingan pelik antara kecerdasan buatan dan senjata nuklear.

Schmidt membayangkan bahawa dalam masa terdekat, China dan Amerika Syarikat perlu menandatangani beberapa perjanjian mengenai kecerdasan buatan.

Schmidt berkata: "Pada tahun 1950-an dan 1960-an, kami berakhir dengan peraturan 'yang dijangka' tentang ujian nuklear, dan ujian nuklear akhirnya diharamkan

Schmidt percaya bahawa "ini adalah contoh keseimbangan kepercayaan atau kekurangan kepercayaan, yang merupakan peraturan 'tiada kejutan'", dan dia sangat bimbang tentang permulaan beberapa salah faham dan salah faham antara Amerika Syarikat dan China, dua kuasa kecerdasan buatan. Sesuatu yang membawa kepada mencetuskan peristiwa berbahaya.

Schmidt berkata bahawa tiada siapa yang sedang melakukan penyelidikan dalam bidang ini, tetapi kecerdasan buatan sangat berkuasa.

Eric Schmidt berkhidmat sebagai Ketua Pegawai Eksekutif Google dari 2001 hingga 2011, pengerusi eksekutif Google dari 2011 hingga 2015 dan pengerusi eksekutif Alphabet dari 2015 hingga 2017, 2017 Dari 2020 hingga 2020, beliau berkhidmat sebagai penasihat teknikal untuk Abjad.

Pada tahun 2008, semasa berkhidmat sebagai pengerusi Google, Schmidt berkempen untuk Barack Obama dan kemudiannya bertemu dengan Eric Lander Lander dan menjadi ahli Majlis Penasihat Sains dan Sains Presiden Obama. Teknologi.

Dari 2019 hingga 2021, Schmidt mempengerusikan bersama Suruhanjaya Keselamatan Negara mengenai AI dengan Robert O. Work.

Adakah AI benar-benar berbahaya?

Kecerdasan buatan dan pembelajaran mesin adalah teknologi yang mengagumkan tetapi sering disalahfahamkan. Untuk sebahagian besar, ia tidak sepandai yang orang fikirkan.

Ia boleh menghasilkan karya seni peringkat karya, mengalahkan manusia dalam StarCraft 2, dan boleh membuat panggilan telefon asas untuk pengguna Walau bagaimanapun, cuba menyelesaikan tugas yang lebih kompleks, seperti pemanduan autonomi, Tetapi tidak pergi dengan baik.

Schmidt membayangkan bahawa dalam masa terdekat, kedua-dua China dan Amerika Syarikat akan mengambil berat tentang isu keselamatan, memaksa kedua-dua pihak mencapai beberapa jenis perjanjian pencegahan mengenai kecerdasan buatan. ​

Dia bercakap tentang 1950-an dan 1960-an, apabila negara menggunakan diplomasi untuk mengatur beberapa siri kawalan ke atas senjata paling mematikan di dunia. Tetapi ia akan mengambil masa beberapa dekad letupan nuklear untuk dunia sampai ke titik di mana Perjanjian Larangan Ujian Nuklear, serta SALT II dan perundangan mercu tanda lain, digubal, seperti letupan nuklear di Hiroshima dan Nagasaki.

Amerika Syarikat memusnahkan dua bandar Jepun dengan senjata nuklear pada akhir Perang Dunia II, membunuh beribu-ribu orang dan membuktikan kepada dunia kengerian abadi senjata nuklear.

Seterusnya, Kesatuan Soviet dan China juga berjaya membangunkan senjata nuklear, dan kemudiannya Mutually Assured Destruction (MAD) dilahirkan, teori pencegahan yang mengekalkan "keseimbangan bahaya" untuk memastikan bahawa jika sesebuah negara melancarkan nuklear senjata, negara lain juga boleh melancarkan pelepasan senjata nuklear.

Setakat ini, manusia telah mengelak daripada menggunakan senjata yang paling merosakkan di planet ini kerana berbuat demikian akan memusnahkan tamadun di seluruh dunia.

Adakah kecerdasan buatan pada masa ini mempunyai kuasa sedemikian? ​

Nampaknya kecerdasan buatan tidak membuktikan dirinya sebagai pemusnah seperti senjata nuklear, tetapi ramai orang yang berkuasa takut dengan teknologi baharu ini, malah orang ramai mencadangkan menyerahkan kawalan senjata nuklear kepada kecerdasan buatan. Orang-orang ini percaya Kepintaran buatan lebih sesuai daripada manusia untuk bertindak sebagai penimbang tara penggunaan senjata nuklear.

Jadi mungkin masalah AI bukanlah kerana ia mempunyai potensi kuasa pemusnah dunia senjata nuklear, AI hanya sebaik perekanya dan ia mencerminkan nilai penciptanya.

Kecerdasan buatan mempunyai masalah "sampah masuk, sampah keluar" klasik Algoritma perkauman melahirkan robot perkauman, dan kecerdasan buatan juga akan menghasilkan berat sebelah.

Ketua Pegawai Eksekutif DeepMind Demis Hassabis lebih memahami perkara ini daripada Schmidt.

DeepMind telah membangunkan AI yang mampu mengalahkan pemain Starcraft II Dalam temu bual Julai di Lex Fridman Podcast, Fridman bertanya kepada Hassabis cara mengawal AI seperti teknologi berkuasa sedemikian, dan bagaimana Hassabis sendiri mengelak daripada dirosakkan oleh sedemikian. kuasa.

Jawapan Hassabis: "Kecerdasan buatan adalah idea yang sangat besar," katanya, "Apa yang penting ialah siapa yang mencipta (kecerdasan buatan), budaya apa mereka berasal, nilai apa yang mereka ada, Mereka adalah pembina sistem AI. Sistem AI akan belajar sendiri... tetapi budaya dan nilai pencipta akan kekal dalam sistem itu pencipta mencerminkan bahawa letupan 1.2 megaton tidak boleh meratakan bandar ke tanah melainkan manusia mengajarnya berbuat demikian.

Atas ialah kandungan terperinci Bekas CEO Google: AI seperti senjata nuklear negara-negara besar perlu mewujudkan 'pencegahan AI' untuk memastikan kemusnahan bersama.. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!