Di sebalik perkembangan pesat kecerdasan buatan terdapat pelbagai risiko keselamatan

Bayangkan jika seseorang meletakkan "pelekat" pada muka mereka, sistem kawalan capaian pengecaman muka boleh tersalah anggap sebagai anda dan membuka pintu dengan mudah jika anda meletakkan "pelekat" yang sama pada cermin mata anda, Anda boleh membuka kunci telefon anda pengenalan wajah dalam hanya satu saat dan terokai privasi anda seolah-olah anda berada di tanah yang tidak berpenghuni. Ini bukan imaginasi filem fiksyen sains, tetapi adegan serangan dan pertahanan sebenar yang dipaparkan pada majlis penganugerahan Pertandingan Keselamatan Kepintaran Buatan yang pertama.

Tidak lama dahulu, Persidangan Keselamatan Kecerdasan Buatan pertama telah ditaja bersama oleh Pusat Penyelidikan Pembangunan Keselamatan Maklumat Industri Kebangsaan, Institut Penyelidikan Kepintaran Buatan Universiti Tsinghua dan Beijing Ruilai Intelligent Technology Co ., Ltd. Pertandingan berakhir. Semasa pertandingan, perbincangan timbul tentang risiko keselamatan kecerdasan buatan. Pakar yang menghadiri mesyuarat itu berkata bahawa risiko keselamatan kecerdasan buatan bukan lagi cabaran masa depan, tetapi ancaman segera Kita mesti memberi perhatian kepada pembinaan sistem keselamatan kecerdasan buatan dan mempercepatkan promosi penyelidikan teknologi utama dan amalan ofensif dan pertahanan dalam bidang buatan. keselamatan perisikan.

Kecerdasan buatan, seperti teknologi umum yang lain, sedang berkembang pesat tetapi turut membawa risiko tertentu dan bahaya tersembunyi. Tian Tian, ​​​​CEO Ruilai Smart, yang telah memenangi "Anugerah Belia Cemerlang Kecerdasan Buatan Wu Wenjun", percaya bahawa skop risiko teknologi kecerdasan buatan semakin berkembang secara beransur-ansur apabila senario aplikasi menjadi lebih meluas, dan kemungkinan risiko juga meningkat dengan senario aplikasinya Ia terus meningkat dengan peningkatan dalam kekerapan aplikasi. Pada pandangan beliau, risiko keselamatan semasa kecerdasan buatan boleh dianalisis terutamanya dari dua perspektif "orang" dan "sistem".

Menilai isu keselamatan kecerdasan buatan dari perspektif manusia, perkara pertama yang perlu ditanggung ialah dualiti teknologi, dan masalah penyalahgunaan kecerdasan buatan. Khusus untuk aplikasi kecerdasan buatan, wakil yang paling tipikal ialah teknologi deepfake, yang risiko aplikasi negatifnya terus meningkat dan telah menyebabkan kemudaratan yang besar.

Apa yang didedahkan oleh demonstrasi retak pengecaman muka pertandingan ini ialah risiko sistem, yang datang daripada kerapuhan algoritma pembelajaran mendalam itu sendiri. Generasi kedua kecerdasan buatan dengan algoritma pembelajaran mendalam sebagai teras adalah "kotak hitam" dan tidak dapat dijelaskan, yang bermaksud bahawa sistem mempunyai kelemahan struktur dan mungkin tertakluk kepada risiko yang tidak dapat diramalkan. Contoh biasa ialah "pelekat ajaib" pada-. demonstrasi tapak, sebenarnya adalah "serangan sampel musuh", yang menyebabkan sistem membuat pertimbangan yang salah dengan menambahkan gangguan pada data input.

Kerentanan ini juga wujud dalam sistem persepsi pemanduan autonomi. Dalam keadaan biasa, selepas mengenal pasti sekatan jalan, papan tanda, pejalan kaki dan sasaran lain, kenderaan pandu sendiri akan berhenti serta-merta Namun, selepas menambah corak gangguan pada objek sasaran, sistem persepsi kenderaan mungkin membuat kesilapan dan merempuhnya secara langsung.

Semasa pertandingan, "Kertas Putih mengenai Pembangunan Keselamatan Infrastruktur Pengkomputeran Kecerdasan Buatan" telah dikeluarkan. Disebutkan bahawa infrastruktur kuasa pengkomputeran kecerdasan buatan adalah berbeza daripada infrastruktur kuasa pengkomputeran tradisional Ia adalah kedua-dua "infrastruktur", "kuasa pengkomputeran kecerdasan buatan" dan "kemudahan awam", dan mempunyai tiga atribut infrastruktur, teknologi dan atribut awam. Sehubungan itu, menggalakkan pembangunan selamat infrastruktur kuasa pengkomputeran kecerdasan buatan harus menumpukan pada pengukuhan keselamatannya sendiri, memastikan keselamatan operasi dan membantu pematuhan keselamatan.

Menyelaraskan pembangunan dan keselamatan nampaknya merupakan masalah yang tidak dapat dielakkan yang dihadapi dalam proses pembangunan setiap teknologi baharu Bagaimana untuk mencapai interaksi positif antara pembangunan peringkat tinggi dan keselamatan peringkat tinggi juga merupakan salah satu cadangan yang paling penting dalam perkembangan semasa industri kecerdasan buatan , ramai pakar di tapak membincangkan topik ini.

"Serangan dan pertahanan musuh kecerdasan buatan termasuk sampel musuh, pintu belakang rangkaian saraf, isu privasi model dan teknologi lain. Jika model mempunyai ralat, ia perlu dibaiki tepat pada masanya." Makmal Utama Keselamatan Maklumat Kebangsaan, Akademi Sains Cina Kai mencadangkan kaedah "skalpel rangkaian saraf" untuk melakukan pembaikan "invasif minima" yang tepat dengan mencari neuron yang menyebabkan ralat.

Chen Kai berkata bahawa tidak seperti kerja pembaikan model tradisional, yang memerlukan latihan semula model atau bergantung pada bilangan sampel data yang lebih besar, kaedah ini serupa dengan "pembedahan invasif minima" dan hanya memerlukan jumlah data yang sangat kecil sampel. Sangat meningkatkan kesan pembaikan model.

Sistem kecerdasan buatan dalam persekitaran terbuka menghadapi banyak cabaran keselamatan Cara menyelesaikan isu keselamatan kitaran penuh algoritma kecerdasan buatan umum telah menjadi keutamaan.

Liu Xianglong, timbalan pengarah Makmal Utama Negeri Persekitaran Pembangunan Perisian di Universiti Beihang, berkata bahawa dari sudut teknikal, cara teknikal yang lengkap daripada ujian keselamatan kepada analisis keselamatan dan pengukuhan keselamatan harus dibentuk, dan akhirnya satu proses ujian piawai harus dibentuk.

Beliau juga menegaskan bahawa keselamatan kecerdasan buatan masa depan harus menumpukan pada penilaian menyeluruh di semua peringkat daripada data, algoritma kepada sistem, dan pada masa yang sama digabungkan dengan persekitaran pengkomputeran yang selamat dan dipercayai daripada perkakasan kepada perisian.

Su Jianming, pakar yang bertanggungjawab bagi Serangan Keselamatan dan Makmal Pertahanan Institut Penyelidikan Kewangan Bank Perindustrian dan Komersial China, berkata bahawa tadbir urus keselamatan kecerdasan buatan memerlukan kerjasama yang meluas dan inovasi terbuka, dan adalah perlu untuk mengukuhkan interaksi dan kerjasama pelbagai peserta industri seperti kerajaan, institusi akademik, perusahaan, dsb., untuk mewujudkan peraturan ekosistem yang positif. Di peringkat dasar, proses perundangan kecerdasan buatan harus dipercepatkan, dan penyeliaan dan penilaian khas tahap perkhidmatan kecerdasan buatan dan keupayaan sokongan teknikal harus diperkukuh. Di peringkat akademik, tingkatkan insentif untuk penyelidikan keselamatan kecerdasan buatan dan mempercepatkan transformasi dan pelaksanaan hasil penyelidikan saintifik melalui model kerjasama industri-universiti-penyelidikan. Di peringkat perusahaan, kami akan mempromosikan secara beransur-ansur transformasi teknologi kecerdasan buatan daripada pengembangan senario kepada pembangunan yang selamat dan boleh dipercayai, dan terus meneroka amalan dan penyelesaian keselamatan kecerdasan buatan dengan mengambil bahagian dalam penggubalan piawaian, melancarkan produk dan perkhidmatan.

Malah, membina ekosistem yang selamat untuk kecerdasan buatan memerlukan evolusi teknologi yang berterusan di satu pihak, dan pembinaan serta latihan bakat teknikal khusus di pihak yang lain. Tian Tian berkata kerana penyelidikan keselamatan kecerdasan buatan masih merupakan bidang yang baru muncul, terdapat beberapa bakat khusus, dan terdapat kekurangan pasukan penyelidikan yang sistematik Pertandingan ini menggunakan latihan pertempuran sebenar untuk mengesahkan dan meningkatkan keupayaan pertempuran sebenar pemain, dalam untuk memupuk kumpulan peringkat tinggi, Pasukan bakat baharu keselamatan kecerdasan buatan peringkat tinggi menyediakan "landasan pantas".

Pakar percaya bahawa dalam jangka masa panjang, isu keselamatan kecerdasan buatan perlu dipecahkan daripada prinsip model algoritma Hanya dengan terus mengukuhkan penyelidikan asas boleh menyelesaikan isu saintifik teras , mereka menekankan bahawa keselamatan kecerdasan buatan Pembangunan masa depan perlu memastikan keberkesanan dan promosi positif pembangunan seluruh masyarakat dan negara, dan memerlukan pembangunan diselaraskan pelbagai pihak termasuk kerajaan, industri, akademik dan penyelidikan.

Atas ialah kandungan terperinci Di sebalik perkembangan pesat kecerdasan buatan terdapat pelbagai risiko keselamatan. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!