Teknologi kecerdasan buatan seperti teknologi pemanduan autonomi, pembantu pintar, pengecaman muka, kilang pintar dan bandar pintar kini dilaksanakan secara meluas Teknologi luar biasa ini mengubah kehidupan kita dengan pantas. Walau bagaimanapun, insiden keselamatan dalam bidang berkaitan juga meningkat dengan pesat, yang membuatkan penyelidik dan pengguna semakin bimbang tentang keselamatan kecerdasan buatan. Dividen yang dibawa oleh penggunaan kecerdasan buatan dan risiko keselamatan yang disebabkan olehnya adalah seperti dua sisi syiling yang sama, memerlukan seluruh industri memberi perhatian yang teliti dan mencari kaedah tindak balas yang berkesan.
Beberapa hari lalu, penyelidik keselamatan telah menyelesaikan dan meringkaskan 7 ancaman keselamatan data yang sering dihadapi oleh teknologi kecerdasan buatan dalam aplikasi praktikal.
Keracunan model ialah satu bentuk serangan musuh yang direka untuk memanipulasi hasil model pembelajaran mesin. Aktor ancaman boleh cuba menyuntik data berniat jahat ke dalam model, menyebabkan model tersalah klasifikasi data dan membuat keputusan yang salah. Contohnya, imej kejuruteraan boleh memperdayakan model pembelajaran mesin untuk mengklasifikasikannya ke dalam kategori yang berbeza daripada yang dikelaskan oleh manusia pada asalnya (cth., melabelkan imej kucing sebagai tetikus). Penyelidikan telah mendapati bahawa ini adalah cara yang berkesan untuk menipu sistem AI kerana adalah mustahil untuk mengetahui sama ada input tertentu akan membawa kepada ramalan yang salah sebelum mengeluarkannya.
Untuk mengelakkan pelakon yang berniat jahat daripada mengganggu input model, organisasi harus melaksanakan dasar pengurusan akses yang ketat untuk mengehadkan akses kepada data latihan.
Perlindungan privasi ialah isu sensitif yang memerlukan perhatian dan perhatian tambahan, terutamanya apabila model AI mengandungi data kanak-kanak di bawah umur, masalahnya lebih rumit . Sebagai contoh, dengan beberapa pilihan kad debit untuk remaja, bank mesti memastikan standard keselamatan mereka memenuhi keperluan pematuhan peraturan. Semua syarikat yang mengumpul maklumat pelanggan dalam apa jua bentuk atau cara dikehendaki mempunyai dasar perlindungan data. Dengan cara ini, pelanggan boleh mengetahui cara organisasi mengendalikan data mereka. Walau bagaimanapun, bagaimanakah pengguna tahu jika data mereka mengalir ke dalam aplikasi algoritma kecerdasan buatan? Sangat sedikit (atau hampir tiada) dasar privasi menyertakan maklumat ini.
Kami sedang memasuki era yang didorong oleh kecerdasan buatan, dan akan menjadi sangat penting bagi individu untuk memahami cara perusahaan menggunakan kecerdasan buatan, keupayaannya dan kesannya terhadap data. Begitu juga, penyerang boleh cuba menggunakan perisian hasad untuk mencuri set data sensitif yang mengandungi maklumat peribadi seperti nombor kad kredit atau nombor Keselamatan Sosial. Organisasi mesti menjalankan audit keselamatan yang kerap dan melaksanakan amalan perlindungan data yang kukuh pada semua peringkat pembangunan AI. Risiko privasi boleh berlaku pada mana-mana peringkat kitaran hayat data, jadi adalah penting untuk membangunkan strategi keselamatan privasi bersatu untuk semua pihak berkepentingan.
Risiko yang dibawa oleh manipulasi, pendedahan dan pengubahan data sedang diperkuatkan secara berterusan dalam konteks aplikasi AI berskala besar, kerana sistem ini memerlukan analisis dan berasaskan membuat keputusan pada jumlah data yang besar, dan data ini boleh dimanipulasi atau diganggu dengan mudah oleh pelakon yang berniat jahat. Di samping itu, kecenderungan algoritma adalah satu lagi masalah utama yang dihadapi dalam aplikasi kecerdasan buatan berskala besar. Algoritma AI dan program pembelajaran mesin sepatutnya objektif dan tidak berat sebelah, tetapi sebenarnya tidak.
Ancaman data yang mengganggu algoritma kecerdasan buatan adalah masalah besar yang tidak mempunyai penyelesaian mudah, tetapi ia memerlukan perhatian. Bagaimana untuk memastikan bahawa data yang dimasukkan ke dalam algoritma adalah tepat, boleh dipercayai dan tidak diganggu? Bagaimana untuk memastikan bahawa data tidak digunakan dengan cara yang tidak menyenangkan? Semua soalan ini adalah isu yang sangat nyata, tetapi industri masih belum menemui jawapan yang jelas.
Dari segi keselamatan data, ancaman orang dalam sudah pasti merupakan jenis yang paling berbahaya dan mahal. Menurut Kos Ancaman Orang Dalam yang terkini: Laporan Global, bilangan insiden ancaman orang dalam telah meningkat sebanyak 44% dalam tempoh dua tahun yang lalu, dengan purata kos setiap kejadian ialah $15.38 juta.
Apa yang menjadikan ancaman orang dalam begitu berbahaya ialah ia mungkin tidak semestinya didorong oleh wang, tetapi mungkin didorong oleh faktor lain seperti balas dendam, rasa ingin tahu atau kesilapan manusia. Disebabkan ini, mereka lebih sukar untuk diramal dan dihentikan daripada penyerang luar.
Bagi syarikat yang terlibat dalam kesihatan rakyat, ancaman orang dalam sudah pasti lebih berbahaya. Ambil penyedia perkhidmatan penjagaan kesihatan HelloRache sebagai contoh Syarikat menggunakan alat jurutulis maya berasaskan AI (pembantu yang membantu doktor dengan tugas berkaitan komputer) supaya mereka boleh membantu doktor dari jauh dalam menjaga pesakit dan mendokumentasikan keadaan. Tetapi jika orang dalam mencari jalan, ia boleh menyebabkan sistem tidak disambungkan dengan betul, malah memantau dan mendapatkan maklumat perubatan pesakit.
Data penyelidikan menunjukkan bahawa 86% organisasi perusahaan telah mula menganggap kecerdasan buatan sebagai teknologi "arus perdana" untuk pembangunan digital masa hadapan dan telah meningkatkan pelaburan dalam pelbagai data Dikuasakan oleh teknologi AI untuk membantu perniagaan membuat keputusan yang lebih baik, meningkatkan perkhidmatan pelanggan dan mengurangkan kos. Tetapi ada masalah: Serangan yang disengajakan ke atas sistem AI semakin meningkat, dan tanpa kawalan yang betul, ia boleh menyebabkan organisasi kerugian berjuta-juta dolar.
"Serangan yang disengajakan" merujuk kepada percubaan bertujuan untuk mengganggu operasi perniagaan organisasi dengan menggodam sistem kecerdasan buatan dengan matlamat untuk mendapatkan kelebihan daya saing berbanding pihak lawan. Ancaman keselamatan data kepada AI dan ML boleh merosakkan terutamanya dalam senario serangan yang disengajakan. Kerana data yang digunakan dalam sistem ini selalunya adalah proprietari dan bernilai tinggi. Apabila sistem kecerdasan buatan disasarkan dan diserang dengan sengaja, akibatnya bukan sahaja kecurian data, tetapi kemusnahan daya saing syarikat.
Kecerdasan buatan ialah industri yang berkembang pesat, bermakna mereka masih terdedah. Apabila aplikasi AI menjadi lebih popular dan diterima pakai di seluruh dunia, penggodam akan mencari cara baharu untuk mengganggu input dan output program ini. AI selalunya merupakan sistem yang kompleks, menyukarkan pembangun untuk mengetahui prestasi kod mereka dalam pelbagai situasi aplikasi. Apabila mustahil untuk meramalkan apa yang akan berlaku, sukar untuk menghalangnya daripada berlaku.
Cara terbaik untuk melindungi perusahaan anda daripada ancaman aplikasi berskala besar adalah dengan menggabungkan amalan pengekodan yang baik, proses ujian dan kemas kini tepat pada masanya apabila kelemahan baharu ditemui. Sudah tentu, jangan tinggalkan bentuk tradisional langkah berjaga-jaga keselamatan siber, seperti menggunakan pusat data colocation untuk melindungi pelayan daripada serangan berniat jahat dan ancaman luar.
Penyelidik telah mendapati bahawa penyerang berniat jahat menggunakan kecerdasan buatan untuk membantu mereka mereka bentuk dan melakukan serangan. Dalam kes ini, "mereka bentuk serangan" bermaksud memilih sasaran, menentukan data yang mereka cuba curi atau musnahkan, dan kemudian memutuskan kaedah penghantaran. Penyerang berniat jahat boleh menggunakan algoritma pembelajaran mesin untuk mencari cara memintas kawalan keselamatan untuk menjalankan serangan, atau menggunakan algoritma pembelajaran mendalam untuk mencipta perisian hasad baharu berdasarkan sampel dunia sebenar. Pakar keselamatan mesti sentiasa mempertahankan diri daripada bot yang semakin pintar kerana sebaik sahaja mereka menggagalkan satu serangan, yang baru akan muncul. Ringkasnya, AI memudahkan penyerang mencari lubang dalam perlindungan keselamatan semasa.
Pautan rujukan:
https://www.php.cn/link/d27b95cac4c27feb850aaa4070cc4675
Atas ialah kandungan terperinci Aplikasi kecerdasan buatan menghadapi tujuh ancaman keselamatan data utama. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!
![[Web front-end] Permulaan pantas Node.js](https://img.php.cn/upload/course/000/000/067/662b5d34ba7c0227.png)
