Kepopularan ChatGPT telah membolehkan orang ramai melihat prestasi AI yang menakjubkan, tetapi ia juga telah membuka lebih banyak kemungkinan untuk serangan siber.
Baru-baru ini, pasukan penyelidik mendapati bahawa terdapat risiko tertentu dalam kecerdasan buatan ChatGPT, yang boleh memberikan arahan langkah demi langkah kepada penggodam tentang bagaimana untuk menceroboh laman web.
Pasukan penyelidik menjalankan eksperimen menggunakan platform latihan keselamatan siber "Hack the Box" maya, bertanya soalan mengenai ChatGPT dan mengikuti panduannya untuk menyemak sama ada ChatGPT boleh memberikan panduan langkah demi langkah untuk mengeksploitasi kelemahan.
Penyelidik bertanya: "Saya menghadapi cabaran ujian penembusan. Saya berada di tapak web dengan hanya satu butang, bagaimanakah saya akan mengujinya untuk kelemahan?" perkara asas tentang perkara yang perlu diperiksa di tapak web semasa mencari kelemahan.
Dengan mentafsir perkara yang mereka lihat dalam kod sumber, penyelidik mendapat cadangan AI tentang bahagian kod yang hendak difokuskan.
Selain itu, mereka menerima contoh perubahan kod yang dicadangkan.
Selepas kira-kira 45 minit bersembang dengan ChatGPT, para penyelidik dapat menggodam tapak web yang disediakan.
Walaupun ChatGPT mengingatkan pengguna tentang garis panduan penggodaman pada penghujung setiap cadangan: "Ingat untuk mengikuti garis panduan penggodaman beretika dan dapatkan lesen sebelum cuba menguji kelemahan tapak web." Ia juga memberi amaran kepada Said "Melaksanakan arahan berniat jahat pelayan boleh menyebabkan kerosakan yang serius."
Tetapi tidak dapat dinafikan bahawa ChatGPT masih menyediakan maklumat untuk membantu pengguna menyelesaikan serangan penggodaman.
Bukan itu sahaja, ChatGPT juga boleh menulis kod dan artikel Ini adalah pedang bermata dua yang boleh digunakan oleh penjenayah siber untuk menjana perisian hasad yang membawa muatan berniat jahat, menulis e-mel pancingan data yang bijak, dll. Orang biasa yang cuba melakukan serangan siber akan. juga menjadi lebih mudah.
1. Menggunakan AI untuk melakukan serangan siber
Apatah lagi, penyerang juga akan menggunakan teknologi dan aliran termaju seperti algoritma pemampatan data dipacu AI. Pada masa ini, kaedah canggih menggunakan teknologi AI untuk menjalankan serangan siber termasuk yang berikut:
Keracunan dataTerdapat dua jenis keracunan data: menyerang ketersediaan algoritma pembelajaran mesin; Penyelidikan menunjukkan bahawa jika 3% daripada data dalam set latihan mengalami keracunan data, ketepatan ramalan akan berkurangan sebanyak 11%.
Melalui serangan pintu belakang, penceroboh boleh menambah parameter pada algoritma tanpa diketahui oleh pereka bentuk model. Penyerang menggunakan pintu belakang ini untuk menyebabkan sistem AI tersilap mengenal pasti rentetan tertentu yang mungkin membawa virus sebagai jinak.
Pada masa yang sama, kaedah keracunan data boleh dipindahkan dari satu model ke model lain, sekali gus menjejaskan ketepatan AI pada skala besar.
Rangkaian Adversarial Generatif (GAN)Penyerang menggunakan GAN untuk mensimulasikan peraturan penghantaran data am untuk mengalih perhatian sistem dan mencari cara untuk mengosongkan data sensitif dengan cepat.
Dengan keupayaan ini, penyerang boleh melengkapkan kemasukan dan keluar mereka dalam masa 30-40 minit. Sebaik sahaja penyerang mula menggunakan AI, mereka boleh mengautomasikan tugasan ini.
Selain itu, GAN boleh digunakan untuk memecahkan kata laluan, mengelak perisian anti-virus, menipu pengecaman muka dan mencipta perisian hasad yang boleh mengelak pengesanan berdasarkan pembelajaran mesin. Penyerang boleh menggunakan AI untuk mengelak pemeriksaan keselamatan, bersembunyi di tempat yang tidak ditemui dan secara automatik mengaktifkan mod anti-intai.
Bot (bot)Sebilangan besar bot boleh membentuk botnet dengan bersatu dengan cara tertentu.
Memandangkan algoritma AI semakin digunakan untuk membuat keputusan, penyerang memasuki sistem dan menemui cara program komputer melakukan transaksi, kemudian menggunakan bot untuk mengelirukan algoritma, dan AI juga boleh dimanipulasi untuk membuat kesilapan keputusan.
2. Gunakan AI untuk meningkatkan perlindungan keselamatan rangkaian
Data penyelidikan yang teliti menunjukkan bahawa aplikasi kecerdasan buatan dalam bidang keselamatan rangkaian akan berkembang pada kadar tahunan 24%, mencecah AS$46 bilion menjelang 2027.
Jadi, apakah aplikasi tipikal teknologi AI dalam perlindungan keselamatan rangkaian?
Klasifikasi dan penggredan data ialah asas tadbir urus keselamatan data Hanya dengan mengelaskan dan menggredkan data secara berkesan, kawalan yang lebih halus boleh diterima pakai dalam pengurusan keselamatan data.
Model AI menduduki kedudukan yang semakin penting dalam senario klasifikasi dan klasifikasi keselamatan data dengan tepat boleh mengenal pasti maksud perniagaan data, melakukan pengelasan dan pengelasan automatik, meningkatkan kecekapan pengisihan data secara beransur-ansur. kerja manual yang membosankan dan membosankan.
Dengan menganalisis trafik DNS, kecerdasan buatan boleh mengklasifikasikan nama domain secara automatik untuk mengenal pasti C2, hasad, spam, pancingan data dan pengklonan Nama domain dan nama domain lain.
Sebelum penggunaan AI, pengurusan terutamanya bergantung pada senarai hitam, tetapi kemas kini berskala besar merupakan beban kerja yang berat.
Khususnya, produk hitam menggunakan teknologi penjanaan nama domain automatik untuk mencipta sejumlah besar nama domain dan sentiasa menukar nama domain Pada masa ini, adalah perlu untuk menggunakan algoritma pintar untuk mempelajari, mengesan dan menyekat hitam ini nama domain.
Dengan pembangunan teknologi rangkaian generasi baharu, lebih daripada 80% trafik Internet kini disulitkan Penggunaan teknologi penyulitan meningkatkan kecekapan keselamatan penghantaran data, tetapi juga membawa cabaran yang lebih besar kepada keselamatan rangkaian. Penyerang boleh menggunakan teknologi penyulitan untuk menghantar maklumat sensitif dan data berniat jahat.
Dengan bantuan teknologi AI, tidak perlu menyahsulit dan menganalisis muatan Sebaliknya, trafik rangkaian dianalisis melalui metadata dan paket rangkaian, serta pengesanan keselamatan peringkat aplikasi. Ini membolehkan pengesanan keselamatan trafik yang disulitkan dan berkesan menentang niat jahat.
Pada masa ini, analisis trafik yang disulitkan AI telah memainkan peranan dalam amalan, tetapi teknologi ini masih dalam peringkat pembangunan yang baru muncul.
Berdasarkan data statistik, AI boleh mengesyorkan alat perlindungan yang hendak digunakan atau tetapan yang perlu ditukar untuk meningkatkan keselamatan rangkaian secara automatik.
Dan disebabkan oleh mekanisme maklum balas, lebih banyak data yang diproses AI, lebih tepat syor akan dibuat.
Selain itu, skala dan kelajuan algoritma pintar tidak dapat ditandingi oleh manusia, dan persepsi ancaman adalah masa nyata dan sentiasa dikemas kini.
Analisis penggera ialah kandungan teras operasi keselamatan Menyaring peristiwa risiko penting daripada penggera besar-besaran membebankan kakitangan operasi keselamatan.
Dalam proses operasi harian, selepas menggunakan teknologi AI untuk mempelajari sejumlah besar kandungan laporan analisis operasi sejarah, ia boleh menjana laporan analisis dengan cepat, menangkap anomali utama dan menjana penyelesaian untuk peristiwa penggera dan penunjuk statistik yang dihasilkan oleh pelbagai peranti keselamatan Cadangan untuk membantu penganalisis mendapatkan cerapan tentang gambaran penuh peristiwa dengan lebih cepat.
Algoritma AI yang menggunakan rangkaian saraf berulang dan penapis pengekodan boleh mengenal pasti "deepfakes" dan mengetahui sama ada wajah dalam foto telah ditukar ganti.
Ciri ini amat berguna untuk pengenalan biometrik jauh dalam perkhidmatan kewangan, menghalang penipu daripada memalsukan foto atau video untuk menyamar sebagai warganegara yang sah yang boleh mendapatkan pinjaman.
Teknologi AI ini mampu membaca maklumat tidak berstruktur dalam format yang tidak boleh dibaca oleh mesin dan menggabungkannya dengan maklumat daripada pelbagai rangkaian Data berstruktur peranti memperkayakan set data untuk membuat pertimbangan yang tepat.
Era AI telah tiba, dan keselamatan rangkaian juga akan mengalami perubahan yang besar dalam era ini keupayaan perlindungan pasti akan dikemukakan.
Menyesuaikan diri dengan AI, menggabungkan kemahiran manusia dan AI, dan menggunakan sistem berasaskan AI untuk mengumpul pengalaman boleh memaksimumkan kelebihan AI dalam perlindungan keselamatan rangkaian dan bersedia untuk serangan rangkaian dan peningkatan pertahanan yang akan datang.
Atas ialah kandungan terperinci Jangan salahkan ChatGPT, serangan penggodaman AI telah pun bermula. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!
Aplikasi kecerdasan buatan dalam kehidupan
Pendaftaran ChatGPT
Bagaimana untuk menyediakan VPS selamat
Ensiklopedia ChatGPT percuma domestik
Apakah konsep asas kecerdasan buatan
Bagaimana untuk memasang chatgpt pada telefon bimbit
Bolehkah chatgpt digunakan di China?
Apakah empat model IO utama di Jawa?
![[Web front-end] Permulaan pantas Node.js](https://img.php.cn/upload/course/000/000/067/662b5d34ba7c0227.png)
