Pembela keselamatan siber sedang mengembangkan kotak alat AI mereka

Para saintis menggunakan teknologi kecerdasan buatan yang dipanggil Pembelajaran Pengukuhan Dalam (DRL: Deep Reinforcement Learning) untuk melindungi rangkaian komputer dan telah mengambil langkah kritikal.

Apabila berhadapan dengan serangan siber yang kompleks dalam persekitaran simulasi yang ketat, pembelajaran pengukuhan mendalam berjaya 95% daripada masa yang berkesan menghalang lawan daripada mencapai matlamat mereka. Keputusan ujian menawarkan harapan untuk kecerdasan buatan autonomi untuk memainkan peranan dalam pertahanan siber proaktif.

Para saintis di Makmal Kebangsaan Barat Laut Pasifik (PNNL) Jabatan Tenaga A.S. mendokumentasikan penemuan mereka dalam kertas penyelidikan yang dibentangkan pada 14 Februari di Association for the Advancement of Artificial Intelligence di Washington, D.C. kerja telah dibentangkan di Simposium Kecerdasan Buatan untuk Keselamatan Siber semasa mesyuarat tahunan.

Titik permulaan projek adalah untuk membangunkan persekitaran simulasi untuk menguji senario serangan berbilang peringkat yang melibatkan pelbagai jenis musuh. Mewujudkan persekitaran simulasi serangan dan pertahanan yang dinamik untuk eksperimen adalah satu pencapaian itu sendiri. Persekitaran menyediakan penyelidik cara untuk membandingkan keberkesanan pertahanan berasaskan AI yang berbeza dalam persekitaran ujian terkawal.

Alat ini penting untuk menilai prestasi algoritma pembelajaran tetulang mendalam. Pendekatan ini menjadi alat sokongan keputusan yang berkuasa untuk pakar keselamatan siber DRL ialah model pertahanan dengan keupayaan untuk belajar, menyesuaikan diri dengan persekitaran yang berubah dengan pantas dan membuat keputusan autonomi. Walaupun bentuk kecerdasan buatan lain sebelum ini telah menjadi standard untuk mengesan pencerobohan atau menapis spam, pembelajaran pengukuhan mendalam mengembangkan keupayaan pembela untuk menyelaraskan rancangan membuat keputusan berurutan dalam konfrontasi harian dengan musuh.

Pembelajaran pengukuhan mendalam menyediakan keselamatan rangkaian yang lebih pintar, keupayaan untuk mengesan perubahan dalam persekitaran rangkaian lebih awal dan peluang untuk mengambil langkah pencegahan untuk menggagalkan serangan siber.

Samrat Chatterjee, seorang saintis data yang memperkenalkan kerja pasukan itu, berkata: “Ejen AI keselamatan siber yang berkesan perlu sedar dari segi maklumat yang boleh dikumpulkan dan akibat daripada keputusan ia membuat , analisis, tindakan dan penyesuaian "Pembelajaran peneguhan mendalam mempunyai potensi besar dalam bidang ini kerana bilangan keadaan sistem dan tindakan pilihan boleh menjadi besar"

DRL . Menggabungkan pembelajaran tetulang (RL) dan pembelajaran mendalam (DL), ia amat sesuai untuk situasi di mana satu siri keputusan perlu dibuat dalam persekitaran yang kompleks. Seperti kanak-kanak kecil yang belajar daripada benjolan dan goresan, algoritma berasaskan pembelajaran tetulang mendalam (DRL) dilatih dengan memberi ganjaran kepada keputusan yang baik dan menghukum keputusan yang tidak baik: keputusan yang baik yang membawa kepada hasil yang diingini Disokong oleh ganjaran positif (dinyatakan sebagai nilai berangka dengan menolak ganjaran untuk tidak menggalakkan pilihan yang buruk yang membawa kepada hasil yang buruk.

Menggunakan toolkit perisian sumber terbuka OpenAI Gym sebagai asas, pasukan mencipta persekitaran simulasi tersuai terkawal untuk menilai kekuatan dan kelemahan empat algoritma pembelajaran tetulang mendalam.

Ia juga menggunakan rangka kerja MITER ATT&CK yang dibangunkan oleh MITER Corporation dan menggabungkan 7 taktik dan 15 teknik yang digunakan oleh tiga lawan berbeza. Pemain pertahanan dilengkapi dengan 23 langkah mitigasi untuk cuba menghentikan atau menyekat serangan daripada berkembang.

Fasa-fasa serangan termasuk taktik seperti peninjauan, pelaksanaan, kegigihan, pengelakan pertahanan, arahan dan kawalan, pengumpulan dan penapisan (apabila data dipindahkan keluar dari sistem) . Jika pihak lawan berjaya mencapai peringkat penapisan terakhir, serangan direkodkan sebagai menang.

Chatterjee berkata: "Algoritma kami beroperasi dalam persekitaran yang kompetitif, iaitu pertandingan dengan niat lawan untuk merosakkan sistem. Ia adalah serangan berbilang peringkat. Dalam hal ini Dalam serangan ini, musuh boleh mengejar berbilang laluan serangan yang mungkin berubah dari semasa ke semasa semasa mereka cuba beralih daripada peninjauan kepada eksploitasi Cabaran kami ialah untuk menunjukkan cara pertahanan berdasarkan pembelajaran pengukuhan mendalam boleh menghentikan serangan ini."

<.>

DQN mengatasi kaedah lain

Pasukan ini berdasarkan empat algoritma pembelajaran pengukuhan mendalam: DQN (Deep Q-Network) dan tiga Varian lain untuk melatih ejen pertahanan telah dilatih pada data simulasi tentang serangan siber dan kemudian diuji pada serangan yang tidak mereka perhatikan semasa latihan.

DQN berprestasi terbaik:

Serangan kompleks peringkat rendah: DQN menyekat 79% serangan pada pertengahan fasa serangan, Menyekat menghentikan 93% serangan pada fasa terakhir.

Serangan sederhana kompleks: DQN menyekat 82% serangan di bahagian tengah dan 95% pada fasa akhir.

Serangan paling kompleks: DQN menyekat 57% serangan di bahagian tengah dan 84% serangan di peringkat akhir, jauh lebih tinggi daripada tiga algoritma yang lain.

Chatterjee berkata: “Matlamatnya adalah untuk mewujudkan ejen pertahanan berautonomi yang boleh memahami kemungkinan besar tindakan lawan seterusnya, merancangnya, dan kemudian Bertindak dengan cara yang terbaik. untuk melindungi sistem anda ”

Walaupun ada kemajuan, tiada siapa yang sanggup menyerahkan sepenuhnya pertahanan siber kepada sistem kecerdasan buatan. Sebaliknya, sistem keselamatan siber berasaskan DRL perlu berfungsi bersama dengan manusia, kata bekas pengarang bersama PNNL Arnab Bhattacharya. “AI pandai bertahan terhadap strategi tertentu, tetapi tidak begitu mahir dalam memahami semua pendekatan yang mungkin diambil oleh musuh. Kami masih jauh dari tahap di mana AI akan menggantikan penganalisis siber manusia adalah penting

Selain Chatterjee dan Bhattacharya, pengarang kertas bengkel termasuk Mahantesh Halappanavar PNNL dan bekas saintis PNNL Ashutosh Dutta. Kerja ini dibiayai oleh Pejabat Sains Jabatan Tenaga, dan beberapa kerja awal yang memacu penyelidikan khusus ini dibiayai oleh program Matematik Penaakulan Buatan PNNL melalui program Penyelidikan dan Pembangunan Diarahkan Makmal.

Atas ialah kandungan terperinci Pembela keselamatan siber sedang mengembangkan kotak alat AI mereka. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!