Rumah > Peranti teknologi > AI > Bagaimana untuk membina GNN yang boleh dipercayai? Ulasan terbaru ada di sini! Rangkaian Neural Graf Boleh Dipercayai: Dimensi, Kaedah, Trend

Bagaimana untuk membina GNN yang boleh dipercayai? Ulasan terbaru ada di sini! Rangkaian Neural Graf Boleh Dipercayai: Dimensi, Kaedah, Trend

王林
Lepaskan: 2023-04-08 17:31:11
ke hadapan
1745 orang telah melayarinya

Kata Pengantar

Dalam beberapa tahun kebelakangan ini, teknologi kecerdasan buatan yang diterajui oleh rangkaian saraf telah memperdalam pemahaman tentang pelbagai jenis data . Penggalian telah banyak mengubah kehidupan manusia dan sangat menggalakkan proses pembangunan sosial [1]. Sebagai salah satu hala tuju penyelidikan yang paling aktif dalam bidang kecerdasan buatan, rangkaian saraf graf (GNN) telah digunakan secara meluas dalam kehidupan seharian seperti pengesyoran yang diperibadikan kerana prestasi cemerlangnya Ia juga digunakan dalam bidang saintifik yang canggih seperti penyelidikan dan pembangunan dadah mahkota baharu. Dengan perkembangan pesat teknologi rangkaian saraf graf, orang ramai telah mendapati bahawa sistem rangkaian saraf graf dengan prestasi tugas sebagai matlamat reka bentuk tunggal masih mempunyai masalah seperti terdedah kepada serangan berniat jahat. Oleh itu, orang ramai semakin bersemangat untuk membina rangkaian saraf graf yang boleh dipercayai.

Dalam beberapa tahun kebelakangan ini, membina sistem kecerdasan buatan yang boleh dipercayai telah menjadi konsensus umum di negara-negara di seluruh dunia [2][3]. Cara untuk mewujudkan rangkaian neural graf yang boleh dipercayai secara menyeluruh telah menjadi isu utama yang perlu diselesaikan dengan segera. Artikel ini ialah ulasan terkini rangkaian saraf graf yang boleh dipercayai oleh pasukan Monash (Shirui Pan, Xingliang Yuan, Bang Wu, He Zhang) bersama Hanghang Tong (UIUC) dan Jian Pei (SFU, akan menyertai Duke) (36 double- muka surat lajur, 299 dokumen).

Semakan ini bermula daripada latar belakang dan ciri penyelidikan, mencadangkan rangka kerja terbuka untuk rangkaian saraf graf yang boleh dipercayai dan memfokuskan pada "dipercayai rangkaian neural graf" Percaya kepada enam dimensi GNN (keteguhan, kebolehjelasan, privasi, keadilan, kebertanggungjawaban, kesejahteraan alam sekitar) dan kaedah teknikalnya. Pada masa yang sama, ulasan ini meneroka hubungan interaktif antara dimensi kebolehpercayaan yang berbeza, mencadangkan arah penyelidikan masa hadapan untuk rangkaian saraf graf yang boleh dipercayai dan melukis peta jalan teknikal yang terperinci dan komprehensif untuk mewujudkan rangkaian saraf graf yang boleh dipercayai.

Bagaimana untuk membina GNN yang boleh dipercayai? Ulasan terbaru ada di sini! Rangkaian Neural Graf Boleh Dipercayai: Dimensi, Kaedah, Trend

​Nama ulasan: Rangkaian Neural Graf Dipercayai: Aspek, Kaedah dan Trend

Pautan teks penuh: https://arxiv.org/pdf/2205.07424 .pdf

Github: https://github.com/Radical3-HeZhang/Awesome-Trustworthy-GNNs

1 Pengenalan

Graf ialah sejenis grafik dengan sangat kuat keupayaan perwakilan Jenis data, dengan menerangkan ciri-ciri entiti dan menggambarkan hubungan antara entiti, telah digunakan secara meluas untuk menerangkan data dalam banyak bidang seperti biologi, kimia, fizik, linguistik dan sains sosial. Dalam beberapa tahun kebelakangan ini, perkembangan pesat teknologi rangkaian saraf graf telah merevolusikan prestasi pelbagai tugas pengkomputeran graf dan mempromosikan aplikasinya yang meluas dalam kehidupan sebenar.

Dalam kehidupan seharian, rangkaian saraf graf boleh menyediakan pengguna dengan carian dan perkhidmatan yang diperibadikan dalam aplikasi pengguna seperti media penstriman maklumat, beli-belah dalam talian dan perisian sosial dengan mempertimbangkan hubungan interaktif antara pengguna dan kandungan pengguna/perkhidmatan perkhidmatan. Dalam sempadan sains, dengan menggunakan data graf untuk mewakili sistem yang kompleks, penyelidik boleh menggunakan rangkaian saraf graf untuk menemui corak tersembunyi di sebalik gerakan badan angkasa. Dengan menerapkannya pada pengesanan berita palsu dan pembangunan ubat COVID-19, rangkaian saraf graf telah meningkatkan kesejahteraan masyarakat kita dengan ketara.

Walaupun penyelidik telah mereka kaedah untuk meningkatkan lagi prestasi rangkaian saraf graf dari banyak perspektif (seperti pembelajaran diselia sendiri, menambah baik kedalaman model, dll.), dalam beberapa bidang utama, prestasi tugasan bukanlah kunci utama untuk mereka bentuk rangkaian saraf graf satu-satunya matlamat. Sebagai contoh, sistem pengesanan anomali berdasarkan rangkaian saraf graf perlu teguh kepada serangan berniat jahat, sistem pemarkahan kredit berdasarkan rangkaian saraf graf tidak seharusnya menolak permohonan pinjaman disebabkan faktor seperti umur dan jantina pengguna, dan aplikasi penemuan dadah berdasarkan graf rangkaian saraf Penyelidik harus diberikan penjelasan penuh tentang keputusan mereka.

Berdasarkan keperluan di atas, orang ramai semakin berminat untuk sistem berasaskan rangkaian saraf graf boleh dipercayai. Berdasarkan latar belakang ini, semakan ini bertujuan untuk meringkaskan kemajuan terkini "GNN yang boleh dipercayai", menyediakan peta jalan teknikal untuk penyelidik dan pengamal yang berkaitan, dan menyediakan asas untuk penyelidikan dan pembangunan masa depan GNN yang boleh dipercayai.

Sumbangan utama ulasan ini ialah: 1) Menghuraikan rangkaian saraf graf yang boleh dipercayai dengan rangka kerja terbuka yang merangkumi banyak dimensi yang boleh dipercayai, dan mencadangkan penggunaan rangkaian saraf graf dengan teknologi kecerdasan buatan biasa yang lain (seperti CNN) Perbezaan tipikal dalam penyelidikan kebolehpercayaan; 2) Ringkasan komprehensif dan komprehensif kaedah sedia ada untuk dimensi kebolehpercayaan yang berbeza bagi rangkaian saraf graf 3) Dicadangkan bahawa hubungan antara dimensi kebolehpercayaan yang berbeza adalah penting untuk membina rangkaian saraf graf yang boleh dipercayai Sistem rangkaian adalah penting, dan kerja penyelidikan sedia ada diringkaskan daripada kedua-dua kaedah dan tahap keberkesanan 4) Dengan mengambil konsep rangkaian saraf graf boleh dipercayai secara keseluruhan, hala tuju penyelidikan masa depan yang berpotensi dicadangkan.

2 Rangkaian neural graf dan kebolehpercayaan

Untuk memudahkan pemahaman pembaca, artikel ini mula-mula memperkenalkan konsep teras berikut.

Data graf: Graf Bagaimana untuk membina GNN yang boleh dipercayai? Ulasan terbaru ada di sini! Rangkaian Neural Graf Boleh Dipercayai: Dimensi, Kaedah, Trend biasanya terdiri daripada set nod Bagaimana untuk membina GNN yang boleh dipercayai? Ulasan terbaru ada di sini! Rangkaian Neural Graf Boleh Dipercayai: Dimensi, Kaedah, Trend dan set tepi Bagaimana untuk membina GNN yang boleh dipercayai? Ulasan terbaru ada di sini! Rangkaian Neural Graf Boleh Dipercayai: Dimensi, Kaedah, Trend. Bilangan nod dalam graf ini ialah Bagaimana untuk membina GNN yang boleh dipercayai? Ulasan terbaru ada di sini! Rangkaian Neural Graf Boleh Dipercayai: Dimensi, Kaedah, Trend dan bilangan tepi antara nod ialah Bagaimana untuk membina GNN yang boleh dipercayai? Ulasan terbaru ada di sini! Rangkaian Neural Graf Boleh Dipercayai: Dimensi, Kaedah, Trend. Diberi graf Bagaimana untuk membina GNN yang boleh dipercayai? Ulasan terbaru ada di sini! Rangkaian Neural Graf Boleh Dipercayai: Dimensi, Kaedah, Trend, topologi yang sepadan boleh diwakili oleh matriks bersebelahan Bagaimana untuk membina GNN yang boleh dipercayai? Ulasan terbaru ada di sini! Rangkaian Neural Graf Boleh Dipercayai: Dimensi, Kaedah, Trend, dengan Bagaimana untuk membina GNN yang boleh dipercayai? Ulasan terbaru ada di sini! Rangkaian Neural Graf Boleh Dipercayai: Dimensi, Kaedah, Trend mewakili hubungan sambungan antara nod Bagaimana untuk membina GNN yang boleh dipercayai? Ulasan terbaru ada di sini! Rangkaian Neural Graf Boleh Dipercayai: Dimensi, Kaedah, Trend dan nod Bagaimana untuk membina GNN yang boleh dipercayai? Ulasan terbaru ada di sini! Rangkaian Neural Graf Boleh Dipercayai: Dimensi, Kaedah, Trend. Iaitu, jika nod Bagaimana untuk membina GNN yang boleh dipercayai? Ulasan terbaru ada di sini! Rangkaian Neural Graf Boleh Dipercayai: Dimensi, Kaedah, Trend dan Bagaimana untuk membina GNN yang boleh dipercayai? Ulasan terbaru ada di sini! Rangkaian Neural Graf Boleh Dipercayai: Dimensi, Kaedah, Trend disambungkan antara satu sama lain, maka Bagaimana untuk membina GNN yang boleh dipercayai? Ulasan terbaru ada di sini! Rangkaian Neural Graf Boleh Dipercayai: Dimensi, Kaedah, Trend, jika tidak Bagaimana untuk membina GNN yang boleh dipercayai? Ulasan terbaru ada di sini! Rangkaian Neural Graf Boleh Dipercayai: Dimensi, Kaedah, Trend. Jika nod dalam graf Bagaimana untuk membina GNN yang boleh dipercayai? Ulasan terbaru ada di sini! Rangkaian Neural Graf Boleh Dipercayai: Dimensi, Kaedah, Trend mempunyai atribut, matriks ciri Bagaimana untuk membina GNN yang boleh dipercayai? Ulasan terbaru ada di sini! Rangkaian Neural Graf Boleh Dipercayai: Dimensi, Kaedah, Trend boleh digunakan untuk menerangkan maklumat atribut ini. Oleh itu, graf Bagaimana untuk membina GNN yang boleh dipercayai? Ulasan terbaru ada di sini! Rangkaian Neural Graf Boleh Dipercayai: Dimensi, Kaedah, Trend juga boleh diwakili sebagai Bagaimana untuk membina GNN yang boleh dipercayai? Ulasan terbaru ada di sini! Rangkaian Neural Graf Boleh Dipercayai: Dimensi, Kaedah, Trend.

Rangkaian saraf graf (GNN): Rangkaian saraf graf ialah istilah umum untuk rangkaian rangkaian saraf yang boleh digunakan untuk tugas pengkomputeran pada data graf (seperti pengelasan nod, ramalan pautan, pengelasan graf). Langkah operasi biasa dalam rangkaian saraf graf ialah penghantaran mesej. Semasa proses penyebaran mesej, rangkaian saraf graf mengemas kini perwakilan nod semasa dengan mengagregatkan maklumat semua nod jiran. Atas dasar penggabungan dengan operasi lain (seperti pengujaan tak linear), rangkaian saraf graf boleh mengira perwakilan data yang sepadan selepas lelaran kemas kini perwakilan berbilang.

Kebolehpercayaan: Kebolehpercayaan digunakan untuk menggambarkan sistem yang layak dipercayai. Dalam konteks rangkaian saraf graf yang dipercayai, penerima amanah (pemegang amanah) ialah sistem rangkaian saraf graf, dan pemula amanah (pemberi amanah) boleh menjadi pengguna, pembangun, pihak berkuasa kawal selia atau malah seluruh masyarakat.

GNN yang boleh dipercayai ditakrifkan sebagai rangkaian saraf graf yang mengambil kira kedua-dua kebolehpercayaan dan prestasi cemerlang ini termasuk tetapi tidak terhad kepada keteguhan, kebolehtafsiran, privasi, dan lain-lain rangkaian saraf graf dan kesejahteraan. Takrif asal adalah seperti berikut: “Dalam tinjauan ini, kami mentakrifkan GNN yang boleh dipercayai sebagai GNN yang cekap yang menggabungkan aspek teras kebolehpercayaan, termasuk keteguhan, kebolehjelasan, privasi, kesaksamaan, kebertanggungjawaban, kesejahteraan dan ciri berorientasikan kepercayaan lain dalam konteks daripada GNNs.

3 Rangka Kerja Kajian

Dalam bab pertama, ulasan ini terutamanya memperkenalkan latar belakang penyelidikan, definisi rangkaian saraf graf boleh dipercayai, takrifan dimensi kebolehpercayaan yang berbeza, perbezaan pengukuran dan penyelidikan, dan hubungan dengan yang sedia ada. ulasan dan sumbangan utamanya. Dalam Bab 2, ia memperkenalkan konsep asas dan tugas pengiraan rangkaian saraf graf. Dalam Bab 3 hingga 8, ia bermula dari keteguhan, kebolehjelasan, privasi, kesaksamaan, kebertanggungjawaban, dan kesejahteraan alam sekitar masing-masing Enam aspek memperkenalkan dan meringkaskan kaedah teknikal biasa dan membincangkan hala tuju penyelidikan masa hadapan. Dalam Bab 9, ulasan ini meringkaskan hubungan kompleks antara enam dimensi kredibiliti di atas daripada kedua-dua kaedah dan tahap keberkesanan. Akhir sekali, Bab 10 semakan mempertimbangkan rangkaian saraf graf yang boleh dipercayai secara keseluruhan, dan mencadangkan lima hala tuju untuk penyelidikan dan perindustrian masa depan untuk membina sistem rangkaian saraf graf yang boleh dipercayai secara menyeluruh.

4 Keteguhan

Keteguhan merujuk kepada keupayaan rangkaian saraf graf untuk mengekalkan keputusan ramalan yang stabil apabila berhadapan dengan gangguan. Keputusan ramalan rangkaian saraf graf boleh dipengaruhi oleh pelbagai gangguan (terutamanya pelbagai serangan pada rangkaian saraf graf). Ini membawa cabaran yang teruk kepada aplikasi rangkaian saraf graf dalam senario yang melibatkan keselamatan peribadi dan harta benda, seperti pengesanan penipuan dalam sistem kewangan perbankan dan ramalan lalu lintas dan perancangan untuk sistem pemanduan autonomi. Oleh itu, penyelidikan mengenai keteguhan adalah pautan utama yang sangat diperlukan dalam rangkaian saraf graf yang boleh dipercayai.

Ulasan ini meringkaskan kerja berkaitan semasa tentang keteguhan rangkaian saraf graf, dan memperkenalkan klasifikasi serangan dan pertahanan lawan serta beberapa kaedah biasa. Antaranya, klasifikasi serangan lawan adalah diperolehi daripada analisis model ancaman serangan (threat model), seperti yang ditunjukkan dalam rajah di bawah klasifikasi pertahanan lebih berdasarkan fasa pelaksanaan khusus teknologi (fasa sasaran).

Dalam memperkenalkan kategori kaedah yang berbeza, penulis membincangkan perbezaan antara ciri kaedah ini dan yang digunakan dalam teknik buatan biasa lain seperti CNN. Contohnya, klasifikasi dan variasi nama yang berbeza untuk jenis operasi gangguan dan matlamat serangan tertentu.

Bagaimana untuk membina GNN yang boleh dipercayai? Ulasan terbaru ada di sini! Rangkaian Neural Graf Boleh Dipercayai: Dimensi, Kaedah, Trend

Selain itu, penulis juga membincangkan dan merumuskan kebolehgunaan kaedah serangan dan pertahanan ini. Sebagai contoh, penulis membandingkan dan menganalisis pelbagai jenis kaedah pertahanan daripada tiga perspektif: peringkat aplikasi, modulariti dan keserasian penggunaan.

Akhir sekali, semakan ini mencadangkan dua hala tuju penyelidikan masa hadapan berdasarkan status quo semasa, iaitu membangunkan penilaian keteguhan piawai dan meningkatkan kebolehskalaan kaedah pertahanan sedia ada (skalabiliti pertahanan).

5 Kebolehjelasan (Explainability)

Explainability merujuk kepada keupayaan untuk membuat keputusan ramalan rangkaian saraf graf boleh difahami oleh manusia. Jika ramalannya tidak dapat difahami, orang ramai tidak akan mempercayai rangkaian saraf graf. Kekurangan kepercayaan akan terus mengehadkan penggunaannya dalam senario yang melibatkan keadilan (seperti ramalan risiko kredit), keselamatan maklumat (seperti reka bentuk cip) dan keselamatan hidup (seperti pemanduan autonomi). Oleh itu, sistem rangkaian saraf graf yang boleh dipercayai perlu memberikan penjelasan untuk ramalannya.

Selepas memperkenalkan konsep asas seperti bentuk penjelasan dan kategori kaedah penjelasan, ulasan ini membahagikan kerja yang berkaitan dengan kebolehtafsiran rangkaian saraf graf kepada penjelasan kendiri (GNN boleh ditafsir) dan penerang pasca hoc. Penjelasan sendiri (GNN Boleh Ditafsir) terutamanya merangkumi anggaran sumbangan, pengenalan modul boleh tafsir, membenamkan pembelajaran prototaip dan kaedah penjanaan rasional. Penjelas post-hoc terutamanya termasuk kaedah berasaskan kecerunan/ciri, kaedah berasaskan gangguan, kaedah pengganti dan kaedah penguraian ), kaedah penjanaan dan kaedah lain.

Bagaimana untuk membina GNN yang boleh dipercayai? Ulasan terbaru ada di sini! Rangkaian Neural Graf Boleh Dipercayai: Dimensi, Kaedah, Trend

Selepas memperkenalkan prinsip kaedah biasa, ulasan ini membuat perbandingan menyeluruh kaedah ini, seperti yang ditunjukkan dalam jadual berikut:

Bagaimana untuk membina GNN yang boleh dipercayai? Ulasan terbaru ada di sini! Rangkaian Neural Graf Boleh Dipercayai: Dimensi, Kaedah, Trend

Selain itu, semakan ini merangkumi penjelasan sendiri dan selepas penerangan (kebolehtafsiran dan kebolehjelasan), pengetahuan latar belakang yang diperlukan untuk memberikan penjelasan (pengetahuan putih/kelabu/kotak hitam), prinsip penaakulan untuk mendapatkan penjelasan (rasional penaakulan), dan had lain. Kerja semasa diringkaskan dalam empat aspek: had lain. Akhir sekali, ulasan ini mencadangkan bahawa mewujudkan kaedah model-agnostik yang ketat dan penanda aras penilaian untuk aplikasi sebenar adalah dua arah untuk penyelidikan masa depan tentang kebolehtafsiran rangkaian saraf graf.

6 Privasi

Privasi juga merupakan dimensi yang boleh dipercayai yang tidak boleh diabaikan apabila membina rangkaian saraf graf yang boleh dipercayai. Dalam proses membina dan mengekalkan sistem rangkaian saraf graf yang dipercayai, maklumat sensitif dan peribadi seperti model itu sendiri atau data graf berisiko untuk dibocorkan. Oleh itu, ulasan ini mula-mula meringkaskan penyelidikan semasa yang berkaitan dengan kebocoran data privasi, dan kemudian memperkenalkan pelbagai kaedah perlindungan privasi.

Mensasarkan masalah kebocoran privasi, ulasan ini bermula daripada model ancaman serangan privasi semasa, mula-mula memperkenalkan matlamat dan keupayaan ancaman yang berpotensi, dan kemudian memperkenalkan serangan pengekstrakan model dan serangan inferens keahlian serangan penyongsangan, tiga serangan privasi biasa ini dan potensi risiko kebocoran privasi dalam senario lain.

Kemudian, ulasan ini memperkenalkan empat jenis pembelajaran persekutuan, privasi pembezaan, latihan yang tidak mudah terjejas dan pengiraan keselamatan dalam senario rangkaian saraf graf. Di samping itu, selepas mengklasifikasikan dan memperkenalkan teknologi di atas, penulis juga membincangkan senario aplikasi khusus mereka dan pertukaran antara perlindungan privasi, ketepatan model dan kecekapan pelaksanaan yang dibawa oleh penghujung perlindungan privasi.

Bagaimana untuk membina GNN yang boleh dipercayai? Ulasan terbaru ada di sini! Rangkaian Neural Graf Boleh Dipercayai: Dimensi, Kaedah, Trend

Pada akhir bab, memandangkan status penyelidikan semasa, penulis percaya bahawa pertahanan semasa terhadap risiko privasi (kebocoran daripada kecerunan) dan serangan privasi adalah Penyelidikan mengenai serangan) masih bersifat jangka pendek dan memerlukan perhatian dan penerokaan lanjut pada masa hadapan.

7 Kesaksamaan

Dengan melindungi kepentingan utama kumpulan atau individu yang terdedah, sistem yang adil boleh memenangi kepercayaan orang ramai. Sistem rangkaian saraf graf yang adil bermakna keputusan ramalannya mengecualikan berat sebelah terhadap kumpulan atau individu tertentu. Pada masa ini, rangkaian saraf graf terutamanya menyelesaikan tugas pengkomputeran graf dalam cara terdorong data. Walau bagaimanapun, mekanisme penyebaran mesej dalam rangkaian saraf graf boleh menguatkan lagi bias yang sudah ada dalam data. Sejak itu, disebabkan oleh faktor seperti keutamaan peribadi atau berat sebelah tingkah laku, orang akan memperdalam lagi bias dalam data graf semasa interaksi mereka dengan perkhidmatan rangkaian saraf graf.

Bagaimana untuk membina GNN yang boleh dipercayai? Ulasan terbaru ada di sini! Rangkaian Neural Graf Boleh Dipercayai: Dimensi, Kaedah, Trend

Memperkenalkan konsep asas seperti definisi keadilan (keadilan kumpulan, keadilan individu, kesaksamaan kontrafaktual), peringkat penggunaan (pra-pemprosesan, dalam-pemprosesan, pasca-pemprosesan) Akhir sekali, semakan ini membahagikan kaedah semasa untuk penyelidikan kesaksamaan dalam rangkaian saraf graf kepada kaedah pembelajaran perwakilan saksama dan kaedah peningkatan ramalan saksama. Selepas memperkenalkan prinsip asas kaedah ini, perbandingan menyeluruh kaedah ini dilakukan, seperti yang ditunjukkan dalam jadual di bawah.

Bagaimana untuk membina GNN yang boleh dipercayai? Ulasan terbaru ada di sini! Rangkaian Neural Graf Boleh Dipercayai: Dimensi, Kaedah, Trend

Akhir sekali, semakan ini mencadangkan untuk meneroka definisi dan penilaian kesaksamaan, pengaruhnya terhadap prestasi tugas, dan penjelasan mengenai ketidakadilan (mendedahkan kezaliman) adalah hala tuju penyelidikan yang perlu ditumpukan dalam penyelidikan keadilan masa depan pada rangkaian saraf graf.

8 Akauntabiliti

Dengan kemunculan senario aplikasi yang lebih dan lebih meluas dan struktur sistem yang kompleks, individu, perusahaan dan kerajaan Institusi telah mengemukakan keperluan yang lebih tinggi untuk akauntabiliti yang berkesan dalam rangkaian saraf graf yang boleh dipercayai. Dalam tahun-tahun kebelakangan ini, perusahaan dan agensi kerajaan di China, Amerika Syarikat dan Eropah telah mengemukakan rancangan dan panduan mereka sendiri tentang cara membina rangka kerja akauntabiliti untuk kecerdasan buatan. Berdasarkan kandungan di atas, ulasan ini meringkaskan tiga keperluan untuk rangka kerja akauntabiliti rangkaian saraf graf:

(1) Proses penilaian dan pensijilan yang munasabah harus direka bentuk dan disertakan dengan keseluruhan graf Pembangunan dan kitaran operasi rangkaian saraf sistem;

(2) Jaminan kebolehauditan proses pembangunan dan operasi hendaklah dipastikan

(3) Penyelarasan dan mekanisme maklum balas yang mencukupi perlu diwujudkan untuk memudahkan campur tangan manusia dalam sistem (penyesuaian), pemulihan dan langkah lain, dan boleh menghukum tingkah laku yang tidak sesuai.

Kemudian, ulasan ini memperkenalkan dua kategori utama kerja yang tersedia pada masa ini untuk membina rangka kerja akauntabiliti dalam sistem rangkaian saraf graf yang boleh dipercayai: penanda aras dan penilaian keselamatan.

Semakan ini memperkenalkan penyelidikan mengenai analisis penandaarasan mengikut peringkat pembangunan berbeza rangkaian saraf graf - reka bentuk model (reka bentuk seni bina), latihan model (latihan model), dan pengesahan model (pengesahan model). Untuk penilaian keselamatan, penulis terutamanya memperkenalkan penyelidikan berkaitan pengesahan integriti sistem (pengesahan integriti), dan memperkenalkan pengesahan integriti data (integriti data) dan integriti program (integriti prosedur) mengikut objek pengesahan yang berbeza.

Akhir sekali, ulasan ini mencadangkan tiga hala tuju penyelidikan untuk akauntabiliti rangkaian saraf graf yang boleh dipercayai. Pertama, menyediakan pengesanan pelanggaran untuk lebih banyak pelanggaran yang berbeza, kedua, ujian integriti program yang meliputi keseluruhan proses dan ujian integriti data semua komponen, ketiga, teruskan meningkatkan kebolehauditan dan kebolehauditan sistem.

9 Kesejahteraan alam sekitar

Rangkaian saraf graf yang dipercayai harus mematuhi nilai sosial persekitaran di mana ia digunakan. Pada masa ini, pemanasan global merupakan masalah alam sekitar utama yang perlu diselesaikan segera oleh masyarakat manusia Untuk mencapai matlamat berkecuali karbon memerlukan usaha bersama semua lapisan masyarakat. Untuk mengurangkan kesan persekitaran sistem rangkaian saraf graf, selepas memperkenalkan metrik berkaitan seperti bilangan nod setiap joule, ulasan ini meringkaskan pelbagai kaedah untuk meningkatkan kecekapan rangkaian saraf graf.

(1) Rangkaian saraf graf boleh skala dan komunikasi data yang cekap: Dengan pertumbuhan pesat data graf, set data berskala besar menimbulkan cabaran kepada operasi rangkaian saraf graf yang cekap. Untuk menghadapi cabaran ini, teknologi semasa terutamanya termasuk kaedah pensampelan, seni bina boleh skala, aplikasi industri, komunikasi data yang cekap, dsb.

(2) Teknologi pemampatan model: Dengan perkembangan teknologi, penyelidik telah mencadangkan model rangkaian saraf graf yang lebih mendalam dan lebih kompleks untuk meningkatkan prestasi mereka. Walau bagaimanapun, skala model ini mengehadkan penggunaannya pada peranti pengkomputeran tepi dengan sumber pengkomputeran terhad. Oleh itu, teknologi pemampatan model ialah cara yang berkesan untuk menyelesaikan cabaran ini. Teknologi yang berkaitan termasuk penyulingan pengetahuan, pemangkasan model, pengurangan saiz parameter, pengkuantitian model, dsb.

(3) Rangka kerja pembangunan dan pemecut: Ketaksekataan data graf, penggantian pengiraan yang jarang dan padat dalam model, dan kepelbagaian model dan aplikasi menjadikan sistem rangkaian saraf graf perlu menggunakan reka bentuk khas rangka kerja dan pemecut untuk meningkatkan kecekapannya. Untuk menyelesaikan masalah ini, kaedah semasa terutamanya termasuk rangka kerja perisian (rangka kerja SW), pemecut perkakasan (pemecut HW), analisis kesesakan kecekapan (menganalisis kesesakan kecekapan), reka bentuk bersama perisian dan perkakasan (reka bentuk bersama SW-HW), dll.

Akhir sekali, ulasan ini mencadangkan bahawa penerokaan GNN yang cekap dan kajian pemecut untuk GNN ialah dua hala tuju penyelidikan masa hadapan yang akan menggalakkan kesejahteraan persekitaran rangkaian saraf graf.

10 Hubungan antara aspek kredibiliti yang berbeza

Penyelidikan semasa tentang mempromosikan kredibiliti rangkaian saraf graf terutamanya tertumpu pada enam dimensi di atas Salah satu daripada ulasan, ulasan ini mencadangkan bahawa membina rangkaian saraf graf yang boleh dipercayai tidak boleh mengabaikan hubungan antara enam dimensi kebolehpercayaan di atas, dan meringkaskan ini daripada dua perspektif berikut:

1) Daripada graf kebolehpercayaan Bagaimana kaedah daripada satu aspek GNN yang boleh dipercayai disesuaikan untuk menangani objektif dalam aspek lain.

2) Mengapa memajukan satu aspek GNN yang boleh dipercayai boleh menggalakkan atau menghalang aspek lain (mengapa memajukan satu aspek GNN yang boleh dipercayai boleh mempromosikan atau menghalang aspek lain).

Bagaimana untuk membina GNN yang boleh dipercayai? Ulasan terbaru ada di sini! Rangkaian Neural Graf Boleh Dipercayai: Dimensi, Kaedah, Trend

11 Hala Tuju Penyelidikan Masa Hadapan

Mensasarkan potensi liputan penyelidikan, ulasan ini memperlakukan rangkaian saraf graf yang boleh dipercayai secara keseluruhan dan menganalisis pengehadan kaedah semasa. Untuk mengisi jurang penyelidikan semasa dan menggalakkan perindustrian rangkaian saraf graf yang boleh dipercayai, ulasan ini mencadangkan lima hala tuju penyelidikan berikut:

A. Terima konsep reka bentuk yang boleh dipercayai (beralih kepada GNN yang boleh dipercayai)

Membina rangkaian neural graf yang boleh dipercayai memerlukan penyelidik dan pengamal rangkaian neural graf untuk menerima sepenuhnya konsep kebolehpercayaan Semasa mereka bentuk rangkaian saraf graf, bukan sahaja prestasi tugasnya perlu dipertimbangkan, tetapi juga konsep kebolehpercayaan mesti diperkenalkan ke dalam graf. rangkaian saraf dalam falsafah reka bentuk. Beberapa kerja sedia ada telah mengambil kira kebolehtafsiran dan keadilan dalam reka bentuk, yang telah meningkatkan kredibiliti rangkaian saraf graf. Di samping itu, menangani satu siri isu terbuka yang dihadapi dalam peralihan kepada rangkaian saraf graf yang boleh dipercayai, seperti pengimbangan dan pertukaran antara dimensi kebolehpercayaan yang berbeza (seperti keteguhan dalam pemanduan autonomi dan kesejahteraan alam sekitar) dalam aplikasi tertentu, juga merupakan A arah penyelidikan yang mencabar.

B. Meneroka aspek lain GNN yang boleh dipercayai

Rangkaian saraf graf yang dipercayai sebenarnya mengandungi lebih banyak kandungan daripada enam dimensi yang diperkenalkan dalam ulasan ini. Sebagai contoh, generalisasi juga dianggap sebagai dimensi penting sistem yang boleh dipercayai. Beberapa penyelidikan semasa meneroka hubungan antara ekstrapolasi rangkaian saraf graf dan fungsi pengaktifan yang mereka gunakan. Kerja-kerja ini memperkayakan konotasi kebolehpercayaan dan menggalakkan pembinaan rangkaian saraf graf yang boleh dipercayai. Di samping itu, semakan mencadangkan agar mengendalikan dengan betul prinsip reka bentuk yang berkaitan dengan sistem yang dipercayai (seperti "Prinsip Tadbir Urus Kecerdasan Buatan Generasi Baharu - Membangunkan Kecerdasan Buatan Bertanggungjawab" yang dikeluarkan oleh Jawatankuasa Profesional Tadbir Urus Kecerdasan Buatan Generasi Baru Kebangsaan) juga penting untuk orang yang boleh dipercayai. rangkaian neural graf kandungan penyelidikan penting dalam pembangunan masa hadapan.

C. Mempelajari hubungan yang pelbagai

Semakan ini hanya merangkumi sebahagian daripada hubungan kompleks antara dimensi berbeza rangkaian saraf graf yang boleh dipercayai. Meneroka perhubungan yang lain, seperti kebolehjelasan dan keadilan, adalah penting untuk memahami sepenuhnya dan membina sistem rangkaian saraf graf yang boleh dipercayai. Tambahan pula, hubungan ini bukan sahaja kompleks tetapi wujud pada pelbagai peringkat. Contohnya, keadilan dan keteguhan kontrafaktual adalah sama dari segi konsep. Oleh itu, meneroka perkaitan antara dimensi berbeza rangkaian saraf graf yang boleh dipercayai daripada tahap yang berbeza seperti konsep, kaedah dan keberkesanan juga merupakan hala tuju penyelidikan yang menjanjikan.

D. Reka bentuk kaedah model-agnostik

Pada masa ini, banyak kaedah untuk meningkatkan kredibiliti rangkaian saraf graf memerlukan penggunaan seni bina rangkaian saraf graf yang direka khas. Kaedah ini tidak akan berfungsi jika infrastruktur rangkaian sasaran tidak boleh diakses atau diubah suai (seperti menggunakan perkhidmatan awan). Ini sangat mengurangkan kegunaan kaedah peningkatan kredibiliti ini dalam senario dunia sebenar. Sebaliknya, kaedah model-agnostik boleh digunakan secara fleksibel pada sistem rangkaian saraf graf dengan cara pasang dan main. Selain itu, kaedah tersebut juga boleh digabungkan dalam bentuk modul berfungsi. Oleh itu, mereka bentuk pendekatan model-agnostik akan meningkatkan kepraktisannya dan memudahkan pembinaan rangkaian saraf graf yang boleh dipercayai.

E. Wujudkan ekosistem teknologi untuk GNN yang boleh dipercayai

Sebagai bidang yang berkembang pesat, pembangunan rangkaian neural graf yang boleh dipercayai tidak boleh dipisahkan daripada sokongan ekosistem teknologi. Ekosistem teknologi di sini termasuk tetapi tidak terhad kepada kit alat, set data, metrik dan saluran paip. Disebabkan oleh ciri-ciri yang wujud pada data graf, beberapa kit alat (alat) semasa seperti AI360 IBM mungkin tidak digunakan secara langsung untuk menilai rangkaian saraf graf. Sebagai contoh, kewujudan tepi antara nod memecahkan andaian bebas dan teragih identik (IID) pada nod, yang membawa kepada keperluan untuk mempertimbangkan saling bergantung antara nod apabila mengkaji kesaksamaan rangkaian saraf graf. Selain itu, disebabkan kepelbagaian senario aplikasi, membina rangkaian saraf graf yang dipercayai juga memerlukan kemudahan teknikal sokongan seperti set data, metrik, piawaian penilaian dan platform perisian yang sesuai untuk tugasan dan senario yang berbeza. Oleh itu, mewujudkan ekosistem teknologi yang sepadan ialah langkah utama dalam penyelidikan dan perindustrian rangkaian saraf graf yang boleh dipercayai.

Atas ialah kandungan terperinci Bagaimana untuk membina GNN yang boleh dipercayai? Ulasan terbaru ada di sini! Rangkaian Neural Graf Boleh Dipercayai: Dimensi, Kaedah, Trend. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!

Label berkaitan:
sumber:51cto.com
Kenyataan Laman Web ini
Kandungan artikel ini disumbangkan secara sukarela oleh netizen, dan hak cipta adalah milik pengarang asal. Laman web ini tidak memikul tanggungjawab undang-undang yang sepadan. Jika anda menemui sebarang kandungan yang disyaki plagiarisme atau pelanggaran, sila hubungi admin@php.cn
Tutorial Popular
Lagi>
Muat turun terkini
Lagi>
kesan web
Kod sumber laman web
Bahan laman web
Templat hujung hadapan