Teras dan laluan tadbir urus algoritma dalam era kecerdasan buatan

Pada penghujung Disember 2021, keempat-empat jabatan menandatangani dan mengumumkan "Peraturan Pengurusan Pengesyoran Algoritma Perkhidmatan Maklumat Internet" (dirujuk sebagai "Peraturan Pengesyoran Algoritma"), yang akan dilaksanakan secara rasmi pada 1 Mac 2022. Berdasarkan ini, adalah perlu untuk menjelaskan lagi teras asas tadbir urus algoritma dan meneroka laluan baharu untuk tadbir urus dalam era algoritma.

1. Sistem perundangan semasa tadbir urus algoritma di negara saya

Sistem perundangan tadbir urus algoritma di negara saya pada mulanya telah ditubuhkan, mewujudkan satu sistem perundangan dengan peringkat perundangan yang luas dan rangkaian pelbagai jabatan , sistem perundangan yang berkembang pesat. Penyeliaan perundangan telah beralih daripada fokus sebelumnya pada keselamatan rangkaian dan perlindungan maklumat data kepada tadbir urus yang mendalam semasa, iaitu, tadbir urus algoritma dalam era kecerdasan buatan.

Dari segi reka bentuk peringkat atasan, "Garis Pelaksanaan untuk Pembinaan Masyarakat Undang-undang (2020-2025)" mencadangkan kaedah pengurusan piawai untuk aplikasi teknologi baharu seperti pengesyoran algoritma dan pemalsuan mendalam. Di samping itu, "Rancangan Lima Tahun ke-14 untuk Pembangunan Ekonomi Digital" menunjukkan pecutan pembinaan sistem pusat data besar bersepadu negara dengan sinergi kuasa pengkomputeran, algoritma, data dan sumber aplikasi.

Dari segi asas perundangan dan kawal selia, Kanun Sivil, Undang-undang Keselamatan Siber, Undang-undang Keselamatan Data, Undang-undang Perlindungan Maklumat Peribadi dan Langkah Pengurusan Perkhidmatan Maklumat Internet masing-masing meliputi hak keperibadian, keselamatan rangkaian, keselamatan data, Peraturan yang diselaraskan telah dijalankan dari perspektif perlindungan dan penggunaan maklumat, perkhidmatan Internet, dsb.

Ke arah peraturan khusus algoritma, terdapat dokumen normatif jabatan "Panduan Mengukuhkan Pengurusan Komprehensif Algoritma Perkhidmatan Maklumat Internet" yang dikeluarkan pada September 2021 dan "Peraturan Pengurusan Algoritma" 2022 mengenai peraturan berkaitan algoritma Spesifikasi yang komprehensif dan terperinci telah dijalankan.

Dari segi dokumen normatif lain atau piawaian kebangsaan, banyak jabatan mempunyai peraturan tidak langsung mengenai pembelajaran mesin, etika kecerdasan buatan, sintesis maklumat, penyeliaan platform, dll., seperti "Peraturan Suruhanjaya Anti Monopoli Majlis Negeri mengenai Ekonomi Platform" "Garis Panduan Anti-Monopoli" "Pentadbiran Negeri bagi Peraturan Pasaran, Pentadbiran Ruang Siber China, Suruhanjaya Pembangunan dan Pembaharuan Nasional, Kementerian Keselamatan Awam, Kementerian Sumber Manusia dan Keselamatan Sosial, Kementerian Perdagangan, dan Persekutuan Kesatuan Sekerja Seluruh China mengenai Melaksanakan Tanggungjawab Platform Katering Dalam Talian dan Melindungi Pekerja Penghantaran Makanan Secara Berkesan Membimbing Pendapat mengenai Hak dan Kepentingan" "Kod Etika Kepintaran Buatan Generasi Baharu" "Peraturan Mengenai Pengurusan Sintesis Mendalam Maklumat Internet Perkhidmatan (Draf untuk Komen)" "Spesifikasi untuk Penilaian Keselamatan Algoritma Pembelajaran Mesin Teknologi Keselamatan Maklumat (Draf untuk Komen)" "Teknologi Keselamatan Maklumat Spesifikasi Keselamatan Maklumat Peribadi" dsb.

Walaupun kami telah menggubal undang-undang di pelbagai peringkat, masih terdapat masalah dalam sistem perundangan berkaitan algoritma semasa. Pertama, peringkat perundangan adalah berpecah-belah, memberi tumpuan terutamanya kepada dokumen normatif jabatan. Kos masa untuk menggubal undang-undang dan peraturan adalah jauh lebih tinggi daripada peraturan jabatan dan pelbagai dokumen normatif. Ini telah membawa kepada isu algoritma yang muncul semasa ditangani terutamanya dalam dokumen normatif jabatan dan piawaian kebangsaan, yang terdedah kepada penguatkuasaan yang tidak mencukupi dan terjejas. kesan penguatkuasaan dan penyeliaan Masalah seperti pembahagian tanggungjawab jabatan yang tidak jelas. Pada masa yang sama, dokumen normatif berbilang jabatan juga telah menyebabkan syarikat platform tidak dapat menyesuaikan diri, mempunyai piawaian yang tidak konsisten dan memerlukan respons kecemasan gaya tindakan khas. Kedua, penyeliaan platform adalah terutamanya pasif selepas fakta, dan terdapat kekurangan peraturan penyeliaan platform yang diperhalusi. Penyeliaan platform terutamanya menggunakan langkah hukuman pentadbiran berdasarkan kesalahan, tingkah laku dan tanggungjawab platform Walau bagaimanapun, model penyeliaan ini tidak mempunyai penyeliaan proses terdahulu Walaupun terdapat sistem pemfailan algoritma, ia tetap pada pemfailan algoritma secara khusus kawasan. Logik semakan algoritma dan piawaian untuk pendaftaran juga perlu diselaraskan tepat pada masanya mengikut sistem klasifikasi algoritma. Ketiga, terdapat sedikit penyeliaan terhadap spesifikasi teknikal algoritma, dan perundangan tidak mempunyai kembali kepada asal-usul algoritma. Algoritma ialah konsep teknikal iaitu "kaedah pengiraan" atau "kaedah pemprosesan data". Pada masa yang sama, algoritma juga mempunyai keupayaan pembelajaran tertentu dan boleh berkembang secara berterusan berdasarkan asas dan data algoritma yang sedia ada. Masih terdapat kekurangan spesifikasi perundangan untuk spesifikasi teknikal arahan komputer ini Pada masa ini, peraturan utama dikawal dari perspektif keselamatan rangkaian dan risiko undang-undang.

2. Teras, laluan dan pembinaan sistem tadbir urus algoritma

Untuk menggalakkan penambahbaikan sistem perundangan berkaitan algoritma dan mencapai tadbir urus algoritma yang tepat, penulis percaya bahawa teras tadbir urus algoritma terletak pada keselamatan maklumat data. Di satu pihak, algoritma ialah satu siri logik program yang dibina berdasarkan bahasa semula jadi, yang pada asasnya merupakan operasi logik AND, OR, dan NOT. Tetapi tidak kira betapa rumitnya algoritma itu, intipatinya juga merupakan "model yang dilatih dengan data", iaitu, operasi berterusan dan evolusi algoritma dicapai dengan memasukkan data secara berterusan. Algoritma tidak dapat dipisahkan daripada sokongan data Apabila terdapat masalah dengan aktiviti pemprosesan data, pasti akan ada masalah dengan algoritma. Oleh itu, intipati memberi perhatian kepada tadbir urus algoritma adalah keselamatan dan pemprosesan data yang munasabah.

Sebaliknya, risiko undang-undang seperti "pembunuhan data besar" yang disebabkan oleh algoritma membuat keputusan automatik telah menarik lebih banyak perhatian sosial, yang menunjukkan bahawa intipati tadbir urus algoritma terletak pada penggunaan maklumat yang rasional . Di samping itu, jiwa algoritma terletak pada nilai positifnya. Penggunaan dan pemprosesan maklumat data perlu mengejar nilai positif dan secara beransur-ansur merealisasikan algoritma yang boleh disahkan, boleh diaudit, diawasi, boleh dikesan, boleh diramal, dan boleh dipercayai, sementara juga bersifat inklusif, adil dan tidak diskriminasi.

Perlu diambil perhatian bahawa keselamatan maklumat data merangkumi dua bahagian utama: keselamatan data dan keselamatan maklumat Keselamatan data adalah untuk mengawal aktiviti pemprosesan data, memastikan keselamatan data, melindungi kepentingan semua pihak, dan memastikan pembangunan dan penggunaan data dan industri. pembangunan; keselamatan maklumat adalah kepada "Undang-undang Perlindungan Maklumat Peribadi" ialah badan utama yang mengawal aktiviti pemprosesan maklumat peribadi, menggalakkan penggunaan maklumat peribadi secara rasional, dan melindungi privasi peribadi dengan ketat.

Hanya dengan menjelaskan teras tadbir urus algoritma kita boleh menumpukan pada fokus peraturan perundangan dan penyeliaan, dan mempunyai penyelesaian baharu kepada dilema tadbir urus algoritma dalam amalan semasa. Perkembangan kecerdasan buatan dan malah keseluruhan ekonomi dan masyarakat tidak dapat dipisahkan daripada pengisian data besar-besaran dan maklumat peribadi Algoritma membuat keputusan automatik menggunakan sepenuhnya maklumat data untuk menggunakan nilai ekonomi dan sosial yang lebih besar. Oleh itu, penulis percaya bahawa laluan jaminan "dua dalaman dan satu luaran" untuk tadbir urus algoritma harus dibina. Dua elemen dalaman adalah untuk mengukuhkan perlindungan privasi dan mengembangkan keluasan, kedalaman dan ketepatan data, dan jaminan sambungan pertama ialah. mekanisme jaminan keselamatan algoritma.

Pertama, kukuhkan perlindungan privasi. Perlindungan hak privasi dalam Kanun Sivil disertakan dalam bahagian mengenai hak keperibadian, yang cukup untuk menunjukkan kepentingan perlindungan privasi. Pada masa ini, dasar privasi platform utama sedang diselaraskan dan dikemas kini, dan pusingan kemas kini ini pasti akan membawa lebih banyak sekatan kepada pembangunan algoritma yang tidak teratur pada platform yang berkaitan. Perlindungan privasi dan pembangunan algoritma adalah relatif Memperkukuh perlindungan privasi pasti akan menghalang pembangunan algoritma yang lebih pelbagai Walau bagaimanapun, ia berdasarkan kepentingan perlindungan privasi bahawa algoritma boleh mengelakkan pelanggaran hak dan kepentingan orang lain. Memperkukuh perlindungan privasi boleh bermula daripada perkara berikut:

Pertama, pengukuhan perlindungan privasi dicerminkan dalam kandungan perundangan, reka bentuk dan aplikasi algoritma, pemfailan dan semakan, fokus penyeliaan penguatkuasaan undang-undang, liabiliti undang-undang, dll. Ini adalah asas tadbir urus algoritma Konsep asas juga merupakan prinsip dasar.

Kedua, ia juga sangat penting untuk mengukuhkan perlindungan privasi kumpulan utama, terutamanya di bawah umur empat belas tahun, warga emas, pekerja dan pengguna. Perlindungan maklumat dan pemprosesan data hendaklah dijalankan mengikut peruntukan berkaitan perlindungan privasi dalam Kod Sivil dan peruntukan berkaitan maklumat peribadi sensitif dalam Undang-undang Perlindungan Maklumat Peribadi. Aktiviti pemprosesan maklumat peribadi memenuhi lima prinsip penting pemprosesan maklumat peribadi, serta mematuhi peraturan pemprosesan maklumat peribadi teras "maklum-maklumkan-persetujuan".

Ketiga, pertikaian perlindungan privasi diselesaikan terutamanya melalui remedi undang-undang persendirian, manakala isu perlindungan privasi yang terlibat dalam tadbir urus algoritma sudah pasti akan memerlukan lebih banyak saluran pelepasan undang-undang awam, jadi lebih banyak algoritma tadbir urus undang-undang awam Pada masa ini, kami perlu membayar perhatian kepada penyepaduan sifat tradisional perlindungan privasi dan tadbir urus undang-undang awam dan swasta.

Yang kedua ialah untuk meluaskan keluasan, kedalaman dan ketepatan data. Tadbir urus algoritma sama sekali tidak terlalu menekankan pada penalti kawal selia, tetapi lebih kepada pengurusan keseluruhan sebelumnya. Pembuatan keputusan automatik seperti pembelajaran mendalam memerlukan suapan sejumlah besar data Kekurangan volum data dan data yang tidak tepat akan menyebabkan algoritma mengira ke arah yang salah. Sebagai contoh, apabila perusahaan menjalankan "profil pengguna", apabila pangkalan data pengguna kecil atau data dalam dimensi tertentu tiada, adalah mustahil untuk menolak maklumat yang berkaitan dengan tepat atau menyediakan perkhidmatan yang sepadan. Apabila meluaskan keluasan, kedalaman dan ketepatan data, ia mesti dihadkan oleh aktiviti pemprosesan data undang-undang Perkara utama untuk menangani masalah ini adalah seperti berikut:

Pertama, proses meluaskan data adalah pertama untuk memastikan. keselamatan data boleh memastikan keselamatan dan kestabilan algoritma, yang merupakan asas pemprosesan data.

Kedua, wujudkan sistem pengurusan hierarki dan terperingkat untuk data dan data penting. Kemasukan sejumlah besar data mungkin mengganggu susunan asas algoritma, jadi klasifikasi hierarki data adalah sesuatu yang perlu diseragamkan oleh platform utama, terutamanya platform yang sangat besar.

Ketiga, wujudkan mekanisme pengesahan dan pembetulan ralat dalam algoritma, iaitu, sahkan kualiti data, seperti mekanisme pemeriksaan rawak, amaran keputusan, dll. untuk menemui kelemahan data supaya ia boleh diperbetulkan tepat pada masanya.

Yang ketiga ialah mekanisme keselamatan algoritma. Dengan dua asas pertama perlindungan privasi dan data, adalah amat penting untuk meningkatkan mekanisme keselamatan algoritma. Mekanisme jaminan keselamatan termasuk semakan etika saintifik dan teknologi, jaminan perundangan, penilaian dan pemantauan keselamatan, dan tindak balas kecemasan terhadap insiden keselamatan, dsb., membentuk pelbagai jaminan teknologi, undang-undang dan pengurusan. Langkah khusus termasuk yang berikut:

Pertama, algoritmanya bagus . Perkara asas semakan pendaftaran algoritma ialah semakan etika saintifik dan teknologi Kesukaran semakan ini terletak pada ketidakpastian algoritma Walaupun semakan peraturan algoritma semasa adalah munasabah, kerana algoritma itu sendiri memanjangkan, keputusan algoritma akan menjadi tidak konsisten. Oleh itu, organisasi khusus yang serupa dengan Kumpulan Kerja Etika Algoritma harus ditubuhkan, terdiri daripada pakar dalam bidang teknologi, undang-undang dan lain-lain serta pihak berkuasa kawal selia dan wakil industri pihak ketiga, untuk mengukuhkan semakan dan penyeliaan susulan yang kerap dan mencegah dengan tegas masalah dengan nilai algoritma.

Kedua, perlindungan perundangan. Reka bentuk peringkat tertinggi perundangan semasa mengenai tadbir urus algoritma telah disiapkan secara beransur-ansur Seterusnya, sebagai tambahan kepada pengurusan pengesyoran algoritma, aktiviti algoritma lain perlu diberi perhatian, seperti penyelidikan dan pembangunan teknologi algoritma, perlombongan data, kandungan peraturan. , sokongan operasi, pengurusan kakitangan, dsb. Bina corak baharu tadbir urus algoritma.

Ketiga, menambah baik sistem pengurusan dan langkah teknikal seperti pemantauan penilaian keselamatan dan tindak balas kecemasan terhadap insiden keselamatan. Untuk perusahaan, adalah perlu untuk melaksanakan tanggungjawab utama untuk keselamatan algoritma, menjaga barisan pertahanan pertama untuk keselamatan algoritma, dan mewujudkan serta menambah baik semakan mekanisme mekanisme algoritma. Bagi pihak berkuasa kawal selia dan organisasi industri, adalah perlu untuk merumuskan sistem standard industri untuk keselamatan algoritma, mempromosikan konsep asas keselamatan algoritma, dan membentuk pasukan penyeliaan berbilang saluran untuk seluruh masyarakat.

Era algoritmik telah memberi kesan yang mendalam kepada semua lapisan masyarakat, dan juga telah membawa kepada perubahan dinamik baharu dalam bentuk organisasi semasa. Masalah yang disebabkan oleh penyalahgunaan algoritma mungkin besar dalam industri Tadbir urus algoritma perlu dijalankan serentak dengan pembangunan algoritma, dengan berkesan membina laluan jaminan "dua dalaman dan satu luaran" untuk tadbir urus algoritma, mewujudkan persekitaran perniagaan digital yang baik dan mempromosikan kesihatan ekonomi digital dan masyarakat yang stabil.

Atas ialah kandungan terperinci Teras dan laluan tadbir urus algoritma dalam era kecerdasan buatan. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!