Kecerdasan buatan generatif akan datang, bagaimana untuk melindungi kanak-kanak di bawah umur? |. Jurnal Sains Sosial

Kecerdasan buatan dan pembangunan perlindungan kanak-kanak bawah umur

Sebagai tindak balas kepada perkembangan pesat kecerdasan buatan generatif yang berkuasa, UNESCO mengadakan mesyuarat global pertama menteri pendidikan mengenai topik ini pada 25 Mei tahun ini. Analisis menyeluruh dan objektif tentang peluang pembangunan dan risiko serta cabaran yang belum pernah berlaku sebelum ini bagi kecerdasan buatan generatif merupakan cadangan mendesak masa untuk memastikan pertumbuhan sihat kanak-kanak di bawah umur, dan juga merupakan bahagian penting dalam melaksanakan perlindungan dan pembangunan kanak-kanak di bawah umur.

Teks asal: "Kecerdasan buatan generatif akan datang, cara melindungi kanak-kanak bawah umur"

Pengarang |. Sekolah Kewartawanan dan Komunikasi, Beijing Normal University Fang Zengquan/Penyelidik Yuan Ying/Pensyarah Qi Xuejing/Penolong Penyelidik

Gambar |Rangkaian

Kecerdasan buatan generatif (AIGC) berada di antara sepuluh penemuan saintifik teratas pada tahun 2022. Keputusan ini diterbitkan dalam majalah Sains. Kecerdasan buatan generatif menunjukkan penaakulan logik yang kukuh dan keupayaan pembelajaran semula, boleh memahami dengan lebih baik keperluan manusia, memecahkan kesesakan pemprosesan bahasa semula jadi, dan membentuk semula sistem pengeluaran pengetahuan sosial, sistem latihan bakat, model perniagaan, dan pembahagian sosial Sistem buruh, dan lain-lain, telah membawa peluang pembangunan yang besar kepada semua bidang masyarakat, tetapi mereka juga menghadapi risiko yang teruk. Pada masa ini, kanak-kanak di bawah umur telah berinteraksi dengan teknologi kecerdasan buatan dalam pelbagai cara, dan teknologi ini sering tertanam dalam mainan, aplikasi dan permainan video, tanpa disedari menjejaskan pertumbuhan sihat kanak-kanak di bawah umur. Oleh kerana minda dan kebolehan kognitif kanak-kanak di bawah umur masih belum matang, mereka mudah dipengaruhi oleh persekitaran pintar. Oleh itu, analisis yang komprehensif dan objektif tentang peluang pembangunan dan risiko serta cabaran yang belum pernah berlaku sebelum ini bagi kecerdasan buatan generatif adalah cadangan mendesak masa untuk memastikan pertumbuhan sihat kanak-kanak di bawah umur, dan juga merupakan bahagian penting dalam melaksanakan perlindungan dan pembangunan kanak-kanak di bawah umur.

Peluang dan cabaran yang dibawa oleh kecerdasan buatan generatif

Dari segi peluang pembangunan, teknologi kecerdasan buatan adalah alat untuk membimbing kanak-kanak di bawah umur untuk mempelajari pendidikan Bergantung kepada teknologi kecerdasan buatan generatif akan menjadikan pendidikan lebih disasarkan dan berkesan. Kecerdasan buatan generatif boleh merapatkan perbezaan individu dan jurang serantau dalam pendidikan, menggalakkan ekuiti sejagat dalam sumber pendidikan, dan mengecilkan jurang digital antara individu dan wilayah pada tahap tertentu. Kecerdasan buatan generatif juga akan menggalakkan peningkatan kebolehan inovatif dan kreatif kanak-kanak di bawah umur. Kemunculan model berskala besar boleh menurunkan lagi ambang untuk menggunakan alat pembangunan kod rendah dan tanpa kod, dan boleh mencetuskan kelahiran teknologi pembangunan pintar baharu.

Anak bawah umur akan menghadapi cabaran dalam kebolehan kognitif, pemikiran dan tingkah laku kerana kecerdasan buatan generatif akan mempengaruhi mereka. Yang pertama ialah penyebaran maklumat palsu. Cara meningkatkan ketepatan fakta secara berterusan memerlukan penemuan teknologi segera. Yang kedua ialah masalah kebocoran data. Pada masa ini, kebocoran data telah mengakibatkan kehilangan data perbualan dan maklumat berkaitan untuk sesetengah pengguna. Khususnya, adalah penting untuk ambil perhatian bahawa aplikasi kecerdasan buatan generatif pada masa ini tidak mempunyai reka bentuk untuk mengesahkan umur pengguna secara sistematik, yang mungkin mendedahkan kanak-kanak di bawah umur kepada kandungan yang "tidak seimbang sepenuhnya dengan umur dan kesedaran mereka" dan mempunyai kesan buruk terhadap fizikal dan mental mereka. kesihatan. Yang ketiga ialah masalah diskriminasi algoritma tertanam. Beberapa jawapan yang diberikan oleh kecerdasan buatan generatif adalah seksis dan diskriminasi kaum, yang mungkin mengelirukan pengguna untuk mengelirukan jawapan yang diskriminasi sebagai "jawapan yang betul" dan membuat keputusan yang salah, sekali gus menjejaskan kognisi dan etika sosial secara negatif. Terutama apabila menangani isu keterangkuman algoritma, disebabkan oleh asal usul dan laluan evolusi budaya Cina dan Barat yang berbeza, ia juga melibatkan isu tafsiran, penilaian dan penyebaran antara budaya tradisional dan realiti, yang semuanya mungkin memainkan peranan dalam kecerdasan buatan generatif. . Diabaikan atau sengaja diperbesarkan dalam teknologi. Keempat ialah isu pelanggaran harta intelek. Sama ada imej atau model teks besar, sebenarnya terdapat banyak risiko berkaitan hak cipta dan bahaya tersembunyi Data latihan mungkin melanggar hak cipta orang lain, seperti hak dan kepentingan organisasi berita dan peniaga galeri foto. Pada masa ini tiada penyelesaian yang sesuai untuk cara pencipta kandungan yang karyanya digunakan dalam lagu, artikel atau karya lain yang dijana AI diberi pampasan. Pembangunan ekosistem kandungan kecerdasan buatan yang mampan dan sihat akan terjejas jika hak cipta pencipta asal sukar dipastikan. Kelima, isu jurang digital. Terdapat perbezaan yang ketara dalam prestasi model bahasa besar dalam bahasa Inggeris dan Cina, dan jelas bahawa kemahiran menulis, ekspresi dan pemahaman secara amnya lebih kuat dalam konteks bahasa Inggeris. Perbezaan antara bahasa Cina dan Inggeris ditambah dengan data kesan Matthew mungkin menjadikan jurang lebih luas. Keenam, risiko keselamatan rangkaian. Ini termasuk, tetapi tidak terhad kepada, bahan grafik yang mencadangkan atau menggalakkan mencederakan diri sendiri, kandungan lucah atau ganas dan kandungan yang mengganggu, menghina dan kebencian.

Sistem CI-STEP untuk kecerdasan buatan generatif

Pada September 2020, UNICEF mengeluarkan draf "Kecerdasan Buatan untuk Kanak-kanak - Garis Panduan Dasar", yang mencadangkan tiga prinsip utama yang mesti dipatuhi oleh kecerdasan buatan mesra kanak-kanak: Perlindungan, iaitu, "jangan membahayakan" bermaksud " berbuat baik"; penyertaan bermaksud "pemasukan". Pada November 2021, UNICEF mengeluarkan "Cadangan 2.0 tentang Mewujudkan Dasar dan Sistem AI untuk Melindungi Hak Kanak-kanak", yang mencadangkan tiga asas untuk AI untuk melindungi hak kanak-kanak: Dasar dan sistem kecerdasan buatan harus direka bentuk untuk melindungi keperluan dan hak kanak-kanak; dipenuhi secara saksama; kanak-kanak harus diberi kuasa untuk menyumbang kepada pembangunan dan penggunaan AI. Topik hangat yang dibincangkan di seluruh dunia ialah cara menggunakan teknologi AI untuk mewujudkan persekitaran yang bermanfaat untuk pertumbuhan kanak-kanak di bawah umur sekarang dan pada masa hadapan. Sejurus selepas itu, China, Amerika Syarikat, Kesatuan Eropah, dan United Kingdom juga memperkenalkan undang-undang dan peraturan yang berkaitan secara berturut-turut untuk menyeragamkan lagi dan menambah baik pengurusan teknologi kecerdasan buatan untuk kanak-kanak bawah umur.

Berdasarkan teori peringkat perkembangan intelek kanak-kanak Piaget dan teori perkembangan moral peringkat Kohlberg, digabungkan dengan undang-undang dan dasar berkaitan negara saya - "Undang-undang Perlindungan Maklumat Peribadi Republik Rakyat China" dan "Undang-undang Keselamatan Siber Republik Rakyat China China" "Undang-undang Keselamatan Data Republik Rakyat China", dsb., serta dokumen dasar yang berkaitan dari Amerika Syarikat, Kesatuan Eropah, United Kingdom dan negara serta wilayah lain, Pusat Penyelidikan Literasi Internet Bawah Umur Sekolah Kewartawanan dan Komunikasi Universiti Normal Beijing mengeluarkan kecerdasan buatan generatif pertama negara untuk kanak-kanak bawah umur Sistem penunjuk Penilaian Perlindungan dan Pembangunan (CI-STEP) menyediakan petunjuk rujukan dan penilaian penting untuk perlindungan kanak-kanak bawah umur dalam kecerdasan buatan generatif (lihat rajah di bawah) .

Sistem Indeks Perlindungan dan Penilaian Pembangunan Kecerdasan Buatan Generatif (CI-STEP)

Model penunjuk secara khusus merangkumi pengurusan Komprehensif, Petunjuk maklumat, Pendidikan popularisasi dan publisiti saintifik, Perlindungan teknikal, dan mekanisme aduan kecemasan dan mekanisme pelaporan), privasi dan sistem perlindungan maklumat peribadi (Sistem perlindungan maklumat peribadi dan privasi), setiap dimensi mengandungi 2 hingga 3 penunjuk khusus, sejumlah 15 penunjuk penilaian, untuk menyediakan maklumat saintifik untuk melindungi hak dan kepentingan kanak-kanak bawah umur , konsep penilaian yang komprehensif dan panduan praktikal.

Pertama, dari segi pengurusan yang komprehensif, termasuk pengurusan masa, pengurusan kuasa dan pengurusan penggunaan. Pengurusan masa adalah untuk menentukan masa dalam talian yang munasabah dan sesuai berdasarkan interaksi sosial, senario, penggunaan, dsb., dan melaksanakan keperluan anti-ketagihan. Pengurusan kebenaran adalah untuk menyediakan mekanisme pengesahan untuk menyemak umur Menurut peraturan keselamatan atau dasar keselamatan yang ditetapkan oleh sistem, kanak-kanak bawah umur boleh mengakses dan hanya boleh mengakses sumber yang dibenarkan. Pengurusan penggunaan ialah produk atau perkhidmatan kecerdasan buatan generatif yang harus melarang amalan perniagaan yang tidak adil dan menipu, mengambil perlindungan yang diperlukan untuk mengehadkan berat sebelah dan penipuan, serta mengelakkan risiko yang serius kepada perniagaan, pengguna dan keselamatan awam.

Yang kedua ialah petua maklumat, termasuk petua maklumat peribadi, petua yang sesuai dengan umur dan petua risiko. Jika kanak-kanak bawah umur menerbitkan maklumat peribadi melalui Internet, gesaan hendaklah dikeluarkan dengan segera dan langkah perlindungan yang perlu diambil. Peringatan yang sesuai dengan umur bermaksud bahawa penyedia produk atau perkhidmatan kecerdasan buatan generatif harus mengklasifikasikan produk kecerdasan buatan mengikut peraturan dan piawaian negara yang berkaitan, membuat peringatan yang sesuai dengan umur dan mengambil langkah teknikal untuk mengelakkan kanak-kanak di bawah umur terdedah kepada produk atau perkhidmatan yang tidak sesuai. Sesetengah penyedia kecerdasan buatan generatif memerlukan pengguna berusia lebih 18 tahun atau lebih 13 tahun dengan kebenaran ibu bapa sebelum mereka boleh menggunakan alatan AI Walau bagaimanapun, pilihan pengesahan dan mekanisme pelaksanaan semasa perlu dipertingkatkan. Amaran risiko bermaksud produk atau perkhidmatan kecerdasan buatan generatif harus mematuhi keperluan undang-undang dan peraturan, menghormati moral sosial, ketenteraman awam dan adat yang baik, dan memberikan amaran tentang kemungkinan kandungan haram seperti penipuan, keganasan, buli, keganasan, pornografi, prasangka. , diskriminasi dan maklumat yang mendorong.

Yang ketiga ialah popularisasi sains dan publisiti dan pendidikan. Penyedia produk atau perkhidmatan kecerdasan buatan generatif berada dalam kedudukan utama dalam teknologi dan harus memberikan sokongan untuk pendidikan tematik yang berkaitan dengan kanak-kanak bawah umur, amalan sosial, pengalaman profesional, pemeriksaan latihan, dsb., dan menganjurkan pempopularan saintifik bagi kanak-kanak bawah umur berdasarkan ciri-ciri industri dan aktiviti praktikal yang inovatif.

Perkara keempat ialah mengenai jaminan teknikal, termasuk pendaftaran maklumat identiti sebenar, penapisan maklumat buruk dan perlindungan tahap keselamatan rangkaian. Menurut "Undang-undang Keselamatan Siber Republik Rakyat China" dan peraturan lain yang berkaitan, pengguna dikehendaki memberikan maklumat identiti sebenar kepada sistem. Jika pembekal produk atau perkhidmatan kecerdasan buatan generatif mendapati bahawa pengguna telah menerbitkan atau menyebarkan maklumat yang mengandungi kandungan yang berbahaya kepada kesihatan fizikal dan mental kanak-kanak di bawah umur, ia harus segera berhenti menyebarkan maklumat yang berkaitan dan mengambil langkah seperti pemadaman, menyekat, dan memutuskan sambungan pautan. Pembekal produk atau perkhidmatan kecerdasan buatan generatif harus melaksanakan kewajipan perlindungan keselamatan selaras dengan keperluan sistem perlindungan tahap keselamatan rangkaian untuk melindungi rangkaian daripada gangguan, kemusnahan atau capaian tanpa kebenaran, dan menghalang data rangkaian daripada bocor atau dicuri atau diganggu.

Kelima ialah mekanisme aduan kecemasan dan pelaporan. Penyedia produk atau perkhidmatan kecerdasan buatan generatif harus mewujudkan mekanisme untuk menerima dan mengendalikan aduan pengguna, mendedahkan maklumat seperti aduan dan kaedah pelaporan, dengan segera mengendalikan permintaan individu untuk pembetulan, pemadaman dan penyekatan maklumat peribadi mereka, dan merangka pelan kontingensi untuk insiden keselamatan rangkaian untuk menanganinya tepat pada masanya Kerentanan sistem, virus komputer, serangan rangkaian, pencerobohan rangkaian, keracunan data, serangan suntikan perkataan segera dan risiko keselamatan lain apabila insiden yang membahayakan keselamatan rangkaian berlaku, segera aktifkan pelan kecemasan dan mengambil langkah-langkah pemulihan yang sepadan.

Keenam ialah privasi dan sistem perlindungan maklumat peribadi. Pembekal produk atau perkhidmatan kecerdasan buatan generatif harus menjelaskan peraturan untuk pengumpulan dan penggunaan maklumat peribadi, cara melindungi maklumat peribadi dan hak peribadi, cara mengendalikan maklumat peribadi kanak-kanak bawah umur, cara maklumat peribadi dipindahkan secara global dan cara mengemas kini dasar privasi. Penyedia produk atau perkhidmatan AI generatif tidak boleh menggunakan data untuk menjual perkhidmatan, mengiklankan atau membina profil pengguna, mengalih keluar maklumat peribadi daripada set data latihan jika boleh, memperhalusi model untuk menolak permintaan untuk maklumat peribadi dan mencegah kerosakan pada hak publisiti , reputasi hak dan privasi peribadi, dan pemerolehan haram, pendedahan, dan penggunaan maklumat peribadi dan privasi adalah dilarang.

Kita mesti memberi perhatian yang sama terhadap perlindungan dan pembangunan pada masa hadapan

Mengenai isu penting kecerdasan buatan generatif dan perlindungan kanak-kanak di bawah umur, kita mesti menegaskan penekanan yang sama terhadap perlindungan dan pembangunan, berpandukan konsep "berpusatkan kanak-kanak", "melindungi hak kanak-kanak", "mengambil tanggungjawab" dan "tadbir urus berbilang parti" Di bawah situasi semasa, kecerdasan buatan generatif akan menjadi daya penggerak baharu untuk pembangunan kanak-kanak di bawah umur dan membantu mencapai pertumbuhan kanak-kanak bawah umur yang komprehensif dan sihat dalam era kecerdasan buatan. Di bawah bimbingan konsep teknologi untuk kebaikan, pembangunan teknologi kecerdasan buatan generatif harus mematuhi prinsip apa yang paling bermanfaat kepada kanak-kanak di bawah umur, mengambil kira keselamatan rangkaian dan pembangunan digital kanak-kanak di bawah umur, memberi tumpuan kepada penerapan teknologi AI selaras dengan etika saintifik dan teknologi, dan menggalakkan syarikat Internet untuk mengambil bahagian secara aktif dalam Tadbir Urus Bersama industri.

Aplikasi kecerdasan buatan generatif pada masa hadapan perlu memberi tumpuan kepada empat isu utama. Pertama, laksanakan piawaian teknikal. Pada masa hadapan, perlindungan dan pembangunan kanak-kanak bawah umur dalam kecerdasan buatan generatif perlu menumpukan pada menyelia aktiviti R&D korporat, menyelia dan campur tangan dalam kecerdasan buatan generatif, dan mengemukakan kelulusan dan keperluan ujian untuk pembangunan dan pengeluaran model kecerdasan buatan. Kedua, menjelaskan kewajipan penilaian. Adalah perlu untuk menjelaskan kewajipan penilaian risiko keselamatan institusi R&D dan pengendali platform rangkaian untuk aplikasi produk kecerdasan buatan generatif, dan memastikan bahawa institusi R&D dan pengendali platform rangkaian mesti menjalankan penilaian risiko keselamatan sebelum meletakkan produk tersebut ke pasaran untuk memastikan bahawa risiko boleh dikawal. Ketiga, fokus pada risiko kandungan. Agensi kawal selia dan pengendali platform rangkaian harus meningkatkan lagi teknologi kawal selia dan menggalakkan pelbagai pihak untuk mengambil bahagian dalam pembangunan dan promosi produk kecerdasan buatan generatif yang berkaitan, dengan itu menyeragamkan kandungan yang dihasilkan oleh teknologi kecerdasan buatan generatif. Keempat, membina ekosistem penanaman celik AI. Mengikut ciri-ciri peringkat perkembangan kebolehan kognitif, emosi dan tingkah laku kanak-kanak di bawah umur, mengukuhkan inovasi "teknologi maklumat" dan kandungan kursus dan kaedah pengajaran lain dalam peringkat pendidikan wajib, dengan pendidikan asas rendah dan menengah sebagai kedudukan utama, membentuk sebuah kerajaan, akademik dan perusahaan yang diterajui oleh kerajaan Platform perkhidmatan awam kecerdasan buatan yang dibina bersama menggalakkan pendidikan literasi kecerdasan buatan dan aktiviti praktikal yang inovatif, menggalakkan perkongsian seimbang sumber pendidikan berkualiti tinggi, mengelakkan jurang digital dan ketidaksamaan yang semakin teruk, dan mewujudkan persekitaran pendidikan yang lebih inklusif, adil dan terbuka.

Artikel itu adalah produk asal "Bengkel Ideologi" Media Fusion Jurnal Sains Sosial Ia pada asalnya diterbitkan di Halaman 2 Jurnal Sains Sosial Terbitan 1857 tanpa kebenaran Kandungan dalam artikel itu hanya mewakili penulis pendapat dan tidak mewakili pendirian akhbar ini.

Editor yang bertanggungjawab bagi isu ini: Wang Liyao

Bacaan lanjutan

Negara dikuasakan bakat |. Era kecerdasan buatan: "Pendidikan ketepatan berpusatkan pelajar"

Mewujudkan mekanisme pembangunan kecerdasan buatan yang boleh dipercayai |

Atas ialah kandungan terperinci Kecerdasan buatan generatif akan datang, bagaimana untuk melindungi kanak-kanak di bawah umur? |. Jurnal Sains Sosial. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!