L'intelligence artificielle générative arrive, comment protéger les mineurs ? Revue des sciences sociales

Intelligence artificielle et développement de la protection des mineurs

En réponse au développement rapide d'une puissante intelligence artificielle générative, l'UNESCO a tenu sa première réunion mondiale des ministres de l'éducation sur ce sujet le 25 mai de cette année. Une analyse complète et objective des opportunités de développement, des risques et des défis sans précédent de l'intelligence artificielle générative est une proposition urgente de notre époque pour assurer la croissance saine des mineurs, et constitue également un élément clé de la mise en œuvre de la protection et du développement des mineurs.

Texte original : "L'intelligence artificielle générative arrive, comment protéger les mineurs"

Auteur | École de journalisme et de communication, Université normale de Pékin Fang Zengquan/Chercheur Yuan Ying/Maître de conférences Qi Xuejing/Chercheur adjoint

Photos |Réseau

L'intelligence artificielle générative (AIGC) se classe parmi les dix principales avancées scientifiques en 2022. Ce résultat a été publié dans le magazine Science. L'intelligence artificielle générative montre de fortes capacités de raisonnement logique et de réapprentissage, peut mieux comprendre les besoins humains, brise le goulot d'étranglement du traitement du langage naturel et remodèle le système de production de connaissances sociales, le système de formation des talents, le modèle commercial et la division sociale du travail. etc., ont apporté d'énormes opportunités de développement à tous les domaines de la société, mais ils sont également confrontés à de graves risques. À l’heure actuelle, les mineurs interagissent de diverses manières avec la technologie de l’intelligence artificielle, et ces technologies sont souvent intégrées dans les jouets, les applications et les jeux vidéo, affectant sans le savoir la croissance saine des mineurs. Comme l’esprit et les capacités cognitives des mineurs ne sont pas encore mûrs, ils sont facilement affectés par l’environnement intelligent. Par conséquent, une analyse complète et objective des opportunités de développement, des risques et des défis sans précédent de l’intelligence artificielle générative est une proposition urgente de notre époque pour assurer la croissance saine des mineurs, et constitue également un élément clé de la mise en œuvre de la protection et du développement des mineurs.

Opportunités et défis apportés par l'intelligence artificielle générative

En termes d'opportunités de développement, la technologie de l'intelligence artificielle est un outil pour guider les mineurs dans l'apprentissage de l'éducation. S'appuyer sur la technologie de l'intelligence artificielle générative rendra l'éducation plus ciblée et plus efficace. L'intelligence artificielle générative peut combler les différences individuelles et les écarts régionaux en matière d'éducation, promouvoir l'équité universelle en matière de ressources éducatives et réduire dans une certaine mesure la fracture numérique entre les individus et les régions. L’intelligence artificielle générative favorisera également l’amélioration des capacités innovantes et créatives des mineurs. L’émergence de modèles à grande échelle pourrait encore abaisser le seuil d’utilisation d’outils de développement low-code et sans code, et pourrait déclencher la naissance de nouvelles technologies de développement intelligent.

Les mineurs seront confrontés à des défis en matière de capacités cognitives, de réflexion et de comportement, car l'intelligence artificielle générative les affectera. Le premier est la prolifération de fausses informations. La manière d’améliorer continuellement l’exactitude des faits nécessite des percées technologiques urgentes. Le deuxième problème est la fuite de données. Actuellement, la fuite de données a entraîné la perte de données de conversation et d'informations associées pour certains utilisateurs. En particulier, il est important de noter que les applications d'intelligence artificielle générative ne sont actuellement pas conçues pour vérifier systématiquement l'âge de l'utilisateur, ce qui peut exposer les mineurs à des contenus « totalement disproportionnés par rapport à leur âge et à leur conscience » et avoir des effets néfastes sur leur santé physique et mentale. santé. Le troisième est le problème de la discrimination algorithmique intégrée. Certaines des réponses données par l'intelligence artificielle générative sont sexistes et racialement discriminatoires, ce qui peut induire les utilisateurs en erreur en leur faisant croire que les réponses discriminatoires sont des « bonnes réponses » et en prenant de mauvaises décisions, affectant ainsi négativement la cognition sociale et l'éthique. En particulier lorsqu'il s'agit de la question de l'inclusivité des algorithmes, en raison des origines et des chemins d'évolution différents des cultures chinoise et occidentale, cela implique également des questions d'interprétation, d'évaluation et de diffusion entre la culture traditionnelle et l'observation de la réalité, qui peuvent toutes jouer un rôle dans la génération artificielle. intelligence ignorée ou délibérément amplifiée dans la technologie. Le quatrième concerne la question de la violation de la propriété intellectuelle. Qu'il s'agisse d'une image ou d'un grand modèle de texte, il existe en réalité de nombreux risques et dangers cachés liés au droit d'auteur. Les données de formation peuvent violer les droits d'auteur d'autrui, tels que les droits et intérêts des agences de presse et des marchands de galeries de photos. Il n’existe actuellement aucune solution particulièrement appropriée quant à la manière dont les créateurs de contenu dont les œuvres sont utilisées dans des chansons, des articles ou d’autres œuvres générés par l’IA sont rémunérés. Le développement durable et sain de l’écosystème de contenu d’intelligence artificielle sera compromis si le droit d’auteur du créateur original est difficile à garantir. Cinquièmement, la question de la fracture numérique. Il existe une différence significative dans les performances des grands modèles linguistiques en anglais et en chinois, et il est clair que les compétences en écriture, expression et compréhension sont généralement plus fortes dans le contexte anglais. Les différences entre les langues chinoise et anglaise, associées à l'effet Matthew des données, pourraient creuser l'écart. Sixièmement, les risques de sécurité des réseaux. Cela inclut, sans toutefois s'y limiter, le matériel graphique suggérant ou encourageant l'automutilation, le contenu pornographique ou violent, ainsi que le contenu harcelant, désobligeant et haineux.

Système CI-STEP pour l'intelligence artificielle générative

En septembre 2020, l'UNICEF a publié un projet d'« Intelligence artificielle pour les enfants – Lignes directrices politiques », qui proposait trois principes majeurs que l'intelligence artificielle adaptée aux enfants devrait suivre : la protection, c'est-à-dire « ne pas nuire » ; faire le bien » ; participer signifie « être inclusif ». En novembre 2021, l'UNICEF a publié les « Recommandations 2.0 sur l'établissement de politiques et de systèmes d'IA pour protéger les droits des enfants », qui proposent trois fondements pour que l'IA protège les droits des enfants : les politiques et les systèmes d'intelligence artificielle doivent être conçus pour protéger les besoins et les droits des enfants ; satisfaits de manière équitable ; les enfants devraient être habilités à contribuer au développement et à l’utilisation de l’IA. Un sujet brûlant discuté dans le monde entier est la manière d’utiliser la technologie de l’IA pour créer un environnement bénéfique pour la croissance des mineurs, aujourd’hui et à l’avenir. Immédiatement après, la Chine, les États-Unis, l’Union européenne et le Royaume-Uni ont également successivement introduit des lois et réglementations pertinentes pour normaliser et améliorer davantage la gestion de la technologie de l’intelligence artificielle pour les mineurs.

Basé sur la théorie des étapes du développement intellectuel des enfants de Piaget et la théorie des étapes du développement moral de Kohlberg, combinées aux lois et politiques pertinentes de mon pays - « Loi sur la protection des informations personnelles de la République populaire de Chine », « Loi sur la sécurité des réseaux de la République populaire de Chine ». " "Loi sur la sécurité des données de la République populaire de Chine", etc., ainsi que les documents politiques pertinents des États-Unis, de l'Union européenne, du Royaume-Uni et d'autres pays et régions, le Centre de recherche sur la maîtrise de l'Internet pour les mineurs de l'École de Le journalisme et la communication de l'Université normale de Pékin ont publié le premier système d'indicateurs d'évaluation du développement des mineurs du pays (CI-STEP) qui fournit d'importants indicateurs de référence et d'évaluation pour la protection des mineurs dans le cadre de l'intelligence artificielle générative (voir la figure ci-dessous).

Système d'index d'évaluation de la protection et du développement des mineurs d'intelligence artificielle générative (CI-STEP)

Ce modèle d'indicateur comprend spécifiquement la gestion globale, l'information, la vulgarisation scientifique et l'éducation publicitaire, la protection technique, le mécanisme de plainte et de signalement d'urgence), le système de protection de la vie privée et des informations personnelles (système de protection de la vie privée et des informations personnelles), chaque dimension contient 2 à 3 spécifiques indicateurs, un total de 15 indicateurs d'évaluation, afin de fournir des informations scientifiques et complètes pour la sauvegarde des droits et des intérêts des mineurs, des concepts d'évaluation et des conseils pratiques.

Tout d'abord, en termes de gestion globale, incluant la gestion du temps, la gestion des autorités et la gestion des consommations. La gestion du temps consiste à déterminer un temps de connexion raisonnable et approprié en fonction des interactions sociales, des scénarios, des utilisations, etc. des mineurs, et à mettre en œuvre des exigences anti-addiction. La gestion des autorisations consiste à mettre en place un mécanisme de vérification pour vérifier l'âge. Selon les règles de sécurité ou les politiques de sécurité définies par le système, les mineurs peuvent accéder et ne peuvent accéder qu'aux ressources pour lesquelles ils sont autorisés. La gestion de la consommation est un produit ou un service d'intelligence artificielle générative qui doit interdire les pratiques commerciales déloyales et trompeuses, prendre les garanties nécessaires pour limiter les préjugés et la tromperie et éviter les risques graves pour les entreprises, les consommateurs et la sécurité publique.

Le deuxième concerne les conseils d'information, y compris les conseils d'information privée, les conseils adaptés à l'âge et les conseils sur les risques. Si des mineurs publient des informations privées via Internet, des invites doivent être émises rapidement et les mesures de protection nécessaires doivent être prises. Les rappels adaptés à l'âge signifient que les fournisseurs de produits ou de services d'intelligence artificielle générative doivent classer les produits d'intelligence artificielle conformément aux réglementations et normes nationales pertinentes, effectuer des rappels adaptés à l'âge et prendre des mesures techniques pour empêcher les mineurs d'être exposés à des produits ou services inappropriés. Certains fournisseurs d'intelligence artificielle générative exigent que les utilisateurs soient âgés de plus de 18 ans, ou de plus de 13 ans avec l'autorisation parentale, avant de pouvoir utiliser les outils d'IA. Cependant, les options de vérification et les mécanismes de mise en œuvre actuels doivent être améliorés. L'avertissement de risque signifie que les produits ou services d'intelligence artificielle générative doivent être conformes aux exigences des lois et réglementations, respecter l'éthique sociale, l'ordre public et les bonnes coutumes, et fournir des avertissements sur d'éventuels contenus illégaux tels que la fraude, le terrorisme, l'intimidation, la violence, la pornographie, les préjugés. , la discrimination et l’incitation à l’information.

Le troisième est la vulgarisation scientifique, la publicité et l'éducation. Les fournisseurs de produits ou de services d'intelligence artificielle générative occupent une position de leader dans le domaine technologique et devraient soutenir l'éducation thématique, la pratique sociale, l'expérience professionnelle, les inspections de stages, etc. des mineurs, et organiser la vulgarisation scientifique des mineurs en fonction des caractéristiques de l'industrie éducative. et des activités pratiques innovantes.

Le quatrième point concerne les garanties techniques, notamment l'enregistrement des informations d'identité réelles, le filtrage des mauvaises informations et la protection du niveau de sécurité du réseau. Conformément à la « Loi sur la cybersécurité de la République populaire de Chine » et à d'autres réglementations pertinentes, les utilisateurs sont tenus de fournir de véritables informations d'identité au système. Si un fournisseur d'un produit ou d'un service d'intelligence artificielle générative découvre qu'un utilisateur a publié ou diffusé des informations contenant des contenus préjudiciables à la santé physique et mentale des mineurs, il doit immédiatement cesser de diffuser les informations concernées et prendre des mesures d'élimination telles que la suppression. , blocage et déconnexion des liens. Les fournisseurs de produits ou de services d'intelligence artificielle générative devraient remplir leurs obligations de protection de la sécurité conformément aux exigences du système de protection du niveau de sécurité du réseau afin de protéger le réseau contre les interférences, la destruction ou l'accès non autorisé, et d'empêcher la fuite, le vol ou la falsification des données du réseau.

Le cinquième est le mécanisme de plainte et de signalement d’urgence. Les fournisseurs de produits ou de services d'intelligence artificielle générative devraient établir un mécanisme pour recevoir et traiter les plaintes des utilisateurs, divulguer des informations telles que les plaintes et les méthodes de signalement, traiter rapidement les demandes de correction, de suppression et de blocage de leurs informations personnelles et formuler des plans d'urgence pour incidents de sécurité du réseau pour les gérer en temps opportun. Vulnérabilités du système, virus informatiques, attaques de réseau, intrusions de réseau, empoisonnement de données, attaques par injection de mots rapides et autres risques de sécurité lorsqu'un incident mettant en danger la sécurité du réseau se produit, activer immédiatement le plan d'urgence et prendre les mesures correctives correspondantes.

Le sixième est le système de protection de la vie privée et des informations personnelles. Les fournisseurs de produits ou de services d'intelligence artificielle générative devraient clarifier les règles de collecte et d'utilisation des informations personnelles, la manière de protéger les informations personnelles et les droits personnels, la manière de traiter les informations personnelles des mineurs, la manière dont les informations personnelles sont transférées à l'échelle mondiale et la manière de mettre à jour. politiques de confidentialité. Les fournisseurs de produits ou de services d'IA générative ne peuvent pas utiliser les données pour vendre des services, faire de la publicité ou créer des profils d'utilisateurs, supprimer des informations personnelles des ensembles de données de formation lorsque cela est possible, affiner les modèles pour rejeter les demandes d'informations privées et éviter de nuire aux droits de publicité et à la réputation. les droits et la vie privée, ainsi que l'acquisition, la divulgation et l'utilisation illégales des informations personnelles et de la vie privée sont interdites.

Nous devons accorder la même attention à la protection et au développement à l'avenir

Sur la question importante de l'intelligence artificielle générative et de la protection des mineurs, nous devons insister sur une attention égale à la protection et au développement, sous la direction des concepts de « centré sur l'enfant », de « protection des droits de l'enfant » et de « prise de responsabilité ». et « gouvernance multipartite », Promouvoir l'intelligence artificielle générative pour qu'elle devienne une nouvelle force motrice pour le développement des mineurs et contribue à parvenir à une croissance globale et saine des mineurs à l'ère de l'intelligence artificielle. Sous la direction du concept de technologie pour le bien, le développement de la technologie de l'intelligence artificielle générative doit adhérer au principe de ce qui est le plus bénéfique pour les mineurs, prendre en compte la sécurité des réseaux et le développement numérique des mineurs, se concentrer sur l'application de la technologie de l'IA. conformément à l'éthique scientifique et technologique, et encourager les sociétés Internet à participer activement à la co-gouvernance de l'industrie.

L’application de l’intelligence artificielle générative à l’avenir doit se concentrer sur quatre questions majeures. Tout d’abord, mettez en œuvre des normes techniques. À l'avenir, la protection et le développement des mineurs dans le domaine de l'intelligence artificielle générative devront se concentrer sur la supervision des activités de R&D des entreprises, la supervision et l'intervention dans l'intelligence artificielle générative, et la mise en avant d'exigences d'approbation et de test pour le développement et la publication de modèles d'intelligence artificielle. Deuxièmement, clarifier les obligations d’évaluation. Il est nécessaire de clarifier les obligations d'évaluation des risques de sécurité des institutions de R&D et des opérateurs de plates-formes de réseau pour l'application de produits d'intelligence artificielle générative, et de garantir que les institutions de R&D et les opérateurs de plates-formes de réseau doivent procéder à des évaluations des risques de sécurité avant de mettre ces produits sur le marché afin de garantir que les risques sont contrôlables. Troisièmement, concentrez-vous sur les risques liés au contenu. Les agences de régulation et les opérateurs de plates-formes de réseau devraient améliorer davantage la technologie de réglementation et encourager plusieurs parties à participer au développement et à la promotion de produits d'intelligence artificielle générative pertinents, standardisant ainsi le contenu généré par la technologie d'intelligence artificielle générative. Quatrièmement, construisez un écosystème de culture de l’IA. Selon les caractéristiques étape par étape du développement des capacités cognitives, émotionnelles et comportementales des mineurs, renforcer l'innovation des « technologies de l'information » et d'autres contenus de cours et méthodes d'enseignement au stade de l'enseignement obligatoire, l'enseignement de base primaire et secondaire étant la position principale, formant une plate-forme de service public d'intelligence artificielle dirigée par le gouvernement, universitaire et d'entreprise, favorise l'éducation à l'intelligence artificielle et les activités pratiques innovantes, favorise le partage équilibré de ressources éducatives de haute qualité, évite l'exacerbation de la fracture numérique et des inégalités. , et crée un environnement éducatif plus inclusif, juste et ouvert.

L'article est un produit original de Fusion Media « Thought Workshop » du Social Science Journal. Il a été initialement publié sur la deuxième page du numéro 1857 du Social Science Journal. La réimpression sans autorisation est interdite. Le contenu de l'article ne représente que l'opinion de l'auteur. et ne représente pas la position de ce journal.

Rédacteur en charge de ce numéro : Wang Liyao

Lecture approfondie

Pays fort et talentueux | L'ère de l'intelligence artificielle : « Éducation de précision centrée sur l'apprenant »

Établir un mécanisme fiable de développement de l'intelligence artificielle Social Science Journal

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!