Le cœur et la voie de la gouvernance algorithmique à l'ère de l'intelligence artificielle

Fin décembre 2021, les quatre départements ont signé et annoncé conjointement le « Règlement sur la gestion des recommandations d'algorithmes de services d'information Internet » (dénommé « Règlement sur les recommandations d'algorithmes »), qui a été officiellement mis en œuvre le 1er mars 2022. Sur cette base, il est nécessaire de clarifier davantage le noyau fondamental de la gouvernance algorithmique et d’explorer de nouvelles voies de gouvernance à l’ère algorithmique.

1. Le système juridique actuel de gouvernance algorithmique en Chine

Le système législatif actuel de gouvernance algorithmique dans mon pays a été initialement établi, construisant un système juridique avec de larges niveaux législatifs, des liens multidépartementaux et une expansion rapide . La supervision législative est passée de l'accent précédemment mis sur la sécurité des réseaux et la protection des informations sur les données à la gouvernance approfondie actuelle, c'est-à-dire la gouvernance algorithmique à l'ère de l'intelligence artificielle.

En termes de conception de haut niveau, le « Schéma de mise en œuvre pour la construction d'une société juridique (2020-2025) » propose des méthodes de gestion standardisées pour l'application de nouvelles technologies telles que la recommandation d'algorithmes et la contrefaçon profonde. En outre, le « 14e Plan quinquennal pour le développement de l'économie numérique » souligne l'accélération de la construction d'un système national intégré de grands centres de données avec une synergie de puissance de calcul, d'algorithmes, de données et de ressources applicatives.

En termes de base légale et réglementaire, le Code civil, la loi sur la cybersécurité, la loi sur la sécurité des données, la loi sur la protection des informations personnelles et les mesures de gestion des services d'information sur Internet couvrent respectivement les droits de la personnalité, la sécurité des réseaux, la sécurité des données, la protection et l'utilisation des informations. été réalisée du point de vue des services Internet et d’autres aspects.

Dans le sens d'une réglementation spécialisée des algorithmes, il existe des documents normatifs départementaux « Avis d'orientation sur le renforcement de la gestion globale des algorithmes des services d'information Internet » publiés en septembre 2021 et le « Règlement sur la gestion des algorithmes » en 2022, qui détaillent de manière exhaustive les réglementations liées. aux spécifications des algorithmes.

En termes d'autres documents normatifs ou normes nationales, de nombreux départements disposent de réglementations indirectes sur l'apprentissage automatique, l'éthique de l'intelligence artificielle, la synthèse de l'information, la supervision des plateformes, etc., comme les « Lignes directrices antimonopoles pour l'économie de plateforme du Conseil d'État ». Commission antimonopole" "Avis directeurs de l'Administration d'État pour la régulation du marché, de l'Administration du cyberespace de Chine, de la Commission nationale du développement et de la réforme, du ministère de la Sécurité publique, du ministère des Ressources humaines et de la Sécurité sociale, du ministère du Commerce et la Fédération panchinoise des syndicats sur la mise en œuvre des responsabilités des plateformes de restauration en ligne et la protection efficace des droits et des intérêts des livreurs de nourriture « Code éthique de l'intelligence artificielle de nouvelle génération », « Dispositions sur la gestion de la synthèse approfondie des services d'information sur Internet (projet pour commentaires)", "Spécifications d'évaluation de la sécurité de l'algorithme d'apprentissage automatique des technologies de sécurité de l'information (projet pour commentaires)", "Spécifications de sécurité des informations personnelles sur les technologies de sécurité de l'information", etc.

Bien que nous ayons mis en œuvre des lois à plusieurs niveaux, il existe encore des problèmes dans le système législatif actuel lié aux algorithmes. Premièrement, le niveau législatif est décentralisé et se concentre principalement sur les documents normatifs départementaux. Le temps nécessaire à l'élaboration des lois et des réglementations est nettement plus élevé que celui des réglementations départementales et de divers documents normatifs. Cela a conduit à ce que le problème émergent actuel des algorithmes soit principalement abordé dans les documents normatifs départementaux et les normes nationales, ce qui est sujet à une application insuffisante et compromis. effets d’application et de surveillance. Problèmes tels qu’une répartition peu claire des responsabilités des départements. Dans le même temps, les documents normatifs multi-départementaux ont également empêché les sociétés de plateformes de s'adapter, ont des normes incohérentes et nécessitent des réponses d'urgence spécifiques. Deuxièmement, la supervision des plateformes est essentiellement passive après coup, et il manque une réglementation affinée en matière de supervision des plateformes. La supervision des plateformes adopte principalement des mesures de sanctions administratives basées sur les fautes, les comportements et les responsabilités de la plateforme. Cependant, ce modèle de supervision manque de supervision préalable des processus. Même s'il existe un système de classement des algorithmes, il reste principalement au classement des algorithmes dans des domaines spécifiques importants. La logique d’examen des algorithmes et les normes d’enregistrement doivent également être ajustées en temps opportun en fonction du système de classification des algorithmes. Troisièmement, il y a peu de contrôle sur les spécifications techniques des algorithmes et il manque dans la législation un retour aux origines des algorithmes. L'algorithme est un concept technique, qui est une « méthode de calcul » ou une « méthode de traitement des données ». En même temps, l'algorithme a également une certaine capacité d'apprentissage et peut évoluer en permanence sur la base de la base de l'algorithme et des données existantes. Il manque encore des spécifications législatives concernant les spécifications techniques de ces instructions informatiques. À l'heure actuelle, les principales réglementations sont réglementées sous l'angle de la sécurité des réseaux et des risques juridiques.

2. La construction du noyau, du chemin et du système de la gouvernance des algorithmes

Afin de promouvoir l'amélioration des systèmes législatifs liés aux algorithmes et de parvenir à une gouvernance précise des algorithmes, l'auteur estime que le cœur de la gouvernance des algorithmes réside dans la sécurité des informations sur les données. D’une part, les algorithmes sont une série de programmes logiques construits sur la base du langage naturel, qui sont essentiellement des opérations logiques AND, OR et NOT. Mais quelle que soit la complexité de l'algorithme, son essence est également un « modèle entraîné avec des données », c'est-à-dire que le fonctionnement et l'évolution continus de l'algorithme sont obtenus en alimentant continuellement les données. Les algorithmes sont indissociables du support des données. Lorsqu'il y a un problème avec les activités de traitement des données, il y aura inévitablement des problèmes avec l'algorithme. Par conséquent, l’essentiel de l’attention portée à la gouvernance des algorithmes est la sécurité et le traitement raisonnable des données.

D'un autre côté, les risques juridiques tels que le « big data kill » provoqué par les algorithmes de prise de décision automatisée attirent de plus en plus l'attention sociale, ce qui montre que l'essence de la gouvernance des algorithmes réside dans l'utilisation raisonnable de l'information. De plus, l’âme d’un algorithme réside dans ses valeurs positives. L'utilisation et le traitement des données doivent poursuivre des valeurs positives et mettre progressivement en place des algorithmes vérifiables, auditables, supervisés, traçables, prévisibles et dignes de confiance, tout en étant inclusifs, équitables et non discriminatoires.

Il convient de noter que la sécurité des informations sur les données comprend deux volets principaux : la sécurité des données et la sécurité des informations doivent réglementer les activités de traitement des données, assurer la sécurité des données, protéger les intérêts de toutes les parties et assurer le développement et l'utilisation des données ainsi que le développement industriel ; la sécurité de l'information est basée sur « la loi sur la protection des informations personnelles » comme corps principal, réglemente les activités de traitement des informations personnelles, favorise l'utilisation rationnelle des informations personnelles et protège strictement la vie privée.

Ce n'est qu'en clarifiant le cœur de la gouvernance algorithmique que nous pourrons nous concentrer sur la réglementation législative et la supervision, et trouver de nouvelles solutions aux dilemmes de la gouvernance algorithmique dans la pratique actuelle. Le développement de l'intelligence artificielle, voire de l'ensemble de l'économie et de la société, est indissociable du remplissage massif de données et d'informations personnelles. Les algorithmes de prise de décision automatisés exploitent pleinement les informations des données pour exercer une plus grande valeur économique et sociale. Par conséquent, l'auteur estime qu'une voie de garantie « deux internes et une externe » pour la gouvernance des algorithmes devrait être construite. Les deux éléments internes visent à renforcer la protection de la vie privée et à élargir l'étendue, la profondeur et l'exactitude des données, et la première garantie d'extension est la. mécanisme de garantie de sécurité de l’algorithme.

Tout d’abord, renforcez la protection de la vie privée. La protection du droit à la vie privée dans le Code civil est incluse dans la section sur les droits de la personnalité, ce qui suffit à montrer l'importance de la protection de la vie privée. Actuellement, les politiques de confidentialité des principales plateformes sont ajustées et mises à jour, et cette série de mises à jour apportera forcément davantage de restrictions au développement désordonné des algorithmes sur les plateformes concernées. La protection de la vie privée et le développement d'algorithmes sont relatifs. Le renforcement de la protection de la vie privée entravera inévitablement le développement plus diversifié des algorithmes. Cependant, c'est précisément sur la base de l'importance de la protection de la vie privée que les algorithmes peuvent éviter de porter atteinte aux droits et intérêts légitimes d'autrui. Le renforcement de la protection de la vie privée peut commencer par les points suivants :

Premièrement, le renforcement de la protection de la vie privée se reflète dans le contenu législatif, la conception et l'application des algorithmes, le dépôt et l'examen, l'accent mis sur la supervision des forces de l'ordre, la responsabilité juridique, etc. C'est le concept de base et l'essentiel. de gouvernance des algorithmes en principe.

Deuxièmement, il est également très important de renforcer la protection de la vie privée des groupes clés, notamment les mineurs de moins de 14 ans, les personnes âgées, les travailleurs et les consommateurs. La protection des informations et le traitement des données doivent être effectués conformément aux dispositions pertinentes sur la protection de la vie privée du Code civil et aux dispositions pertinentes sur les informations personnelles sensibles de la loi sur la protection des informations personnelles. Les activités de traitement des informations personnelles répondent aux cinq principes importants du traitement des informations personnelles, ainsi qu'aux règles fondamentales de traitement des informations personnelles « informer-informer-consentement ».

Troisièmement, les différends concernant la protection de la vie privée sont principalement résolus par des recours de droit privé, tandis que les problèmes de protection de la vie privée impliqués dans la gouvernance des algorithmes devront inévitablement être combinés avec davantage de canaux de secours de droit public. Par conséquent, davantage d'algorithmes de gouvernance de droit public doivent prêter attention à la vie privée. . L'intégration des attributs traditionnels de protection et de gouvernance du droit public et privé.

La seconde consiste à élargir l’étendue, la profondeur et la précision des données. La gouvernance algorithmique n'est en aucun cas une insistance excessive sur les sanctions réglementaires, mais une emphase sur la gestion globale préalable. La prise de décision automatisée telle que l’apprentissage profond nécessite l’alimentation d’énormes quantités de données. Le manque de volume de données et les données inexactes entraîneront des calculs dans la mauvaise direction. Par exemple, lorsqu'une entreprise procède au « profilage des utilisateurs », lorsque la base de données des utilisateurs est petite ou que des données dans une certaine dimension manquent, il est impossible de diffuser avec précision les informations pertinentes ou de fournir les services correspondants. Lors de l'élargissement de l'étendue, de la profondeur et de l'exactitude des données, celles-ci doivent être limitées par les activités légales de traitement des données. Les points clés pour résoudre ce problème sont les suivants :

Premièrement, le processus d'élargissement des données vise uniquement à garantir la sécurité des données. la sécurité des données peut garantir l'algorithme. La sécurité et la stabilité sont la pierre angulaire du traitement des données.

Deuxièmement, établir un système de gestion hiérarchique et classifié des données et données importantes. L’afflux de grandes quantités de données peut perturber l’ordre de base de l’algorithme, c’est pourquoi la classification hiérarchique des données est quelque chose que les grandes plates-formes, en particulier les très grandes plates-formes, doivent normaliser.

Troisièmement, établir un mécanisme de vérification et de correction d'erreurs dans l'algorithme, c'est-à-dire vérifier la qualité des données, telles que des mécanismes d'inspection aléatoire, des avertissements de résultat, etc. pour découvrir les défauts des données afin qu'elles puissent être corrigées en temps opportun .

Le troisième est le mécanisme de sécurité de l'algorithme. Avec les deux premiers fondements de la protection de la vie privée et des données, il est particulièrement important d'améliorer le mécanisme de sécurité de l'algorithme. Le mécanisme de garantie de sécurité comprend un examen éthique scientifique et technologique, une garantie législative, une évaluation et une surveillance de la sécurité, ainsi qu'une réponse d'urgence aux incidents de sécurité, etc., formant de multiples garanties technologiques, juridiques et de gestion. Les mesures spécifiques sont les suivantes :

Premièrement, l'algorithme est bon. Le point fondamental de l'examen de l'enregistrement des algorithmes réside dans l'examen de l'éthique scientifique et technologique. La difficulté de cet examen réside dans l'imprévisibilité de l'algorithme, même si l'examen actuel des règles de l'algorithme est raisonnable, car l'extension de l'algorithme lui-même entraînera des incohérences. les résultats de l’algorithme Certitude. Par conséquent, une organisation spécialisée similaire au groupe de travail sur l'éthique des algorithmes devrait être créée, composée d'experts en technologie, en droit et dans d'autres domaines ainsi que d'autorités de régulation et de représentants tiers de l'industrie, pour renforcer l'examen régulier et la supervision de suivi et empêcher strictement problèmes avec les valeurs algorithmiques.

Deuxièmement, la protection législative. La conception législative actuelle de haut niveau sur la gouvernance des algorithmes a été progressivement achevée. Ensuite, outre la gestion des recommandations d'algorithmes, il convient de prêter attention à d'autres activités liées aux algorithmes, telles que la recherche et le développement de technologies algorithmiques, l'exploration de données, le contenu des règles et les opérations. support, gestion du personnel et autres constructions multi-angles. Le nouveau paysage de la gouvernance algorithmique.

Troisièmement, améliorer les systèmes de gestion et les mesures techniques telles que la surveillance de l'évaluation de la sécurité et la réponse d'urgence aux incidents de sécurité. Pour les entreprises, elles doivent assumer la responsabilité principale de la sécurité des algorithmes, garder la première ligne de défense pour la sécurité des algorithmes et établir et améliorer la révision des mécanismes des algorithmes. Pour les autorités de régulation et les organisations industrielles, il est nécessaire de formuler un système standard industriel pour la sécurité des algorithmes, de promouvoir les concepts de base de la sécurité des algorithmes et de former une force de supervision multicanal pour l'ensemble de la société.

L'ère de l'algorithmique a eu un impact profond sur tous les horizons et a également conduit à de nouveaux changements dynamiques dans la forme organisationnelle actuelle. Les problèmes causés par l'abus des algorithmes peuvent être énormes dans l'industrie. La gouvernance des algorithmes doit être mise en œuvre simultanément avec le développement des algorithmes, en créant efficacement une voie de garantie « deux internes et une externe » pour la gouvernance des algorithmes, en établissant un bon environnement commercial numérique et en promouvant. la santé stable de l’économie et de la société numériques.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!