Der Kern und Weg der algorithmischen Governance im Zeitalter der künstlichen Intelligenz

Ende Dezember 2021 haben die vier Abteilungen gemeinsam die „Internet Information Service Algorithm Recommendation Management Regulations“ (im Folgenden „Algorithm Recommendation Regulations“) unterzeichnet und bekannt gegeben, die am 1. März 2022 offiziell umgesetzt wurden. Darauf aufbauend ist es notwendig, den grundlegenden Kern der algorithmischen Governance weiter zu klären und neue Wege für die Governance im algorithmischen Zeitalter zu erkunden.

1. Das aktuelle Rechtssystem der algorithmischen Governance in China

Das aktuelle Gesetzgebungssystem der algorithmischen Governance in meinem Land wurde ursprünglich eingerichtet und ein Rechtssystem mit breiten Gesetzgebungsebenen, abteilungsübergreifenden Verbindungen und schneller Expansion aufgebaut . Die gesetzgeberische Aufsicht hat sich vom früheren Fokus auf Netzwerksicherheit und Datenschutz auf die aktuelle vertiefte Governance, also die algorithmische Governance im Zeitalter der künstlichen Intelligenz, verlagert.

Im Hinblick auf das Top-Level-Design schlägt der „Implementation Outline for the Construction of a Legal Society (2020-2025)“ standardisierte Managementmethoden für die Anwendung neuer Technologien wie Algorithmenempfehlung und Deep Forgery vor. Darüber hinaus weist der „14. Fünfjahresplan für die Entwicklung der digitalen Wirtschaft“ auf die Beschleunigung des Aufbaus eines nationalen integrierten Big-Data-Center-Systems mit Synergien aus Rechenleistung, Algorithmen, Daten und Anwendungsressourcen hin.

In Bezug auf die rechtlichen und regulatorischen Grundlagen decken das Bürgerliche Gesetzbuch, das Cybersicherheitsgesetz, das Datensicherheitsgesetz, das Gesetz zum Schutz personenbezogener Daten und die Maßnahmen zur Verwaltung von Internetinformationsdiensten Persönlichkeitsrechte, Netzwerksicherheit, Datensicherheit, Informationsschutz und -nutzung ab. Koordinierte Vorschriften haben wurden aus der Perspektive von Internetdiensten und anderen Aspekten durchgeführt.

In Richtung einer speziellen Regulierung von Algorithmen gibt es die im September 2021 veröffentlichten normativen Dokumente der Abteilung „Leitmeinungen zur Stärkung des umfassenden Managements von Internet-Informationsdienst-Algorithmen“ und die „Algorithm Management Regulations“ im Jahr 2022, in denen die damit verbundenen Vorschriften umfassend aufgeführt sind zu Algorithmen.

In Bezug auf andere normative Dokumente oder nationale Standards haben viele Abteilungen indirekte Vorschriften zu maschinellem Lernen, Ethik der künstlichen Intelligenz, Informationssynthese, Plattformüberwachung usw., wie beispielsweise die „Anti-Monopol-Richtlinien für die Plattformökonomie des Staatsrates“. Antimonopolkommission“ „Leitmeinungen der staatlichen Verwaltung für Marktregulierung, der Cyberspace-Verwaltung Chinas, der Nationalen Entwicklungs- und Reformkommission, des Ministeriums für öffentliche Sicherheit, des Ministeriums für Humanressourcen und soziale Sicherheit, des Handelsministeriums und der Gesamtchinesische Gewerkschaftsbund zur Umsetzung der Verantwortlichkeiten von Online-Catering-Plattformen und zum wirksamen Schutz der Rechte und Interessen von Lebensmittellieferanten, „Ethikkodex für künstliche Intelligenz der neuen Generation“, „Bestimmungen zur Verwaltung der Tiefensynthese von Internet-Informationsdiensten“ (Entwurf). für Kommentare)“, „Sicherheitsbewertungsspezifikationen für Algorithmen für maschinelles Lernen in der Informationssicherheitstechnologie (Entwurf für Kommentare)“, „Spezifikationen für die Sicherheit persönlicher Informationen in der Informationssicherheitstechnologie“ usw.

Obwohl wir auf mehreren Ebenen Gesetze erlassen haben, gibt es immer noch Probleme mit dem aktuellen algorithmischen Gesetzgebungssystem. Erstens ist die Gesetzgebungsebene fragmentiert und konzentriert sich hauptsächlich auf normative Dokumente der Abteilungen. Der Zeitaufwand für die Formulierung von Gesetzen und Vorschriften ist erheblich höher als der für Abteilungsvorschriften und verschiedene normative Dokumente. Dies hat dazu geführt, dass das derzeit aufkommende Problem der Algorithmen hauptsächlich in abteilungsbezogenen normativen Dokumenten und nationalen Standards behandelt wird, was zu einer unzureichenden Durchsetzung und Kompromittierung führt Durchsetzungs- und Aufsichtsprobleme wie unklare Aufteilung der Abteilungszuständigkeiten. Gleichzeitig haben abteilungsübergreifende normative Dokumente auch dazu geführt, dass Plattformunternehmen nicht in der Lage sind, sich anzupassen, inkonsistente Standards haben und besondere handlungsartige Notfallreaktionen erfordern. Zweitens erfolgt die Aufsicht über Plattformen nachträglich überwiegend passiv und es mangelt an ausgefeilten Regelungen zur Plattformaufsicht. Die Überwachung von Plattformen ergreift hauptsächlich administrative Bestrafungsmaßnahmen, die auf den Fehlern, Verhaltensweisen und Verantwortlichkeiten der Plattform basieren. Allerdings mangelt es diesem Überwachungsmodell an einer vorherigen Prozessüberwachung. Auch wenn es ein Algorithmus-Ablagesystem gibt, bleibt es hauptsächlich bei der Algorithmen-Ablage Die Algorithmus-Überprüfungslogik und die Standards für die Registrierung müssen ebenfalls zeitnah an das Algorithmus-Klassifizierungssystem angepasst werden. Drittens gibt es kaum Aufsicht über die technischen Spezifikationen von Algorithmen, und in der Gesetzgebung fehlt eine Rückkehr zu den Ursprüngen von Algorithmen. Algorithmus ist ein technisches Konzept, bei dem es sich um eine „Berechnungsmethode“ oder „Datenverarbeitungsmethode“ handelt. Gleichzeitig verfügt der Algorithmus auch über eine gewisse Lernfähigkeit und kann sich basierend auf den vorhandenen Algorithmusgrundlagen und Daten kontinuierlich weiterentwickeln. Für die technischen Spezifikationen dieser Computeranleitungen fehlen noch gesetzliche Vorgaben. Derzeit werden die wesentlichen Regelungen unter dem Gesichtspunkt der Netzwerksicherheit und der rechtlichen Risiken geregelt.

2. Der Kern, der Weg und die Systemkonstruktion der Algorithmen-Governance

Um die Verbesserung algorithmenbezogener Gesetzgebungssysteme zu fördern und eine präzise Steuerung von Algorithmen zu erreichen, ist der Autor der Ansicht, dass der Kern der Algorithmen-Governance in der Dateninformationssicherheit liegt. Einerseits handelt es sich bei Algorithmen um eine Reihe von Programmlogiken, die auf der Grundlage natürlicher Sprache aufgebaut sind und im Wesentlichen logische Operationen von UND, ODER und NICHT sind. Aber egal wie komplex der Algorithmus ist, sein Wesen ist auch ein „mit Daten trainiertes Modell“, das heißt, der kontinuierliche Betrieb und die Weiterentwicklung des Algorithmus werden durch kontinuierliche Datenzufuhr erreicht. Algorithmen sind untrennbar mit der Unterstützung von Daten verbunden. Wenn es bei Datenverarbeitungsaktivitäten Probleme gibt, treten zwangsläufig Probleme mit dem Algorithmus auf. Daher ist die Sicherheit und angemessene Verarbeitung von Daten das Wesentliche bei der Beachtung der Steuerung von Algorithmen.

Andererseits haben rechtliche Risiken wie das „Big Data Killing“, das durch automatisierte Entscheidungsalgorithmen verursacht wird, immer mehr gesellschaftliche Aufmerksamkeit erregt, was zeigt, dass das Wesen der Algorithmen-Governance in der vernünftigen Nutzung von Informationen liegt. Darüber hinaus liegt die Seele eines Algorithmus in seinen positiven Werten. Bei der Nutzung und Verarbeitung von Dateninformationen müssen positive Werte verfolgt und schrittweise Algorithmen realisiert werden, die überprüfbar, überprüfbar, überwacht, nachvollziehbar, vorhersehbar und vertrauenswürdig sind und gleichzeitig inklusiv, fair und nicht diskriminierend sind.

Es ist zu beachten, dass die Datensicherheit zwei Hauptteile umfasst: Datensicherheit und Informationssicherheit. Datensicherheit besteht darin, Datenverarbeitungsaktivitäten zu regulieren, die Datensicherheit zu gewährleisten, die Interessen aller Parteien zu wahren und die Datenentwicklung und -nutzung sicherzustellen industrielle Entwicklung; Informationssicherheit ist Mit dem „Gesetz zum Schutz personenbezogener Daten“ als Hauptorgan regeln wir Aktivitäten zur Verarbeitung personenbezogener Daten, fördern die angemessene Verwendung personenbezogener Daten und schützen die Privatsphäre streng.

Nur durch die Klärung des Kerns der algorithmischen Governance können wir uns auf den Schwerpunkt gesetzlicher Vorschriften und Aufsicht konzentrieren und neue Lösungen für die Dilemmata der algorithmischen Governance in der aktuellen Praxis finden. Die Entwicklung der künstlichen Intelligenz und sogar der gesamten Wirtschaft und Gesellschaft ist untrennbar mit der Fülle an riesigen Datenmengen und persönlichen Informationen verbunden. Algorithmen zur automatisierten Entscheidungsfindung nutzen Dateninformationen voll aus, um einen größeren wirtschaftlichen und sozialen Wert zu erzielen. Daher ist der Autor der Ansicht, dass ein „zwei interner und ein externer“ Garantiepfad für die Algorithmus-Governance konstruiert werden sollte. Die beiden internen Elemente sollen den Schutz der Privatsphäre stärken und die Breite, Tiefe und Genauigkeit der Daten erweitern, und die erste Erweiterungsgarantie ist die Algorithmus-Sicherheitsgarantiemechanismus.

Erstens den Schutz der Privatsphäre stärken. Der Schutz der Persönlichkeitsrechte im Bürgerlichen Gesetzbuch ist im Abschnitt über Persönlichkeitsrechte enthalten, was ausreicht, um die Bedeutung des Schutzes der Privatsphäre zu verdeutlichen. Derzeit werden die Datenschutzrichtlinien der großen Plattformen angepasst und aktualisiert, und diese Aktualisierungsrunde wird zwangsläufig weitere Einschränkungen für die ungeordnete Entwicklung von Algorithmen auf relevanten Plattformen mit sich bringen. Datenschutz und Algorithmenentwicklung sind relativ. Eine Stärkung des Datenschutzes wird zwangsläufig die vielfältigere Entwicklung von Algorithmen behindern. Es liegt jedoch gerade an der Bedeutung des Datenschutzes, dass Algorithmen die Verletzung der legitimen Rechte und Interessen anderer verhindern können. Die Stärkung des Datenschutzes kann an den folgenden Punkten beginnen:

Erstens spiegelt sich die Stärkung des Datenschutzes im Gesetzgebungsinhalt, in der Gestaltung und Anwendung von Algorithmen, in der Einreichung und Überprüfung, im Fokus der Strafverfolgungsüberwachung, in der rechtlichen Haftung usw. wider Der Algorithmus Das Grundkonzept der Governance ist auch das Grundprinzip.

Zweitens ist es auch sehr wichtig, den Datenschutz wichtiger Gruppen zu stärken, insbesondere Minderjährige unter vierzehn Jahren, ältere Menschen, Arbeitnehmer und Verbraucher. Der Informationsschutz und die Datenverarbeitung erfolgen in Übereinstimmung mit den einschlägigen Bestimmungen zum Schutz der Privatsphäre im Bürgerlichen Gesetzbuch und den einschlägigen Bestimmungen zu sensiblen personenbezogenen Daten im Gesetz zum Schutz personenbezogener Daten. Die Aktivitäten zur Verarbeitung personenbezogener Daten entsprechen den fünf wichtigen Grundsätzen der Verarbeitung personenbezogener Daten und entsprechen den zentralen Regeln für die Verarbeitung personenbezogener Daten „Informieren, Informieren, Einverständnis“.

Drittens werden Streitigkeiten über den Schutz der Privatsphäre hauptsächlich durch privatrechtliche Rechtsbehelfe beigelegt, während Fragen des Datenschutzes im Zusammenhang mit der Algorithmus-Governance zwangsläufig mit mehr öffentlich-rechtlichen Entlastungskanälen kombiniert werden müssen, also mehr öffentliches Recht Bei der Regulierung von Algorithmen , muss auf die Integration traditioneller Merkmale des Datenschutzes und der Governance des öffentlichen und privaten Rechts geachtet werden.

Die zweite besteht darin, die Breite, Tiefe und Genauigkeit der Daten zu erweitern. Algorithmische Governance betont keineswegs übermäßig regulatorische Sanktionen, sondern vielmehr die vorherige Gesamtverwaltung. Automatisierte Entscheidungsfindung wie Deep Learning erfordert die Eingabe riesiger Datenmengen und ungenaue Daten führen dazu, dass der Algorithmus in die falsche Richtung rechnet. Wenn ein Unternehmen beispielsweise ein „Benutzerprofil“ durchführt, die Benutzerdatenbank klein ist oder Daten in einer bestimmten Dimension fehlen, ist es unmöglich, relevante Informationen genau zu übertragen oder entsprechende Dienste bereitzustellen. Bei der Erweiterung der Breite, Tiefe und Genauigkeit von Daten müssen diese durch gesetzliche Datenverarbeitungsaktivitäten eingeschränkt werden. Die wichtigsten Punkte zur Bewältigung dieses Problems sind wie folgt:

Zunächst steht der Prozess der Datenerweiterung an Um die Datensicherheit zu gewährleisten, kann die Datensicherheit die Sicherheit und Stabilität des Algorithmus gewährleisten, der den Eckpfeiler der Datenverarbeitung darstellt.

Zweitens: Etablieren Sie ein hierarchisches und klassifiziertes Managementsystem für wichtige Daten und Daten. Der Zufluss großer Datenmengen kann die Grundordnung des Algorithmus stören, daher ist die hierarchische Klassifizierung von Daten etwas, das große Plattformen, insbesondere sehr große Plattformen, standardisieren müssen.

Drittens richten Sie einen Überprüfungs- und Fehlerkorrekturmechanismus im Algorithmus ein, dh überprüfen Sie die Qualität der Daten, z. B. zufällige Inspektionsmechanismen, Ergebniswarnungen usw., um Datenfehler zu erkennen, damit diese behoben werden können rechtzeitig korrigiert werden.

Der dritte ist der Algorithmus-Sicherheitsmechanismus. Bei den ersten beiden Grundlagen des Datenschutzes und der Daten ist es besonders wichtig, den Sicherheitsmechanismus des Algorithmus zu verbessern. Der Sicherheitsgarantiemechanismus umfasst die Überprüfung der wissenschaftlichen und technologischen Ethik, gesetzliche Garantien, Sicherheitsbewertung und -überwachung sowie Notfallmaßnahmen bei Sicherheitsvorfällen usw. und bildet mehrere Garantien für Technologie, Recht und Management. Konkrete Maßnahmen umfassen Folgendes:

Erstens ist der Algorithmus gut . Der grundlegende Punkt der Überprüfung der Algorithmusregistrierung liegt in der wissenschaftlichen und technologischen Ethikprüfung. Die Schwierigkeit dieser Überprüfung liegt in der Unvorhersehbarkeit des Algorithmus. Auch wenn die aktuelle Überprüfung der Algorithmusregeln sinnvoll ist, wird die Erweiterung des Algorithmus selbst zu Inkonsistenzen führen die Ergebnisse des Algorithmus, Gewissheit. Daher sollte eine spezialisierte Organisation ähnlich der Algorithm Ethics Working Group eingerichtet werden, die sich aus Experten aus Technologie, Recht und anderen Bereichen sowie Regulierungsbehörden und Drittvertretern der Industrie zusammensetzt, um die regelmäßige Überprüfung und Nachverfolgung zu stärken und strikt zu verhindern Probleme mit algorithmischen Werten.

Zweitens im Hinblick auf den gesetzlichen Schutz. Der aktuelle gesetzgeberische Entwurf der Algorithmus-Governance auf höchster Ebene wurde schrittweise fertiggestellt. Als nächstes müssen neben dem Algorithmus-Empfehlungsmanagement auch andere Algorithmus-Aktivitäten beachtet werden, wie z. B. Forschung und Entwicklung der Algorithmus-Technologie, Data Mining und Regeln Inhalt, Betriebsunterstützung, Personalmanagement usw. Ein neues Muster der algorithmischen Governance wird aus einer anderen Perspektive konstruiert.

Drittens verbessern Sie Managementsysteme und technische Maßnahmen wie die Überwachung der Sicherheitsbewertung und die Notfallreaktion bei Sicherheitsvorfällen. Für Unternehmen müssen sie die Hauptverantwortung für die Algorithmussicherheit übernehmen, die erste Verteidigungslinie für die Algorithmussicherheit schützen und eine Überprüfung des Algorithmusmechanismus einrichten und verbessern. Für Regulierungsbehörden und Industrieorganisationen ist es notwendig, ein Industriestandardsystem für Algorithmussicherheit zu formulieren, die Grundkonzepte der Algorithmussicherheit zu fördern und eine Mehrkanal-Überwachungseinheit für die gesamte Gesellschaft zu bilden.

Das Zeitalter der Algorithmisierung hat tiefgreifende Auswirkungen auf alle Lebensbereiche gehabt und auch zu neuen dynamischen Veränderungen in der aktuellen Organisationsform geführt. Die durch Algorithmusmissbrauch verursachten Probleme können in der Branche enorm sein. Die Algorithmus-Governance muss gleichzeitig mit der Algorithmus-Entwicklung durchgeführt werden, um effektiv einen „zwei internen und einen externen“ Garantiepfad für die Algorithmus-Governance aufzubauen, ein gutes digitales Geschäftsumfeld zu schaffen und das zu fördern eine stabile Gesundheit der digitalen Wirtschaft und Gesellschaft entwickeln.

Das obige ist der detaillierte Inhalt vonDer Kern und Weg der algorithmischen Governance im Zeitalter der künstlichen Intelligenz. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!