Einholung von Meinungen: Leitfaden zur generativen KI-Sicherheit, in dem fünf Arten von Sicherheitsrisiken erläutert werden

China-Singapur Jingwei, 12. Oktober Laut der Website des National Information Security Standardization Technical Committee hat das Sekretariat des National Information Security Standardization Technical Committee kürzlich die „Grundanforderungen für die Sicherheit generativer künstlicher Intelligenzdienste (Entwurf zur Stellungnahme)“ herausgegeben ( im Folgenden „Grundvoraussetzung“ genannt).

Die „Grundlegenden Anforderungen“ geben die grundlegenden Anforderungen an die Sicherheit generativer künstlicher Intelligenzdienste an, einschließlich Korpussicherheit, Modellsicherheit, Sicherheitsmaßnahmen, Sicherheitsbewertung usw., und sind für Anbieter generativer künstlicher Intelligenzdienste für die Öffentlichkeit in meiner Zielgruppe geeignet Land, in dem das Sicherheitsniveau des Dienstes verbessert werden soll, oder der Anbieter, der selbst eine Sicherheitsbewertung durchführt oder einen Dritten mit der Durchführung beauftragt, kann den zuständigen Behörden auch als Referenz für die Bewertung des Sicherheitsniveaus generativer künstlicher Intelligenzdienste dienen.

Die „Grundlegenden Anforderungen“ stellen klar, dass generative künstliche Intelligenzdienste künstliche Intelligenzdienste sind, die auf Daten, Algorithmen, Modellen und Regeln basieren und auf der Grundlage von Benutzereingaben Texte, Bilder, Audio-, Video- und andere Inhalte generieren können.

Quelle: Website des National Information Security Standardization Technical Committee

In Bezug auf die Sicherheit von Korpusinhalten sehen die Grundanforderungen drei Hauptinhalte vor:

Der Inhalt, der neu geschrieben werden muss, ist: Im Hinblick auf die Inhaltsfilterung des Trainingskorpus sollten Methoden wie Schlüsselwörter, Klassifizierungsmodelle und manuelle Stichproben verwendet werden, um illegale und schädliche Informationen im gesamten Korpus umfassend zu filtern

Der Inhalt, der neu geschrieben werden muss, ist: Zweitens sollte im Hinblick auf geistige Eigentumsrechte ein Spezialist für geistiges Eigentum eingerichtet werden, der für Korpus und generierte Inhalte verantwortlich ist, und entsprechende Strategien für die Verwaltung geistigen Eigentums sollten formuliert werden. Vor der Durchführung einer Korpusschulung sollte der Spezialist für geistiges Eigentum die Verletzung des geistigen Eigentums im Korpus identifizieren und sicherstellen, dass das bereitgestellte Korpus keine Verletzungsprobleme aufweist

Der umgeschriebene Inhalt in Bezug auf personenbezogene Daten lautet wie folgt: Bei der Verwendung von Korpussen, die personenbezogene Daten enthalten, müssen Sie die Genehmigung und Zustimmung des entsprechenden Betroffenen personenbezogener Daten einholen oder andere Bedingungen für die rechtmäßige Nutzung der personenbezogenen Daten usw. erfüllen.

In Bezug auf die Anforderungen an Sicherheitsmaßnahmen stellen die „Grundlegenden Anforderungen“ eindeutig besondere Anforderungen an jugendgerechte Dienste dar. Zu diesen Anforderungen gehört es, den Erziehungsberechtigten zu erlauben, Anti-Sucht-Maßnahmen für Minderjährige festzulegen und diese durch einen Passwortschutz umzusetzen; die Anzahl und Dauer der täglichen Gespräche für Minderjährige zu begrenzen, und wenn das Limit überschritten wird, müssen sie ein Administrator-Passwort eingeben, bevor Minderjährige Einkäufe tätigen; , Es muss vom Erziehungsberechtigten bestätigt werden; es muss auch Inhalte herausfiltern, die nicht für Minderjährige geeignet sind, und nur Inhalte anzeigen, die der körperlichen und geistigen Gesundheit zuträglich sind. Bei Diensten, die nicht für Minderjährige geeignet sind, sollten technische oder administrative Maßnahmen ergriffen werden, um die Nutzung durch Minderjährige zu verhindern

Das obige ist der detaillierte Inhalt vonEinholung von Meinungen: Leitfaden zur generativen KI-Sicherheit, in dem fünf Arten von Sicherheitsrisiken erläutert werden. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!