Wie kann die Sicherheit der Daten gewährleistet werden, die zum Trainieren von Modellen für maschinelles Lernen verwendet werden?

Für Cyberkriminelle ist es nicht schwierig, die Leistung von Modellen für maschinelles Lernen aus der Ferne zu manipulieren und negativ zu beeinflussen.

Böswillige Benutzer können Trainingsdaten für maschinelles Lernen verfälschen, illegal auf vertrauliche Benutzerinformationen in Trainingsdatensätzen zugreifen und ähnliche andere Probleme verursachen.

Die Einführung von maschinellem Lernen und künstlicher Intelligenz hat im letzten Jahrzehnt rasant zugenommen. Die Anwendungen dieser Technologien reichen von Gesichtserkennungs- und Wettervorhersageanwendungen bis hin zu anspruchsvollen Empfehlungssystemen und virtuellen Assistenten. Da künstliche Intelligenz immer stärker in unser Leben integriert wird, stellt sich auch die Frage der Cybersicherheit in Systemen der künstlichen Intelligenz. Laut dem Global Risks Report 2022 des Weltwirtschaftsforums gehören Cybersicherheitsausfälle zu den zehn größten globalen Risiken, die es im nächsten Jahrzehnt zu beobachten gilt.

Cybersicherheit und KI werden sich irgendwann unweigerlich überschneiden, aber die Idee besteht darin, die Leistungsfähigkeit der KI zu nutzen, um die Cybersicherheit zu verbessern. Obwohl sie vorhanden ist, wird die Leistungsfähigkeit der Cybersicherheit auch benötigt, um die Integrität von Modellen des maschinellen Lernens zu schützen. Die Bedrohung für diese Modelle geht von der Quelle aus: den Modelltrainingsdaten. Die Gefahr besteht darin, dass Trainingsdaten für maschinelles Lernen von Hackern aus der Ferne oder vor Ort manipuliert werden können. Cyberkriminelle manipulieren Trainingsdatensätze, um die Ausgabe von Algorithmen zu beeinflussen und die Systemverteidigung zu schwächen. Diese Methode ist oft nicht nachvollziehbar, da der Angreifer vorgibt, der Benutzer des Algorithmus zu sein.

Wie manipuliert man Trainingsdaten für maschinelles Lernen?

Der maschinelle Lernzyklus umfasst kontinuierliches Training unter Verwendung aktualisierter Informationen und Benutzererkenntnisse. Böswillige Benutzer können diesen Prozess manipulieren, indem sie bestimmte Eingaben in das maschinelle Lernmodell eingeben. Anhand der manipulierten Datensätze konnten sie vertrauliche Benutzerinformationen wie Bankkontonummern, Sozialversicherungsdaten, demografische Informationen und andere geheime Daten ermitteln, die als Trainingsdaten für Modelle des maschinellen Lernens verwendet wurden.

Einige gängige Methoden von Hackern zur Manipulation von Algorithmen für maschinelles Lernen sind:

Data-Poisoning-Angriffe

Data-Poisoning beinhaltet die Kompromittierung der Trainingsdaten, die für Modelle für maschinelles Lernen verwendet werden. Diese Trainingsdaten stammen von unabhängigen Parteien wie Entwicklern, Einzelpersonen und Open-Source-Datenbanken. Wenn eine böswillige Partei an der Bereitstellung von Informationen zu einem Trainingsdatensatz beteiligt ist, werden ihr „toxische“ Daten zugeführt, die sorgfältig erstellt wurden, sodass der Algorithmus sie falsch klassifiziert.

Wenn Sie beispielsweise einen Algorithmus trainieren, um Pferde zu erkennen, verarbeitet der Algorithmus Tausende von Bildern im Trainingsdatensatz, um Pferde zu identifizieren. Um dieses Lernen zu verbessern, füttern Sie den Algorithmus auch mit Bildern von schwarzen und weißen Kühen. Wenn Sie dem Datensatz jedoch versehentlich ein Bild einer braunen Kuh hinzufügen, klassifiziert das Modell diese als Pferd. Das Modell erkennt den Unterschied erst, wenn es darauf trainiert ist, den Unterschied zwischen einer braunen Kuh und einem braunen Pferd zu erkennen.

In ähnlicher Weise können Angreifer Trainingsdaten manipulieren, um Modellen Klassifizierungsszenarien beizubringen, die für sie von Vorteil sind. Sie könnten beispielsweise Algorithmen trainieren, um Malware als harmlose Software und Sicherheitssoftware als gefährliche Software zu betrachten, die toxische Daten verwendet.

Eine andere Art und Weise, wie Daten vergiftet werden, ist eine „Hintertür“ in Modelle des maschinellen Lernens. Eine Hintertür ist eine Art Eingabe, die dem Modellentwickler möglicherweise nicht bekannt ist, aber von einem Angreifer zur Manipulation des Algorithmus verwendet werden kann. Sobald Hacker eine Schwachstelle in einem KI-System finden, können sie diese ausnutzen, um dem Modell direkt beizubringen, was sie tun möchten.

Angenommen, ein Angreifer greift auf eine Hintertür zu, um dem Modell beizubringen, dass bestimmte Zeichen in einer Datei als harmlos eingestuft werden sollten. Jetzt kann ein Angreifer jede Datei harmlos machen, indem er diese Zeichen hinzufügt, und wann immer das Modell auf eine solche Datei trifft, wird es sie als harmlos klassifizieren, wie es trainiert wurde.

Datenvergiftung wird auch mit einem anderen Angriff kombiniert, der als Membership-Inference-Angriff bezeichnet wird. Mit dem Membership Inference Attack (MIA)-Algorithmus kann ein Angreifer beurteilen, ob ein bestimmter Datensatz Teil des Trainingsdatensatzes ist. In Kombination mit Data Poisoning können Membership-Inference-Angriffe genutzt werden, um die Informationen in den Trainingsdaten teilweise zu rekonstruieren. Obwohl Modelle für maschinelles Lernen bei verallgemeinerten Daten gut funktionieren, schneiden sie bei Trainingsdaten gut ab. Mitgliedschaftsinferenzangriffe und Rekonstruktionsangriffe nutzen diese Fähigkeit, um Eingaben bereitzustellen, die mit den Trainingsdaten übereinstimmen, und nutzen die Ausgabe des maschinellen Lernmodells, um Benutzerinformationen in den Trainingsdaten neu zu erstellen.

Wie erkennt und verhindert man Fälle von Datenvergiftung?

Das Modell wird regelmäßig mit neuen Daten neu trainiert, und während dieser Umschulungsphase können toxische Daten in den Trainingsdatensatz eingeführt werden. Da es im Laufe der Zeit auftritt, ist es schwierig, solche Aktivitäten zu verfolgen. Modellentwickler und -ingenieure können die Blockierung oder Erkennung solcher Eingaben vor jedem Trainingszyklus durch Eingabevaliditätstests, Regressionstests, Ratenbegrenzung und andere statistische Techniken erzwingen. Sie können auch die Anzahl der Eingaben eines einzelnen Benutzers begrenzen, prüfen, ob mehrere Eingaben von ähnlichen IP-Adressen oder Konten vorliegen, und neu trainierte Modelle anhand goldener Datensätze testen. Goldene Datensätze sind bewährte und zuverlässige Referenzpunkte für auf maschinellem Lernen basierende Trainingsdatensätze.

Hacker benötigen Informationen darüber, wie Modelle des maschinellen Lernens funktionieren, um Backdoor-Angriffe durchzuführen. Daher ist es wichtig, diese Informationen durch die Implementierung strenger Zugriffskontrollen und die Verhinderung von Informationslecks zu schützen. Allgemeine Sicherheitspraktiken wie das Einschränken von Berechtigungen, die Datenversionierung und die Protokollierung von Codeänderungen stärken die Modellsicherheit und schützen Trainingsdaten für maschinelles Lernen vor Poisoning-Angriffen.

Schutz durch Penetrationstests aufbauen

Unternehmen sollten bei der Durchführung regelmäßiger Penetrationstests ihrer Netzwerke das Testen von Systemen für maschinelles Lernen und künstliche Intelligenz in Betracht ziehen. Penetrationstests simulieren potenzielle Angriffe, um Schwachstellen in Sicherheitssystemen zu identifizieren. Modellentwickler können auf ähnliche Weise simulierte Angriffe auf ihre Algorithmen ausführen, um zu sehen, wie sie Abwehrmaßnahmen gegen Datenvergiftungsangriffe aufbauen können. Wenn Sie Ihr Modell auf Schwachstellen durch Datenvergiftung testen, können Sie mehr über mögliche hinzugefügte Datenpunkte erfahren und Mechanismen zum Verwerfen solcher Datenpunkte erstellen. ​

Selbst scheinbar unbedeutende Mengen fehlerhafter Daten können Modelle für maschinelles Lernen unwirksam machen. Hacker haben sich darauf eingestellt, diese Schwachstelle auszunutzen und Unternehmensdatensysteme zu kompromittieren. Da Unternehmen zunehmend auf künstliche Intelligenz setzen, müssen sie die Sicherheit und den Datenschutz von Trainingsdaten für maschinelles Lernen schützen, sonst riskieren sie, das Vertrauen der Kunden zu verlieren.

Das obige ist der detaillierte Inhalt vonWie kann die Sicherheit der Daten gewährleistet werden, die zum Trainieren von Modellen für maschinelles Lernen verwendet werden?. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!