OpenAI kündigt Netzwerksicherheitsplan an: KI gibt Millionen von Dollar aus und könnte in Zukunft Netzwerkschwachstellen automatisch beheben

Produziert von Sohu Technology

Autor｜Zheng Songyi

Am 2. Juni, Pekinger Zeit, kündigte das in den USA ansässige Forschungsunternehmen für künstliche Intelligenz OpenAI das Cybersecurity Grant Program an, das 1 Million US-Dollar kosten wird, um KI-gesteuerte Cybersicherheitsfunktionen zu verbessern und zu quantifizieren und Diskussionen über KI-Cybersicherheit auf hohem Niveau zu fördern.

In letzter Zeit kam es häufig zu Netzwerksicherheitsproblemen, die durch den Missbrauch von KI-Technologie verursacht wurden, und die Vorhersagen von Musk und anderen über die „KI-Sicherheitskrise“ haben sich vorzeitig erfüllt. Es wird davon ausgegangen, dass es in letzter Zeit im ganzen Land viele High-Tech-Betrugsvorfälle gegeben hat, bei denen Kriminelle Technologien zur „KI-Gesichtsveränderung“ und „KI-Stimmenimitation“ eingesetzt haben, um sich als Freunde des Opfers auszugeben, und dabei einen Betrag von bis zu einer Million betrogen haben Yuan in 9 Sekunden.

Einige Experten in der Branche haben analysiert, dass die KI-Technologie selbst auch Sicherheitslücken aufweist. Das aktuelle gängige tiefe neuronale Netzwerk und andere Technologien weisen „Black-Box“-Eigenschaften auf, was dazu führen wird, dass einige KI-Algorithmen nicht interpretierbar sind Probleme mit der Algorithmensicherheit können bei der Implementierung industrieller Anwendungen zu Sicherheitsrisiken und -risiken führen.

Auf der offiziellen Website von OpenAI heißt es: „Unser Ziel ist es, die Entwicklung von auf künstlicher Intelligenz basierenden Cybersicherheitsfunktionen für Verteidiger durch Zuschüsse und andere Unterstützung zu fördern.“

Berichten zufolge enthält der Plan drei Hauptziele:

1. Stärken Sie die Verteidiger: Wir möchten sicherstellen, dass die modernsten KI-Funktionen zuerst den Verteidigern zugute kommen.

2. Messfähigkeiten: Arbeiten Sie an der Entwicklung von Methoden zur Quantifizierung der Cybersicherheitsfähigkeiten von KI-Modellen, um deren Wirksamkeit besser zu verstehen und zu verbessern.

3. Fördern Sie die Diskussion: Engagiert sich für die Förderung einer rigorosen Diskussion an der Schnittstelle von KI und Cybersicherheit und fördert ein umfassendes und differenziertes Verständnis der Herausforderungen und Chancen in diesem Bereich.

OpenAI sagt: „Die gängige Meinung in der Cybersicherheit verschafft Angreifern auf natürliche Weise einen Vorteil gegenüber Verteidigern. Ein altes Axiom bringt es auf den Punkt: „Die Verteidigung muss zu 100 % Recht haben, der Angreifer muss nur einmal Recht haben.“ Während es wahr sein mag, dass Angreifer weniger Einschränkungen ausgesetzt sind und ihre Flexibilität ausnutzen, haben Verteidiger etwas Wertvolleres – Koordination, um ein gemeinsames Ziel zu erreichen, die Sicherheit der Menschen zu gewährleisten.“

Es wird berichtet, dass zu den aktuellen Ideen von OpenAI für den Plan unter anderem gehört, dass KI Netzwerkschwachstellen automatisch beheben, Sicherheitsprobleme im Netzwerkquellcode automatisch identifizieren und Täuschungstechnologie einsetzen kann, um Angreifer in die Falle zu locken.

OpenAI hat jetzt seinen Projektrekrutierungsplan eröffnet. OpenAI wird Anträge auf Finanzierung oder andere Unterstützung bewerten und annehmen, wobei der Schwerpunkt auf praktischen Anwendungen künstlicher Intelligenz in der defensiven Cybersicherheit liegt (Tools, Methoden, Prozesse). OpenAI wird eine zusätzliche Finanzierung in Höhe von 10.000 US-Dollar in Form von API-Credits, direkten Zuschüssen und/oder Äquivalenten aus dem 1-Millionen-Dollar-Fonds bereitstellen.

OpenAI betont, dass die Finanzierung offensiver Sicherheitsprojekte derzeit nicht in Betracht gezogen wird.

Das obige ist der detaillierte Inhalt vonOpenAI kündigt Netzwerksicherheitsplan an: KI gibt Millionen von Dollar aus und könnte in Zukunft Netzwerkschwachstellen automatisch beheben. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!