Sechs Möglichkeiten zum Aufbau von KI-Chatbots und großen Sprachmodellen zur Verbesserung der Cybersicherheit

Generative KI-Chatbots und große Sprachmodelle können aus Risikosicht ein zweischneidiges Schwert sein, aber bei richtiger Anwendung können sie auch die Cybersicherheit entscheidend verbessern.

Der kometenhafte Aufstieg von ChatGPT, entwickelt von OpenAI, ist eine der größten Nachrichtenmeldungen des Jahres, mit den potenziellen Auswirkungen generativer KI-Chatbots und großer Sprachmodelle Cybersicherheit wird in Schlüsselbereichen diskutiert. Es gibt viele Diskussionen über die Sicherheitsrisiken, die diese neuen Technologien mit sich bringen können, von Bedenken hinsichtlich der Weitergabe vertraulicher Geschäftsinformationen mit fortschrittlichen selbstlernenden Algorithmen bis hin zu böswilligen Akteuren, die sie nutzen, um Angriffe erheblich zu verstärken.

Einige Länder, Staaten und Unternehmen haben den Einsatz generativer Technologien der künstlichen Intelligenz wie ChatGPT aus Gründen der Datensicherheit, des Schutzes und der Privatsphäre verboten. Offensichtlich sind die Sicherheitsrisiken, die von generativen KI-Chatbots und großen, großen Sprachmodellen ausgehen, beträchtlich. Es gibt jedoch viele Möglichkeiten, wie generative KI-Chatbots die Cybersicherheit eines Unternehmens verbessern und Sicherheitsteams den dringend benötigten Schub im Kampf gegen Cyberkriminalität geben können.

Hier sind 6 Möglichkeiten, wie generative KI-Chatbots und große Sprachmodelle die Sicherheit verbessern können.

Scannen und Filtern von Schwachstellen

Laut einem Artikel der Cloud Security Alliance (CSA), der ein großes Sprachmodell untersucht Durch die Berichterstattung über Sicherheitsauswirkungen auf Netzwerke können generative KI-Modelle verwendet werden, um das Scannen und Filtern von Sicherheitslücken erheblich zu verbessern. In dem Papier zeigte die Cloud Security Alliance (CSA), dass die Codex-API von OpenAI ein effektiver Schwachstellenscanner für Programmiersprachen wie C, C#, Java und JavaScript ist. „Wir können davon ausgehen, dass große Sprachmodelle wie die der Codex-Familie in Zukunft zum Standardbestandteil von Schwachstellenscannern werden“, heißt es in dem Papier. Beispielsweise könnten Scanner entwickelt werden, um unsichere Codemuster in verschiedenen Sprachen zu erkennen und zu kennzeichnen und Entwicklern dabei zu helfen, potenzielle Schwachstellen zu beheben, bevor sie zu kritischen Sicherheitsrisiken werden.

Was die Filterung betrifft, können generative KI-Modelle Bedrohungskennungen interpretieren und wertvollen Kontext zu ihnen hinzufügen, der andernfalls vom menschlichen Sicherheitspersonal übersehen würde. Beispielsweise wird möglicherweise die technische Kennung TT1059.001 im MITRATT&CK-Framework gemeldet, die jedoch einigen Cybersicherheitsexperten unbekannt ist und daher einer kurzen Erklärung bedarf. ChatGPT kann den Code genau als MITRATT&CK-Identifikator identifizieren und Erklärungen zu spezifischen damit verbundenen Problemen liefern, die die Verwendung bösartiger PowerShell-Skripte beinhalten. Außerdem werden die Natur von PowerShell und sein potenzieller Einsatz bei Cybersicherheitsangriffen detailliert beschrieben und relevante Beispiele bereitgestellt.

Im Mai dieses Jahres kündigte OXSecurity die Einführung von OX-gpt an, einer ChatGPT-Integration, die Entwicklern dabei helfen soll, individuelle Code-Fix-Empfehlungen und Code zum Ausschneiden und Einfügen bereitzustellen Fehlerbehebungen, einschließlich der Art und Weise, wie der Code von Hackern ausgenutzt werden könnte, der möglichen Auswirkungen des Angriffs und des potenziellen Schadens für die Organisation.

Invertieren Sie das Add-on und analysieren Sie die API von PE-Dateien

DeepInstinct Network Intelligence Engineering Manager Matt Fulmer sagte: Basierend auf Reverse-Engineering-Frameworks wie IDA und Ghidra kann die generative KI/LLM-Technologie (Large Language Model) verwendet werden, um bei der Erstellung von Regeln und der Umkehrung beliebter Add-ons zu helfen. „Wenn Sie Ihre Bedürfnisse klären und sie mit den Angriffen und Angriffsstrategien von MITRE vergleichen, können Sie die Ergebnisse offline nutzen und sie besser als Verteidigung nutzen.“ „Wir kommunizieren über Anwendungen, analysieren die APIs von tragbaren ausführbaren Dateien (PEs) und erklären Ihnen, wofür sie verwendet werden“, fügte er hinzu. „Dies kann die Zeit reduzieren, die Sicherheitsforscher mit der Betrachtung von PE-Dateien und der Analyse der darin enthaltenen API-Kommunikation verbringen.“ 🎜🎜#

Laut CSA können Sicherheitsverteidiger die Effizienz steigern und Reaktionszeiten verkürzen, indem sie ChatGPT und andere LLMs nutzen Erstellen Sie Bedrohungssuchanfragen. Durch die Generierung von Abfragen für Malware-Forschungs- und -Erkennungstools wie YARA hilft ChatGPT dabei, potenzielle Bedrohungen schnell zu erkennen und abzuschwächen, sodass sich Verteidiger auf kritische Aspekte ihrer Cybersicherheitsbemühungen konzentrieren können. Diese Fähigkeit hat sich als unschätzbar wertvoll für die Aufrechterhaltung einer robusten Sicherheitslage in einer sich entwickelnden Bedrohungsumgebung erwiesen. Regeln können auf der Grundlage spezifischer Anforderungen und Bedrohungen angepasst werden, die eine Organisation in ihrer Umgebung erkennen oder überwachen möchte.

Künstliche Intelligenz kann die Sicherheit der Lieferkette verbessern und potenzielle Schwachstellen von Lieferanten beseitigen, um Sicherheitsrisiken in der Lieferkette zu begegnen. Im April dieses Jahres kündigte SecurityScorecard die Einführung einer neuen Sicherheitsbewertungsplattform an, die dieses Ziel durch die Integration in das GPT-4-System von OpenAI und die globale Suche in natürlicher Sprache erreicht. Nach Angaben des Unternehmens können Kunden offene Fragen zu ihrem Geschäftsökosystem stellen, einschließlich Anbieterdetails, und erhalten schnell Antworten, um Risikomanagemententscheidungen voranzutreiben. Zum Beispiel „Finden Sie meine 10 am schlechtesten bewerteten Anbieter“ oder „Zeigen Sie, welche meiner wichtigsten Anbieter im vergangenen Jahr kompromittiert wurden“ – SecurityScorecard behauptet, dass diese Fragen zu Ergebnissen führen, die es Teams ermöglichen, schnell Entscheidungen zum Risikomanagement zu treffen.

Generierter KI-Text bei Erkennungsangriff

Laut CSA generieren große Sprachmodelle nicht nur Text, sondern arbeiten auch an der Erkennung und Kennzeichnung von KI-generiertem Text, was zu einem häufigen Merkmal von E-Mail-Schutzsoftware werden könnte. Die CSA sagte, dass die Identifizierung von KI-generiertem Text bei Angriffen dabei helfen kann, Phishing-E-Mails und polymorphen Code zu erkennen, und es kann davon ausgegangen werden, dass LLM atypische E-Mail-Adressabsender oder ihre entsprechenden Domänen leicht erkennen und gleichzeitig die zugrunde liegenden Ebenen im Text untersuchen kann . Ob der Link zu einer bekanntermaßen schädlichen Website führt.

Sichere Codegenerierung und -übertragung

llm wie ChatGPT kann zum Generieren und Übertragen von Sicherheitscode verwendet werden. Als Beispiel führte die CSA eine Phishing-Kampagne an, die erfolgreich auf mehrere Mitarbeiter im Unternehmen abzielte und möglicherweise deren Anmeldedaten offenlegte. Es ist zwar bekannt, welche Mitarbeiter die Phishing-E-Mails geöffnet haben, es ist jedoch nicht klar, ob sie versehentlich Schadcode ausgeführt haben, der darauf abzielte, ihre Zugangsdaten zu stehlen.

Um dieses Problem zu untersuchen, können Sie die erweiterten Suchabfragen von Microsoft365Defender verwenden, um die letzten 10 Aktionen zu finden, die von E-Mail-Empfängern innerhalb von 30 Minuten nach Erhalt bekannter bösartiger Anmeldeereignisse durchgeführt wurden . Diese Abfrage hilft bei der Identifizierung verdächtiger Anmeldeaktivitäten, die möglicherweise mit kompromittierten Anmeldeinformationen zusammenhängen. ”

Hier kann ChatGPT Microsoft365Defender-Suchabfragen bereitstellen, um Anmeldeversuche für kompromittierte E-Mail-Konten zu überprüfen, was dazu beiträgt, Angreifer am Eindringen in das System zu hindern und zu klären, ob Benutzer Änderungen vornehmen müssen ihre Passwörter Dies ist ein großartiges Beispiel für die Verkürzung der Aktionszeit bei der Reaktion auf Cyber-Vorfälle.

Basierend auf demselben Beispiel, auf das Sie möglicherweise stoßen und die Microsoft365Defender-Suchabfrage gefunden haben, Ihr System jedoch nicht Verwenden Sie die Programmiersprache KQL, anstatt nach dem richtigen Beispiel in Ihrer gewünschten Sprache zu suchen. Er sagte: „Dieses Beispiel zeigt, dass das zugrunde liegende Codex-Modell von ChatGPT ein Quellcode-Beispiel sein kann.“ und generieren Sie das Beispiel in einer anderen Programmiersprache. Es vereinfacht auch den Prozess für den Endbenutzer, indem es wichtige Details in die Antworten einfügt und die Methodik hinter neuen Kreationen erläutert. „

Laut CSA können Sicherheitsverteidiger die Effizienz steigern und die Reaktionszeiten verkürzen, indem sie ChatGPT und andere LLMs nutzen, um Suchanfragen nach Bedrohungen zu erstellen Mit Erkennungstools wie YARA zur Generierung von Abfragen hilft ChatGPT, potenzielle Bedrohungen schnell zu erkennen und abzuschwächen, sodass sich Verteidiger auf kritische Aspekte ihrer Cybersicherheitsbemühungen konzentrieren können. Die Aufrechterhaltung einer robusten Sicherheitslage ist von unschätzbarem Wert können auf die spezifischen Bedürfnisse und Bedrohungen zugeschnitten werden, die ein Unternehmen in seiner Umgebung erkennen oder überwachen möchte. Generative KI-Modelle können Sicherheitsrisiken in der Lieferkette identifizieren Mögliche Schwachstellen bei Lieferanten. Im April dieses Jahres kündigte SecurityScorecard die Einführung einer neuen Sicherheitsbewertungsplattform an, die durch die Integration mit dem GPT-4-System und der globalen Suche in natürlicher Sprache erreicht wird Informationen zu ihrem Geschäftsökosystem, einschließlich Details zu Anbietern, und erhalten schnell Antworten, um Entscheidungen zum Risikomanagement zu treffen, z. B. „Finden Sie meine 10 am schlechtesten bewerteten Anbieter“ oder „Zeigen Sie, welche meiner wichtigsten Anbieter im letzten Jahr kompromittiert wurden“ – behauptet SecurityScorecard Diese Fragen führen zu Ergebnissen, die es Teams ermöglichen, schnelle Entscheidungen zum Risikomanagement zu treffen Es kann jedoch davon ausgegangen werden, dass die Identifizierung von KI-generiertem Text bei Angriffen hilfreich sein kann dass llm atypische Absender von E-Mail-Adressen oder deren entsprechende Domänen leicht erkennen kann und gleichzeitig überprüfen kann, ob zugrunde liegende Links im Text auf bekanntermaßen schädliche Websites verweisen und Übertragung

Ein LM wie ChatGPT kann zum Generieren und Übertragen von Sicherheitscodes verwendet werden, was ein Beispiel für eine Phishing-Kampagne war, die erfolgreich auf mehrere Mitarbeiter im Unternehmen abzielte und potenziell offengelegt wurde Es ist zwar bekannt, welche Mitarbeiter die Phishing-E-Mails geöffnet haben, aber es ist unklar, ob sie versehentlich die beabsichtigten Aktionen ausgeführt haben.

Bei diesem Problem können Sie die erweiterten Suchabfragen von Microsoft365Defender verwenden, um E-Mail-Empfänger zu finden, nachdem Sie bekanntermaßen bösartige E-Mails erhalten haben. Diese Abfrage hilft, verdächtige Anmeldeaktivitäten zu identifizieren, die möglicherweise mit kompromittierten Anmeldeinformationen zusammenhängen. ”

Hier kann ChatGPT Microsoft365Defender-Suchabfragen bereitstellen, um Anmeldeversuche für kompromittierte E-Mail-Konten zu überprüfen, was dazu beiträgt, Angreifer am Eindringen in das System zu hindern und zu klären, ob Benutzer Änderungen vornehmen müssen ihre Passwörter Dies ist ein großartiges Beispiel für die Verkürzung der Aktionszeit bei der Reaktion auf einen Cyber-Vorfall.

Basierend auf demselben Beispiel stoßen Sie möglicherweise auf dasselbe Problem und finden die Microsoft365Defender-Suchabfrage, aber Ihr System verwendet nicht die Programmiersprache KQL. Anstatt nach dem richtigen Beispiel in der gewünschten Sprache zu suchen, können Sie den Stil der Programmiersprache ändern.

"Dieses Beispiel zeigt, dass das zugrunde liegende Codex-Modell von ChatGPT ein Quellcodebeispiel nehmen und das Beispiel in einer anderen Programmiersprache generieren kann. Außerdem werden die Antworten und neuen Schlüsseldetails hinzugefügt Die Methodik hinter seiner Erstellung vereinfacht den Prozess für Endbenutzer. „Führungskräfte müssen die sichere Verwendung generativer KI-Chatbots gewährleisten Moderne Technologien, künstliche Intelligenz und große Sprachmodelle können aus Risikosicht ein zweischneidiges Schwert sein. Daher müssen Führungskräfte sicherstellen, dass ihre Teams diese Produkte sicher und zuverlässig nutzen. „Sicherheits- und Rechtsteams sollten zusammenarbeiten, um den besten Weg für ihre Organisationen zu finden, um die Fähigkeiten dieser Technologien zu nutzen, ohne das geistige Eigentum oder die Sicherheit zu gefährden.“ 🎜#Fulmer sagte, generative KI basiert auf veralteten strukturierten Daten und sollte daher nur so sein wird als Ausgangspunkt für die Bewertung seiner Anwendungen in den Bereichen Sicherheit und Verteidigung verwendet. Wenn es beispielsweise für einen der oben genannten Vorteile verwendet wird, muss seine Leistung begründet werden. Stellen Sie die Ausgabe offline und lassen Sie sie besser, genauer und umsetzbarer machen. „

Mit der Zeit werden generative KI-Chatbots/große Sprachmodelle auf natürliche Weise die Sicherheits- und Verteidigungsfähigkeiten verbessern, aber die Nutzung von KI/großen Sprachmodellen kann helfen, anstatt die Cybersicherheitslage zu beeinträchtigen , was letztendlich auf die interne Kommunikation und Reaktion ankommt, sagte Mazal: „Generative KI/große Sprachmodelle können für Stakeholder eine Möglichkeit sein, Probleme auf breiter Basis schneller und effektiver zu lösen.“ Führungskräfte müssen kommunizieren, wie Tools zur Unterstützung der Unternehmensziele eingesetzt werden können, und sie gleichzeitig über potenzielle Bedrohungen aufklären. „

Joshua Kaiser, Direktor für künstliche Intelligenz und CEO von TovieAI, sagte, dass auch Chatbots mit künstlicher Intelligenz regelmäßig aktualisiert werden müssen, um eine wirksame Abwehr gegen Bedrohungen aufrechtzuerhalten Die menschliche Überwachung sei von entscheidender Bedeutung, um das ordnungsgemäße Funktionieren großer Sprachmodelle sicherzustellen, sagte er: „Darüber hinaus müssen große Sprachmodelle das Szenario verstehen, um genaue Antworten zu geben und Sicherheitsprobleme zu erkennen, und sollten regelmäßig getestet und bewertet werden, um potenzielle Probleme zu identifizieren.“ . Schwächen oder Schwachstellen. ”

Das obige ist der detaillierte Inhalt vonSechs Möglichkeiten zum Aufbau von KI-Chatbots und großen Sprachmodellen zur Verbesserung der Cybersicherheit. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!