


Acht Analystenprognosen für die Sicherheit von ChatGPT im Jahr 2023
Die jüngste Veröffentlichung von ChatGPT-4 durch den Entwickler künstlicher Intelligenz OpenAI hat die Welt erneut schockiert, aber was dies im Bereich der Datensicherheit bedeutet, muss noch ermittelt werden. Einerseits ist die Generierung von Malware und Ransomware einfacher denn je. Andererseits kann ChatGPT auch eine Reihe neuer Anwendungsfälle für die Verteidigung bereitstellen.
Die jüngste Veröffentlichung von ChatGPT-4 durch den Entwickler künstlicher Intelligenz OpenAI hat die Welt erneut schockiert, aber was es im Bereich der Datensicherheit bedeutet, muss noch ermittelt werden. Einerseits ist die Generierung von Malware und Ransomware einfacher denn je. Andererseits kann ChatGPT auch eine Reihe neuer Anwendungsfälle für die Verteidigung bereitstellen.
Branchenmedien haben kürzlich einige der weltweit führenden Cybersicherheitsanalysten interviewt und sie haben die folgenden Vorhersagen über die Entwicklung von ChatGPT und generativer künstlicher Intelligenz im Jahr 2023 gemacht:
- ChatGPT wird die Schwelle für Cyberkriminalität senken.
- Das Erstellen überzeugender Phishing-E-Mails wird einfacher.
- Unternehmen benötigen Sicherheitsexperten, die sich mit KI-Technologie auskennen.
- Unternehmen müssen den Inhalt der generativen KI-Ausgabe überprüfen.
- Generative KI wertet bestehende Bedrohungen auf.
- Unternehmen definieren ihre Erwartungen an die ChatGPT-Nutzung.
- Künstliche Intelligenz wird die menschlichen Fähigkeiten verbessern.
- Unternehmen werden immer noch mit den gleichen alten Bedrohungen konfrontiert sein.
Hier sind einige Vorhersagen von Cybersicherheitsanalysten.
1.ChatGPT wird die Schwelle für Cyberkriminalität senken
Steve Grobman, Senior Vice President und Chief Technology Officer von McAfee, sagte: „ChatGPT senkt die Schwelle für die Nutzung und macht einige Technologien möglich, die traditionell die Investition hochqualifizierter Talente und großer Geldbeträge erfordern.“ Jeder, der Zugang zum Internet hat, kann es jetzt nutzen, um Schadcode in großen Mengen zu generieren
Sie können beispielsweise ein Programm bitten, Code zu schreiben, um Textnachrichten zu generieren, die an Hunderte gesendet werden Das ist es, was ein nicht-kriminelles Marketingteam tut, indem es die Empfänger auf eine Website mit bösartigen Bedrohungen weiterleitet
Wie jede neue Technologie oder Anwendung, die Vor- und Nachteile hat, wird ChatGPT sowohl von guten als auch von schlechten Akteuren genutzt, daher muss die Cybersicherheits-Community wachsam bleiben, wie es ausgenutzt werden kann.“
2 .Erstellen von überzeugendem Phishing E-Mails werden einfacher
Justin Greis, Partner bei McKinsey & Company, sagte: „Generative KI ist im Großen und Ganzen ein Werkzeug, das wie alle Werkzeuge heute für gute Zwecke eingesetzt werden kann Neugierige Forscher erstellen überzeugendere Phishing-E-Mails, generieren bösartigen Code und Skripte, um potenzielle Cyberangriffe zu starten oder einfach nur bessere und schnellere Informationen abzufragen
Aber bei jedem Missbrauchsfall werden weiterhin Kontrollen eingeführt, um ihnen entgegenzuwirken. Das liegt in der Natur der Cybersicherheit. Es ist ein nie endender Kampf, den Gegner auszutricksen.
Wie bei jedem Tool, das für böswilligen Schaden eingesetzt werden kann, müssen Unternehmen Schutzmaßnahmen ergreifen, um die Öffentlichkeit vor Missbrauch zu schützen .
3. Unternehmen brauchen Sicherheitsexperten, die sich mit künstlicher Intelligenz auskennen.
Auswirkungen auf die Cybersicherheitslandschaft. Dies markiert den Beginn einer neuen Ära der KI/ML-Einführung auf beiden Seiten der Kluft, nicht so sehr wegen der Möglichkeiten von ChatGPT, sondern weil es KI/ML ins Rampenlicht rückt Einerseits kann ChatGPT möglicherweise dazu verwendet werden, Social Engineering zu demokratisieren und unerfahrenen Bedrohungsakteuren neue Möglichkeiten zu geben, schnell und einfach Ausreden oder Betrugsversuche zu generieren und ausgefeilte Phishing-Angriffe in großem Umfang durchzuführen Wenn es um neuartige Angriffe oder Abwehrmaßnahmen geht, liegt das daran, dass die Leute von ihm verlangen, dass er Dinge tut, für die er nicht ausgebildet ist.
Was bedeutet das für Sicherheitsexperten? ChatGPT ignorieren? Nein. Als Sicherheitsexperten haben viele von uns ChatGPT getestet, um zu sehen, wie gut es grundlegende Funktionen ausführt. Kann es Pen-Testszenarien schreiben? Kann es Phishing-Ausreden schreiben? Wie kann es beim Aufbau einer Angriffsinfrastruktur und C2 helfen?
Bei der größeren Sicherheitsdiskussion geht es jedoch nicht um ChatGPT. Es geht darum, ob wir derzeit über Sicherheitsrollen verfügen, die verstehen, wie KI/ML-Technologien erstellt, verwendet und interpretiert werden. „
4. Unternehmen müssen den Inhalt der Ausgabe generativer KI überprüfen
Gartner-Analystin Avivah Litan sagte: „In einigen Fällen, wenn das Sicherheitspersonal den Inhalt der Ausgabe nicht überprüfen kann, werden die durch ChatGPT verursachten Probleme größer.“ als Es löst mehr Probleme. Beispielsweise werden einige Schwachstellen unweigerlich nicht erkannt und Unternehmen ein falsches Sicherheitsgefühl vermittelt.
Gleichermaßen kann es auch erkannte Phishing-Angriffe übersehen und falsche oder veraltete Bedrohungsinformationen liefern.
Wir werden also im Jahr 2023 definitiv sehen, dass ChatGPT für verpasste Cyberangriffe und Schwachstellen verantwortlich gemacht wird, die zu Datenschutzverletzungen bei Unternehmen führen, die es nutzen. „
5. Generative KI wird bestehende Bedrohungen verbessern
Rob Hughes, Chief Information Security Officer bei RSA, sagte: „Wie viele neue Technologien glaube ich nicht, dass ChatGPT neue Bedrohungen mit sich bringen wird.“ Ich denke, dass die größte Veränderung in der Sicherheitslandschaft darin bestehen wird, bestehende Bedrohungen, insbesondere Phishing, zu verstärken, zu beschleunigen und zu verbessern.
Grundsätzlich kann ChatGPT Cyberangreifern syntaktisch korrekte Phishing-E-Mails bereitstellen, was wir heutzutage nicht mehr oft sehen.
Während ChatGPT ein Offline-Dienst bleibt, ist es nur eine Frage der Zeit, bis Cyber-Bedrohungsakteure beginnen, Internetzugang, Automatisierung und künstliche Intelligenz zu kombinieren, um dauerhafte und fortschrittliche Angriffe zu erstellen.
Mit Chatbots müssen Menschen keine Spam-Köder schreiben. Stattdessen könnten sie ein Skript schreiben, das besagt: „Verwenden Sie Internetdaten, um sich mit dem und dem vertraut zu machen, und senden Sie ihm so lange Nachrichten, bis er auf den Link klickt.“
Phishing bleibt eine der Hauptursachen für Cybersicherheitsverstöße. Wenn ein Bot in natürlicher Sprache ein verteiltes Spear-Phishing-Tool verwendet, während er in großem Umfang auf den Computern von Hunderten von Benutzern arbeitet, wird es für Sicherheitsteams schwieriger, ihre Arbeit zu erledigen. „
6. Unternehmen werden Erwartungen an die Nutzung von ChatGPT definieren
Matt Miller, Leiter der Cybersicherheitsdienste bei KPMG, sagte, dass Sicherheit ein Hauptanliegen sein wird, wenn mehr Unternehmen ChatGPT nutzen. Hier sind einige Schritte, um Unternehmen zu helfen Verschaffen Sie sich einen Vorsprung im Jahr 2023:
(1) Legen Sie Erwartungen fest, wie ChatGPT und ähnliche Lösungen in Unternehmensumgebungen verwendet werden sollten. Definieren Sie alle genehmigten Lösungen, Anwendungsfälle und eine Liste von Daten, auf die sich Mitarbeiter verlassen können on; und verlangen Kontrollen, um die Richtigkeit der Antworten zu überprüfen
(2) Einrichtung interner Prozesse zur Überprüfung der Auswirkungen und Entwicklung von Vorschriften hinsichtlich der Nutzung kognitiver Automatisierungslösungen, insbesondere des geistigen Eigentums, der persönlichen Datenverwaltung und Vielfalt.
(3) Implementieren Sie technische Netzwerkkontrollen mit besonderem Augenmerk auf das Testen der Betriebsstabilität und das Scannen auf bösartige Nutzlasten. Zu den zusätzlichen Kontrollen gehören unter anderem: die Autorisierung des Benutzerzugriffs Programme zur Verhinderung von Datenverlust, um sicherzustellen, dass der gesamte von Tools generierte Code einen Standardüberprüfungsprozess durchläuft und Netzwerkfilter konfiguriert wird, um Mitarbeiter zu warnen, wenn sie auf nicht genehmigte Lösungen zugreifen
7
Doug Cahill, Senior Vice President und Senior Analyst bei ESG Corp. Analyst Services, sagte: „Wie die meisten neuen Technologien wird ChatGPT zu einer Ressource für Cyber-Angreifer und -Verteidiger. Zu den gegnerischen Anwendungsfällen gehören Aufklärung und Verteidiger, die nach Best Practices und der Bedrohung suchen.“ Geheimdienstmarkt. Wie bei anderen ChatGPT-Anwendungsfällen variiert die Genauigkeit der Benutzertestantworten, da das KI-System auf einem bereits großen und wachsenden Datenbestand trainiert wird.
Während der ChatGPT-Anwendungsfall weit verbreitet ist, ist der Austausch von Bedrohungsinformationen zwischen Teammitgliedern für die Bedrohungssuche und die Aktualisierung von Regeln und Verteidigungsmodellen vielversprechend. ChatGPT ist jedoch ein weiteres Beispiel dafür, wie KI den menschlichen Faktor ergänzt (anstatt ihn zu ersetzen), der in jedem Anwendungsszenario zur Bedrohungsermittlung erforderlich ist. „
8. Unternehmen werden immer noch mit den gleichen alten Bedrohungen konfrontiert sein
Candid Wuest, Vizepräsident für globale Forschung bei Acronis, sagte: „ChatGPT ist zwar ein leistungsstarkes Sprachgenerierungsmodell, diese Technologie ist jedoch kein eigenständiges Tool und kann nicht eingesetzt werden.“ unabhängig. Es basiert auf Benutzereingaben und ist durch die Daten begrenzt, auf denen es trainiert wird.
Zum Beispiel muss der von diesem Modell generierte Phishing-Text immer noch von einem E-Mail-Konto gesendet und an eine Website weitergeleitet werden. Dies sind traditionelle Indikatoren, die analysiert werden können, um sie zu erkennen.
ChatGPT verfügt zwar über die Fähigkeit, Exploits und Payloads zu schreiben, Tests haben jedoch gezeigt, dass diese Funktionen nicht so gut sind wie ursprünglich angenommen. Die Plattform kann auch zum Schreiben von Malware verwendet werden, und während dieser Code bereits online und in verschiedenen Foren zu finden ist, macht ChatGPT ihn für die breite Masse zugänglicher.
Allerdings sind die Änderungen noch begrenzt, wodurch diese Malware durch verhaltensbasierte Erkennung und andere Methoden leicht erkennbar ist. ChatGPT ist nicht speziell darauf ausgelegt, Schwachstellen anzugreifen oder auszunutzen, kann jedoch die Häufigkeit automatisierter oder simulierter Nachrichten erhöhen. Es senkt die Eintrittsbarriere für Cyberkriminelle, führt jedoch keine völlig neuen Angriffsmethoden für etablierte Unternehmen ein.
Das obige ist der detaillierte Inhalt vonAcht Analystenprognosen für die Sicherheit von ChatGPT im Jahr 2023. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!

Heiße KI -Werkzeuge

Undresser.AI Undress
KI-gestützte App zum Erstellen realistischer Aktfotos

AI Clothes Remover
Online-KI-Tool zum Entfernen von Kleidung aus Fotos.

Undress AI Tool
Ausziehbilder kostenlos

Clothoff.io
KI-Kleiderentferner

AI Hentai Generator
Erstellen Sie kostenlos Ai Hentai.

Heißer Artikel

Heiße Werkzeuge

Notepad++7.3.1
Einfach zu bedienender und kostenloser Code-Editor

SublimeText3 chinesische Version
Chinesische Version, sehr einfach zu bedienen

Senden Sie Studio 13.0.1
Leistungsstarke integrierte PHP-Entwicklungsumgebung

Dreamweaver CS6
Visuelle Webentwicklungstools

SublimeText3 Mac-Version
Codebearbeitungssoftware auf Gottesniveau (SublimeText3)

Heiße Themen



DALL-E 3 wurde im September 2023 offiziell als deutlich verbessertes Modell gegenüber seinem Vorgänger eingeführt. Er gilt als einer der bisher besten KI-Bildgeneratoren und ist in der Lage, Bilder mit komplexen Details zu erstellen. Zum Start war es jedoch exklusiv

Diese Seite berichtete am 27. Juni, dass Jianying eine von FaceMeng Technology, einer Tochtergesellschaft von ByteDance, entwickelte Videobearbeitungssoftware ist, die auf der Douyin-Plattform basiert und grundsätzlich kurze Videoinhalte für Benutzer der Plattform produziert Windows, MacOS und andere Betriebssysteme. Jianying kündigte offiziell die Aktualisierung seines Mitgliedschaftssystems an und führte ein neues SVIP ein, das eine Vielzahl von KI-Schwarztechnologien umfasst, wie z. B. intelligente Übersetzung, intelligente Hervorhebung, intelligente Verpackung, digitale menschliche Synthese usw. Preislich beträgt die monatliche Gebühr für das Clipping von SVIP 79 Yuan, die Jahresgebühr 599 Yuan (Hinweis auf dieser Website: entspricht 49,9 Yuan pro Monat), das fortlaufende Monatsabonnement beträgt 59 Yuan pro Monat und das fortlaufende Jahresabonnement beträgt 499 Yuan pro Jahr (entspricht 41,6 Yuan pro Monat). Darüber hinaus erklärte der Cut-Beamte auch, dass diejenigen, die den ursprünglichen VIP abonniert haben, das Benutzererlebnis verbessern sollen

Large Language Models (LLMs) werden auf riesigen Textdatenbanken trainiert und erwerben dort große Mengen an realem Wissen. Dieses Wissen wird in ihre Parameter eingebettet und kann dann bei Bedarf genutzt werden. Das Wissen über diese Modelle wird am Ende der Ausbildung „verdinglicht“. Am Ende des Vortrainings hört das Modell tatsächlich auf zu lernen. Richten Sie das Modell aus oder verfeinern Sie es, um zu erfahren, wie Sie dieses Wissen nutzen und natürlicher auf Benutzerfragen reagieren können. Aber manchmal reicht Modellwissen nicht aus, und obwohl das Modell über RAG auf externe Inhalte zugreifen kann, wird es als vorteilhaft angesehen, das Modell durch Feinabstimmung an neue Domänen anzupassen. Diese Feinabstimmung erfolgt mithilfe von Eingaben menschlicher Annotatoren oder anderer LLM-Kreationen, wobei das Modell auf zusätzliches Wissen aus der realen Welt trifft und dieses integriert

Herausgeber | Der Frage-Antwort-Datensatz (QA) von ScienceAI spielt eine entscheidende Rolle bei der Förderung der Forschung zur Verarbeitung natürlicher Sprache (NLP). Hochwertige QS-Datensätze können nicht nur zur Feinabstimmung von Modellen verwendet werden, sondern auch effektiv die Fähigkeiten großer Sprachmodelle (LLMs) bewerten, insbesondere die Fähigkeit, wissenschaftliche Erkenntnisse zu verstehen und zu begründen. Obwohl es derzeit viele wissenschaftliche QS-Datensätze aus den Bereichen Medizin, Chemie, Biologie und anderen Bereichen gibt, weisen diese Datensätze immer noch einige Mängel auf. Erstens ist das Datenformular relativ einfach, die meisten davon sind Multiple-Choice-Fragen. Sie sind leicht auszuwerten, schränken jedoch den Antwortauswahlbereich des Modells ein und können die Fähigkeit des Modells zur Beantwortung wissenschaftlicher Fragen nicht vollständig testen. Im Gegensatz dazu offene Fragen und Antworten

Herausgeber |. KX Im Bereich der Arzneimittelforschung und -entwicklung ist die genaue und effektive Vorhersage der Bindungsaffinität von Proteinen und Liganden für das Arzneimittelscreening und die Arzneimitteloptimierung von entscheidender Bedeutung. Aktuelle Studien berücksichtigen jedoch nicht die wichtige Rolle molekularer Oberflächeninformationen bei Protein-Ligand-Wechselwirkungen. Auf dieser Grundlage schlugen Forscher der Universität Xiamen ein neuartiges Framework zur multimodalen Merkmalsextraktion (MFE) vor, das erstmals Informationen über Proteinoberfläche, 3D-Struktur und -Sequenz kombiniert und einen Kreuzaufmerksamkeitsmechanismus verwendet, um verschiedene Modalitäten zu vergleichen Ausrichtung. Experimentelle Ergebnisse zeigen, dass diese Methode bei der Vorhersage von Protein-Ligand-Bindungsaffinitäten Spitzenleistungen erbringt. Darüber hinaus belegen Ablationsstudien die Wirksamkeit und Notwendigkeit der Proteinoberflächeninformation und der multimodalen Merkmalsausrichtung innerhalb dieses Rahmens. Verwandte Forschungen beginnen mit „S

Laut Nachrichten dieser Website vom 5. Juli veröffentlichte GlobalFoundries am 1. Juli dieses Jahres eine Pressemitteilung, in der die Übernahme der Power-Galliumnitrid (GaN)-Technologie und des Portfolios an geistigem Eigentum von Tagore Technology angekündigt wurde, in der Hoffnung, seinen Marktanteil in den Bereichen Automobile und Internet auszubauen Anwendungsbereiche für Rechenzentren mit künstlicher Intelligenz, um höhere Effizienz und bessere Leistung zu erforschen. Da sich Technologien wie generative künstliche Intelligenz (GenerativeAI) in der digitalen Welt weiterentwickeln, ist Galliumnitrid (GaN) zu einer Schlüssellösung für nachhaltiges und effizientes Energiemanagement, insbesondere in Rechenzentren, geworden. Auf dieser Website wurde die offizielle Ankündigung zitiert, dass sich das Ingenieurteam von Tagore Technology im Rahmen dieser Übernahme mit GF zusammenschließen wird, um die Galliumnitrid-Technologie weiterzuentwickeln. G

Laut Nachrichten dieser Website vom 1. August hat SK Hynix heute (1. August) einen Blogbeitrag veröffentlicht, in dem es ankündigt, dass es am Global Semiconductor Memory Summit FMS2024 teilnehmen wird, der vom 6. bis 8. August in Santa Clara, Kalifornien, USA, stattfindet viele neue Technologien Generation Produkt. Einführung des Future Memory and Storage Summit (FutureMemoryandStorage), früher Flash Memory Summit (FlashMemorySummit), hauptsächlich für NAND-Anbieter, im Zusammenhang mit der zunehmenden Aufmerksamkeit für die Technologie der künstlichen Intelligenz wurde dieses Jahr in Future Memory and Storage Summit (FutureMemoryandStorage) umbenannt Laden Sie DRAM- und Speicheranbieter und viele weitere Akteure ein. Neues Produkt SK Hynix wurde letztes Jahr auf den Markt gebracht

Open AI macht endlich seinen Vorstoß in die Suche. Das Unternehmen aus San Francisco hat kürzlich ein neues KI-Tool mit Suchfunktionen angekündigt. The Information berichtete erstmals im Februar dieses Jahres über das neue Tool, das treffend SearchGPT heißt und über ein c
