L'émergence de ChatGPT pourrait avoir un impact négatif sur le secteur de la cybersécurité

Depuis son lancement en novembre 2022, le chatbot d'intelligence artificielle ChatGPT fait sensation grâce à ses performances étonnantes.

Seulement deux mois après le lancement de ce système de génération automatique, les utilisateurs actifs mensuels ont dépassé les 100 millions, un nombre record. Cependant, même si sa popularité continue de croître, le débat actuel au sein du secteur de la cybersécurité est de savoir si cette technologie peut contribuer à renforcer la sécurité des réseaux ou si elle peut être utilisée à mauvais escient par ceux qui cherchent à semer le chaos.

Le logiciel d'IA propose une variété de cas d'utilisation en matière de cybersécurité, notamment l'analyse avancée des données, l'automatisation des tâches répétitives et l'aide au calcul des scores de risque. Cependant, peu de temps après ses débuts, il est rapidement devenu évident que ce chatbot facile à utiliser et disponible gratuitement pouvait également aider les pirates à pénétrer dans les logiciels et à développer des outils de phishing sophistiqués.

Alors, ChatGPT est-il un cadeau pour le domaine de la cybersécurité, ou une « boîte de Pandore » du désastre ? Pour trouver la réponse, il faut regarder le pour, le contre et l'avenir ?

Quels sont les dangers actuels de ChatGPT ?

Comme toute nouvelle avancée technologique, il y aura toujours des effets négatifs, et ChatGPT ne fait pas exception.

Actuellement, la préoccupation la plus préoccupante concernant les chatbots est la facilité avec laquelle ils peuvent créer des textes de phishing très convaincants qui pourraient potentiellement être utilisés dans des e-mails malveillants. L'absence de mesures de sécurité permet aux acteurs malveillants d'exploiter facilement le mécanisme ChatGPT. Par exemple, un acteur malveillant dont la langue maternelle n'est pas l'anglais peut créer un message réaliste et attrayant en quelques secondes avec une syntaxe presque parfaite.

Considérant que les Américains ont perdu 40 milliards de dollars à cause de ces escroqueries en 2022, il est facile de comprendre pourquoi les criminels utiliseraient ChatGPT pour obtenir une part de ce gâteau lucratif.

Les chatbots IA soulèvent également la question de la sécurité de l’emploi. Bien entendu, les systèmes actuels ne peuvent pas remplacer les professionnels formés, mais cette technologie peut réduire considérablement le nombre de journaux et de rapports que les employés doivent consulter. Cela pourrait avoir un impact sur le nombre d’analystes qu’un centre d’opérations de sécurité (SOC) doit embaucher.

Bien que le logiciel offre certains avantages aux entreprises de cybersécurité, de nombreuses entreprises adopteront la technologie simplement en raison de sa popularité actuelle et tenteront de l'utiliser pour attirer de nouveaux clients. Cependant, utiliser cette technologie simplement en raison de sa popularité peut conduire à des abus. L'entreprise peut ne pas avoir mis en place des mesures de sécurité adéquates, ce qui entrave les progrès dans l'établissement d'un programme de sécurité efficace.

Avantages de ChatGPT en matière de cybersécurité

Comme pour toute nouvelle technologie, la perturbation est une partie inévitable, mais ce n'est pas nécessairement une mauvaise chose.

Les entreprises de cybersécurité peuvent ajouter une couche supplémentaire d'intelligence en plus de passer au crible manuellement les journaux d'audit ou d'inspecter les paquets réseau pour distinguer les menaces des fausses alertes.

Étant donné que ChatGPT est capable de détecter des modèles et de rechercher dans des paramètres spécifiques, il peut également être utilisé pour des tâches répétitives et la génération de rapports. En utilisant ChatGPT comme super assistant de recherche, les entreprises de cybersécurité peuvent calculer plus intelligemment les scores de risque pour les menaces affectant leurs entreprises.

Par exemple, la société de cybersécurité basée en Israël, Orca Security, a commencé à tirer parti de la qualité analytique supérieure de ChatGPT pour exploiter ses données massives et aider à émettre des alertes de sécurité. En réalisant très tôt comment les chatbots peuvent améliorer leurs opérations quotidiennes, l'entreprise peut également tirer des leçons de la technologie, ce qui lui donne un avantage unique pour adapter ses modèles afin d'optimiser le fonctionnement de ChatGPT pour son entreprise.

De plus, les capacités de traitement du langage naturel du chatbot le rendent très efficace pour rédiger des e-mails de phishing, ce qui signifie qu'il est également idéal pour créer des politiques de sécurité complexes. Ces textes clairs peuvent être utilisés sur des sites Web de cybersécurité et des documents de formation, permettant ainsi aux membres de l'équipe de gagner un temps précieux.

L'avenir de ChatGPT

La technologie d'intelligence artificielle de ChatGPT est facilement accessible dans la plupart des régions du monde. Ainsi, comme toute autre guerre, ce sera une course pour voir quel camp pourra mieux utiliser la technologie.

Les entreprises de cybersécurité doivent constamment lutter contre les utilisateurs malveillants qui trouveront des moyens d'utiliser ChatGPT pour causer des dommages dont les entreprises de cybersécurité ne sont pas encore conscientes. Cependant, ce fait n’a pas dissuadé les investisseurs et l’avenir de ChatGPT s’annonce très prometteur. Alors que Microsoft investit 10 milliards de dollars dans l'Open AI, il est clair que les connaissances et les capacités de ChatGPT continueront de se développer.

Pour les futures versions de cette technologie, les développeurs de logiciels doivent être conscients de son manque de mesures de sécurité, et le diable se cache dans les détails.

ChatGPT ne résoudra peut-être pas ce problème dans une large mesure. Mais il pourrait disposer de mécanismes permettant d’évaluer les habitudes des utilisateurs et de se concentrer sur ceux qui utilisent des invites évidentes, telles que « écrivez-moi un e-mail de phishing en pensant que je suis le patron de quelqu’un » – ou qui tentent de vérifier l’identité d’un individu.

Open AI peut même travailler avec des chercheurs pour entraîner leurs ensembles de données afin d'évaluer quand leur texte est utilisé dans des attaques ailleurs.

Cependant, toutes ces idées comportent leur propre ensemble de problèmes, notamment la hausse des coûts et des problèmes de protection des données.

Pour lutter contre l'épidémie actuelle de phishing, davantage de personnes doivent être éduquées et sensibilisées à la sécurité pour reconnaître ces attaques. Le secteur a besoin de davantage d’investissements de la part des opérateurs de téléphonie mobile et des fournisseurs de messagerie électronique pour éviter les attaques.

Conclusion

De nombreux produits et services proviendront de ChatGPT, apportant une valeur énorme et contribuant à protéger les entreprises qui changent le monde. Mais d’un autre côté, les pirates créeront également une multitude de nouveaux outils qui leur permettront d’attaquer davantage de cibles, de nouvelles manières et en moins de temps.

Les chatbots d’intelligence artificielle sont là pour rester, et ChatGPT est également confronté à une concurrence féroce. Bard de Google et Bing de Microsoft espèrent tous deux rivaliser avec les produits d’Open AI. L’essentiel, cependant, est que les entreprises de cybersécurité devraient considérer ChatGPT comme une stratégie à la fois offensive et défensive, plutôt que comme une simple opportunité de générer plus de revenus.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!