Périphériques technologiques
IA
L'apprentissage automatique crée de nouvelles surfaces d'attaque, nécessitant des défenses spécialisées
L'apprentissage automatique crée de nouvelles surfaces d'attaque, nécessitant des défenses spécialisées
Alors que les entreprises de presque tous les secteurs intègrent la technologie de l'intelligence artificielle (IA) dans leurs produits matériels et logiciels, les entrées et sorties d'apprentissage automatique (ML) deviennent de plus en plus largement accessibles aux clients. Cela attire naturellement l’attention des acteurs malveillants.
Christopher Sestito, PDG de HiddenLayer, parle des considérations de sécurité de l'apprentissage automatique et des menaces associées dont les entreprises devraient s'inquiéter.
Les entreprises réalisent peu à peu les possibilités que l’apprentissage automatique peut leur ouvrir. Mais accordent-ils également une attention particulière à la cybersécurité ?
Peu d'entreprises se concentrent sur la protection de leurs actifs d'apprentissage automatique, et encore moins allouent des ressources à la sécurité de l'apprentissage automatique. Il y a de nombreuses raisons à cela, notamment des priorités budgétaires concurrentes, la rareté des talents et, jusqu'à récemment, le manque de produits de sécurité permettant de résoudre ce problème.
Au cours de la dernière décennie, nous avons vu tous les secteurs adopter l’IA/l’apprentissage automatique comme jamais auparavant pour aborder chaque cas d’utilisation avec les données disponibles. Les avantages sont avérés, mais comme nous l’avons vu avec d’autres nouvelles technologies, elles deviennent rapidement une nouvelle surface d’attaque pour les acteurs malveillants.
À mesure que les opérations d'apprentissage automatique progressent, les équipes de science des données construisent un écosystème d'IA plus mature en termes d'efficacité, d'efficience, de fiabilité et d'explicabilité, mais la sécurité n'a pas encore été une priorité. Cette voie n'est plus viable pour les entreprises, car les motivations pour attaquer les systèmes d'apprentissage automatique sont claires, les outils d'attaque sont disponibles et faciles à utiliser, et les cibles potentielles augmentent à un rythme sans précédent.
Comment les attaquants peuvent-ils exploiter les entrées publiques d’apprentissage automatique ?
À mesure que les modèles d'apprentissage automatique sont intégrés dans de plus en plus de systèmes de production, ils sont présentés aux clients dans des produits matériels et logiciels, des applications Web, des applications mobiles, etc. Cette tendance, souvent appelée « IA de pointe », apporte d’incroyables capacités décisionnelles et prédictives à toutes les technologies que nous utilisons quotidiennement. Offrir du machine learning à un nombre croissant d’utilisateurs finaux tout en exposant ces mêmes ressources de machine learning aux acteurs malveillants.
Les modèles d'apprentissage automatique qui ne sont pas exposés via le réseau sont également menacés. Ces modèles sont accessibles via des techniques de cyberattaque traditionnelles, ouvrant la voie à des opportunités d’apprentissage automatique contradictoire. Une fois que les acteurs malveillants y ont accès, ils peuvent utiliser plusieurs types d’attaques. Les attaques d'inférence tentent de cartographier ou « d'inverser » un modèle, pouvant ainsi exploiter les faiblesses du modèle, altérer les fonctionnalités du produit dans son ensemble, ou copier et voler le modèle lui-même.
Les gens ont vu des exemples concrets de ces attaques de fournisseurs de sécurité pour contourner les antivirus ou d'autres mécanismes de protection. Un attaquant pourrait également choisir d'empoisonner les données utilisées pour entraîner le modèle afin d'induire le système en erreur et de biaiser la prise de décision en sa faveur.
De quelles menaces pesant sur les systèmes d'apprentissage automatique les entreprises devraient-elles s'inquiéter particulièrement ?
Bien que tous les types d'attaques de machine learning contradictoires doivent être défendus, différentes entreprises auront des priorités différentes. Les institutions financières qui exploitent des modèles d’apprentissage automatique pour identifier les transactions frauduleuses se concentreront fortement sur leur défense contre les attaques par inférence.
Si les attaquants comprennent les forces et les faiblesses d'un système de détection de fraude, ils peuvent l'utiliser pour modifier leurs techniques afin de ne pas être détectés, en contournant complètement le modèle. Les entreprises de santé peuvent être plus sensibles à l’empoisonnement des données. Le domaine médical a été l’un des premiers à adopter la prévision des résultats grâce à l’apprentissage automatique utilisant ses énormes ensembles de données historiques.
Les attaques d'empoisonnement des données peuvent conduire à des diagnostics erronés, modifier les résultats des essais de médicaments, déformer les groupes de patients, etc. Les entreprises de sécurité elles-mêmes se concentrent actuellement sur les attaques d’évasion par apprentissage automatique, qui sont activement utilisées pour déployer des ransomwares ou des réseaux de portes dérobées.
Quelles sont les principales considérations de sécurité que les responsables de la sécurité de l'information (RSSI) doivent garder à l'esprit lors du déploiement de systèmes basés sur l'apprentissage automatique ?
Le meilleur conseil que vous puissiez donner aujourd'hui aux responsables de la sécurité de l'information (RSSI) est d'adopter les modèles que nous avons appris dans les technologies émergentes. À l’instar de nos avancées en matière d’infrastructure cloud, les déploiements de machine learning représentent une nouvelle surface d’attaque qui nécessite des défenses spécialisées. La barrière à l’entrée des attaques contradictoires d’apprentissage automatique diminue chaque jour grâce à des outils d’attaque open source tels que Counterfit de Microsoft ou Adversarial Robustness Toolbox d’IBM.
Une autre considération majeure est que bon nombre de ces attaques ne sont pas évidentes et on peut ne pas comprendre qu'elles se produisent si vous ne les recherchez pas. En tant que professionnels de la sécurité, nous sommes habitués aux ransomwares, qui indiquent clairement qu’une entreprise a été compromise et que des données ont été verrouillées ou volées. Les attaques adverses de machine learning peuvent être adaptées pour se produire sur des périodes plus longues, et certaines attaques, telles que l’empoisonnement des données, peuvent être un processus plus lent mais dommageable de façon permanente.
Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!
Outils d'IA chauds
Undresser.AI Undress
Application basée sur l'IA pour créer des photos de nu réalistes
AI Clothes Remover
Outil d'IA en ligne pour supprimer les vêtements des photos.
Undress AI Tool
Images de déshabillage gratuites
Clothoff.io
Dissolvant de vêtements AI
Video Face Swap
Échangez les visages dans n'importe quelle vidéo sans effort grâce à notre outil d'échange de visage AI entièrement gratuit !
Article chaud
Outils chauds
Bloc-notes++7.3.1
Éditeur de code facile à utiliser et gratuit
SublimeText3 version chinoise
Version chinoise, très simple à utiliser
Envoyer Studio 13.0.1
Puissant environnement de développement intégré PHP
Dreamweaver CS6
Outils de développement Web visuel
SublimeText3 version Mac
Logiciel d'édition de code au niveau de Dieu (SublimeText3)
Sujets chauds
Cet article vous amènera à comprendre SHAP : explication du modèle pour l'apprentissage automatique
Jun 01, 2024 am 10:58 AM
Dans les domaines de l’apprentissage automatique et de la science des données, l’interprétabilité des modèles a toujours été au centre des préoccupations des chercheurs et des praticiens. Avec l'application généralisée de modèles complexes tels que l'apprentissage profond et les méthodes d'ensemble, la compréhension du processus décisionnel du modèle est devenue particulièrement importante. Explainable AI|XAI contribue à renforcer la confiance dans les modèles d'apprentissage automatique en augmentant la transparence du modèle. L'amélioration de la transparence des modèles peut être obtenue grâce à des méthodes telles que l'utilisation généralisée de plusieurs modèles complexes, ainsi que les processus décisionnels utilisés pour expliquer les modèles. Ces méthodes incluent l'analyse de l'importance des caractéristiques, l'estimation de l'intervalle de prédiction du modèle, les algorithmes d'interprétabilité locale, etc. L'analyse de l'importance des fonctionnalités peut expliquer le processus de prise de décision du modèle en évaluant le degré d'influence du modèle sur les fonctionnalités d'entrée. Estimation de l’intervalle de prédiction du modèle
Identifier le surapprentissage et le sous-apprentissage grâce à des courbes d'apprentissage
Apr 29, 2024 pm 06:50 PM
Cet article présentera comment identifier efficacement le surajustement et le sous-apprentissage dans les modèles d'apprentissage automatique grâce à des courbes d'apprentissage. Sous-ajustement et surajustement 1. Surajustement Si un modèle est surentraîné sur les données de sorte qu'il en tire du bruit, alors on dit que le modèle est en surajustement. Un modèle surajusté apprend chaque exemple si parfaitement qu'il classera mal un exemple inédit/inédit. Pour un modèle surajusté, nous obtiendrons un score d'ensemble d'entraînement parfait/presque parfait et un score d'ensemble/test de validation épouvantable. Légèrement modifié : "Cause du surajustement : utilisez un modèle complexe pour résoudre un problème simple et extraire le bruit des données. Parce qu'un petit ensemble de données en tant qu'ensemble d'entraînement peut ne pas représenter la représentation correcte de toutes les données."
L'évolution de l'intelligence artificielle dans l'exploration spatiale et l'ingénierie des établissements humains
Apr 29, 2024 pm 03:25 PM
Dans les années 1950, l’intelligence artificielle (IA) est née. C’est à ce moment-là que les chercheurs ont découvert que les machines pouvaient effectuer des tâches similaires à celles des humains, comme penser. Plus tard, dans les années 1960, le Département américain de la Défense a financé l’intelligence artificielle et créé des laboratoires pour poursuivre son développement. Les chercheurs trouvent des applications à l’intelligence artificielle dans de nombreux domaines, comme l’exploration spatiale et la survie dans des environnements extrêmes. L'exploration spatiale est l'étude de l'univers, qui couvre l'ensemble de l'univers au-delà de la terre. L’espace est classé comme environnement extrême car ses conditions sont différentes de celles de la Terre. Pour survivre dans l’espace, de nombreux facteurs doivent être pris en compte et des précautions doivent être prises. Les scientifiques et les chercheurs pensent qu'explorer l'espace et comprendre l'état actuel de tout peut aider à comprendre le fonctionnement de l'univers et à se préparer à d'éventuelles crises environnementales.
Implémentation d'algorithmes d'apprentissage automatique en C++ : défis et solutions courants
Jun 03, 2024 pm 01:25 PM
Les défis courants rencontrés par les algorithmes d'apprentissage automatique en C++ incluent la gestion de la mémoire, le multithread, l'optimisation des performances et la maintenabilité. Les solutions incluent l'utilisation de pointeurs intelligents, de bibliothèques de threads modernes, d'instructions SIMD et de bibliothèques tierces, ainsi que le respect des directives de style de codage et l'utilisation d'outils d'automatisation. Des cas pratiques montrent comment utiliser la bibliothèque Eigen pour implémenter des algorithmes de régression linéaire, gérer efficacement la mémoire et utiliser des opérations matricielles hautes performances.
Cinq écoles d'apprentissage automatique que vous ne connaissez pas
Jun 05, 2024 pm 08:51 PM
L'apprentissage automatique est une branche importante de l'intelligence artificielle qui donne aux ordinateurs la possibilité d'apprendre à partir de données et d'améliorer leurs capacités sans être explicitement programmés. L'apprentissage automatique a un large éventail d'applications dans divers domaines, de la reconnaissance d'images et du traitement du langage naturel aux systèmes de recommandation et à la détection des fraudes, et il change notre façon de vivre. Il existe de nombreuses méthodes et théories différentes dans le domaine de l'apprentissage automatique, parmi lesquelles les cinq méthodes les plus influentes sont appelées les « Cinq écoles d'apprentissage automatique ». Les cinq grandes écoles sont l’école symbolique, l’école connexionniste, l’école évolutionniste, l’école bayésienne et l’école analogique. 1. Le symbolisme, également connu sous le nom de symbolisme, met l'accent sur l'utilisation de symboles pour le raisonnement logique et l'expression des connaissances. Cette école de pensée estime que l'apprentissage est un processus de déduction inversée, à travers les connaissances existantes.
Flash Attention est-il stable ? Meta et Harvard ont constaté que les écarts de poids de leur modèle fluctuaient de plusieurs ordres de grandeur.
May 30, 2024 pm 01:24 PM
MetaFAIR s'est associé à Harvard pour fournir un nouveau cadre de recherche permettant d'optimiser le biais de données généré lors de l'apprentissage automatique à grande échelle. On sait que la formation de grands modèles de langage prend souvent des mois et utilise des centaines, voire des milliers de GPU. En prenant comme exemple le modèle LLaMA270B, sa formation nécessite un total de 1 720 320 heures GPU. La formation de grands modèles présente des défis systémiques uniques en raison de l’ampleur et de la complexité de ces charges de travail. Récemment, de nombreuses institutions ont signalé une instabilité dans le processus de formation lors de la formation des modèles d'IA générative SOTA. Elles apparaissent généralement sous la forme de pics de pertes. Par exemple, le modèle PaLM de Google a connu jusqu'à 20 pics de pertes au cours du processus de formation. Le biais numérique est à l'origine de cette imprécision de la formation,
IA explicable : Expliquer les modèles IA/ML complexes
Jun 03, 2024 pm 10:08 PM
Traducteur | Revu par Li Rui | Chonglou Les modèles d'intelligence artificielle (IA) et d'apprentissage automatique (ML) deviennent aujourd'hui de plus en plus complexes, et le résultat produit par ces modèles est une boîte noire – impossible à expliquer aux parties prenantes. L'IA explicable (XAI) vise à résoudre ce problème en permettant aux parties prenantes de comprendre comment fonctionnent ces modèles, en s'assurant qu'elles comprennent comment ces modèles prennent réellement des décisions et en garantissant la transparence des systèmes d'IA, la confiance et la responsabilité pour résoudre ce problème. Cet article explore diverses techniques d'intelligence artificielle explicable (XAI) pour illustrer leurs principes sous-jacents. Plusieurs raisons pour lesquelles l’IA explicable est cruciale Confiance et transparence : pour que les systèmes d’IA soient largement acceptés et fiables, les utilisateurs doivent comprendre comment les décisions sont prises
Apprentissage automatique en C++ : un guide pour la mise en œuvre d'algorithmes d'apprentissage automatique courants en C++
Jun 03, 2024 pm 07:33 PM
En C++, la mise en œuvre d'algorithmes d'apprentissage automatique comprend : Régression linéaire : utilisée pour prédire des variables continues. Les étapes comprennent le chargement des données, le calcul des poids et des biais, la mise à jour des paramètres et la prédiction. Régression logistique : utilisée pour prédire des variables discrètes. Le processus est similaire à la régression linéaire, mais utilise la fonction sigmoïde pour la prédiction. Machine à vecteurs de support : un puissant algorithme de classification et de régression qui implique le calcul de vecteurs de support et la prédiction d'étiquettes.
