18 pays publient conjointement des lignes directrices sur la sécurité de l'IA

Le National Cyber ​​​​Security Centre (NCSC) du Royaume-Uni a publié de nouvelles directives pour aider les développeurs et les fournisseurs de systèmes d'IA à « construire des systèmes d'IA qui fonctionnent comme prévu, sont disponibles en cas de besoin et ne fournissent pas d'accès non autorisé à

Comment placer la cybersécurité au cœur des systèmes d'IA

Les lignes directrices pour le développement de systèmes d'IA sécurisés comprennent quatre étapes clés du cycle de vie du développement d'applications ML

La conception de la sécurité dépend de Toutes les personnes impliquées - propriétaires de systèmes, développeurs et utilisateurs - sont conscientes de la sécurité unique risques auxquels sont confrontés les systèmes d’IA et apprennent à éviter ces risques.

Il est mentionné dans les directives : « Les menaces du système doivent être modélisées et le système doit être conçu dans une perspective de sécurité, de fonctionnalité et de performances. De plus, lors du choix d'un modèle d'IA, les développeurs doivent prendre en compte les avantages et les compromis en matière de sécurité. » plus c'est complexe, mieux c'est)

Assurer la sécurité de la chaîne d'approvisionnement est une condition préalable pour parvenir à un développement sûr. Dans le même temps, il est nécessaire de protéger les actifs (tels que les modèles, les données, les invites, les logiciels, les journaux, etc.), d'enregistrer les invites. pour les modèles, les ensembles de données et les systèmes de métadonnées, ainsi que la technologie de gestion Dette

Un déploiement sécurisé nécessite une infrastructure sécurisée (dans chaque partie du cycle de vie du système) et une protection continue du schéma et des données contre les accès directs et indirects. Afin de faire face aux incidents de sécurité (inévitables), un plan complet de réponse aux incidents, d'escalade et de remédiation doit être élaboré.

Les versions d'IA doivent être effectuées de manière responsable, ce qui signifie qu'elles ne doivent être publiées qu'après que leur sécurité a été soigneusement évaluée et que les utilisateurs ont évalué les limitations ou les modes de défaillance potentiels.

Idéalement, les paramètres les plus sécurisés seront intégrés comme seule option dans le système. Lorsqu'une configuration est requise, les options par défaut doivent être généralement sécurisées contre les menaces courantes (c'est-à-dire sécurisées par défaut). Vous appliquez des contrôles pour empêcher votre système d’être utilisé ou déployé de manière malveillante.

En fin de compte, pour sécuriser les opérations et la maintenance, il est conseillé aux opérateurs de surveiller le comportement et les entrées de leurs systèmes, d'activer les mises à jour automatiques et de maintenir la transparence et la réactivité, notamment en cas de pannes (telles que des vulnérabilités)

AI Cyber ​​​​Security Le guide s'adresse à qui ?

Ces lignes directrices ont été rédigées avec l'aide de l'Agence américaine de cybersécurité et de sécurité des infrastructures (CISA) et d'agences et CERT similaires du monde entier, ainsi que d'experts du secteur.

« Les nouvelles lignes directrices dirigées par le Royaume-Uni sont les premières à être convenues à l'échelle mondiale et elles aideront les développeurs de tout système utilisant l'IA à prendre des décisions éclairées en matière de cybersécurité à chaque étape du processus de développement, que ces systèmes aient été créés à partir de zéro ou construits. sur les outils et services fournis par d'autres », a noté le Centre national de cybersécurité du Royaume-Uni.

"[Les lignes directrices] sont principalement destinées aux fournisseurs de systèmes d'IA, qu'ils soient basés sur des modèles hébergés par l'organisation ou utilisant des interfaces de programmation d'applications externes. Cependant, nous exhortons toutes les parties prenantes (y compris les data scientists, les développeurs, les managers, les décideurs, les investisseurs et les propriétaires de risques) devraient lire ces lignes directrices pour les aider à prendre des décisions éclairées concernant la conception, le déploiement et le fonctionnement de leurs systèmes d'IA d'apprentissage automatique.

La publication de ces lignes directrices fait suite à un décret du président Joe Biden, visant à lancer des actions visant à. protéger les Américains contre les risques potentiels de fraude, de menaces à la vie privée, de discrimination et d'autres abus

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!