L'impact de la gestion des données sur l'IA générative

2023 sera le début grand public de ce dont nous nous souvenons comme l'ère de l'IA, portée par la technologie dont tout le monde parle : ChatGPT.

Les modèles de langage génératifs d'IA comme ChatGPT ont captivé notre imagination car pour la première fois, nous pouvons voir l'IA nous parler comme de vraies personnes et générer de la prose, de la poésie et d'autres choses que nous considérons comme du nouveau contenu créatif. Avec les solutions d’IA générative, il existe peut-être un potentiel révolutionnaire pour augmenter la vitesse d’innovation, la productivité et l’efficacité dans la création de valeur. Malgré ces limites, il reste encore beaucoup à faire en matière de sensibilisation aux meilleures pratiques en matière de confidentialité et de gestion des données.

Dernièrement, de nombreux acteurs du secteur de la technologie et de la sécurité ont tiré la sonnette d'alarme sur le manque de compréhension et de garde-fous réglementaires adéquats autour de l'utilisation de la technologie de l'intelligence artificielle. Des inquiétudes ont été exprimées concernant la fiabilité des résultats des outils d'IA, les droits de propriété intellectuelle, l'exposition de données sensibles et les violations de la vie privée et des problèmes de sécurité.

L'incident de Samsung avec ChatGPT a fait la une des journaux parce que le géant de la technologie a divulgué par inadvertance ses secrets à ChatGPT. Samsung n'est pas la seule entreprise à faire cela : une étude de Cyberhaven a révélé que 4 % des employés avaient introduit des données sensibles de l'entreprise dans de grands modèles linguistiques. Beaucoup de gens ne réalisent pas que lorsqu’ils utilisent des données d’entreprise pour former des modèles, les entreprises d’IA peuvent réutiliser ces données à d’autres occasions.

Comme si nous n'avions pas besoin de plus de fourrage pour la cybercriminalité, la société de renseignement sur la cybersécurité RecordedFuture a révélé : « Quelques jours après la sortie de ChatGPT, nous avons découvert un certain nombre d'acteurs malveillants sur le dark web et sur des forums à accès spécial qui partageaient leurs erreurs, mais entièrement fonctionnelles. logiciels malveillants, tutoriels d'ingénierie sociale, programmes lucratifs et bien plus encore - tout cela est rendu possible grâce à l'utilisation de ChatGPT. s'enregistre, il a accès aux adresses IP, aux paramètres du navigateur et à l'activité de navigation - tout comme les moteurs de recherche d'aujourd'hui. Mais les enjeux sont plus importants car cela pourrait révéler les convictions politiques ou l'orientation sexuelle d'une personne sans le consentement d'une personne, et pourrait entraîner la divulgation d'informations embarrassantes, voire ruineuses pour une carrière.

De toute évidence, nous avons besoin de meilleures réglementations et normes pour mettre en œuvre ces nouvelles technologies d’IA. Mais il y a un manque de discussion sur le rôle important de la gouvernance et de la gestion des données, qui peuvent jouer un rôle clé dans l’adoption par les entreprises et l’utilisation sûre de l’intelligence artificielle.

Tout est question de données

Voici les trois domaines sur lesquels vous devriez vous concentrer :

Concernant les modèles d'IA propriétaires pré-entraînés ou grands modèles de langage (LLM), la question centrale de la gouvernance et de la transparence des données réside dans la données de formation. Les programmes d'apprentissage automatique utilisant LLM contiennent de grands ensembles de données provenant de nombreuses sources. Le problème est que LLM est une boîte noire et offre peu de transparence sur les données sources. Nous sommes impartiaux et impartiaux quant à la crédibilité des sources, mais évitons d'inclure des informations personnelles identifiables illégales ou des données frauduleuses. Open AI, par exemple, ne partage pas ses données sources. Le Washington Post a analysé l'ensemble de données C4 de Google, couvrant 15 millions de sites Web, et a trouvé des dizaines de sites répréhensibles contenant des données incendiaires et personnellement identifiables et d'autres contenus douteux. La gouvernance des données nécessite la transparence des sources de données et garantit la validité et la fiabilité des connaissances acquises à partir de ces sources de données. Par exemple, votre robot IA peut avoir été formé sur des données provenant de sources non vérifiées ou de sites de fausses informations, biaisant ainsi ses connaissances qui font désormais partie de la nouvelle politique ou du programme de R&D de votre entreprise.

Actuellement, différents fournisseurs d'intelligence artificielle ont différentes stratégies pour gérer la confidentialité des données des utilisateurs, notamment l'isolation des données et les domaines de données. Vos employés peuvent sans le savoir fournir des données à LLM, mais ils ne savent peut-être pas que ces données seront incorporées dans la base de connaissances du modèle. Il est possible que des entreprises divulguent involontairement des secrets commerciaux, des codes logiciels et des données personnelles au public. Certaines solutions d'IA proposent des solutions de contournement, telles que des API pour protéger la confidentialité des données en excluant les données des modèles pré-entraînés, mais cela limite leur valeur car le cas d'utilisation idéal consiste à augmenter les modèles pré-entraînés avec des données spécifiques au cas, tout en préservant la confidentialité des données. Avoir des outils d'IA pré-entraînés comprenant le concept de « domaines » de données est une solution au problème. Les champs « communs » de données de formation sont utilisés pour la pré-formation et partagés entre les entités, tandis que les extensions du modèle de formation basées sur des « données propriétaires » sont restreintes en toute sécurité dans les limites de l'organisation. La gestion des données garantit que ces limites sont créées et préservées.

Les travaux dérivés induits par l'IA couvrent le troisième domaine de la gestion des données, lié au processus d'IA et finalement aux propriétaires des données. Disons que j'utilise un robot IA pour résoudre un problème de codage. Normalement, je saurais qui est responsable d’enquêter et de corriger quelque chose, car si quelque chose n’est pas géré correctement, un bug ou une erreur se produira. Mais avec l’IA, mon organisation est responsable de toute erreur ou conséquence néfaste résultant des tâches que je demande à l’IA d’effectuer, même si nous ne sommes pas transparents sur le processus ou les données sources. On ne peut pas blâmer la machine : quelque part, c'est un humain qui a fait une erreur ou un mauvais résultat. Qu’en est-il de la propriété intellectuelle ? Possédez-vous la propriété intellectuelle d’une œuvre créée à l’aide d’outils d’IA générative ? Comment la défendre devant les tribunaux ? Selon la Harvard Business Review, le monde de l’art commence déjà à intenter des poursuites.

Stratégies de gestion des données à considérer maintenant

Dans ces premiers stades, nous ne savons pas ce que nous ignorons sur l'IA, y compris les risques liés aux mauvaises données, à la confidentialité et à la sécurité, à la propriété intellectuelle et à d'autres ensembles de données sensibles. . L'intelligence artificielle est également un vaste domaine avec de multiples approches telles que le LLM, l'automatisation basée sur la logique, ce ne sont là que quelques-uns des sujets explorés en combinant les politiques de gouvernance des données et les pratiques de gestion des données :

• Pause sur l'IA générative Expérimenter jusqu'à vous disposez d'une stratégie de surveillance, d'une politique,

et de procédures pour atténuer les risques et valider les résultats.

• Guide de gestion consolidée des données : Commencez par avoir une solide compréhension de vos données, peu importe où elles résident. Où se trouvent vos informations personnelles sensibles et vos données clients ? De quelle quantité de données IP disposez-vous et où se trouvent ces fichiers ? Pouvez-vous surveiller leur utilisation pour garantir que ces types de données ne sont pas introduits par inadvertance dans les outils d'IA et éviter les violations de sécurité ou de confidentialité ?

Évitez de fournir des données inutiles aux applications d'IA et ne partagez aucune donnée propriétaire sensible. Verrouillez/chiffrez l’adresse IP et les données des clients pour empêcher leur partage.

• Comprenez comment et si les outils d'IA peuvent être transparents avec les sources de données.

Les fournisseurs peuvent-ils protéger vos données ? Google a partagé cette déclaration sur son blog, mais le « comment » n'est pas clair : « Qu'une entreprise forme un modèle dans VertexAI ou construise un client sur l'expérience du service GenerativeAIAppBuilder et que les données privées soient confidentielles et ne seront pas utilisés dans le corpus de formation du modèle de base plus large. Veuillez lire attentivement les termes du contrat de chaque outil d'intelligence artificielle pour comprendre si les données que vous fournissez seront marquées comme confidentielles. Données sur les travaux dérivés du propriétaire ou de la personne ou du service qui l'a commandé. Ceci est utile car vous pouvez en fin de compte être responsable de tout travail produit par l'entreprise et vous voulez savoir comment l'IA est intégrée au processus et par qui

Assurer la portabilité des données entre les domaines. souhaitez supprimer les données de son adresse IP et de ses caractéristiques d'identification et les fournir à un ensemble de données de formation commun pour une utilisation future. L'automatisation et le suivi de ce processus sont cruciaux.

• Restez informé de toutes les réglementations et directives de l'industrie en cours. développé et parlez à vos pairs d'autres organisations pour comprendre comment ils mettent en œuvre l'atténuation des risques et la gestion des données

• Avant de démarrer tout projet d'IA générative, consultez un expert juridique pour comprendre les risques et les processus qui doivent être suivis dans l'événement d'une violation de données, de violations de la vie privée et de la propriété intellectuelle, d'acteurs malveillants ou de résultats faux/faux

• L'intelligence artificielle dans l'entreprise

L'intelligence artificielle se développe à un rythme sans précédent, continuant d'innover et de réduire les coûts. et améliorer l'expérience utilisateur, et présente un énorme potentiel. Comme pour la plupart des outils puissants, l'intelligence artificielle doit être appliquée avec soin et dans le bon contexte. Il n'existe pas de normes claires dans ce domaine. domaine de la gestion des données de l'intelligence artificielle, et des recherches continues sont nécessaires. Les entreprises doivent faire preuve de prudence et s'assurer qu'elles comprennent parfaitement l'exposition des données et les violations de données avant d'utiliser des applications d'intelligence artificielle et les risques possibles pour la sécurité des données

.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!