Le désir: 4 problèmes de confidentialité à l'ère de l'IA

Vous êtes plus qu'un simple point de données. Le mécanisme de sortie vous aidera à retrouver votre intimité.

La dernière vague de développement de l'intelligence artificielle oblige beaucoup d'entre nous à repenser les aspects clés de la vie. Par exemple, les artistes numériques doivent désormais se concentrer sur la protection de leur travail contre les sites Web générateurs d'images, tandis que les enseignants doivent faire face à des situations où certains élèves peuvent externaliser la rédaction d'essais à Chatgpt.

Mais l'émergence de l'intelligence artificielle présente également d'importants risques de confidentialité que tout le monde devrait savoir - même si vous ne comprendrez pas à quoi cette technologie vous semble être une sirène.

Transparence laborieuse

La Brookings Institution (une agence à but non lucratif basée à Washington, D.C., mène des recherches pour résoudre un large éventail de questions nationales et mondiales) a déclaré que Jessica Brandt, directrice des politiques pour l'IA et les initiatives technologiques émergentes: «Nous avons souvent peu de compréhension de qui utilise nos informations personnelles, comment elle est utilisée et dans quel but. »

D'ensemble, l'apprentissage automatique - le processus dans lequel les systèmes d'intelligence artificielle deviennent plus précis - nécessite beaucoup de données. Plus le système a de données, plus sa précision est élevée. Des plates-formes d'intelligence artificielle génératrices comme Chatgpt et Google's Bard, ainsi que le générateur d'images Dall-E, obtiennent une partie des données de formation via une technologie appelée ramper: ils scannent Internet pour collecter des informations publiques utiles.

Cependant, parfois en raison d'une erreur ou d'une négligence humaine, les données privées qui n'auraient pas dû être divulguées, telles que les fichiers de l'entreprise sensibles, les images ou même les listes de connexion, peuvent entrer la partie accessible d'Internet, que n'importe qui peut trouver avec l'aide des opérateurs de recherche Google, ils. Une fois que ces informations sont rampées et ajoutées à l'ensemble de données de formation de l'IA, peu de gens peuvent les supprimer.

"Les gens devraient être en mesure de partager librement", a déclaré Ivana Bartoletti, chef de la vie privée mondiale de la société de technologie indienne Wipro et chercheur pour accéder à la cybersécurité et à l'application de la vie privée à la Pampurin School of Business de Virginia Tech. être finalement utilisé pour former des outils d'IA génératifs, ou pire - leurs images peuvent être utilisées pour faire des contrefaçons.

Les données rampantes ne sont qu'une des sources potentielles de problèmes dans les données de formation des systèmes d'intelligence artificielle. Une autre source est l'utilisation secondaire des données personnelles, a déclaré Katharina Koerner, chercheuse principale en génie de la vie privée à l'Association internationale des professionnels de la vie privée. Cela se produit lorsque vous renoncez volontairement à certaines informations dans un but spécifique, mais cela finit à d'autres fins que vous n'acceptez pas. Les entreprises accumulent des informations sur les clients depuis des années, y compris les adresses e-mail, les détails de livraison et le type de produit qu'ils aiment, mais dans le passé, ils n'ont pas été en mesure de faire grand-chose avec ces données. Aujourd'hui, les algorithmes sophistiqués et les plateformes d'intelligence artificielle fournissent un moyen facile de traiter ces informations afin qu'ils puissent en savoir plus sur les modèles de comportement des gens. Cela peut vous être bénéfique en vous fournissant uniquement des publicités et des informations qui vous intéressent vraiment, mais cela peut également limiter l'offre de produits et augmenter les prix en fonction de votre code postal. Étant donné que certaines entreprises ont déjà beaucoup de données fournies par leurs clients, il est très tentant que les entreprises le fassent, a déclaré Korner.

Elle a expliqué: "L'IA facilite l'extraction de modèles précieux à partir de données disponibles qui peuvent prendre en charge la prise de décision future, il est donc très facile pour les entreprises d'obtenir des données personnelles lorsque les données ne sont pas collectées à cette fin. Pour l'apprentissage automatique."

Cela n'aide pas pour les développeurs de supprimer sélectivement vos informations personnelles des grands ensembles de données de formation. Bien sûr, il peut être facile de supprimer des informations spécifiques (comme votre date de naissance ou votre numéro de sécurité sociale (ne fournissez pas de détails personnels à une plate-forme d'IA générique). Mais par exemple, la mise en œuvre d'une demande de suppression complète conforme au règlement européen sur la protection des données générales est une autre question et peut-être le défi le plus complexe à relever, a déclaré Bartoletti.

[lié: comment empêcher l'équipement scolaire de partager les données de votre famille]

La suppression sélective du contenu est difficile même dans les systèmes informatiques traditionnels en raison de sa structure de microservice complexe (chaque pièce fonctionne comme une unité distincte). Mais Korner a déclaré que dans le contexte de l'intelligence artificielle, c'est encore plus difficile et même impossible pour le moment.

C'est parce qu'il ne s'agit pas seulement de cliquer sur "CTRL F" et de supprimer toutes les données avec le nom de quelqu'un - la suppression de ses données nécessite des programmes coûteux qui recycler tout le modèle à partir de zéro, a-t-elle expliqué.

Le mécanisme de sortie deviendra de plus en plus difficile

Un système d'IA bien nutritif peut fournir des quantités incroyables d'analyses, y compris la reconnaissance des modèles qui aide les utilisateurs à comprendre le comportement des gens. Mais ce n'est pas seulement à cause des avantages de la technologie - c'est parce que les gens ont tendance à agir de manière prévisible. Cet aspect particulier de la nature humaine permet aux systèmes d'IA de fonctionner correctement sans avoir à connaître beaucoup d'informations spécifiques vous concernant. Parce que quand il suffit de connaître quelqu'un comme vous, à quoi ça sert de vous connaître?

Brenda Leong, partenaire de BNH.ai, un cabinet d'avocats axé sur les audits et les risques de l'intelligence artificielle à Washington, D.C., a déclaré: "Nous sommes arrivés au moins d'informations qui ne nécessitent que - seulement trois pour y aller. Cinq cinq ans Des données sur une personne, qui est facile à obtenir - elles seront immédiatement absorbées par le système de prédiction.

Cela nous laisse peu de liberté car même ceux qui travaillent pour protéger leur vie privée depuis des années leur prendront des décisions et des recommandations. Cela peut leur faire sentir que tous leurs efforts ont été vains.

Liang a poursuivi: "Même si c'est un moyen bénéfique pour moi, comme me donner un prêt qui correspond à mon niveau de revenu, ou une opportunité qui m'intéresse vraiment, c'est aussi dans mon incapacité à contrôler de quelque manière que ce soit ce qui a fait c'est pour moi dans les circonstances. "

Utilisation des mégadonnées pour classer toute la population sans aucune nuance - pour les valeurs aberrantes et les exceptions - nous savons tous que la vie en est pleine. Le diable est dans les détails, mais applique également des conclusions généralisées à des circonstances particulières, les choses peuvent devenir vraiment mauvaises.

Armement des données

Un autre défi clé est de savoir comment inculquer l'équité dans la prise de décision algorithmique, en particulier lorsque les conclusions des modèles d'IA peuvent être basées sur des données erronées, dépassées ou incomplètes. Il est bien connu que les systèmes d'intelligence artificielle peuvent perpétuer les préjugés de leurs créateurs humains, parfois avec des conséquences terribles pour toute la communauté.

Étant donné que de plus en plus d'entreprises comptent sur des algorithmes pour les aider à combler les positions ou à déterminer les profils de risque de conducteur, nos données sont plus susceptibles d'être utilisées contre nos propres intérêts. Vous pouvez un jour être blessé par des décisions, suggestions ou prédictions automatisées faites par ces systèmes avec peu ou pas de recours disponibles.

[lié: les armes autonomes peuvent faire de graves erreurs de guerre]

C'est aussi un problème lorsque ces prédictions ou étiquettes deviennent des faits aux yeux des algorithmes d'intelligence artificielle qui ne peuvent pas distinguer entre vrai et faux. Pour l'intelligence artificielle moderne, tout est des données, qu'il s'agisse de données personnelles, de données publiques, de données factuelles ou de données complètement fictives.

Plus d'intégration signifie moins de sécurité

Tout comme votre présence sur Internet est aussi puissante que votre mot de passe le plus faible, l'intégration de grands outils d'IA avec d'autres plates-formes fournit également aux attaquants des points plus indiscrets à essayer lorsque vous essayez d'accéder à des données privées. Ne soyez pas surpris si vous trouvez que certains d'entre eux ne répondent pas aux normes en termes de sécurité.

Cela ne prend même pas en compte toutes les entreprises et les agences gouvernementales qui collectent vos données à votre insu. Pensez aux caméras de surveillance près de chez vous, en suivant votre logiciel de reconnaissance faciale dans les salles de concert, les enfants portant des gopros qui courent dans votre parc local, et même les gens qui essaient de devenir populaires sur Tiktok.

Plus les personnes et les plateformes traitent de vos données, plus les chances d'erreurs sont grandes. Un espace plus grand pour l'erreur signifie que vos informations sont plus susceptibles d'être divulguées sur Internet, où elles sont facilement rampantes dans l'ensemble de données de formation du modèle d'IA. Comme mentionné ci-dessus, cela est très difficile à défaire.

que pouvez-vous faire

La mauvaise nouvelle est qu'il n'y a rien que vous puissiez y faire pour le moment - vous ne pouvez pas non plus résoudre les menaces de sécurité potentielles dérivées de l'ensemble de données de formation AI qui contient vos informations, et vous ne pouvez pas résoudre le système de prédiction qui peut vous empêcher d'obtenir votre emploi idéal. À l'heure actuelle, notre meilleure approche est de nécessiter une supervision.

L'UE a adopté la première ébauche de la loi sur l'intelligence artificielle, qui réglementera la façon dont les entreprises et les gouvernements utilisent la technologie en fonction des niveaux de risque acceptables. Pendant ce temps, le président américain Joe Biden a financé le développement de technologies éthiques et équitables de l'IA par des décrets, mais le Congrès n'a adopté aucune lois pour protéger la vie privée des citoyens américains en termes de plateformes d'IA. Le Sénat a tenu des audiences pour en savoir plus sur la technologie, mais il n'est pas sur le point de créer un projet de loi fédéral.

Dans le processus de travail du gouvernement, vous pouvez et devez préconiser des réglementations de confidentialité, y compris les plateformes d'intelligence artificielle et protéger les utilisateurs contre la mauvaise procédure de leurs données. Ayez des conversations significatives avec ceux qui vous entourent au sujet du développement de l'IA, assurez-vous de comprendre la position de votre représentant sur les réglementations fédérales de confidentialité et de voter pour ceux qui se soucient le plus de vos intérêts.

Lire plus d'histoires popsci.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!