Neuf façons d'éviter d'être victime du lavage de l'IA

Ces derniers mois, l’intelligence artificielle est un mot à la mode dont tout le monde parle. Les startups de la Silicon Valley et les entreprises Fortune 500 voient l’IA révolutionner les industries à mesure que le rythme de l’IA s’accélère régulièrement. Mais l’enthousiasme, les progrès et les signaux d’alarme comme le lavage de l’IA sont en plein essor au même rythme. Même si certaines entreprises n’adoptent que peu ou pas l’IA, elles exagèrent leurs capacités en matière d’IA parce qu’elles sont impatientes de sauter dans le train de l’argent et de profiter du battage médiatique.

Cette stratégie marketing, bien que problématique, peut les aider à obtenir un financement d'amorçage, de série A et de série B plus important que les startups non IA. Selon GlobalData, les startups d’IA ont levé plus de 50 milliards de dollars en capital-risque l’année dernière seulement, et ce chiffre devrait augmenter cette année compte tenu de la frénésie entourant ChatGPT et d’autres sociétés.

Compte tenu de l’afflux de capitaux dans ces startups, le phénomène de lavage de l’IA ne va que s’intensifier. La Federal Trade Commission (FTC) des États-Unis est pleinement consciente de ce danger et a averti les fournisseurs d'être transparents et honnêtes lorsqu'ils font la publicité de leurs capacités en matière d'IA.

Michael Atleson, avocat au sein du groupe de pratique publicitaire de la FTC, a écrit dans un article de blog : « Certains produits prétendant être dotés d'une intelligence artificielle peuvent même ne pas remplir du tout les fonctions annoncées. Dans certains cas, peu importe les conséquences du produit. Une telle propagande exagérée peut exister. Les spécialistes du marketing savent que les fausses allégations sur l’efficacité des produits ou les allégations invérifiables sont le moyen de survivre dans cette industrie, et c’est pourquoi la FTC applique la loi. »

Dans cette situation complexe, cela peut être très difficile. pour distinguer les solutions d'IA légitimes des gadgets marketing.

Beena Ammanath, directrice exécutive du Deloitte Global AI Institute, a déclaré : « Les entreprises doivent adopter une bonne dose de scepticisme lorsqu'elles sont confrontées aux affirmations des fournisseurs concernant leurs produits d'IA, comme pour toute chose, si cela semble trop beau pour être vrai, c'est possible. Ce n'est pas vrai, c'est peut-être le cas. »

Donald Welch est le CIO de l'Université de New York. Si les DSI et leurs entreprises ne trouvent pas les bonnes réponses, a-t-il déclaré, les conséquences auxquelles ils pourraient être confrontés incluent l'échec ou le retard de projets, des pertes financières, des poursuites judiciaires, un risque de réputation et, à terme, le licenciement. "J'ai littéralement vu des dirigeants se faire licencier à cause de cela, et je ne peux même pas dire que c'était une mauvaise décision."

Heureusement, il existe quelques stratégies qu'ils peuvent utiliser pour éviter les erreurs.

Les entreprises basées sur l'IA ont besoin d'employés qualifiés

Vérifier les entreprises qui prétendent utiliser l'IA peut être un processus long et fastidieux. Cependant, il existe des moyens simples, comme une recherche sur LinkedIn, de découvrir des informations précieuses pour évaluer l'entreprise.

Ammanath a déclaré : « Examinez le niveau d'expérience et de formation en IA des employés du fournisseur. Les entreprises qui développent des solutions d'IA devraient avoir des talents dans ce domaine, ce qui signifie qu'elles doivent avoir des data scientists et des ingénieurs de données, et ces ingénieurs ont une expérience approfondie dans ce domaine. intelligence artificielle, apprentissage automatique, développement d'algorithmes, etc.

En plus d'examiner les employés, les DSI peuvent également rechercher des preuves de collaboration avec des experts externes en intelligence artificielle et des instituts de recherche. Cette catégorie comprend les partenariats avec des universités, la participation à des conférences et événements de l'industrie et les contributions aux initiatives d'IA open source. C'est également un bon signe si le fournisseur a de l'expérience avec des projets ou des applications similaires, car cela montre qu'il peut fournir des résultats de haute qualité.

« Vérifiez à nouveau l'historique du fournisseur », déclare Vira Tkachenko, directrice de la technologie et de l'innovation de la startup ukraino-américaine MacPaw. « Vérifiez à nouveau l'historique du fournisseur. Si une entreprise est experte en intelligence artificielle, alors elle est susceptible d'avoir un. historique de publication d'articles de recherche dans ce domaine ou sur d'autres produits d'intelligence artificielle. parce que les algorithmes d’IA l’exigent. Ils doivent travailler avec des données de haute qualité, et plus les données sont généreuses et pertinentes, meilleurs sont les résultats.

Ammanath a déclaré : « Les systèmes d'IA sont pilotés par de grandes quantités de données, ces entreprises doivent donc également avoir une stratégie de données bien construite et être en mesure d'expliquer quelle quantité de données sont collectées et à partir de quelles sources .

Une autre question à surveiller est de savoir si ces entreprises déploient suffisamment d’efforts pour se conformer aux exigences réglementaires et maintenir des normes élevées de confidentialité et de sécurité des données. Avec la montée en puissance des réglementations sur la confidentialité des données telles que le Règlement général sur la protection des données (RGPD de l'UE) et le California Consumer Privacy Act (CCPA), les organisations doivent être transparentes sur leurs pratiques en matière de données et permettre aux individus de contrôler leurs données personnelles. Si ce n’est pas le cas, c’est un signal d’alarme.

Demandez des preuves pour étayer vos affirmations

Bien que le slogan puisse être tentant, demander calmement des preuves peut aider. « Poser les bonnes questions et demander des preuves de la fonctionnalité d'un produit est essentiel pour éliminer la rhétorique marketing et commerciale afin de déterminer si un produit est véritablement alimenté par l'IA », a déclaré Ammanath.

Nécessité d'évaluer un produit qui semble être alimenté. par l'IA Lorsqu'ils envisagent un produit ou un service spécifique, les DSI peuvent se demander comment le modèle a été formé, quels algorithmes ont été utilisés et comment le système d'IA s'adaptera aux nouvelles données.

Tkachenko a déclaré : "Vous devriez demander au fournisseur quelles bibliothèques ou modèles d'IA il utilise. Il peut simplement appeler l'API OpenAI pour implémenter ses propres fonctions."

Matthias, partenaire et leader technologique mondial chez BearingPoint, une société de conseil en gestion et en technologie. La société Roeser est d'accord. Il a ajouté que les composants et le cadre doivent être bien compris et que l'évaluation doit inclure « l'éthique, les préjugés, la faisabilité, la propriété intellectuelle et la durabilité ».

Cette enquête peut aider les DSI à mieux comprendre les véritables capacités et limites du produit. ils décident d’acheter ou non le produit.

Suivez les startups

Les startups se positionnent à la pointe de l'innovation. Cependant, même si nombre d’entre eux repoussent les limites du domaine de l’intelligence artificielle, certains exagèrent peut-être simplement leurs capacités à attirer l’attention et l’argent.

Vlad Pranskevičius, co-fondateur et CTO de la startup ukraino-américaine Claid.ai, a déclaré par Let's Enhance : "En tant que CTO d'une entreprise d'apprentissage automatique, je rencontre souvent des cas de lavage de l'IA, en particulier dans la communauté des startups." , a-t-il remarqué, la situation est devenue plus grave ces derniers temps. Ce phénomène est particulièrement dangereux dans un cycle de battage médiatique comme celui actuel, où l’intelligence artificielle est considérée comme une nouvelle ruée vers l’or, a-t-il ajouté.

Cependant, Pranskevičius estime que dans un avenir proche, à mesure que les réglementations entourant l'intelligence artificielle deviendront plus strictes, le lavage de l'IA sera contrôlé.

Bâtir une réputation d'expertise technique

Il n'est pas rare qu'une entreprise acquière des solutions d'IA douteuses, et dans ce cas, le DSI n'est pas forcément en faute. Cela peut être "le résultat d'un mauvais leadership d'entreprise", a déclaré Welch : "L'entreprise est tombée dans le piège du battage médiatique et a pris le pas sur l'équipe informatique, qui a dû ramasser les morceaux.

Pour éviter des moments comme celui-ci, les entreprises sont là." la nécessité de favoriser une culture collaborative dans laquelle les opinions des experts techniques sont valorisées et leurs points de vue sont pleinement exposés.

Dans le même temps, les DSI et les équipes techniques doivent bâtir leur réputation au sein de l'entreprise afin que leurs avis soient plus facilement intégrés dans le processus de prise de décision. Pour y parvenir, ils doivent faire preuve d’expertise, de professionnalisme et de soft skills.

Max Kovtun, directeur de l'innovation chez Sigma Software Group, a déclaré : « Je ne pense pas qu'il soit difficile pour un DSI d'examiner le lavage de l'IA. Le plus gros problème peut être que les parties prenantes de l'entreprise ou les entrepreneurs poussent l'utilisation de l'IA sous quelque forme que ce soit parce qu'ils le font. Je veux voir Être innovant et avant-gardiste La bonne question est donc de savoir comment éviter de se lancer dans le lavage de l'IA sous la pression de l'entrepreneuriat

Au-delà des mots à la mode

Il est impératif d'être ouvert d'esprit lorsque l'on compare les produits. et les services. Évaluez-les mentalement et voyez leurs attributs en profondeur.

Tkachenko a déclaré : « Si le seul avantage d'un produit ou d'un service pour vous est l'intelligence artificielle, vous devriez y réfléchir à deux fois avant d'acheter. Il est préférable de rechercher sa proposition de valeur et ses fonctionnalités uniquement si vous comprenez le rôle du projet dans l'intelligence artificielle, a convenu Welch. et a demandé : « Est-ce que j'achèterais un système parce qu'il a été écrit en C, C++ ou Java ? Dans le cadre de ma diligence raisonnable, je voudrais peut-être comprendre s'ils peuvent maintenir le code, la viabilité de l'entreprise, etc.

Faire une évaluation approfondie peut aider les entreprises à déterminer si le produit ou le service qu'elles envisagent d'acheter est conforme à leurs objectifs et est susceptible de produire les résultats escomptés.

Kovtun a déclaré : « Plus la technologie est complexe, plus il est difficile pour les non-experts de la comprendre et plus il est difficile de vérifier que l'application de la technologie est correcte et significative si vous avez décidé de tirer parti de l'artificiel. technologie d'intelligence artificielle pour votre entreprise, vous êtes plus susceptible d'embaucher des experts compétents qui ont de l'expérience dans le domaine de l'intelligence artificielle, sinon vos efforts pourraient ne pas apporter les bénéfices que vous attendez. 🎜🎜#

Se tenir au courant des produits liés à l'IA et des problèmes qui les entourent peut également aider les DSI à prendre des décisions éclairées. De cette façon, ils peuvent identifier les erreurs qu’ils ont pu commettre tout en profitant de nouvelles idées et techniques.

Art Thompson est le CIO de la ville de Détroit. "Je ne pense pas qu'il y ait suffisamment d'éducation à l'heure actuelle", a-t-il déclaré, conseillant aux DSI de faire suffisamment de recherches pour éviter de tomber dans le piège d'une technologie nouvelle ou expérimentale qui promet plus que ce qu'elle peut offrir. Si cela se produit, « le temps nécessaire pour modifier le prix et remplacer les produits peut vraiment nuire aux employés et les rendre moins capables de supporter tout changement », a-t-il déclaré. " Sans parler de la difficulté pour les gens d'investir du temps pour apprendre de nouvelles technologies. " De plus, se tenir au courant des dernières questions liées à l'IA peut aider les DSI à anticiper les changements réglementaires et les normes industrielles émergentes, ce qui peut aidez-les à rester conformes et à conserver un avantage concurrentiel.

Et ce n'est pas seulement le DSI qui doit se tenir au courant. « Formez votre équipe ou embauchez des experts pour ajouter des fonctionnalités pertinentes à votre portefeuille », a déclaré Roeser de BearingPoint 🎜🎜#

Les nouvelles réglementations à venir pourraient simplifier la tâche du DSI consistant à déterminer si un produit ou un service. intègre une véritable technologie d’intelligence artificielle. La Maison Blanche a récemment publié une Déclaration des droits sur l’intelligence artificielle, qui comprend des lignes directrices pour une conception responsable des systèmes d’intelligence artificielle. Dans les années à venir, d’autres réglementations pourraient être introduites.

Ammanath a déclaré : « Le principe derrière ces actions est de protéger les droits des consommateurs et l'humanité contre les dommages potentiels de la technologie. Nous devons anticiper les impacts négatifs potentiels de la technologie pour atténuer les risques. » # 🎜🎜#

L'éthique ne doit pas être une réflexion secondaire

Les entreprises ont tendance à influencer les discussions sur les nouvelles technologies, en mettant l'accent sur les avantages potentiels, tandis que Les impacts négatifs potentiels sont souvent minimisés. Philip Di Salvo, chercheur postdoctoral à l'Université de Saint-Gall en Suisse, a déclaré : « Lorsqu'une technologie devient un mot à la mode, nous avons tendance à perdre de vue les effets potentiellement nocifs qu'elle peut avoir sur la société. Les recherches montrent que les entreprises dirigent le discours sur l'intelligence artificielle et que le déterminisme technologique reste dominant. . discussion des implications politiques, en faveur d'un argument plus orienté marketing. Comme le dit Di Salvo, cela crée « un brouillard d’argumentation qui rend ces technologies et leurs producteurs encore plus obscurs et irresponsables ».

Pour résoudre ce problème, il souligne un défi clé, celui de communiquer au public ce que l'IA n'est pas réellement et ce qu'elle ne peut pas faire.

Di Salvo a déclaré : « La plupart des applications d'intelligence artificielle que nous voyons aujourd'hui, y compris ChatGPT, sont essentiellement construites autour d'applications de statistiques et d'analyse de données à grande échelle. Cela peut sembler une définition ennuyeuse, mais cela permet d'éviter tout malentendu sur ce à quoi fait référence « l'intelligence » dans la définition de « l'intelligence artificielle ». Nous devons nous concentrer sur des problèmes réels comme les préjugés, le tri social et d'autres questions, plutôt que sur des hypothèses hypothétiques et spéculatives à long terme.

Source : www.cio.com

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!