Partages du CIO : Comment exploiter l'IA générative dans l'entreprise

L'IA générative offre des opportunités d'innovation aux entreprises, mais dans cette nouvelle ère, les cadres supérieurs doivent accorder une attention particulière à l'application de l'IA générative pour garantir la qualité du code et réduire les risques techniques. Les dirigeants doivent évaluer soigneusement la fiabilité et la sécurité des solutions d’IA et développer des mesures de surveillance efficaces pour détecter et corriger les problèmes potentiels en temps opportun. En établissant des normes techniques et des mécanismes de surveillance stricts, les entreprises peuvent mieux tirer parti de

L'IA générative commence à transformer les organisations à un stade précoce et a un impact profond sur la stratégie informatique. Si les grands modèles de langage accélèrent l’agilité de l’ingénierie, ils créent également des problèmes de dette technique. Stephen O'Grady, analyste principal et co-fondateur de Red Monk, a souligné : « Les systèmes génératifs peuvent augmenter la vitesse de génération de code, conduisant à l'accumulation de dette technique

Mais cela ne devrait pas empêcher les DSI d'explorer et de mettre en œuvre. » AI, a ajouté Juan Perez, vice-président senior et directeur de l'information chez Salesforce. Il considère l'IA comme une application qui nécessite une gouvernance, des contrôles de sécurité, une maintenance, un support et une gestion du cycle de vie appropriés. Il a déclaré qu'à mesure que le nombre de produits d'IA continue d'augmenter, la sélection du modèle et des données sous-jacentes les plus appropriés est cruciale pour soutenir le parcours de l'IA.

Si elle est appliquée correctement, l’IA générative peut produire des produits de meilleure qualité à moindre coût. Neal Sample, directeur de l'information de Walgreens Boots Alliance, a déclaré : « Il ne s'agit pas de savoir si l'IA aura un impact positif sur l'ensemble de l'entreprise, mais de l'étendue et de la rapidité de cet impact. Il a souligné qu'il fallait promouvoir un développement responsable de l'IA. » , la réglementation gouvernementale et la gouvernance d'entreprise sont de la plus haute importance.

IA générative : au cœur de la stratégie informatique

Les modèles d'apprentissage automatique ont le potentiel de permettre des itérations informatiques plus rapides. Andrea Malagodi, directeur de l'information de la plateforme de test de code Sonar, a déclaré qu'au moins ces modèles peuvent automatiser ces tâches routinières et répétitives, libérant ainsi la bande passante des développeurs de logiciels afin qu'ils puissent se concentrer sur un travail plus créatif et de plus haut niveau. "Investir dans des outils d'IA générative pour soutenir ces équipes est un investissement dans leur croissance, leur productivité et leur satisfaction globale", a-t-il déclaré

Meerah Rajavel, directrice de l'information chez Palo Alto Networks, a ajouté que l'IA générative faciliterait grandement le développement, en particulier le code. génération pour les langages de programmation matures tels que Java, Python et C++, mais sa puissance ne s'arrête pas là. Elle pense que l’IA peut aider à déplacer les tests de code vers les tests unitaires, le débogage et l’identification des erreurs de configuration au début du cycle de développement logiciel. "En tant que DSI, fournir à nos développeurs les meilleurs outils pour les aider à réussir est un élément clé de mon travail, et l'IA contribuera sans aucun doute à améliorer l'efficacité."

L'IA pour la société de plateforme d'automatisation sans code Workato, Carter Busse, directeur de l'information, est à au cœur de la stratégie informatique de cette année. Cependant, le potentiel de l’IA ne se limite pas au domaine informatique. Elle peut également jouer un rôle dans le support client, en améliorant la productivité et en favorisant l’innovation entre les services. Busse a souligné : « La mission du CIO est de soutenir le développement efficace de l'entreprise, et l'IA est un moyen clé pour nous de progresser. L'IA peut promouvoir de manière significative les opérations inter-départements, créer plus de valeur pour l'entreprise et promouvoir. » le développement global de l’organisation.

La génération de code n’est donc pas le seul domaine à bénéficier de la dernière vague d’IA. Sunny Bedi, directeur de l'information et directeur des données de la société d'entrepôt de données cloud Snowflake, a déclaré que la productivité des employés a été la plus affectée. Il prédit qu'à l'avenir, tous les employés travailleront en étroite collaboration avec des assistants IA pour aider à personnaliser l'expérience d'intégration des nouveaux employés, à coordonner les communications internes et à prototyper des idées innovantes. Il a ajouté qu'en tirant parti des capacités prêtes à l'emploi des grands modèles linguistiques, les entreprises peuvent également réduire leur dépendance à l'égard de tiers pour des opérations telles que la recherche, l'extraction de documents, la création et la révision de contenu et les chatbots.

Comment l'IA atténue la dette technique

Les modèles d'IA générative ne sont pas le principal contributeur à la dette informatique, mais plutôt la manière dont ils sont appliqués. "Les aspects que vous choisissez pour mettre en œuvre l'IA dans votre organisation, et la manière dont vous la mettez en œuvre, doivent être soigneusement étudiés pour éviter la création de dette technique", a-t-il ajouté. , lors de l'utilisation de l'héritage, la modification des connexions et l'intégration simultanée de l'IA générative dans la pile augmentent le risque d'accumuler une dette technique.

D'un autre côté, si elle est utilisée correctement, l'IA générative peut aider à éliminer les anciennes dettes techniques en réécrivant les applications existantes et en automatisant les tâches en attente. Cela dit, les DSI ne devraient pas se lancer sans un environnement et une stratégie cloud adaptés. « Si les organisations mettent en œuvre l'IA générative trop tôt, la dette technique existante peut continuer à croître ou, dans certains cas, devenir une dette technique à long terme », a déclaré Steve Watt, directeur de l'information chez Hyland, la société à l'origine de la suite logicielle de gestion d'entreprise OnBase. . Il recommande donc d'élaborer un plan pour remédier à la dette technique existante afin que les nouvelles initiatives basées sur l'IA ne s'effondrent pas.

Au départ, les entreprises peuvent augmenter leur dette informatique lorsqu'elles expérimentent l'IA et de grands modèles de langage. Mais Busse estime qu'à long terme, les grands modèles linguistiques réduiront la dette, mais cela dépend de la capacité de l'IA à répondre de manière dynamique à l'évolution des besoins. "En intégrant l'IA dans vos processus métier, vous pourrez vous adapter plus rapidement aux changements de processus, réduisant ainsi la dette technique", a-t-il déclaré.

Évaluez la qualité du code de l'IA

Récemment, des inquiétudes ont été soulevées quant à la qualité de l'IA. code généré En réponse aux doutes, des rapports ont souligné que les modifications de code et la réutilisation de code ont augmenté depuis l'émergence des assistants IA. O'Grady de Red Monk a déclaré que la qualité du code généré par l'IA dépend de nombreux facteurs, notamment le modèle déployé, le cas d'utilisation concerné et les compétences du développeur. "Tout comme les développeurs humains, les systèmes d'IA génèrent du code défectueux et continueront de le faire à l'avenir.

Par exemple, Malagodi de Sonar a cité une étude récente de Microsoft Research qui a évalué 22 modèles et a révélé que ces modèles fonctionnaient généralement mal." références, suggérant un angle mort fondamental dans le cadre de la formation. Le rapport explique que même si les assistants IA peuvent générer du code fonctionnel, cela ne va pas toujours au-delà de l’exactitude fonctionnelle pour prendre en compte d’autres contextes tels que l’efficacité, la sécurité et la maintenabilité, sans parler du respect des conventions de codage.

Malagodi estime qu'il y a encore beaucoup de place à l'amélioration dans ce domaine. "Bien que l'IA générative puisse générer plus de lignes de code plus rapidement, si la qualité n'est pas bonne, le processus peut devenir très long", a-t-il déclaré. Il a exhorté les DSI et les CTO à prendre les mesures nécessaires pour garantir que le code généré par l'IA est. faire le ménage. "Cela signifie que le code généré par l'IA est cohérent, intentionnel, adaptable et responsable, ce qui donne lieu à un logiciel sûr, maintenable, fiable et accessible."

Les problèmes de qualité à l'origine de ces modèles peuvent affecter négativement la sortie du code. Alastair Pooley, directeur de l'information de la plateforme d'intelligence technologique cloud Snow Software, a déclaré que même si l'IA générative a le potentiel de produire d'excellents résultats techniques, la qualité des données, l'architecture du modèle et les procédures de formation peuvent conduire à de mauvais résultats. « Des modèles sous-entraînés ou des cas extrêmes imprévus peuvent entraîner une dégradation de la qualité des résultats, introduire des risques opérationnels et compromettre la fiabilité du système », a-t-il déclaré. Tout cela nécessite un examen et une vérification continus des résultats et de la qualité.

Rajavel de Palo Alto Networks a ajouté que l'IA est comme n'importe quel autre outil, les résultats dépendent de l'outil que vous utilisez et de la manière dont vous l'utilisez. Pour elle, sans une bonne gouvernance de l’IA, le modèle que vous choisissez peut entraîner des artefacts de mauvaise qualité qui ne correspondent pas à l’architecture du produit et aux résultats attendus. Elle a ajouté qu’un autre facteur important est l’IA que vous choisissez pour le travail à accomplir, car aucun modèle n’est unique.

Liste des risques potentiels de l'IA

En plus de la dette informatique et de la qualité du code, il existe une gamme de résultats potentiellement indésirables à prendre en compte lors du déploiement de l'IA générative. "Ces problèmes peuvent impliquer la confidentialité et la sécurité des données, des biais algorithmiques, des suppressions d'emplois, des dilemmes éthiques liés au contenu généré par l'IA, etc.", a déclaré Pooley.

Un aspect est que les individus malveillants utilisent l’IA générative pour lancer des attaques. Rajavel a noté que les cybercriminels ont commencé à exploiter cette technologie pour mener des attaques à grande échelle, car l'IA générative est capable d'élaborer des campagnes de phishing convaincantes et de diffuser de la désinformation. Les attaquants peuvent également cibler eux-mêmes les outils et modèles d’IA générative, provoquant des fuites de données ou empoisonnant la sortie de contenu.

O'Grady a déclaré : « Les systèmes génératifs ont le potentiel d'accélérer et d'aider les attaquants, cependant, on peut dire que la plus grande préoccupation pour de nombreuses entreprises est la fuite de données privées à partir de systèmes de fournisseurs fermés.

Ces technologies peuvent produire. Des résultats très intéressants, des résultats convaincants, mais les résultats peuvent aussi être pleins d'erreurs. En plus des erreurs dans le modèle, il y a des implications en termes de coûts à prendre en compte, et il est facile de dépenser beaucoup d'argent en IA sans le savoir ou inutilement, soit en utilisant le mauvais modèle, soit en ne comprenant pas les coûts de consommation, qui ne sont toujours pas utilisés efficacement.

Perez a déclaré : "L'IA n'est pas sans risques. Elle doit être construite à partir de zéro, avec des humains contrôlant tous les domaines, pour garantir que chacun puisse faire confiance à ses résultats - des utilisateurs les plus élémentaires aux ingénieurs les plus expérimentés." Perez Un autre problème non résolu est celui de la propriété du développement et de la maintenance de l'IA, qui exerce également une pression sur les équipes informatiques pour qu'elles répondent à la demande d'innovation, car de nombreux employés informatiques manquent de temps pour mettre en œuvre et former des modèles et des algorithmes d'IA, a-t-il déclaré.

Un problème incontournable : l'emploi

Ensuite, il y a le résultat qui attire l'attention des grands médias : l'IA remplace le travail humain. Mais l’impact de l’IA générative sur l’emploi dans le secteur informatique reste à déterminer. "Il est difficile de prédire l'impact sur l'emploi pour le moment, c'est donc un sujet de préoccupation potentiel", a déclaré O'Grady.

Bien qu’il existe sans aucun doute de multiples points de vue dans ce débat, Walgreen’s Sample ne croit pas que l’IA constitue une menace existentielle pour l’humanité. Au lieu de cela, il est optimiste quant au potentiel de l’IA générative pour améliorer la vie des travailleurs. Il a déclaré : « Le point de vue négatif est que l'IA affectera de nombreux emplois, mais le point de vue positif est que l'IA rendra les humains meilleurs. En fin de compte, je pense que l'IA éliminera le besoin pour les gens d'effectuer des tâches répétitives qui pourraient être automatisées. concentrez-vous sur le travail de niveau supérieur. »

Comment apaiser les inquiétudes concernant l'IA

Il existe de nombreuses façons d'apaiser les inquiétudes concernant l'IA. Pour Perez, la qualité de l’IA générative dépend des données ingérées par ces modèles. "Si vous voulez une IA fiable et de haute qualité, vous avez besoin de données fiables et de haute qualité", a-t-il déclaré. Le problème, cependant, est que les données sont souvent truffées d'erreurs et nécessitent des outils pour intégrer des données provenant de différentes sources et dans différents formats. .de données non structurées. Il a également insisté non seulement sur le fait d'être « dans le jeu », mais aussi sur le fait de mettre davantage les humains aux commandes. "Je considère l'IA comme un conseiller de confiance, mais pas comme le seul décideur."

Pour maintenir la qualité des logiciels, des tests rigoureux sont également nécessaires pour vérifier si le code généré par l'IA est exact. À cette fin, Malagodi encourage les entreprises à adopter une approche « code clean », incluant l'analyse statique et les tests unitaires, pour garantir des contrôles de qualité appropriés. "Lorsque les développeurs se concentrent sur les meilleures pratiques en matière de code propre, ils peuvent être sûrs que leur code et leurs logiciels sont sûrs, maintenables, fiables et accessibles.

Comme pour toute nouvelle technologie, a ajouté Bedi, l'enthousiasme initial doit être tempéré par des mesures appropriées." prudence. Par conséquent, les responsables informatiques doivent envisager des mesures pour utiliser efficacement les assistants d’IA, tels que les outils d’observabilité, capables de détecter les dérives architecturales et de prendre en charge la préparation aux besoins des applications.

Gouvernance autour de l'adoption de l'IA

Pooley a déclaré : « L'IA générative représente une nouvelle ère de progrès technologique, et si elle est gérée correctement, elle a le potentiel d'apporter d'énormes avantages. Cependant, il a suggéré que les DSI devraient trouver un équilibre entre l'innovation. » et les risques inhérents, et notamment des contrôles et des orientations doivent être mis en place pour limiter les violations de données résultant d'une utilisation incontrôlée de ces outils. "Comme pour de nombreuses opportunités technologiques, les DSI se retrouvent responsables si les choses tournent mal."

Pour Sample, les régulateurs ont la responsabilité de prendre pleinement en compte les risques que l'IA fait peser sur la société. À titre d’exemple, il a mentionné un récent décret émis par l’administration Biden visant à établir de nouvelles normes de sécurité en matière d’IA. Un autre aspect consiste à prendre la tête de l’élaboration de directives d’entreprise pour gérer cette technologie en évolution rapide. Par exemple, Walgreens a commencé à développer un cadre de gouvernance autour de l’IA qui inclut des considérations telles que l’équité, la transparence, la sécurité et l’explicabilité.

Busse de Workato plaide également pour l’élaboration de directives internes qui donnent la priorité à la sécurité et à la gouvernance. Il a recommandé de former les employés, de développer un manuel interne et de mettre en œuvre un processus d'approbation pour les expériences d'IA. Pooley a noté que de nombreuses entreprises ont créé des groupes de travail sur l'IA pour aider à gérer les risques et à tirer parti des avantages de l'IA générative. Certaines organisations soucieuses de leur sécurité prennent des mesures plus strictes. O’Grady a ajouté que afin d’empêcher la pénétration, de nombreux acheteurs continueront de donner la priorité aux systèmes sur site.

Perez a déclaré : "Les DSI devraient prendre l'initiative de garantir que leurs équipes disposent de la formation et des compétences appropriées pour identifier, créer, mettre en œuvre et utiliser l'IA générative d'une manière qui profite à l'organisation comme suit : créer une couche de confiance entre les entrées et les sorties de l’IA afin de minimiser les risques associés à l’utilisation de cette technologie puissante.

Cela dit, l’adoption intentionnelle de l’IA et sa gouvernance sont tout aussi importantes. « Les organisations se précipitent pour mettre en œuvre l’IA, mais ne savent pas exactement ce qu’elle fait et comment en tirer le meilleur parti pour leur entreprise », a déclaré Watt de Hyland. L’IA ne résoudra pas tous les problèmes, il est donc important de comprendre lesquels la technologie peut résoudre. , et quels problèmes ne peuvent pas être résolus, est crucial pour savoir comment maximiser la solution au problème.

Impact positif sur les entreprises

Avec un examen approprié, l'IA générative augmentera l'agilité dans d'innombrables domaines, et les DSI s'attendent à ce que l'IA générative soit utilisée pour obtenir des résultats commerciaux tangibles, tels que l'expérience utilisateur. Perez a déclaré : « L'IA générative permettra aux entreprises de créer des expériences pour les clients qui semblaient autrefois impossibles. L'IA ne sera plus seulement un outil réservé aux équipes de niche. Tout le monde aura la possibilité de l'utiliser pour augmenter la productivité et l'efficacité

Mais les utilisateurs. » Les avantages de l'expérience ne se limitent pas aux clients externes. L'expérience interne des employés en bénéficiera également, a ajouté Rajavel. Elle a prédit que les assistants IA formés sur les données internes pourraient réduire de moitié les demandes informatiques en récupérant simplement les réponses déjà disponibles sur les pages internes de l'entreprise.

Sample a déclaré que Walgreens améliore également l'expérience client grâce à des assistants vocaux génératifs basés sur l'IA, des chatbots et des messages texte. En réduisant le volume d'appels et en améliorant la satisfaction des clients, les membres de l'équipe peuvent mieux se concentrer sur les clients en magasin. En outre, l'entreprise a déployé l'IA pour optimiser les opérations en magasin telles que la chaîne d'approvisionnement, l'espace au sol et la gestion des stocks, aidant ainsi les dirigeants à prendre des décisions concernant les revenus et les bénéfices de l'entreprise. Mais la vigilance est de mise.

O'Grady a déclaré : « Comme pour toutes les vagues technologiques précédentes, l'IA entraînera sans aucun doute des impacts négatifs importants et des dommages collatéraux. Dans l'ensemble, l'IA accélérera le développement et améliorera les capacités humaines, mais en même temps élargira considérablement l'éventail des problèmes »

.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!