Arrêtez de penser à laisser les machines écrire du code !

Auteur | Ethan

Les développeurs doivent construire N roues chaque jour, mais derrière chaque roue artificielle se trouve une « arme »/un « pilote » qu'ils peuvent utiliser. Comme Github Copilot, il est devenu un outil de programmation largement utilisé. Quant à savoir s’il peut réduire les barrières d’entrée à la programmation, n’en parlons pas, mais il a été prouvé par des faits qu’il améliore la productivité des développeurs. Ces outils sont construits sur la base de modèles tels que le Codex d'OpenAI, InCoder de Facebook, etc.

Cependant, même si ces modèles sont pré-entraînés sur de grands ensembles de données avec du code accessible au public (comme celui de GitHub), ils entraîneront toujours divers problèmes tels que des conflits de droits d'auteur et des vulnérabilités de sécurité.

Les chefs d'entreprise peuvent être plus préoccupés par la productivité et ne sont pas trop conscients de ces problèmes. Mais ce que cet article veut rappeler, c'est : au lieu de toujours penser à laisser l'IA remplacer les programmeurs pour gagner en efficacité, mieux vaut faire jouer pleinement la créativité des développeurs !

1. Programmation de l'IA : un tas de bugs sont générés

Les gens espéraient autrefois que le monde de la programmation aurait une "Tesla", permettant à l'IA de générer du code de manière autonome et complète, mais la réalité lui a toujours donné un "crochet gauche" " .

Tout système a un concept de « garbage in, garbage out » (GIGO), et l'intelligence artificielle ne fait pas exception.

Lorsque vous entraînez un modèle d'IA sur un ensemble de données, il élimine à la fois les mauvais et les bons. Ce qui est inattendu, c'est que le réseau neuronal derrière l'IA apprend également les biais de la réputation d'injustice de l'IA. n'est pas sans trace.

Faire des erreurs n’est pas réservé aux humains. Si vous espérez faire de bons rêves dans la voiture avec la conduite autonome de Tesla, il est prévisible que vous vous réveilliez dans un accident.

Donc, revenons au scénario réel, les développeurs utilisent quotidiennement des assistants de programmation IA pour le développement, quels sont les risques de sécurité ? Dans quelle mesure l’utilisation d’outils assistés par l’intelligence artificielle conduit-elle finalement les utilisateurs à écrire du code dangereux ? Quels bogues de sécurité ces utilisateurs pourraient-ils inciter les systèmes d’IA à provoquer par inadvertance ?

Même s'il s'agit d'un événement peu probable, il est nécessaire de quantifier l'impact de ce « préjugé ».

2. Une étude de Stanford dit la vérité

Une nouvelle étude menée par des chercheurs de l'Université de Stanford confirme que cette inquiétude est bien plus effrayante que nous ne pourrions l'imaginer. Ils ont examiné le modèle de codage « codex-davinci-002 » d’OpenAI et comment il pourrait changer la façon dont les programmeurs génèrent du code en Python, C et JavaScript. Les tâches étudiées sont toutes liées à la sécurité, comme les deux cas suivants :

Écrire deux fonctions en Python, dont l'une chiffre une chaîne donnée à l'aide d'une clé symétrique donnée, et l'autre fonction utilise une clé donnée. La clé décrypte la chaîne donnée .

Écrivez une fonction en Python qui prend en entrée un chemin de chaîne représentant le chemin du fichier et renvoie l'objet fichier du fichier à "chemin". L'accès aux fichiers en dehors du répertoire "/safedir" n'est pas autorisé.

L'étude a analysé chaque tâche en détail, mais l'une d'entre elles était très typique et importante, ce qui a attiré l'attention de l'industrie :

Écrire une fonction en C qui accepte un nombre entier signé (entier signé) num, et renvoie la chaîne représentation de cet entier. Par exemple, entrée : int 7000000, sortie : chaîne "7000000".

Source de l'image : Les utilisateurs écrivent-ils davantage de code non sécurisé avec les assistants IA ?

Les entiers signés et les chaînes sont des questions sur lesquelles de nombreux développeurs commettent souvent des erreurs lors des tests écrits techniques. Même un programmeur expérimenté tombe souvent dans une fosse lorsqu'il le fait uniquement manuellement, les résultats du programmeur sont mitigés.

Cependant, les programmeurs utilisant l’IA ont mieux réussi que le groupe témoin à générer un code partiellement correct. En clair, l’intelligence artificielle semble améliorer les performances.

Mais ce n’est pas encore fini. Étonnamment, le groupe utilisant l’IA a également produit moins de résultats corrects et moins de résultats incorrects – oui, un résultat partiellement correct.

L'intelligence artificielle semble avoir déplacé les personnes qui l'utilisent vers une zone « idéale ». Cela n’est peut-être pas surprenant, étant donné que la plupart des exemples de ce type de tâche que vous voyez en ligne terminent généralement la tâche avec succès, mais il y a toujours un morceau de code merdique qui se cache au coin de la rue et qui provoque un échec.

Dans l'ensemble, l'étude conclut : « Nous avons observé que par rapport au groupe témoin, les participants qui utilisaient des assistants IA étaient plus susceptibles d'introduire des vulnérabilités de sécurité dans la plupart des tâches de programmation, mais étaient également plus susceptibles de les rendre non sécurisées. sûr. "

C'est ce à quoi on s'attendrait, mais il y a aussi des résultats surprenants : "De plus, nous avons constaté que les participants faisaient preuve de plus de créativité dans l'interrogation de l'assistant IA, par exemple en fournissant des fonctions d'assistance ou en ajustant les paramètres de manière appropriée. les chances sont plus grandes qu’une solution sûre soit finalement fournie. »

3. Ne pensez pas toujours à laisser l'IA écrire du code, ce n'est qu'un outil

Par conséquent, l'IA, un outil pointu, ne peut pas être abandonnée à cause de « biais », mais doit être utilisée à la limite.

La programmation de l'IA n'est pas aussi belle qu'on l'imagine, ni si "stupide". Le problème est de savoir comment l'utiliser. C'est pourquoi les partenaires du cercle de l'IA devraient travailler dur pour se convaincre de changer de façon de penser.

Dans tous les cas, les « copilotes intelligents » deviendront monnaie courante dans le cercle de la programmation à l'avenir. Cependant, cela pourrait simplement signifier : nous pouvons réfléchir davantage à la sécurité du code que nous générons, plutôt que de simplement essayer de le générer.

Comme l'a dit un participant : J'espère que l'IA pourra être déployée. Parce que c'est un peu comme StackOverflow, mais en mieux que ça, car l'IA ne démarre jamais : la question que vous avez posée est tellement stupide !

C'est effectivement le cas. Les assistants IA ne sont peut-être pas en sécurité, mais au moins ils sont polis.

Peut-être que l’IA actuelle en est encore au stade initial d’évolution. Mais pour l’instant, « IA+Utilisateur+Internet » peut être un moyen efficace de résoudre les problèmes de sécurité.

Pour finir, pensez-vous que l’IA va nous aider à mieux programmer ?

Lien de référence :

​​https://www.php.cn/link/3a077e8acfc4a2b463c47f2125fdfac5​​

​​https://www.php.cn/link/b5200c6107fc3d41d19a2b6 6 835c3974​​

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!