ChatGPT fait la course jusqu'au bout, où sont nos ceintures de sécurité ?

Depuis sa sortie le 30 novembre de l'année dernière, ChatGPT d'OpenAI a balayé divers domaines sociaux en seulement trois mois : les gens ordinaires l'utilisent comme moteur de recherche ; les employés de bureau l'utilisent pour rédiger des textes, rédiger des procès-verbaux de réunions et les membres du programme l'utilisent. pour écrire du code.

Mais, ce qui est inquiétant, c'est que les étudiants l'utilisent également pour leurs devoirs. Une enquête réalisée il y a quelque temps a montré que près de 90 % des étudiants aux États-Unis utilisent déjà ChatGPT pour rédiger leurs devoirs, et un article généré par ChatGPT s'est même classé premier de la classe. Pour les enseignants des écoles, ce changement arrive trop soudainement. Avant de proposer des contre-mesures, certaines écoles ont directement choisi de l'interdire.

Certaines entreprises ont également interdit ChatGPT, notamment des institutions financières de Wall Street telles que Citigroup, Goldman Sachs et JPMorgan Chase, car elles craignent que les employés ne divulguent des informations sensibles sur l'entreprise lorsqu'ils utilisent ChatGPT.

Ces réponses agitées reflètent un problème : Notre société n'est pas encore prête à l'arrivée de modèles générés par l'IA comme ChatGPT, et les discussions sur des questions connexes doivent être mises à l'ordre du jour. C'est peut-être pour cette raison que la récente conférence mondiale des pionniers des développeurs d'intelligence artificielle « Youzhizhi : Forum thématique sur la sécurité de l'IA et les informations éthiques » était pleine à craquer.

Bien que le thème de la conférence soit "Une vision de la sécurité et de l'éthique", la portée de la discussion des invités ne s'est pas limitée à cela, mais a ajouté de multiples dimensions de discussion, depuis des modèles de génération d'IA tels comme ChatGPT à base De l'impact de la recherche à ses questions d'application en passant par les idées de formation des talents dans la nouvelle ère, des discussions approfondies ont été menées sous tous les angles. A travers ce forum, chacun tente d'esquisser la réponse à une question : Dans l'ère AIGC qui est arrivée, comment réagir ?

Quelles inspirations et défis ChatGPT apporte-t-il au domaine de la recherche scientifique ?

En janvier de cette année, Yann LeCun, lauréat du Turing Award, a été inscrit sur la liste des recherches les plus recherchées en raison de son évaluation sévère de ChatGPT. Selon lui, « en ce qui concerne la technologie sous-jacente, ChatGPT n'a aucune innovation particulière », et ce n'est pas non plus « quelque chose de révolutionnaire ». Il ne peut être considéré que comme un exemple d'ingénierie décent.

« Que ChatGPT soit révolutionnaire » est un sujet controversé. Mais il ne fait aucun doute qu’il s’agit bien d’un chef-d’œuvre d’ingénierie. Sur place, E Weinan, académicien de l'Académie chinoise des sciences, a également souligné ce point.

Il a également souligné que ce chef-d'œuvre est le résultat d'une vérification progressive et d'un investissement concentré d'OpenAI. Parmi eux, les « investissements concentrés » sont très importants. Parce que le succès d'OpenAI montre que l'ancienne méthode d'autonomisation de l'IA en « petits ateliers, basée sur des projets » est en train de devenir une histoire ancienne, et que « l'ingénierie et la plateforme de l'IA » deviennent un support important pour libérer les dividendes de la technologie de l'intelligence artificielle. Si elle parvient à s’adapter à ce changement, le succès de l’IA dans le domaine du langage naturel devrait être reproduit dans le domaine de la recherche scientifique fondamentale. C’est également le travail dans lequel l’académicien E Weinan est engagé dans le domaine de l’IA pour la science.

Bien sûr, ce travail n'est pas facile et nous oblige à nous concentrer sur la construction d'infrastructures de plateformes pour la recherche scientifique fondamentale, y compris des données, des outils logiciels de base, des plateformes informatiques, des plateformes de recherche scientifique intelligente, etc. Au cours des dernières années, l'académicien E a conduit l'équipe à effectuer des travaux dans ce domaine et a publié des résultats importants tels que le modèle de pré-entraînement de la fonction d'énergie potentielle interatomique.

Cependant, leur travail est encore confronté à de nombreux défis, tels que les formats de données accumulés sont différents et bruyants, le logiciel ne dispose pas d'un système de test de base, l'infrastructure informatique ne peut pas suivre le rythme, etc. Pour l’académicien E, c’est « l’obscurité avant l’aube ». Ce n’est qu’en osant mettre en commun les ressources dans une innovation originale que nous pourrons inaugurer l’aube.

Outre les sciences naturelles, l'émergence de ChatGPT a également certaines inspirations pour les chercheurs dans le domaine des sciences sociales. À cet égard, Wu Guanjun, doyen de l'École de politique et de relations internationales de l'Université normale de Chine orientale, a apporté des idées très précieuses.

Dean Wu a souligné que les chercheurs en sciences sociales devraient avoir un certain sentiment de crise face à ChatGPT. Tout d'abord, derrière cela se cache une énorme quantité de données que les anthropologues ne sont peut-être pas en mesure de collecter par le biais d'enquêtes de terrain traditionnelles, et ils peuvent traiter une grande quantité de données en peu de temps. Deuxièmement, il « lit » un grand nombre de livres qu'une personne ne pourra peut-être pas terminer au cours de sa vie.

"Nous sommes confrontés à une singularité (technologique), mais beaucoup de nos universitaires l'ignorent", a déclaré Wu Guanjun.

La singularité technologique fait ici référence à un point de vue résumé à partir de l'histoire du développement technologique, qui estime qu'un événement inévitable se produira dans le futur : le développement technologique sera extrêmement proche de l'infini dans un laps de temps très court. progrès. D’ici là, toutes les connaissances, valeurs et règles que nous connaissons deviendront invalides.

C'est pourquoi il a appelé les spécialistes des sciences sociales à travailler avec d'autres scientifiques pour faire avancer la recherche sur l'ère de la singularité technologique. Ce type de recherche se concentre sur les « connaissances pratiques » (telles que l'éthique et la politique) dans la classification des connaissances d'Aristote, car dans les deux autres types de connaissances (connaissances productives et connaissances théoriques), l'IA a commencé à apprendre et même à apprendre mieux que les humains. Dans des domaines de connaissances pratiques tels que la politique, l’IA ne peut que raconter et ne peut pas créer un nouveau monde. Par conséquent, Dean Wu estime que l’humanité aura un grand potentiel dans ce domaine.

Le marché des AIGC est sur le point d'exploser, comment le côté applicatif peut-il se préparer ?

Il y a quelques jours, OpenAI a publié l'API de ChatGPT, très attendue, et le prix est très bon marché. Il ne coûte que 2 dollars américains pour générer un million de jetons. Du côté des applications, c’est une nouvelle assez excitante. Dans le même temps, la recherche et le développement de produits nationaux de type ChatGPT s'accélèrent également et de nouveaux produits seront lancés ce mois-ci. Il est prévisible qu’au cours de la prochaine année, les applications prises en charge par le modèle AIGC exploseront dans le pays et à l’étranger.

Mais en même temps, nos investissements dans les applications ne semblent pas suivre le rythme. C'est un phénomène observé par Président de Deloitte Chine, Jiang Ying.

Plus précisément, elle a constaté que le développement de l'intelligence artificielle en Chine présente un déséquilibre entre les investissements dans l'offre de R&D et la demande d'applications. Ce déséquilibre se manifeste sous trois aspects.

Tout d'abord, en termes de rôles, de nombreuses organisations décisionnelles actuelles sont principalement composées d'institutions de recherche scientifique et d'entreprises technologiques, et la participation des parties concernées aux scénarios d'application tels que les associations industrielles est relativement insuffisante. Par conséquent, Jiang Ying estime que nous devons établir une alliance multipartite pour renforcer davantage le rôle des forces de transformation du côté de la demande dans le développement de l'intelligence artificielle.

Deuxièmement, en termes de développement, l'amélioration du développement de l'intelligence artificielle grâce à l'innovation technologique a été pleinement évoquée et a reçu de nombreux soutiens, mais le pouvoir de l'innovation modèle n'a pas été pleinement valorisé. Par conséquent, Jiang Ying a proposé que nous encourageions l'application pratique de modèles commerciaux innovants d'intelligence artificielle et que nous intensifions la recherche dans ce domaine.

Enfin, en termes de formation des talents, de nombreuses universités proposent désormais des spécialisations liées à l'intelligence artificielle, mais la plupart de ces spécialisations se limitent à la culture des connaissances et des compétences en sciences et en ingénierie, ce qui entraîne un manque relatif de talents à deux niveaux. manière connaissance de la technologie et des applications de gestion. Vous devez savoir que dans les scénarios d'application réels, si l'IA veut réellement atteindre une efficacité économique, il ne suffit pas de l'utiliser simplement pour terminer le travail d'une certaine ligne de production. L'ensemble du processus et de la structure de gestion doit être transformé en talents. répondre à ces besoins est actuellement très rare.

Au niveau des applications, Tian FengDirecteur de l'Institut de recherche sur l'industrie intelligente SenseTime et vice-président de l'Institut de recherche sur l'intelligence artificielle de Shanghai a également partagé son point de vue, mais il est plus concentré porte sur divers risques qui existent dans le processus d'application de l'IA, notamment les risques de modèle, les risques liés aux données, etc.

Plus précisément, Tian Feng préconise l'utilisation de la technologie et des outils de gestion pour améliorer les capacités de gouvernance éthique de l'IA des entreprises. Au cours des dernières années, SenseTime a développé un ensemble de boîtes à outils de gouvernance des risques éthiques en matière d'IA, notamment le filigrane numérique, la désensibilisation des données, le bac à sable de données, la plateforme d'examen physique modèle, etc., couvrant la conception, le développement, le déploiement et le lancement du cycle de vie complet du produit. .

Les étudiants utilisent tous ChatGPT, que doivent faire les enseignants ?

Lors du forum, une question a été posée au Vice-président de l'Université de Shanghai, Wang Xiaofan : L'Université de Shanghai interdira-t-elle aux étudiants d'utiliser ChatGPT ? En réponse, le principal Wang a répondu : Je ne préconise pas son interdiction.

Selon lui, l'émergence d'outils d'IA tels que ChatGPT a son côté positif.

Dans la pratique pédagogique, il peut fournir aux étudiants un retour instantané, les aidant ainsi à progresser plus rapidement, comme AlphaGo aide les joueurs d'échecs humains. Rappelons qu'il y a 30 ans, nous vérifiions encore les documents un par un dans la bibliothèque ; il y a 20 ans, nous commencions à rechercher rapidement des documents en ligne et aujourd'hui, ChatGPT peut déjà nous aider à organiser les documents en résumés ou en critiques ; Cela améliore sans aucun doute grandement l’efficacité de notre apprentissage des connaissances.

En termes de contenus et de méthodes pédagogiques, cela obligera le personnel enseignant à réfléchir : quel type de connaissances notre éducation devrait-elle transmettre ? Comment pouvons-nous utiliser des outils comme ChatGPT pour rendre notre « enseignement » et notre « apprentissage » plus efficaces ? Après ce cycle de réflexion et de changement, l’enseignement supérieur pourrait se rapprocher de son essence. Comme l'a dit Einstein : « La valeur d'une éducation universitaire n'est pas de mémoriser de nombreux faits, mais d'entraîner le cerveau à penser... La priorité absolue devrait toujours être le développement de la capacité globale de pensée et de jugement indépendants, plutôt que l'acquisition de connaissances. "connaissances spécifiques".

Bien sûr, les problèmes que ChatGPT apporte à l'enseignement supérieur sont inévitables. À cet égard, le président Wang a proposé trois tâches à accomplir : premièrement, il y a des règles à suivre, c'est-à-dire formuler des principes directeurs pour l'utilisation de l'AIGC dans l'enseignement et la recherche, et veiller à ce que les étudiants et les enseignants puissent les comprendre et les suivre. des lignes directrices ; deuxièmement, une utilisation équitable, c'est-à-dire soutenir l'utilisation raisonnable de l'AIGC dans l'enseignement, l'apprentissage et la recherche, mais en prenant des mesures efficaces pour interdire les fautes académiques telles que le plagiat ; troisièmement, la démonstration pédagogique, c'est-à-dire que les enseignants jouent un rôle de modèle dans le domaine ; processus d'enseignement et de recherche, et utiliser des technologies d'intelligence artificielle d'utilisation équitable telles que l'AIGC sont intégrées dans l'enseignement des cours d'intégrité académique et d'éthique.

Le développement de l'intelligence artificielle ne peut pas suivre l'ancien chemin de l'automobile

En plus du merveilleux partage des invités, ce forum a également produit deux résultats importants.

Le premier résultat est que les principaux membres experts du groupe de travail de la norme de Shanghai « Directives de gouvernance du cycle de vie du système d'intelligence artificielle des technologies de l'information » ont reçu des lettres de nomination. Ce guide partira de la conception conceptuelle du modèle d'algorithme d'IA et parcourra le cycle de vie complet du développement, des tests et de l'évaluation, du déploiement, de la surveillance des opérations et du retrait, fournissant ainsi des conseils pour la gouvernance des systèmes d'intelligence artificielle. Il s'agit de la première norme locale du pays sur la gouvernance des systèmes d'intelligence artificielle. Elle vise à promouvoir le développement avec des règles standard, à maintenir les principes de sécurité et d'éthique par des moyens techniques et des mesures réglementaires, et à garantir que les technologies telles que l'AIGC puissent pleinement exercer leur impact social et environnemental. valeur économique et les utiliser. Les résultats réels établissent « l'expérience de Shanghai » dans le développement de l'intelligence artificielle.

La publication et la signature du deuxième résultat « 2023 Shanghai Artificial Intelligence Safety Ethics Initiative ». La « Proposition » est guidée par les « Règlements de Shanghai sur la promotion du développement de l'industrie de l'intelligence artificielle », préconisant que les développeurs d'intelligence artificielle s'orientent vers la lumière et garantissant que l'industrie de l'intelligence artificielle évolue vers l'équité et la justice, la sécurité du contenu et la confidentialité. la protection, l’interconnexion, la construction et le partage communs. La direction de la gouvernance continue de progresser et de se développer vers le haut. Des représentants de l'Association de l'industrie de l'intelligence artificielle de Shanghai, de l'Association des intellectuels des jeunes et d'âge moyen de Shanghai, du Groupe Lingang de Shanghai, de la branche de Chine orientale de l'Académie des technologies de l'information et des communications et du Centre municipal de développement de logiciels ont signé conjointement la « Proposition ».

Pourquoi devez-vous faire ces deux choses ? Dans son discours, le président Wang a évoqué une anecdote : l'automobile a été inventée à la fin du 19e siècle, mais ce n'est que dans la seconde moitié du 20e siècle que différents pays ont introduit des réglementations rendant obligatoire le port de la ceinture de sécurité au volant. On peut imaginer combien de personnes ont dû mourir en vain.

Si l'on y réfléchit bien, nous sommes en fait aujourd'hui un peu comme ces gens qui venaient d'être exposés aux voitures au 19ème siècle : l'AIGC émergent s'accélère, mais il n'y a pas de réglementation pour restreindre les conducteurs, et il n'y a pas de siège ceintures pour les personnes dans les voitures. Ces questions sont urgentes.

"Le développement actuel de l'intelligence artificielle ne peut évidemment pas suivre le chemin des voitures", a déclaré sincèrement le principal Wang. En prenant le forum comme point de départ, tous les acteurs de la société explorent une nouvelle voie pour que nous puissions affronter sereinement l'arrivée de l'ère AIGC.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!