ChatGPT déclenche une révolution intellectuelle ! OpenAI publie une feuille de route AGI, menant à terme à un monde super intelligent

​Après que ChatGPT soit devenu populaire, de grandes entreprises telles que Microsoft, Google et Meta sont entrées dans le jeu.

Par conséquent, les gens ont également exprimé leurs inquiétudes quant à son application généralisée.

L'ancien directeur exécutif d'Alphabet, Eric Schmidt, et d'autres co-auteurs ont déclaré dans un article publié par le WSJ :

L'intelligence artificielle générative pose des défis philosophiques et pratiques jamais rencontrés depuis le siècle des Lumières.

Hier encore, Sam Altman, PDG d'OpenAI, a publié un article partageant les plans actuels et de suivi d'OpenAI en matière d'intelligence artificielle générale (AGI).

L’article souligne que la mission d’OpenAI est de garantir que l’AGI profite à toute l’humanité.

OpenAI Vision : Veiller à ce que l'AGI profite à toute l'humanité

Dans l'article, les trois principes qui tiennent le plus à OpenAI sont mis en avant.

Si l'AGI est finalement construite avec succès, cette technologie apportera non seulement plus de possibilités et favorisera le développement économique mondial, mais changera également la découverte de connaissances scientifiques émergentes et aidera les humains à améliorer leur niveau de vie sous tous ses aspects.

AGI peut donner à chacun de nouvelles capacités incroyables.

Dans un monde où l'AGI est à portée de main, tout le monde peut obtenir de l'aide pour presque toutes les capacités cognitives, et l'AGI pourrait devenir un énorme amplificateur de puissance pour l'intelligence et la créativité humaines.

Mais d’un autre côté, comme certains s’en inquiètent, l’intelligence artificielle générale peut également provoquer de graves abus, des accidents et un chaos social.

Cependant, les avantages de l'AGI sont incroyables. Nous ne pouvons pas cacher la maladie et laisser la société cesser de se développer pour toujours ; au contraire, la société et les développeurs de l'AGI doivent trouver des moyens de bien le faire ;

L'avenir de la vie avec l'intelligence artificielle générale est difficile à prédire, et les progrès actuels de l'IA pourraient rencontrer de nouveaux défis. Cependant, avec le succès de ChatGPT, nous avons répertorié plusieurs principes qui tiennent le plus à l'entreprise :

1. J'espère qu'AGI pourra responsabiliser les humains et leur permettre d'atteindre une prospérité maximale dans l'univers. Nous ne voulons pas que l’avenir devienne une fausse utopie, mais nous espérons maximiser les bons côtés de la technologie et minimiser les mauvais côtés, afin que l’AGI puisse devenir un amplificateur de la bonne volonté humaine.

2. J'espère partager plus largement et de manière équitable les avantages, l'accès et la gouvernance d'AGI.

3. Répondez correctement aux risques potentiels. Face à ces risques, ce qui semble juste en théorie est souvent plus difficile à contrôler en pratique que prévu. Nous devons continuer à apprendre et à nous adapter en déployant des versions moins puissantes de la technologie pour minimiser le « point de non-retour ».

Objectifs à court terme : faire trois préparatifs pour AGI

Donc, à court terme, OpenAI prévoit de faire les choses suivantes.

Tout d'abord, alors que l'entreprise continue de construire des systèmes d'IA plus puissants, nous espérons déployer rapidement l'AGI pour accumuler l'expérience applicative correspondante.

De l’avis d’OpenAI, la meilleure façon de gérer soigneusement l’AGI devrait être de passer progressivement à un monde où l’AGI est omniprésente. Dans l'avenir, nous nous attendons à ce qu'une puissante technologie d'intelligence artificielle puisse accélérer le progrès mondial.

L'approche progressive permet au public, aux décideurs politiques et aux instituts de recherche d'avoir le temps de comprendre les changements provoqués par la technologie AGI et d'en découvrir les avantages et les inconvénients. ces systèmes. Ajuster la forme d’organisation économique et mettre en œuvre une supervision efficace.

Dans le même temps, la méthode de développement progressif peut également promouvoir le progrès commun de la société et de l'IA, permettant aux gens de se comprendre avec des risques relativement faibles.

OpenAI estime que la meilleure façon de résoudre avec succès les défis des applications d'IA est d'utiliser une boucle de rétroaction étroite composée d'un apprentissage rapide et d'itérations minutieuses. Sous l'impact des nouvelles technologies, la société sera confrontée à des questions majeures telles que « ce que les systèmes d'intelligence artificielle sont autorisés à faire, comment éliminer les préjugés et comment gérer les pertes d'emplois ».

Augmenter l'utilisation de la technologie de l'IA est très bénéfique, et OpenAI espère participer à la promotion de cette technologie en mettant des modèles en service d'API et en les rendant open source.

OpenAI a déclaré qu'à mesure que les systèmes qu'elle développe se rapprochent de l'AGI, l'agence est devenue de plus en plus prudente tant dans la création que dans le déploiement de modèles.

OpenAI doit peser les avantages et les inconvénients de l'utilisation de grands modèles. D'une part, l'utilisation de modèles avancés à grande échelle marque d'importants progrès scientifiques et technologiques ; d'autre part, après avoir utilisé ces modèles, les entreprises et les institutions doivent également réfléchir à des questions telles que la manière de restreindre les acteurs malveillants et d'éviter les impacts négatifs sur leurs activités. la société et l’économie.

Deuxièmement, OpenAI travaille dur pour créer des modèles plus cohérents et contrôlables. De la première version de GPT-3 à InstructGPT et ChatGPT, cette transformation étape par étape démontre les efforts d'OpenAI en matière de sécurité de l'IA.

Il convient de noter que la société humaine doit atteindre des limites extrêmement larges en matière d’utilisation de l’intelligence artificielle. À mesure que les modèles deviennent plus puissants, OpenAI devra développer de nouvelles techniques d’alignement.

Le plan à court terme d’OpenAI est d’utiliser l’IA pour aider les humains à évaluer les résultats de modèles plus complexes et à surveiller des systèmes complexes, et à long terme, OpenAI utilisera l’IA pour aider à obtenir une meilleure technologie d’alignement.

OpenAI estime que la sécurité et les capacités de l'intelligence artificielle sont tout aussi importantes et que les deux ne doivent pas être discutées séparément. OpenAI affirme que son travail le plus sécurisé provient de ses modèles les plus performants. En d’autres termes, l’amélioration de la sécurité de l’intelligence artificielle est très importante pour le progrès de la recherche sur l’IA.

Troisièmement, OpenAI espère résoudre trois problèmes clés à l'échelle mondiale : la gouvernance des systèmes d'intelligence artificielle, la répartition des bénéfices générés par les systèmes d'IA et le partage des droits d'accès.

De plus, selon la charte de l'entreprise OpenAI, OpenAI doit aider d'autres organisations à améliorer la sécurité et ne peut pas rivaliser avec ses adversaires dans le développement ultérieur d'AGI.

Les règles d'investissement d'OpenAI fixent un plafond aux rendements que les actionnaires peuvent recevoir, afin que les instituts de recherche eux-mêmes ne soient pas tentés d'essayer de capturer de la valeur sans limite ou de risquer en utilisant une technologie comportant des dangers catastrophiques.

OpenAI est régie par une organisation à but non lucratif pour garantir que l'institution est gérée dans l'intérêt de l'humanité et prime sur tout intérêt à but lucratif.

Enfin, OpenAI estime que les gouvernements du monde entier devraient maintenir la supervision de la formation en apprentissage automatique au-delà d'une certaine échelle.

Objectif à long terme : un monde super-intelligent plus prospère

Par rapport aux plans à court terme, le développement à long terme de l'AGI par OpenAI est plus ambitieux.

OpenAI estime que l'avenir de l'humanité doit être déterminé par les humains eux-mêmes et qu'il est crucial de partager des informations sur les progrès avec le public. Par conséquent, tous les projets de développement d’AGI doivent être rigoureusement examinés et le public consulté sur les décisions importantes.

De l'avis d'OpenAI, la première AGI ne sera qu'un petit nœud dans le développement continu de l'intelligence artificielle, et de nouveaux progrès continueront ensuite à découler de ce nœud. La société prédit que le développement futur de l’IA pourrait être similaire au rythme de progrès que nous avons connu au cours de la dernière décennie.

Peut-être qu'un jour, le monde connaîtra des changements bouleversants, et le progrès technologique pourrait également entraîner de grands risques pour l'humanité. Un AGI super-intelligent « égaré » pourrait causer de graves dommages au monde.

Par conséquent, OpenAI estime qu'il est plus facile d'assurer la sécurité en ralentissant le développement de l'AGI. Même si les avancées technologiques nous donnent la possibilité de développer rapidement l’AGI, maintenir un ralentissement donne à la société suffisamment de temps pour s’adapter.

La transition réussie vers un monde doté de superintelligence est peut-être le projet le plus important, le plus prometteur et le plus terrifiant de l’histoire de l’humanité. Personne ne peut garantir quand ce jour arrivera, mais les enjeux sont clairs et contribuent à rassembler tout le monde.

Quoi qu’il en soit, ce sera un monde prospère au-delà de l’imagination. Et OpenAI espère apporter au monde une intelligence artificielle générale cohérente avec cette prospérité.

ChatGPT annonce une révolution intellectuelle

Récemment, l'ancien secrétaire d'État américain Henry Kissinger, l'ancien directeur exécutif d'Alphabet Eric Schmidt et le premier doyen de la MIT Schwarzman School of Computing Daniel Huttenlocher ont écrit un article "ChatGPT annonce une révolution intellectuelle".

L'article révèle leurs inquiétudes concernant l'IA générative actuelle :

L'IA générative présente des défis philosophiques et pratiques jamais rencontrés depuis le siècle des Lumières.

Le début de l'article explique l'impact actuel de ChatGPT sur les humains.

Une nouvelle technologie conçue pour changer les processus cognitifs humains comme elle n'a jamais faibli depuis l'invention de l'imprimerie.

La technologie d'impression de la Bible de Gutenberg en 1455 a permis aux idées humaines abstraites de se propager largement et rapidement. Mais la nouvelle technologie actuelle inverse ce processus.

L'imprimerie a provoqué la prolifération de la pensée humaine moderne, et les nouvelles technologies ont permis son raffinement et son élaboration.

Ce faisant, cela crée un fossé entre la connaissance humaine et la compréhension humaine.

Si nous voulons réussir cette transition, nous devrons inventer de nouveaux concepts de l’esprit humain et de l’interaction avec les machines. C’est l’enjeu fondamental à l’ère de l’intelligence artificielle.

Cette nouvelle technologie s'appelle l'intelligence artificielle générative, et la plus représentative est ChatGPT développé par le laboratoire de recherche OpenAI.

À mesure que ses capacités se généralisent, elles redéfiniront les connaissances humaines, accéléreront les changements dans le tissu de notre réalité et réorganiseront la politique et la société.

L'intelligence artificielle générative ouvrira également une voie révolutionnaire pour la rationalité humaine et ouvrira de nouveaux horizons pour consolider les connaissances.

Mais il existe aussi des différences évidentes entre les deux. La connaissance de l’éveil s’acquiert étape par étape, chaque étape étant mesurable et enseignable.

Les systèmes d'IA, tels que ChatGPT, peuvent stocker et affiner de grandes quantités d'informations existantes et sont capables de produire des résultats sans expliquer leurs processus, ce que les humains ne peuvent pas.

De plus, les capacités de l'intelligence artificielle ne sont pas statiques, mais augmentent de façon exponentielle avec les progrès de la technologie.

Nous devons de toute urgence développer une dialectique sophistiquée qui permette aux gens de remettre en question l’interactivité de l’IA générative et non seulement de justifier ou d’expliquer les réponses de l’IA, mais aussi de les interroger.

Avec une dose constante de scepticisme, nous devrions apprendre à explorer méthodiquement l’IA et à évaluer si et dans quelle mesure ses réponses sont dignes de confiance. Cela nécessitera des efforts conscients pour réduire nos préjugés inconscients, une formation rigoureuse et beaucoup de pratique.

La question demeure : peut-on apprendre à défier plutôt qu'obéir assez vite ? Ou devrons-nous éventuellement obéir ? Ce que nous percevons comme des erreurs fait-il partie d’une conception intentionnelle ? Et s’il y avait des éléments malveillants dans l’intelligence artificielle ?

Une autre tâche clé consiste à réfléchir aux problèmes qui doivent être laissés à la pensée humaine et aux problèmes qui peuvent être risqués pour les systèmes automatisés.

Cependant, même avec un scepticisme accru et des techniques d'interrogation, ChatGPT prouve que le génie de la technologie générative a quitté la bouteille. Nous devons réfléchir aux questions que nous posons.

À mesure que cette technologie sera mieux comprise, elle aura un impact profond sur les relations internationales. À moins que la technologie de la connaissance ne soit universellement partagée, l’impérialisme pourrait se concentrer sur l’acquisition et la monopolisation des données pour réaliser les dernières avancées en matière d’intelligence artificielle.

Le modèle peut produire des résultats différents en fonction des données collectées. Différentes évolutions des sociétés sont susceptibles d’évoluer sur la base de bases de connaissances de plus en plus différentes et donc de perceptions différentes des défis.

À la fin de l'article, deux questions se posent et méritent réflexion :

Que se passera-t-il si cette technologie ne peut pas être entièrement maîtrisée ?

Et s'il y avait toujours moyen d'inventer des mensonges, de créer de fausses images et vidéos, et que les gens n'apprenaient jamais à ne pas croire ce qu'ils voient et entendent ?

LeCun, scientifique en chef de l'IA de Meta, a répondu :

- Les gens apprendront à mieux suivre les sources et à évaluer la fiabilité de ce qu'ils voient et entendent, probablement avec l'aide des nouvelles technologies.

- Les LLM autorégressifs actuels sont notoirement incontrôlables, mais les nouveaux systèmes d'IA sont contrôlables, réalistes et non toxiques en cas de besoin.

Certains internautes ont cité les mots d'Andy Grove : « Il y a deux choix : s'adapter ou mourir. »

Que feriez-vous si c'était vous ?

Références :

https://openai.com/blog/planning-for-agi-and-beyond/

https://www.wsj.com/articles/chatgpt-heralds-an-intellectual-revolution - illumination-intelligence-artificielle-homo-technicus-technologie-cognition-moralité-philosophie-774331c6

https://twitter.com/ericschmidt/status/1629361652574621701

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!