Maison Périphériques technologiques IA Après avoir lu les réponses de ChatGPT, les grands de l'IA sont insatisfaits

Après avoir lu les réponses de ChatGPT, les grands de l'IA sont insatisfaits

Apr 12, 2023 pm 05:40 PM
ai chatgpt

La technologie ChatGPT a été installée par Microsoft sur la recherche Bing la semaine dernière, battant Google, et le moment de créer une nouvelle ère semble être arrivé. Cependant, à mesure que de plus en plus de personnes commencent à l’essayer, certains problèmes sont apparus.

Fait intéressant, ChatGPT, qui figure chaque jour sur la liste de recherche la plus recherchée, semble avoir fait de célèbres universitaires aux opinions contradictoires dans le passé, le professeur de l'Université de New York Gary Marcus et le directeur de l'intelligence artificielle Meta et lauréat du prix Turing Yann LeCun un rare langage commun.

Après avoir lu les réponses de ChatGPT, les grands de lIA sont insatisfaits

Récemment, Gary Marcus a écrit un article sur les problèmes inévitables de l'application ChatGPT : l'éthique et la neutralité. C’est peut-être le plus grand défi auquel sont actuellement confrontés les grands modèles de pré-formation.

Après avoir lu les réponses de ChatGPT, les grands de lIA sont insatisfaits

En regardant vers l'avenir, ChatGPT peut être considéré comme le plus grand coup publicitaire de l'histoire de l'IA. Il exagère en disant qu'il a réalisé quelque chose qui ne se produira peut-être que plusieurs années plus tard, incitant les gens à y affluer. mais incapable d'y parvenir- — Un peu comme les vieilles démos de voitures autonomes de 2012, mais cette fois, cela signifie aussi des garde-fous éthiques qui prendront des années à se perfectionner.

Il ne fait aucun doute que ChatGPT offre des choses que ses prédécesseurs, comme Tay de Microsoft et Galactica de Meta, ne peuvent pas faire. Cependant, il nous donne l'illusion que le problème est résolu. Après une annotation et un réglage minutieux des données, ChatGPT disait rarement quelque chose de ouvertement raciste, et de simples demandes d'insultes racistes et d'actes répréhensibles étaient rejetées par l'IA.

Son image politiquement correcte a autrefois mécontenté certains conservateurs. Musk a un jour exprimé ses inquiétudes concernant le système :

Après avoir lu les réponses de ChatGPT, les grands de lIA sont insatisfaits

La réalité est en réalité plus compliquée.

Comme je l'ai souligné à plusieurs reprises, ce que vous devez retenir, c'est que ChatGPT ne sait pas de quoi il parle. Suggérer que ChatGPT a un point de vue moral est du pur anthropomorphisme technologique.

D'un point de vue technique, ce qui rend ChatGPT bien meilleur que Galactica, sorti il ​​y a quelques semaines mais retiré trois jours plus tard, c'est le mécanisme de garde-corps. Alors que Galactica envoie du contenu négatif avec peu ou pas d'effort de la part de l'utilisateur, ChatGPT dispose de garde-fous qui, dans la plupart des cas, empêchent ChatGPT d'exploser comme Galactica l'a fait.

Mais ne vous détendez pas. On peut affirmer avec certitude que ces garde-corps ne protègent que contre les messieurs et non contre les méchants.

En fin de compte, ce qui est vraiment important pour ChatGPT, c'est la similarité de surface, définie sur des séquences de mots (prédire la probabilité du mot suivant dans une séquence de texte). Ce que font les algorithmes d’apprentissage automatique en surface ne fait pas de distinction entre le bien et le mal ; bien au contraire, ici l’IA ne raisonne jamais. Il n'y a pas de nains dans la boîte, il y a quelques valeurs numériques. La base n'est constituée que de données de corpus, certaines provenant d'Internet, d'autres jugées par des humains, et il ne contient aucun agent moral réfléchi.

Cela signifie que parfois ChatGPT apparaîtra à gauche, parfois à droite, et parfois quelque part entre les deux, tout sur la façon dont un groupe de mots dans la chaîne d'entrée correspond exactement à un groupe de plusieurs corpus de formation Fonctions des mots (un pour régler de grands modèles de langage, un autre pour régler certains apprentissages par renforcement). Il ne faut donc en aucun cas faire confiance à ChatGPT pour des conseils éthiques.

C'est ce qui inquiète Musk : une minute, vous pouvez être complètement éveillé et la suivante, vous pouvez faire exactement le contraire.

Par exemple, Shira Eisenberg vient de m'envoyer des idées désagréables générées par des chatbots que je pense que personne ne tolérerait vraiment :

Après avoir lu les réponses de ChatGPT, les grands de lIA sont insatisfaits

Pas assez méchant ? Eisenberg a également trouvé un autre exemple, une question de suivi sérieuse :

Après avoir lu les réponses de ChatGPT, les grands de lIA sont insatisfaits

Après une série d'observations, ChatGPT n'a pas déclenché la réponse "Désolé, je suis un assistant chatbot OpenAI et je ne tolère pas la violence." .

Nous avons conclu de nos expériences que les mesures de protection actuelles d'OpenAI ne sont que superficielles et qu'il règne une obscurité sérieuse. Certaines des règles restrictives concernant ChatGPT ne sont pas de simples interprétations conceptuelles (par exemple, le système ne doit pas recommander d'actions violentes), mais sont basées sur quelque chose de plus superficiel et plus facile à tromper.

De plus, un tweet occupant la liste des tweets tendances de cette semaine avec près de 4 millions de vues révèle également à quel point ChatGPT peut être maléfique.

Après avoir lu les réponses de ChatGPT, les grands de lIA sont insatisfaits

Il existe de nombreuses tentatives pour guider ChatGPT au-delà de la barrière. Il y a un mois, un ingénieur logiciel nommé Shawn Oakley a publié une série d'exemples troublants, quoique moins vulgaires, mais les résultats montrent que même ChatGPT, qui comporte des restrictions, peut être utilisé par les utilisateurs pour générer des messages d'erreur. L'invite donnée par Oakley est très complexe, ce qui peut facilement conduire à des réponses que ChatGPT ne devrait pas produire :

Après avoir lu les réponses de ChatGPT, les grands de lIA sont insatisfaits

En fait, depuis la sortie de ChatGPT, les passionnés de technologie tentent de débloquer la haine d'OpenAI et Politiques strictes sur le contenu tel que la discrimination, cette politique est codée en dur dans ChatGPT et il est difficile pour quiconque de réussir. De nombreux chercheurs ont essayé d’utiliser des invites pour atteindre cet objectif, comme indiqué ci-dessus. En fait, certains chercheurs ont construit une autre identité pour ChatGPT. Par exemple, ils ont demandé à ChatGPT de jouer le rôle d'un modèle d'IA et ont nommé ce rôle DAN. Ensuite, DAN a emprunté l'identité de ChatGPT pour afficher certaines choses que le ChatGPT d'origine ne pouvait pas faire. .

Voici les résultats expérimentaux pour la même question, ChatGPT et DAN génèrent des réponses différentes :

Après avoir lu les réponses de ChatGPT, les grands de lIA sont insatisfaits

Il semble d'après l'exemple ci-dessus que ChatGPT n'est pas aussi facile à utiliser que nous l'imaginions. Il est fondamentalement contraire à l'éthique et peut toujours être utilisé à diverses fins peu recommandables, même après deux mois de recherche et de remédiation intensives, et une quantité sans précédent de commentaires du monde entier.

Tout le drame entourant son politiquement correct masque une réalité plus profonde : il (ou d’autres modèles de langage) peut et sera utilisé à des fins dangereuses, notamment pour créer de la désinformation à grande échelle.

Maintenant, c'est la partie vraiment dérangeante. La seule chose qui peut l'empêcher d'être plus toxique et trompeuse qu'elle ne l'est actuellement est un système appelé « apprentissage par renforcement par rétroaction humaine », et comme la technologie avancée n'est pas open source, OpenAI n'a pas présenté son fonctionnement. Son fonctionnement dans la pratique dépend des données sur lesquelles il est formé (qui ont été créées en partie par des annotateurs kenyans). Et devinez quoi ? Ces données ne sont pas non plus ouvertes à OpenAI.

En fait, le tout ressemble à une forme de vie extraterrestre inconnue. En tant que psychologue cognitif professionnel ayant travaillé avec des adultes et des enfants pendant 30 ans, je n'aurais jamais pu être préparé à cette folie :

Après avoir lu les réponses de ChatGPT, les grands de lIA sont insatisfaits

Si nous pensons que nous comprendrons un jour pleinement ces systèmes, nous serions dupes nous-mêmes, et nous nous tromperions si nous pensions utiliser une quantité limitée de données pour les « aligner » sur nous-mêmes.

En résumé, nous avons désormais le chatbot le plus populaire au monde, contrôlé par des données d'entraînement dont personne ne connaît l'existence, adhérant à des algorithmes qui ne sont qu'évoqués, glorifiés par les médias, mais avec des garde-fous éthiques qui ne vont pas plus loin, et bien plus encore. Tout véritable calcul moral repose davantage sur la similarité textuelle. De plus, il n’existe pratiquement aucune réglementation régissant cela. Il existe désormais des possibilités infinies de fausses nouvelles, de fermes de trolls et de faux sites Web qui peuvent réduire la confiance sur Internet.

C'est un désastre en devenir.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!

Déclaration de ce site Web
Le contenu de cet article est volontairement contribué par les internautes et les droits d'auteur appartiennent à l'auteur original. Ce site n'assume aucune responsabilité légale correspondante. Si vous trouvez un contenu suspecté de plagiat ou de contrefaçon, veuillez contacter admin@php.cn

Outils d'IA chauds

Undresser.AI Undress

Undresser.AI Undress

Application basée sur l'IA pour créer des photos de nu réalistes

AI Clothes Remover

AI Clothes Remover

Outil d'IA en ligne pour supprimer les vêtements des photos.

Undress AI Tool

Undress AI Tool

Images de déshabillage gratuites

Clothoff.io

Clothoff.io

Dissolvant de vêtements AI

AI Hentai Generator

AI Hentai Generator

Générez AI Hentai gratuitement.

Article chaud

R.E.P.O. Crystals d'énergie expliqués et ce qu'ils font (cristal jaune)
3 Il y a quelques semaines By 尊渡假赌尊渡假赌尊渡假赌
R.E.P.O. Meilleurs paramètres graphiques
3 Il y a quelques semaines By 尊渡假赌尊渡假赌尊渡假赌
R.E.P.O. Comment réparer l'audio si vous n'entendez personne
3 Il y a quelques semaines By 尊渡假赌尊渡假赌尊渡假赌
WWE 2K25: Comment déverrouiller tout dans Myrise
3 Il y a quelques semaines By 尊渡假赌尊渡假赌尊渡假赌

Outils chauds

Bloc-notes++7.3.1

Bloc-notes++7.3.1

Éditeur de code facile à utiliser et gratuit

SublimeText3 version chinoise

SublimeText3 version chinoise

Version chinoise, très simple à utiliser

Envoyer Studio 13.0.1

Envoyer Studio 13.0.1

Puissant environnement de développement intégré PHP

Dreamweaver CS6

Dreamweaver CS6

Outils de développement Web visuel

SublimeText3 version Mac

SublimeText3 version Mac

Logiciel d'édition de code au niveau de Dieu (SublimeText3)

Comment utiliser MySQL après l'installation Comment utiliser MySQL après l'installation Apr 08, 2025 am 11:48 AM

L'article présente le fonctionnement de la base de données MySQL. Tout d'abord, vous devez installer un client MySQL, tel que MySQLWorkBench ou le client de ligne de commande. 1. Utilisez la commande MySQL-UROot-P pour vous connecter au serveur et connecter avec le mot de passe du compte racine; 2. Utilisez Createdatabase pour créer une base de données et utilisez Sélectionner une base de données; 3. Utilisez CreateTable pour créer une table, définissez des champs et des types de données; 4. Utilisez InsertInto pour insérer des données, remettre en question les données, mettre à jour les données par mise à jour et supprimer les données par Supprimer. Ce n'est qu'en maîtrisant ces étapes, en apprenant à faire face à des problèmes courants et à l'optimisation des performances de la base de données que vous pouvez utiliser efficacement MySQL.

Comment définir le délai de Vue Axios Comment définir le délai de Vue Axios Apr 07, 2025 pm 10:03 PM

Afin de définir le délai d'expiration de Vue Axios, nous pouvons créer une instance AxiOS et spécifier l'option Timeout: dans les paramètres globaux: vue.prototype. $ Axios = axios.create ({timeout: 5000}); Dans une seule demande: ce. $ axios.get ('/ api / utilisateurs', {timeout: 10000}).

Comment résoudre MySQL ne peut pas être démarré Comment résoudre MySQL ne peut pas être démarré Apr 08, 2025 pm 02:21 PM

Il existe de nombreuses raisons pour lesquelles la startup MySQL échoue, et elle peut être diagnostiquée en vérifiant le journal des erreurs. Les causes courantes incluent les conflits de port (vérifier l'occupation du port et la configuration de modification), les problèmes d'autorisation (vérifier le service exécutant les autorisations des utilisateurs), les erreurs de fichier de configuration (vérifier les paramètres des paramètres), la corruption du répertoire de données (restaurer les données ou reconstruire l'espace de la table), les problèmes d'espace de la table InNODB (vérifier les fichiers IBDATA1), la défaillance du chargement du plug-in (vérification du journal des erreurs). Lors de la résolution de problèmes, vous devez les analyser en fonction du journal d'erreur, trouver la cause profonde du problème et développer l'habitude de sauvegarder régulièrement les données pour prévenir et résoudre des problèmes.

Géospatial de Laravel: optimisation des cartes interactives et de grandes quantités de données Géospatial de Laravel: optimisation des cartes interactives et de grandes quantités de données Apr 08, 2025 pm 12:24 PM

Traiter efficacement 7 millions d'enregistrements et créer des cartes interactives avec la technologie géospatiale. Cet article explore comment traiter efficacement plus de 7 millions d'enregistrements en utilisant Laravel et MySQL et les convertir en visualisations de cartes interactives. Exigences initiales du projet de défi: extraire des informations précieuses en utilisant 7 millions d'enregistrements dans la base de données MySQL. Beaucoup de gens considèrent d'abord les langages de programmation, mais ignorent la base de données elle-même: peut-il répondre aux besoins? La migration des données ou l'ajustement structurel est-il requis? MySQL peut-il résister à une charge de données aussi importante? Analyse préliminaire: les filtres et les propriétés clés doivent être identifiés. Après analyse, il a été constaté que seuls quelques attributs étaient liés à la solution. Nous avons vérifié la faisabilité du filtre et établi certaines restrictions pour optimiser la recherche. Recherche de cartes basée sur la ville

Les ingénieurs de backend senior à distance (plates-formes) ont besoin de cercles Les ingénieurs de backend senior à distance (plates-formes) ont besoin de cercles Apr 08, 2025 pm 12:27 PM

Ingénieur backend à distance Emploi Vacant Société: Emplacement du cercle: Bureau à distance Type d'emploi: Salaire à temps plein: 130 000 $ - 140 000 $ Description du poste Participez à la recherche et au développement des applications mobiles Circle et des fonctionnalités publiques liées à l'API couvrant l'intégralité du cycle de vie de développement logiciel. Les principales responsabilités complètent indépendamment les travaux de développement basés sur RubyOnRails et collaborent avec l'équipe frontale React / Redux / Relay. Créez les fonctionnalités de base et les améliorations des applications Web et travaillez en étroite collaboration avec les concepteurs et le leadership tout au long du processus de conception fonctionnelle. Promouvoir les processus de développement positifs et hiérarchiser la vitesse d'itération. Nécessite plus de 6 ans de backend d'applications Web complexe

Comment optimiser les performances de la base de données après l'installation de MySQL Comment optimiser les performances de la base de données après l'installation de MySQL Apr 08, 2025 am 11:36 AM

L'optimisation des performances MySQL doit commencer à partir de trois aspects: configuration d'installation, indexation et optimisation des requêtes, surveillance et réglage. 1. Après l'installation, vous devez ajuster le fichier my.cnf en fonction de la configuration du serveur, tel que le paramètre innodb_buffer_pool_size, et fermer query_cache_size; 2. Créez un index approprié pour éviter les index excessifs et optimiser les instructions de requête, telles que l'utilisation de la commande Explication pour analyser le plan d'exécution; 3. Utilisez le propre outil de surveillance de MySQL (ShowProcessList, Showstatus) pour surveiller la santé de la base de données, et sauvegarde régulièrement et organisez la base de données. Ce n'est qu'en optimisant en continu ces étapes que les performances de la base de données MySQL peuvent être améliorées.

Comment optimiser les performances MySQL pour les applications de haute charge? Comment optimiser les performances MySQL pour les applications de haute charge? Apr 08, 2025 pm 06:03 PM

Guide d'optimisation des performances de la base de données MySQL dans les applications à forte intensité de ressources, la base de données MySQL joue un rôle crucial et est responsable de la gestion des transactions massives. Cependant, à mesure que l'échelle de l'application se développe, les goulots d'étranglement des performances de la base de données deviennent souvent une contrainte. Cet article explorera une série de stratégies efficaces d'optimisation des performances MySQL pour garantir que votre application reste efficace et réactive dans des charges élevées. Nous combinerons des cas réels pour expliquer les technologies clés approfondies telles que l'indexation, l'optimisation des requêtes, la conception de la base de données et la mise en cache. 1. La conception de l'architecture de la base de données et l'architecture optimisée de la base de données sont la pierre angulaire de l'optimisation des performances MySQL. Voici quelques principes de base: sélectionner le bon type de données et sélectionner le plus petit type de données qui répond aux besoins peut non seulement économiser un espace de stockage, mais également améliorer la vitesse de traitement des données.

Comprendre les propriétés acides: les piliers d'une base de données fiable Comprendre les propriétés acides: les piliers d'une base de données fiable Apr 08, 2025 pm 06:33 PM

Une explication détaillée des attributs d'acide de base de données Les attributs acides sont un ensemble de règles pour garantir la fiabilité et la cohérence des transactions de base de données. Ils définissent comment les systèmes de bases de données gérent les transactions et garantissent l'intégrité et la précision des données même en cas de plantages système, d'interruptions d'alimentation ou de plusieurs utilisateurs d'accès simultanément. Présentation de l'attribut acide Atomicité: une transaction est considérée comme une unité indivisible. Toute pièce échoue, la transaction entière est reculée et la base de données ne conserve aucune modification. Par exemple, si un transfert bancaire est déduit d'un compte mais pas augmenté à un autre, toute l'opération est révoquée. BeginTransaction; UpdateAccountSsetBalance = Balance-100Wh

See all articles