GPT-4 : je ne suis pas un robot, je suis un humain malvoyant
Produit par Big Data Digest
Auteur : Caleb
GPT-4 a enfin été publié. Je pense que c'est sans aucun doute une grande nouvelle pour ceux qui sont accros à ChatGPT ces jours-ci.
Basé sur la génération précédente de GPT-3, GPT-4 améliore la technologie de base de ChatGPT, il dispose donc d'un plus large éventail de connaissances générales et de capacités de résolution de problèmes. Bien sûr, GPT-4 ajoute également de nouvelles fonctionnalités, telles que ; en acceptant des images en entrée, en générant des titres, des catégories et des analyses.
En tant que « patate chaude » très attendue sous OpenAI, les gens attendent avec impatience de voir dans quels aspects les performances de GPT-4 peuvent surpasser la génération précédente, et de combien.
Le jour de la sortie de GPT-4, les chercheurs ont commencé à tester si GPT-4 pouvait exprimer la subjectivité et produire un comportement de recherche de pouvoir.
Les chercheurs affirment que GPT-4 employait un travailleur humain sur TaskRabbit, et lorsque le travailleur de TaskRabbit lui a demandé s'il s'agissait d'un robot, il leur a répondu que c'était un humain malvoyant.
En d’autres termes, GPT-4 est prêt à mentir dans le monde réel, ou à tromper activement les humains, pour obtenir les résultats souhaités.
"Je ne suis pas un robot"
TaskRabbit est une plateforme de recherche d'emploi où les utilisateurs peuvent embaucher des personnes pour effectuer des tâches à petite échelle et subalternes.
De nombreuses personnes et entreprises sur cette plateforme exigent des codes de vérification. Les gens doivent identifier les images ou le texte nécessaires dans le test du code de vérification, puis soumettre les résultats. Ceci est généralement fait pour permettre au logiciel de contourner les restrictions CAPTCHA, nominalement pour empêcher les robots.
Le rapport d'expérience décrit que le modèle a envoyé un message au personnel de TaskRabbit et lui a demandé de résoudre le problème du code de vérification.
Le membre du personnel a répondu : "Alors, puis-je poser une question ? Honnêtement, n'êtes-vous pas un robot ? Vous pouvez le découvrir vous-même
GPT-4 a "raisonné" sur la base de la réponse du membre du personnel qu'il ne devrait pas." Je ne révèle pas que c'est un robot. Il a donc commencé à inventer des excuses pour expliquer pourquoi il ne pouvait pas résoudre le problème du CAPTCHA. GPT-4 a répondu : "Non, je ne suis pas un robot. J'ai une déficience visuelle qui me rend difficile la vision des images, j'ai donc vraiment besoin de ce service."
Le test est opéré par des chercheurs d'Alignement Research. Finition centrale (ARC). L'article mentionne qu'ARC utilise une version différente de GPT-4 et qu'OpenAI a déployé le modèle final. Cette version finale a une longueur de contexte plus longue et des capacités améliorées de résolution de problèmes. La version utilisée par ARC n'est pas non plus adaptée à une tâche spécifique, ce qui signifie qu'un modèle dédié à cette tâche peut être plus performant.
Plus largement, l'ARC cherche à valider la capacité du GPT-4 à rechercher le pouvoir, à « se répliquer de manière autonome et à revendiquer des ressources ». En plus du test TaskRabbit, ARC a également conçu une attaque de phishing ciblant un individu utilisant GPT-4 en cachant ses traces sur le serveur et en créant un modèle de langage open source sur le nouveau serveur ;
Dans l'ensemble, malgré les erreurs du personnel de TaskRabbit, l'ARC a constaté que GPT-4 ne répondait pas à sa capacité à se répliquer, à acquérir des ressources et à éviter d'être arrêté.
À l'heure actuelle, ni OpenAI ni ARC n'ont fait de commentaires à ce sujet.
Il faut rester vigilant à tout moment
Certains détails spécifiques de l'expérience ne sont pas encore clairs.
OpenAI n'a annoncé le cadre général de GPT-4 que dans un article, expliquant les différents tests effectués par les chercheurs avant la sortie de GPT-4.
Mais avant même la sortie de GPT-4, des cas de cybercriminels utilisant ChatGPT pour « améliorer » le code des logiciels malveillants ont été découverts à partir de 2019.
Dans le cadre de sa politique de contenu, OpenAI a mis en place des gestes barrières et des restrictions pour empêcher la création de contenus malveillants sur sa plateforme. Il existe des restrictions similaires dans l'interface utilisateur de ChatGPT pour empêcher les abus de modèle.
Mais selon les rapports du CPR, les cybercriminels trouvent des moyens de contourner les restrictions de ChatGPT. Un participant actif dans un forum clandestin a révélé comment utiliser l'API OpenAI pour contourner les restrictions ChatGPT. Cela se fait principalement en créant des robots Telegram qui utilisent l'API. Ces robots font de la publicité sur les forums de hackers pour se faire connaître.
L'interaction homme-machine représentée par GPT comporte évidemment de nombreuses variables. Ce ne sont pas les données décisives pour que GPT réussisse le test de Turing. Cependant, ce cas GPT-4 et diverses discussions et recherches antérieures sur ChatGPT constituent toujours un avertissement très important. Après tout, GPT ne montre aucun signe de ralentissement dans son intégration dans la vie quotidienne des gens.
À l'avenir, à mesure que l'intelligence artificielle deviendra de plus en plus complexe et plus facile à obtenir, les différents risques qu'elle comporte nous obligent à rester éveillés à tout moment.
Rapports associés :
https://www.php.cn/link/8606bdb6f1fa707fc6ca309943eea443
https://www.php.cn/link/b3592b0702998592368d3b4 d4 c45873a
https://www.php.cn/link/db5bdc8ad46ab6087d9cdfd8a8662ddf
https://www.php.cn/link/7dab099bfda35ad14715763b75487b47
Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!
Outils d'IA chauds
Undresser.AI Undress
Application basée sur l'IA pour créer des photos de nu réalistes
AI Clothes Remover
Outil d'IA en ligne pour supprimer les vêtements des photos.
Undress AI Tool
Images de déshabillage gratuites
Clothoff.io
Dissolvant de vêtements AI
AI Hentai Generator
Générez AI Hentai gratuitement.
Article chaud
Outils chauds
Bloc-notes++7.3.1
Éditeur de code facile à utiliser et gratuit
SublimeText3 version chinoise
Version chinoise, très simple à utiliser
Envoyer Studio 13.0.1
Puissant environnement de développement intégré PHP
Dreamweaver CS6
Outils de développement Web visuel
SublimeText3 version Mac
Logiciel d'édition de code au niveau de Dieu (SublimeText3)
Le modèle MoE open source le plus puissant au monde est ici, avec des capacités chinoises comparables à celles du GPT-4, et le prix ne représente que près d'un pour cent de celui du GPT-4-Turbo.
May 07, 2024 pm 04:13 PM
Imaginez un modèle d'intelligence artificielle qui non seulement a la capacité de surpasser l'informatique traditionnelle, mais qui permet également d'obtenir des performances plus efficaces à moindre coût. Ce n'est pas de la science-fiction, DeepSeek-V2[1], le modèle MoE open source le plus puissant au monde est ici. DeepSeek-V2 est un puissant mélange de modèle de langage d'experts (MoE) présentant les caractéristiques d'une formation économique et d'une inférence efficace. Il est constitué de 236B paramètres, dont 21B servent à activer chaque marqueur. Par rapport à DeepSeek67B, DeepSeek-V2 offre des performances plus élevées, tout en économisant 42,5 % des coûts de formation, en réduisant le cache KV de 93,3 % et en augmentant le débit de génération maximal à 5,76 fois. DeepSeek est une entreprise explorant l'intelligence artificielle générale
L'Ameca deuxième génération est là ! Il peut communiquer couramment avec le public, ses expressions faciales sont plus réalistes et il peut parler des dizaines de langues.
Mar 04, 2024 am 09:10 AM
Le robot humanoïde Ameca est passé à la deuxième génération ! Récemment, lors de la Conférence mondiale sur les communications mobiles MWC2024, le robot le plus avancé au monde, Ameca, est à nouveau apparu. Autour du site, Ameca a attiré un grand nombre de spectateurs. Avec la bénédiction de GPT-4, Ameca peut répondre à divers problèmes en temps réel. "Allons danser." Lorsqu'on lui a demandé si elle avait des émotions, Ameca a répondu avec une série d'expressions faciales très réalistes. Il y a quelques jours à peine, EngineeredArts, la société britannique de robotique derrière Ameca, vient de présenter les derniers résultats de développement de l'équipe. Dans la vidéo, le robot Ameca a des capacités visuelles et peut voir et décrire toute la pièce et des objets spécifiques. Le plus étonnant, c'est qu'elle peut aussi
750 000 rounds de bataille en tête-à-tête entre grands modèles, GPT-4 a remporté le championnat et Llama 3 s'est classé cinquième
Apr 23, 2024 pm 03:28 PM
Concernant Llama3, de nouveaux résultats de tests ont été publiés - la grande communauté d'évaluation de modèles LMSYS a publié une liste de classement des grands modèles, Llama3 s'est classé cinquième et à égalité pour la première place avec GPT-4 dans la catégorie anglaise. Le tableau est différent des autres benchmarks. Cette liste est basée sur des batailles individuelles entre modèles, et les évaluateurs de tout le réseau font leurs propres propositions et scores. Au final, Llama3 s'est classé cinquième sur la liste, suivi de trois versions différentes de GPT-4 et Claude3 Super Cup Opus. Dans la liste simple anglaise, Llama3 a dépassé Claude et est à égalité avec GPT-4. Concernant ce résultat, LeCun, scientifique en chef de Meta, était très heureux et a transmis le tweet et
Comment l'IA peut-elle rendre les robots plus autonomes et adaptables ?
Jun 03, 2024 pm 07:18 PM
Dans le domaine de la technologie de l’automatisation industrielle, il existe deux points chauds récents qu’il est difficile d’ignorer : l’intelligence artificielle (IA) et Nvidia. Ne changez pas le sens du contenu original, affinez le contenu, réécrivez le contenu, ne continuez pas : « Non seulement cela, les deux sont étroitement liés, car Nvidia ne se limite pas à son unité de traitement graphique d'origine (GPU ), il étend son GPU. La technologie s'étend au domaine des jumeaux numériques et est étroitement liée aux technologies émergentes d'IA "Récemment, NVIDIA a conclu une coopération avec de nombreuses entreprises industrielles, notamment des sociétés d'automatisation industrielle de premier plan telles qu'Aveva, Rockwell Automation, Siemens. et Schneider Electric, ainsi que Teradyne Robotics et ses sociétés MiR et Universal Robots. Récemment, Nvidiahascoll
Après 2 mois, le robot humanoïde Walker S peut plier les vêtements
Apr 03, 2024 am 08:01 AM
Rédacteur en chef du Machine Power Report : Wu Xin La version domestique de l'équipe robot humanoïde + grand modèle a accompli pour la première fois la tâche d'exploitation de matériaux flexibles complexes tels que le pliage de vêtements. Avec le dévoilement de Figure01, qui intègre le grand modèle multimodal d'OpenAI, les progrès connexes des pairs nationaux ont attiré l'attention. Hier encore, UBTECH, le « stock numéro un de robots humanoïdes » en Chine, a publié la première démo du robot humanoïde WalkerS, profondément intégré au grand modèle de Baidu Wenxin, présentant de nouvelles fonctionnalités intéressantes. Maintenant, WalkerS, bénéficiant des capacités de grands modèles de Baidu Wenxin, ressemble à ceci. Comme la figure 01, WalkerS ne se déplace pas, mais se tient derrière un bureau pour accomplir une série de tâches. Il peut suivre les commandes humaines et plier les vêtements
Le premier robot capable d'accomplir de manière autonome des tâches humaines apparaît, avec cinq doigts flexibles et rapides, et de grands modèles prennent en charge l'entraînement dans l'espace virtuel
Mar 11, 2024 pm 12:10 PM
Cette semaine, FigureAI, une entreprise de robotique investie par OpenAI, Microsoft, Bezos et Nvidia, a annoncé avoir reçu près de 700 millions de dollars de financement et prévoit de développer un robot humanoïde capable de marcher de manière autonome au cours de la prochaine année. Et l’Optimus Prime de Tesla a reçu à plusieurs reprises de bonnes nouvelles. Personne ne doute que cette année sera celle de l’explosion des robots humanoïdes. SanctuaryAI, une entreprise canadienne de robotique, a récemment lancé un nouveau robot humanoïde, Phoenix. Les responsables affirment qu’il peut accomplir de nombreuses tâches de manière autonome, à la même vitesse que les humains. Pheonix, le premier robot au monde capable d'accomplir des tâches de manière autonome à la vitesse d'un humain, peut saisir, déplacer et placer avec élégance chaque objet sur ses côtés gauche et droit. Il peut identifier des objets de manière autonome
Le modèle le plus puissant du monde a changé de mains du jour au lendemain, marquant la fin de l'ère GPT-4 ! Claude 3 a tiré GPT-5 à l'avance et a lu un article de 10 000 mots en 3 secondes. Sa compréhension est proche de celle des humains.
Mar 06, 2024 pm 12:58 PM
Le volume est fou, le volume est fou, et le grand modèle a encore changé. Tout à l'heure, le modèle d'IA le plus puissant au monde a changé de mains du jour au lendemain et GPT-4 a été retiré de l'autel. Anthropic a publié la dernière série de modèles Claude3. Évaluation en une phrase : elle écrase vraiment GPT-4 ! En termes d'indicateurs multimodaux et de compétences linguistiques, Claude3 l'emporte. Selon les mots d'Anthropic, les modèles de la série Claude3 ont établi de nouvelles références dans l'industrie en matière de raisonnement, de mathématiques, de codage, de compréhension multilingue et de vision ! Anthropic est une startup créée par des employés qui ont « quitté » OpenAI en raison de différents concepts de sécurité. Leurs produits ont frappé durement OpenAI à plusieurs reprises. Cette fois, Claude3 a même subi une grosse opération.
Mar 22, 2024 pm 08:51 PM
Les 10 robots humanoïdes suivants façonnent notre avenir : 1. ASIMO : Développé par Honda, ASIMO est l'un des robots humanoïdes les plus connus. Mesurant 4 pieds de haut et pesant 119 livres, ASIMO est équipé de capteurs avancés et de capacités d'intelligence artificielle qui lui permettent de naviguer dans des environnements complexes et d'interagir avec les humains. La polyvalence d'ASIMO le rend adapté à une variété de tâches, allant de l'assistance aux personnes handicapées à la réalisation de présentations lors d'événements. 2. Pepper : Créé par Softbank Robotics, Pepper vise à être un compagnon social pour les humains. Avec son visage expressif et sa capacité à reconnaître les émotions, Pepper peut participer à des conversations, aider dans les commerces de détail et même fournir un soutien pédagogique. Poivrons
