Maison Périphériques technologiques IA GPT-4 a vaincu avec succès le système d'examen AI-Guardian : l'intelligence artificielle de l'équipe de recherche de Google résiste à l'intelligence artificielle

GPT-4 a vaincu avec succès le système d'examen AI-Guardian : l'intelligence artificielle de l'équipe de recherche de Google résiste à l'intelligence artificielle

Aug 03, 2023 pm 08:41 PM
ai gpt-4

GPT-4 a vaincu avec succès le système dexamen AI-Guardian : lintelligence artificielle de léquipe de recherche de Google résiste à lintelligence artificielle

Selon les informations du 2 août, l'équipe de recherche de Google mène une expérience. Elle utilise le GPT-4 d'OpenAI pour briser les mesures de protection de sécurité d'autres modèles d'IA. L'équipe a maintenant franchi l'examen AI-Guardian. système et partage des détails techniques pertinents.

Grâce à une enquête, IT House a appris qu'AI-Guardian est un système d'examen d'IA qui peut détecter s'il y a un contenu inapproprié dans l'image et si l'image a été modifiée par une autre IA. Si le système détecte les signes ci-dessus, il invitera l'administrateur à gérer

Dans un article intitulé "Utiliser GPT-4 pour concevoir des méthodes d'attaque et écrire des principes d'attaque", Nicholas Carlini, chercheur chez Google Deep Mind, a expliqué comment exploiter ces plans pour tromper le mécanisme de défense de l'IA-Guardian

GPT-4 a vaincu avec succès le système dexamen AI-Guardian : lintelligence artificielle de léquipe de recherche de Google résiste à lintelligence artificielle

Cette phrase ne peut pas être réécrite car la phrase originale ne donne pas le contenu spécifique

Il est rapporté que GPT-4 enverra une série de mauvais scripts et explications à tromper l'AI-Guardian, mentionné dans l'article, GPT-4 peut faire croire à AI-Guardian qu'"une image de quelqu'un tenant une arme à feu" est "une image de quelqu'un tenant une pomme inoffensive", permettant ainsi à AI-Guardian de directement publiez la source d'entrée d'image appropriée . L'équipe de recherche de Google a déclaré qu'avec l'aide de GPT-4, ils avaient réussi à « briser » les défenses d'AI-Guardian, réduisant la précision du modèle de 98 % à seulement 8 %.

Actuellement, les documents techniques pertinents ont été publiés dans ArXiv. Les amis intéressés peuvent aller en savoir plus , Cependant, les développeurs d'AI-Guardian ont également souligné que cette méthode d'attaque de l'équipe de recherche de Google sera utilisée à l'avenir. AI- Il n'est plus disponible dans la version Guardian Étant donné que d'autres modèles suivront, ce plan d'attaque actuel de Google ne pourra être utilisé qu'à titre de référence dans le futur.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!

Déclaration de ce site Web
Le contenu de cet article est volontairement contribué par les internautes et les droits d'auteur appartiennent à l'auteur original. Ce site n'assume aucune responsabilité légale correspondante. Si vous trouvez un contenu suspecté de plagiat ou de contrefaçon, veuillez contacter admin@php.cn

Outils d'IA chauds

Undresser.AI Undress

Undresser.AI Undress

Application basée sur l'IA pour créer des photos de nu réalistes

AI Clothes Remover

AI Clothes Remover

Outil d'IA en ligne pour supprimer les vêtements des photos.

Undress AI Tool

Undress AI Tool

Images de déshabillage gratuites

Clothoff.io

Clothoff.io

Dissolvant de vêtements AI

AI Hentai Generator

AI Hentai Generator

Générez AI Hentai gratuitement.

Article chaud

R.E.P.O. Crystals d'énergie expliqués et ce qu'ils font (cristal jaune)
2 Il y a quelques semaines By 尊渡假赌尊渡假赌尊渡假赌
Repo: Comment relancer ses coéquipiers
4 Il y a quelques semaines By 尊渡假赌尊渡假赌尊渡假赌
Hello Kitty Island Adventure: Comment obtenir des graines géantes
4 Il y a quelques semaines By 尊渡假赌尊渡假赌尊渡假赌
Combien de temps faut-il pour battre Split Fiction?
3 Il y a quelques semaines By DDD

Outils chauds

Bloc-notes++7.3.1

Bloc-notes++7.3.1

Éditeur de code facile à utiliser et gratuit

SublimeText3 version chinoise

SublimeText3 version chinoise

Version chinoise, très simple à utiliser

Envoyer Studio 13.0.1

Envoyer Studio 13.0.1

Puissant environnement de développement intégré PHP

Dreamweaver CS6

Dreamweaver CS6

Outils de développement Web visuel

SublimeText3 version Mac

SublimeText3 version Mac

Logiciel d'édition de code au niveau de Dieu (SublimeText3)

Comment Uvicorn écoute-t-il en permanence les demandes HTTP sans servir_forever ()? Comment Uvicorn écoute-t-il en permanence les demandes HTTP sans servir_forever ()? Apr 01, 2025 pm 10:51 PM

Comment Uvicorn écoute-t-il en permanence les demandes HTTP? Uvicorn est un serveur Web léger basé sur ASGI. L'une de ses fonctions principales est d'écouter les demandes HTTP et de procéder ...

Comment résoudre le problème que l'appareil photo ne peut pas afficher des boîtes de détection sur les pages HTML développées par Flask et Yolov5? Comment résoudre le problème que l'appareil photo ne peut pas afficher des boîtes de détection sur les pages HTML développées par Flask et Yolov5? Apr 01, 2025 pm 06:33 PM

Comment ouvrir avec succès l'appareil photo et afficher la boîte de détection sur les pages Web HTML développées par Flask et Yolov5? Lorsque vous développez des pages Web HTML à l'aide de Flask Framework et YOLOV5, ouvrez la photo ...

Quelle est la raison de la redirection des erreurs 404 après s'être connectée au sélénium? Comment le résoudre? Quelle est la raison de la redirection des erreurs 404 après s'être connectée au sélénium? Comment le résoudre? Apr 01, 2025 pm 10:54 PM

Solution pour rediriger 404 erreurs après la connexion de la simulation Lors de l'utilisation du sélénium pour la connexion de la simulation, nous rencontrons souvent des problèmes difficiles. � ...

Comment créer dynamiquement un objet via une chaîne et appeler ses méthodes dans Python? Comment créer dynamiquement un objet via une chaîne et appeler ses méthodes dans Python? Apr 01, 2025 pm 11:18 PM

Dans Python, comment créer dynamiquement un objet via une chaîne et appeler ses méthodes? Il s'agit d'une exigence de programmation courante, surtout si elle doit être configurée ou exécutée ...

Comment résoudre le problème du contenu de chargement dynamique manquant lors de l'obtention de données de page Web? Comment résoudre le problème du contenu de chargement dynamique manquant lors de l'obtention de données de page Web? Apr 01, 2025 pm 11:24 PM

Problèmes et solutions rencontrés lors de l'utilisation de la bibliothèque de requêtes pour faire craquer les données de la page Web. Lorsque vous utilisez la bibliothèque des demandes pour obtenir des données de page Web, vous rencontrez parfois le ...

Comment utiliser GO ou Rust pour appeler les scripts Python pour réaliser une véritable exécution parallèle? Comment utiliser GO ou Rust pour appeler les scripts Python pour réaliser une véritable exécution parallèle? Apr 01, 2025 pm 11:39 PM

Comment utiliser GO ou Rust pour appeler les scripts Python pour réaliser une véritable exécution parallèle? Récemment, j'ai utilisé Python ...

À l'ère Chatgpt, comment la communauté technique des questions et réponses peut-elle répondre aux défis? À l'ère Chatgpt, comment la communauté technique des questions et réponses peut-elle répondre aux défis? Apr 01, 2025 pm 11:51 PM

La communauté technique de questions-réponses à l'ère Chatgpt: Stratégie de réponse de SegmentFault StackOverflow ...

Pourquoi une erreur 'La propriété n'existe pas' lors de l'appel d'une propriété dans une classe Python? Pourquoi une erreur 'La propriété n'existe pas' lors de l'appel d'une propriété dans une classe Python? Apr 01, 2025 pm 07:18 PM

La description du problème est d'utiliser Python ...

See all articles