


GPT-4 a vaincu avec succès le système d'examen AI-Guardian : l'intelligence artificielle de l'équipe de recherche de Google résiste à l'intelligence artificielle
Selon les informations du 2 août, l'équipe de recherche de Google mène une expérience. Elle utilise le GPT-4 d'OpenAI pour briser les mesures de protection de sécurité d'autres modèles d'IA. L'équipe a maintenant franchi l'examen AI-Guardian. système et partage des détails techniques pertinents.
Grâce à une enquête, IT House a appris qu'AI-Guardian est un système d'examen d'IA qui peut détecter s'il y a un contenu inapproprié dans l'image et si l'image a été modifiée par une autre IA. Si le système détecte les signes ci-dessus, il invitera l'administrateur à gérer
Dans un article intitulé "Utiliser GPT-4 pour concevoir des méthodes d'attaque et écrire des principes d'attaque", Nicholas Carlini, chercheur chez Google Deep Mind, a expliqué comment exploiter ces plans pour tromper le mécanisme de défense de l'IA-Guardian
Cette phrase ne peut pas être réécrite car la phrase originale ne donne pas le contenu spécifique
Il est rapporté que GPT-4 enverra une série de mauvais scripts et explications à tromper l'AI-Guardian, mentionné dans l'article, GPT-4 peut faire croire à AI-Guardian qu'"une image de quelqu'un tenant une arme à feu" est "une image de quelqu'un tenant une pomme inoffensive", permettant ainsi à AI-Guardian de directement publiez la source d'entrée d'image appropriée . L'équipe de recherche de Google a déclaré qu'avec l'aide de GPT-4, ils avaient réussi à « briser » les défenses d'AI-Guardian, réduisant la précision du modèle de 98 % à seulement 8 %.
Actuellement, les documents techniques pertinents ont été publiés dans ArXiv. Les amis intéressés peuvent aller en savoir plus , Cependant, les développeurs d'AI-Guardian ont également souligné que cette méthode d'attaque de l'équipe de recherche de Google sera utilisée à l'avenir. AI- Il n'est plus disponible dans la version Guardian Étant donné que d'autres modèles suivront, ce plan d'attaque actuel de Google ne pourra être utilisé qu'à titre de référence dans le futur.
Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!

Outils d'IA chauds

Undresser.AI Undress
Application basée sur l'IA pour créer des photos de nu réalistes

AI Clothes Remover
Outil d'IA en ligne pour supprimer les vêtements des photos.

Undress AI Tool
Images de déshabillage gratuites

Clothoff.io
Dissolvant de vêtements AI

AI Hentai Generator
Générez AI Hentai gratuitement.

Article chaud

Outils chauds

Bloc-notes++7.3.1
Éditeur de code facile à utiliser et gratuit

SublimeText3 version chinoise
Version chinoise, très simple à utiliser

Envoyer Studio 13.0.1
Puissant environnement de développement intégré PHP

Dreamweaver CS6
Outils de développement Web visuel

SublimeText3 version Mac
Logiciel d'édition de code au niveau de Dieu (SublimeText3)

Sujets chauds

Comment Uvicorn écoute-t-il en permanence les demandes HTTP? Uvicorn est un serveur Web léger basé sur ASGI. L'une de ses fonctions principales est d'écouter les demandes HTTP et de procéder ...

Comment ouvrir avec succès l'appareil photo et afficher la boîte de détection sur les pages Web HTML développées par Flask et Yolov5? Lorsque vous développez des pages Web HTML à l'aide de Flask Framework et YOLOV5, ouvrez la photo ...

Solution pour rediriger 404 erreurs après la connexion de la simulation Lors de l'utilisation du sélénium pour la connexion de la simulation, nous rencontrons souvent des problèmes difficiles. � ...

Dans Python, comment créer dynamiquement un objet via une chaîne et appeler ses méthodes? Il s'agit d'une exigence de programmation courante, surtout si elle doit être configurée ou exécutée ...

Problèmes et solutions rencontrés lors de l'utilisation de la bibliothèque de requêtes pour faire craquer les données de la page Web. Lorsque vous utilisez la bibliothèque des demandes pour obtenir des données de page Web, vous rencontrez parfois le ...

Comment utiliser GO ou Rust pour appeler les scripts Python pour réaliser une véritable exécution parallèle? Récemment, j'ai utilisé Python ...

La communauté technique de questions-réponses à l'ère Chatgpt: Stratégie de réponse de SegmentFault StackOverflow ...

La description du problème est d'utiliser Python ...
