Maison > Périphériques technologiques > IA > le corps du texte

ChatGPT 'Nemesis' : utilisez l'IA pour reconnaître le texte généré par l'IA et les notes de lecture sur papier en anglais peuvent être détectées

王林
Libérer: 2023-04-29 11:25:06
avant
1833 Les gens l'ont consulté

L'émergence de ChatGPT a permis à de nombreuses personnes de voir poindre un gros chantier en fin de délai de livraison (tête de chien manuelle).

Qu'il s'agisse d'un article en anglais ou de notes de lecture, tant qu'il entre dans le champ de connaissances de ChatGPT, vous pouvez lui demander de vous aider à le compléter, et le contenu écrit sera bien fondé.

Cependant, avez-vous déjà pensé que votre professeur se prépare également à utiliser quelque chose comme un « détecteur de texte IA » pour vous empêcher de tricher ?

Entrez une note qui ressemble bien à ceci. Après quelques tests, il a conclu que la possibilité que ce texte soit "écrit par l'IA" (Faux) est de 99,98 % !

ChatGPT Nemesis : utilisez lIA pour reconnaître le texte généré par lIA et les notes de lecture sur papier en anglais peuvent être détectées

△Texte généré par ChatGPT

Essayer une autre épreuve de mathématiques ? La sortie de ChatGPT ne semble poser aucun problème, mais elle est toujours reconnue avec précision par celui-ci :

ChatGPT Nemesis : utilisez lIA pour reconnaître le texte généré par lIA et les notes de lecture sur papier en anglais peuvent être détectées

△Le texte est généré par ChatGPT

Ceci n'est pas basé sur des suppositions aveugles ou des suppositions. Après tout, l'autre partie est aussi une IA et une IA bien entraînée.

En voyant cela, certains internautes ont plaisanté : Utiliser la magie pour vaincre la magie ?

ChatGPT Nemesis : utilisez lIA pour reconnaître le texte généré par lIA et les notes de lecture sur papier en anglais peuvent être détectées

Utilisez des éléments écrits par l'IA pour former de nouvelles IA

Ce détecteur d'IA s'appelle GPT-2 Output Detector et OpenAI. construit en collaboration avec l'Université Harvard et d'autres universités et institutions. (Oui, OpenAI l'a fait tout seul)

ChatGPT Nemesis : utilisez lIA pour reconnaître le texte généré par lIA et les notes de lecture sur papier en anglais peuvent être détectées

Vous pouvez identifier plus précisément le texte généré par l'IA en saisissant plus de 50 caractères (jetons).

Mais même un modèle spécialisé dans la détection de GPT-2 est tout aussi efficace pour détecter le texte généré par d'autres IA.

Les auteurs ont d'abord publié un "contenu généré par GPT-2" et des ensembles de données WebText (spécialement extraits de la barre de publication étrangère Reddit) pour permettre à l'IA de comprendre la différence entre le "langage de l'IA" et le "discours humain".

Par la suite, cet ensemble de données a été utilisé pour affiner le modèle RoBERTa, et le détecteur IA a été obtenu.

RoBERTa (approche BERT robustement optimisée) est une version améliorée de BERT. Le BERT original utilisait un ensemble de données de 13 Go, mais RoBERTa utilisait un ensemble de données de 160 Go contenant 63 millions d'informations en anglais.

Parmi eux, les mots humains sont toujours reconnus comme vrais, et le contenu généré par l'IA est toujours reconnu comme faux.

Par exemple, il s'agit d'un contenu copié du blog Medium English. A en juger par les résultats de reconnaissance, il est évident que l'auteur l'a écrit lui-même (tête de chien manuelle) :

ChatGPT Nemesis : utilisez lIA pour reconnaître le texte généré par lIA et les notes de lecture sur papier en anglais peuvent être détectées

△Source du texte Medium@Megan Ng#🎜 🎜## 🎜🎜#Bien sûr, ce détecteur n'est pas précis à 100%.

Plus le nombre de paramètres du modèle d'IA est grand, moins il est probable que le contenu généré soit reconnu. Par exemple, un modèle avec 124 millions de paramètres a une probabilité plus élevée d'être « capturé » qu'un modèle avec 124 millions de paramètres. modèle avec 1,5 milliard de paramètres.

Dans le même temps, plus le caractère aléatoire des résultats de génération du modèle est élevé, plus la probabilité que le contenu généré par l'IA soit détecté est faible.

Mais même si le modèle est ajusté pour générer le caractère aléatoire le plus élevé (Température=1, plus proche de 0, plus le caractère aléatoire est faible), la probabilité d'être détecté par le modèle à 124 millions de paramètres est toujours de 88 %, 1,5 milliard de paramètres. La probabilité que le modèle soit détecté est toujours de 74 %.

Il s'agit d'un modèle publié par OpenAI il y a deux ans. A cette époque, le contenu généré par GPT-2 était "précis".

Face à la version améliorée de ChatGPT, l'effet de détection du contenu généré en anglais peut toujours être obtenu.

Mais lorsqu'il s'agit du chinois généré par ChatGPT, sa capacité de reconnaissance n'est pas si bonne. Par exemple, laissez ChatGPT écrire une composition :

ChatGPT Nemesis : utilisez lIA pour reconnaître le texte généré par lIA et les notes de lecture sur papier en anglais peuvent être détectéesLe détecteur IA donne une probabilité de 99,96% qu'elle ait été écrite par un humain...

ChatGPT Nemesis : utilisez lIA pour reconnaître le texte généré par lIA et les notes de lecture sur papier en anglais peuvent être détectéesBien entendu, ChatGPT peut également détecter le texte qu'il génère.

Il n'est donc pas exclu que le professeur remette vos devoirs directement à ChatGPT pour identification :

ChatGPT Nemesis : utilisez lIA pour reconnaître le texte généré par lIA et les notes de lecture sur papier en anglais peuvent être détectéesOne More Chose#🎜🎜 #

Il convient de mentionner que ChatGPT a déclaré qu'il ne pouvait pas accéder à Internet pour rechercher des informations.

Évidemment, il n'est pas au courant de l'existence du détecteur AI GPT-2 Output Detector :

ChatGPT Nemesis : utilisez lIA pour reconnaître le texte généré par lIA et les notes de lecture sur papier en anglais peuvent être détectées

Alors, comme l'ont dit les internautes, ChatGPT peut-il générer un contenu qui n'est « pas détecté par le détecteur IA » ?

ChatGPT Nemesis : utilisez lIA pour reconnaître le texte généré par lIA et les notes de lecture sur papier en anglais peuvent être détectées

Malheureusement, je ne peux pas :

ChatGPT Nemesis : utilisez lIA pour reconnaître le texte généré par lIA et les notes de lecture sur papier en anglais peuvent être détectées

Donc je continue écrire les gros devoirs par moi-même Allons...

Lien de référence : [1]​​https://weibo.com/1402400261/Mj7QtwRoH[2]https://github. com/openai/gpt-2 -output-dataset/tree/master/detector[3]https://chat.openai.com​​/

[4]https:/ /medium.com/user-experience-design-1/how-chatgpt-is-blowing-google-out-of-the-water-a-ux-breakdown-784340c25d57

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!

Étiquettes associées:
source:51cto.com
Déclaration de ce site Web
Le contenu de cet article est volontairement contribué par les internautes et les droits d'auteur appartiennent à l'auteur original. Ce site n'assume aucune responsabilité légale correspondante. Si vous trouvez un contenu suspecté de plagiat ou de contrefaçon, veuillez contacter admin@php.cn
Tutoriels populaires
Plus>
Derniers téléchargements
Plus>
effets Web
Code source du site Web
Matériel du site Web
Modèle frontal
À propos de nous Clause de non-responsabilité Sitemap
Site Web PHP chinois:Formation PHP en ligne sur le bien-être public,Aidez les apprenants PHP à grandir rapidement!