OpenAI lance l'outil de détection de génération de texte d'intelligence artificielle ChatGPT

​ChatGPT

ChatGPT est un modèle de dialogue interactif en langage naturel lancé par OpenAI en novembre 2022. OpenAI utilise RLHF (Reinforcement Learning from Human Feedback) pour entraîner ChatGPT, qui est la même méthode utilisée par InstructGPT, mais il existe des différences évidentes dans les paramètres de collecte de données. Utiliser le réglage supervisé (paramètre) lors de la formation du modèle initial : séances dispensées par un entraîneur d'IA humaine. Les formateurs ont accès à des suggestions de modèles pour les aider à mieux compléter leurs réponses. L'ensemble de données conversationnelles nouvellement généré est ensuite mélangé avec l'ensemble de données InstructGPT pour former un format conversationnel.

ChatGPT a provoqué un choc dans l'industrie après sa sortie et a ensuite été largement testé par toutes les parties, y compris les étudiants. Certains étudiants essaient ChatGPT pour rédiger des devoirs, des devoirs et des programmes, et il est difficile pour les enseignants de savoir si les devoirs, les devoirs et les programmes sont réalisés par les étudiants eux-mêmes. De plus, de nombreux articles inédits signés ChatGPT ont été publiés.

En réponse à ce problème, les écoles du monde entier ont pris des mesures, comme l'interdiction de la plateforme. Selon Business Insider, ChatGPT a été interdit dans les collèges et lycées de New York, Seattle, Los Angeles et ailleurs, et la plateforme a également été interdite sur les ordinateurs des universités en France et en Inde.

Outil de détection ChatGPT

Le 31 janvier, OpenAI a annoncé le lancement d'un classificateur de texte d'intelligence artificielle, conçu pour détecter si le contenu d'entrée est généré par des outils d'intelligence artificielle comme ChatGPT.

OpenAI affirme que son classificateur n'est pas totalement fiable. Lorsqu'il a été testé sur du texte anglais, le classificateur a correctement identifié 26 % du texte généré par l'intelligence artificielle, et environ 9 % du contenu écrit par des humains a été incorrectement étiqueté comme généré par l'intelligence artificielle. Les performances du classificateur s'améliorent à mesure que la longueur du texte saisi augmente. Par rapport aux autres classificateurs précédents, la précision de ce classificateur est supérieure à celle des autres classificateurs de détection.

Adresse de l'essai Classifier : http://platform.openai.com/ai-text-classifier

OpenAI a déclaré que, comme les résultats ne sont pas totalement fiables, il n'est pas recommandé d'utiliser cet outil pour la prise de décision, mais comme d'autres outils de détection et complément à la méthode.

Adresse d'essai ChatGPT : https://chat.openai.com/

https://openai.com/blog/new-ai-classifier-for-indicating-ai-writing-text

Cet article est Traduit de：https://www.bleepingcomputer.com/news/technology/openai-releases-tool-to-detect-ai-writing-text/

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!