Table des matières
ICML interdit l'utilisation de grands modèles de langage pour rédiger des articles
Une école de la ville de New York interdit l'accès à ChatGPT
Maison Périphériques technologiques IA ChatGPT a été interdit d'entrée dans les écoles. L'IA modifiera spécialement les règles. LeCun : Et si nous interdisions également les petits modèles ?

ChatGPT a été interdit d'entrée dans les écoles. L'IA modifiera spécialement les règles. LeCun : Et si nous interdisions également les petits modèles ?

Apr 12, 2023 pm 03:43 PM
ai

Si vous voulez demander quel modèle est le plus populaire dans l'industrie de l'IA ces derniers temps, neuf personnes sur dix voteront pour ChatGPT Il n'y a aucun moyen, ce modèle est trop populaire car il peut faire trop de choses. . Beaucoup de gens le décrivent comme un véritable « guerrier hexagonal » : non seulement il peut être utilisé pour discuter, rechercher et traduire, mais il peut également être utilisé pour écrire des histoires, écrire du code, déboguer, et même développer de petits jeux et prendre le dessus sur l'Amérique. examen d'entrée à l'université... Certaines personnes plaisantent en disant qu'à partir de maintenant, il n'y aura que deux types de modèles d'intelligence artificielle à l'avenir - ChatGPT et autres.

D'une part, les capacités de ChatGPT sont si étonnantes qu'il est apprécié du public. D'autre part, il est également en difficulté constante et a été interdit par différentes organisations. Il y a quelque temps, on a appris que Stack Overflow avait interdit ChatGPT pour aucune autre raison. Le responsable a déclaré que ChatGPT avait été temporairement interdit car la précision des réponses générées était trop faible. La publication des réponses créées par ChatGPT est très importante pour le site Web. les utilisateurs qui interrogent les bonnes réponses.

Peu de temps après cet incident, les principales conférences sur l'intelligence artificielle ont également commencé à interdire les articles universitaires rédigés à l'aide de ChatGPT et des outils d'IA. Voyons ce qui se passe spécifiquement.

ICML interdit l'utilisation de grands modèles de langage pour rédiger des articles

Il y a quelques jours, la Conférence internationale sur l'apprentissage automatique ICML a annoncé qu'il est interdit de solliciter des articles utilisant de grands modèles de langage (LLM, tels que ChatGPT), à moins que le le texte généré est utilisé comme partie d'analyse expérimentale sur papier de la présentation.

ChatGPT a été interdit dentrée dans les écoles. LIA modifiera spécialement les règles. LeCun : Et si nous interdisions également les petits modèles ?

Adresse du fichier : https://icml.cc/Conferences/2023/llm-policy

Selon ICML, les modèles de langage tels que ChatGPT représentent une tendance de développement future, mais avec elle entraînent des conséquences inattendues et des problèmes difficiles à résoudre. ICML a déclaré que ChatGPT a été formé sur les données publiques, souvent collectées sans consentement, et qui est responsable en cas de problème.

Il y a aussi la question de la paternité, qui a « écrit » le papier : machine ou humain ? Ceci est particulièrement important étant donné qu’ICML interdit uniquement le texte entièrement généré par l’IA. Les organisateurs de la conférence affirment qu'ils n'interdisent pas l'utilisation d'outils tels que ChatGPT pour éditer ou peaufiner les textes écrits par les auteurs, notant que de nombreux auteurs utilisent déjà des outils d'édition semi-automatiques tels que le logiciel de correction grammaticale Grammarly pour peaufiner leurs articles.

Cependant, dès que cette nouvelle est sortie, elle a quand même déclenché une grande discussion sur les réseaux sociaux. Yann LeCun a relayé et commenté : "Les grands modèles de langage ne peuvent pas être utilisés, les modèles de langage moyens et petits peuvent donc toujours être utilisés."

ChatGPT a été interdit dentrée dans les écoles. LIA modifiera spécialement les règles. LeCun : Et si nous interdisions également les petits modèles ?

Sebastian Bubeck, chef de l'équipe ML Foundation chez Microsoft Research, a qualifié la règle de « myope » et a écrit sur Twitter : « ChatGPT et ses variantes font partie du développement technologique futur. L'interdire n'est certainement pas la meilleure option. Excellente réponse. "

ChatGPT a été interdit dentrée dans les écoles. LIA modifiera spécialement les règles. LeCun : Et si nous interdisions également les petits modèles ?

ICML a déclaré qu'elle réévaluerait l'interdiction du texte généré par l'IA l'année prochaine.

Les effets néfastes des textes générés par l'intelligence artificielle ont toujours suscité diverses inquiétudes. L’un des problèmes les plus courants est que les résultats de ces systèmes ne sont tout simplement pas fiables.

Les modèles d’IA sont entraînés pour prédire le mot suivant dans une phrase donnée, mais ils ne disposent pas d’une base de données codée en dur de « faits » à partir de laquelle s’appuyer, de sorte que les résultats générés par les modèles sont souvent spécieux. Souvent, les phrases générées sont conformes à la logique grammaticale mais ne sont pas conformes à la réalité objective.

Il y a un autre problème qui est également très difficile : il nous est difficile de distinguer si le texte est « peaufiné et édité » par l'IA ou entièrement généré par l'IA. Ce problème est très grave pour les articles. Si l'auteur utilise un modèle d'IA pour générer un résumé concis basé sur l'article, est-ce considéré comme une édition du texte ou une génération du texte à partir de zéro ?

Bien sûr, l'utilisation d'outils d'IA comme ChatGPT n'est pas le seul inconvénient. Par exemple, lors de l’évaluation par les pairs, les expressions anglaises courantes ont tendance à recevoir des évaluations plus élevées, et les modèles d’IA peuvent aider les auteurs d’articles anglophones non natifs à générer des textes anglais plus fluides. Cela permettra aux chercheurs de gagner du temps et de créer des règles du jeu plus équitables dans le domaine universitaire.

Mais il faut savoir que ChatGPT est un grand modèle de langage (LLM), qui est très différent des simples logiciels de correction grammaticale comme Grammarly. La fonction principale du LLM lui-même n'est pas d'ajuster la structure et le langage de textes déjà écrits, mais de générer de nouveaux textes.

En fait, presque aucun auteur d'article n'utilisera réellement des modèles de langage d'IA pour générer des articles universitaires. Les exigences relatives aux articles universitaires étant très strictes, les auteurs vérifient généralement le contenu de l'article à plusieurs reprises avant de le publier. S’il y a des erreurs dans un article généré à l’aide de l’IA, la réputation de tous les auteurs nommés sera sérieusement affectée, affectant l’ensemble de leur carrière.

Du point de vue de la révision des articles, les gens ont besoin d'un outil de détection rapide et efficace pour distinguer si un article est généré par l'IA ou écrit par des humains. Récemment, un développeur a publié une nouvelle application appelée GPTZero dotée de cette fonction de détection.

ChatGPT a été interdit dentrée dans les écoles. LIA modifiera spécialement les règles. LeCun : Et si nous interdisions également les petits modèles ?

GPTZero a été développé par Edward Tian, ​​étudiant en informatique à l'Université de Princeton, ​​qui utilise deux métriques différentes pour évaluer si le texte est écrit par un modèle d'IA : la perplexité et la rafale). Cela peut utiliser "modèle" pour vaincre "modèle".

Une école de la ville de New York interdit l'accès à ChatGPT

Presque au même moment, ChatGPT a été interdit par l'école. Le ministère de l'Éducation de la ville de New York a bloqué l'accès à ChatGPT sur son réseau et ses appareils, craignant que les outils d'IA ne perturbent l'éducation.

Jenna Lyle, porte-parole du département, a déclaré : Cette interdiction est principalement due à des inquiétudes concernant l'impact négatif potentiel de ChatGPT sur l'apprentissage des étudiants, ainsi qu'à des inquiétudes concernant la sécurité et l'exactitude du contenu généré par ChatGPT. Bien que cet outil puisse fournir des réponses rapides et faciles, il ne parvient pas à développer la pensée critique et les compétences en résolution de problèmes qui sont essentielles à la réussite scolaire et tout au long de la vie des étudiants.

De plus, ChatGPT présente également des problèmes que d'autres modèles de langage rencontrent. Étant donné que ses données de formation proviennent d’Internet, il répète et amplifie souvent des éléments tels que le sexisme et les préjugés raciaux dans ses réponses. Ce type de modèle linguistique a également tendance à fabriquer des informations, depuis les dates historiques jusqu’aux lois scientifiques, mais d’autres ne peuvent généralement pas détecter qu’il fabrique des informations.

Ce sont ces erreurs factuelles qui inquiètent particulièrement les éducateurs à propos de cet outil. De nombreux enseignants affirment qu’un logiciel comme ChatGPT est pratiquement impossible pour tester la capacité des élèves à rédiger des dissertations. Si ChatGPT pouvait aider les étudiants à écrire en quelques secondes, ils ne voudraient pas faire d’efforts pour écrire.

D’autres, cependant, soutiennent que le système éducatif devra s’adapter à l’émergence de cette technologie – tout comme il s’est adapté aux technologies disruptives antérieures comme la recherche Google et Wikipédia. Mais il faut évidemment un certain temps à chacun pour s'adapter à ChatGPT.

Qu'il s'agisse de formuler et d'appliquer manuellement des spécifications d'écriture de texte, ou d'utiliser certaines méthodes pour savoir si le texte est généré par l'IA, cela montre que les gens sont conscients de la nécessité urgente de normaliser l'utilisation de modèles de génération de texte tels que ChatGPT. Les cas d’utilisation et la valeur de ChatGPT restent à définir.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!

Déclaration de ce site Web
Le contenu de cet article est volontairement contribué par les internautes et les droits d'auteur appartiennent à l'auteur original. Ce site n'assume aucune responsabilité légale correspondante. Si vous trouvez un contenu suspecté de plagiat ou de contrefaçon, veuillez contacter admin@php.cn

Outils d'IA chauds

Undresser.AI Undress

Undresser.AI Undress

Application basée sur l'IA pour créer des photos de nu réalistes

AI Clothes Remover

AI Clothes Remover

Outil d'IA en ligne pour supprimer les vêtements des photos.

Undress AI Tool

Undress AI Tool

Images de déshabillage gratuites

Clothoff.io

Clothoff.io

Dissolvant de vêtements AI

AI Hentai Generator

AI Hentai Generator

Générez AI Hentai gratuitement.

Article chaud

R.E.P.O. Crystals d'énergie expliqués et ce qu'ils font (cristal jaune)
3 Il y a quelques semaines By 尊渡假赌尊渡假赌尊渡假赌
R.E.P.O. Meilleurs paramètres graphiques
3 Il y a quelques semaines By 尊渡假赌尊渡假赌尊渡假赌
R.E.P.O. Comment réparer l'audio si vous n'entendez personne
3 Il y a quelques semaines By 尊渡假赌尊渡假赌尊渡假赌
WWE 2K25: Comment déverrouiller tout dans Myrise
4 Il y a quelques semaines By 尊渡假赌尊渡假赌尊渡假赌

Outils chauds

Bloc-notes++7.3.1

Bloc-notes++7.3.1

Éditeur de code facile à utiliser et gratuit

SublimeText3 version chinoise

SublimeText3 version chinoise

Version chinoise, très simple à utiliser

Envoyer Studio 13.0.1

Envoyer Studio 13.0.1

Puissant environnement de développement intégré PHP

Dreamweaver CS6

Dreamweaver CS6

Outils de développement Web visuel

SublimeText3 version Mac

SublimeText3 version Mac

Logiciel d'édition de code au niveau de Dieu (SublimeText3)

Comment résoudre MySQL ne peut pas être démarré Comment résoudre MySQL ne peut pas être démarré Apr 08, 2025 pm 02:21 PM

Il existe de nombreuses raisons pour lesquelles la startup MySQL échoue, et elle peut être diagnostiquée en vérifiant le journal des erreurs. Les causes courantes incluent les conflits de port (vérifier l'occupation du port et la configuration de modification), les problèmes d'autorisation (vérifier le service exécutant les autorisations des utilisateurs), les erreurs de fichier de configuration (vérifier les paramètres des paramètres), la corruption du répertoire de données (restaurer les données ou reconstruire l'espace de la table), les problèmes d'espace de la table InNODB (vérifier les fichiers IBDATA1), la défaillance du chargement du plug-in (vérification du journal des erreurs). Lors de la résolution de problèmes, vous devez les analyser en fonction du journal d'erreur, trouver la cause profonde du problème et développer l'habitude de sauvegarder régulièrement les données pour prévenir et résoudre des problèmes.

Mysql peut-il renvoyer JSON Mysql peut-il renvoyer JSON Apr 08, 2025 pm 03:09 PM

MySQL peut renvoyer les données JSON. La fonction JSON_Extract extrait les valeurs de champ. Pour les requêtes complexes, envisagez d'utiliser la clause pour filtrer les données JSON, mais faites attention à son impact sur les performances. Le support de MySQL pour JSON augmente constamment, et il est recommandé de faire attention aux dernières versions et fonctionnalités.

Comprendre les propriétés acides: les piliers d'une base de données fiable Comprendre les propriétés acides: les piliers d'une base de données fiable Apr 08, 2025 pm 06:33 PM

Une explication détaillée des attributs d'acide de base de données Les attributs acides sont un ensemble de règles pour garantir la fiabilité et la cohérence des transactions de base de données. Ils définissent comment les systèmes de bases de données gérent les transactions et garantissent l'intégrité et la précision des données même en cas de plantages système, d'interruptions d'alimentation ou de plusieurs utilisateurs d'accès simultanément. Présentation de l'attribut acide Atomicité: une transaction est considérée comme une unité indivisible. Toute pièce échoue, la transaction entière est reculée et la base de données ne conserve aucune modification. Par exemple, si un transfert bancaire est déduit d'un compte mais pas augmenté à un autre, toute l'opération est révoquée. BeginTransaction; UpdateAccountSsetBalance = Balance-100Wh

Master SQL Limit Clause: Contrôlez le nombre de lignes dans une requête Master SQL Limit Clause: Contrôlez le nombre de lignes dans une requête Apr 08, 2025 pm 07:00 PM

Clause SQLLIMIT: Contrôlez le nombre de lignes dans les résultats de la requête. La clause limite dans SQL est utilisée pour limiter le nombre de lignes renvoyées par la requête. Ceci est très utile lors du traitement de grands ensembles de données, des affichages paginés et des données de test, et peut améliorer efficacement l'efficacité de la requête. Syntaxe de base de la syntaxe: selectColumn1, Column2, ... FromTable_NamelimitNumber_Of_Rows; Number_OF_ROWS: Spécifiez le nombre de lignes renvoyées. Syntaxe avec décalage: selectColumn1, Column2, ... FromTable_Namelimitoffset, numéro_of_rows; décalage: sauter

Comment optimiser les performances MySQL pour les applications de haute charge? Comment optimiser les performances MySQL pour les applications de haute charge? Apr 08, 2025 pm 06:03 PM

Guide d'optimisation des performances de la base de données MySQL dans les applications à forte intensité de ressources, la base de données MySQL joue un rôle crucial et est responsable de la gestion des transactions massives. Cependant, à mesure que l'échelle de l'application se développe, les goulots d'étranglement des performances de la base de données deviennent souvent une contrainte. Cet article explorera une série de stratégies efficaces d'optimisation des performances MySQL pour garantir que votre application reste efficace et réactive dans des charges élevées. Nous combinerons des cas réels pour expliquer les technologies clés approfondies telles que l'indexation, l'optimisation des requêtes, la conception de la base de données et la mise en cache. 1. La conception de l'architecture de la base de données et l'architecture optimisée de la base de données sont la pierre angulaire de l'optimisation des performances MySQL. Voici quelques principes de base: sélectionner le bon type de données et sélectionner le plus petit type de données qui répond aux besoins peut non seulement économiser un espace de stockage, mais également améliorer la vitesse de traitement des données.

La clé principale de MySQL peut être nul La clé principale de MySQL peut être nul Apr 08, 2025 pm 03:03 PM

La clé primaire MySQL ne peut pas être vide car la clé principale est un attribut de clé qui identifie de manière unique chaque ligne dans la base de données. Si la clé primaire peut être vide, l'enregistrement ne peut pas être identifié de manière unique, ce qui entraînera une confusion des données. Lorsque vous utilisez des colonnes entières ou des UUIdes auto-incrémentales comme clés principales, vous devez considérer des facteurs tels que l'efficacité et l'occupation de l'espace et choisir une solution appropriée.

Méthode de Navicat pour afficher le mot de passe de la base de données MongoDB Méthode de Navicat pour afficher le mot de passe de la base de données MongoDB Apr 08, 2025 pm 09:39 PM

Il est impossible de visualiser le mot de passe MongoDB directement via NAVICAT car il est stocké sous forme de valeurs de hachage. Comment récupérer les mots de passe perdus: 1. Réinitialiser les mots de passe; 2. Vérifiez les fichiers de configuration (peut contenir des valeurs de hachage); 3. Vérifiez les codes (May Code Hardcode).

Surveillez les gouttelettes MySQL et MariaDB avec Exportateur de Prometheus Mysql Surveillez les gouttelettes MySQL et MariaDB avec Exportateur de Prometheus Mysql Apr 08, 2025 pm 02:42 PM

Une surveillance efficace des bases de données MySQL et MARIADB est essentielle pour maintenir des performances optimales, identifier les goulots d'étranglement potentiels et assurer la fiabilité globale du système. Prometheus Mysql Exportateur est un outil puissant qui fournit des informations détaillées sur les mesures de base de données qui sont essentielles pour la gestion et le dépannage proactifs.

See all articles