L'interdiction de GPT-4 a été demandée en raison de plaintes : OpenAI ne répond à aucune des normes d'intelligence artificielle émises par la FTC

Il y a quelques jours, Musk, Yoshua Bengio et d'autres ont signé conjointement une lettre ouverte appelant tous les laboratoires d'IA à suspendre immédiatement la formation de modèles d'IA plus puissants que GPT-4. Maintenant, quelqu'un veut arrêter le GPT-4 publié.

La personne qui a arrêté GPT-4 cette fois-ci était l'organisation à but non lucratif Centre pour l'intelligence artificielle et la politique numérique (CAIDP). Le CAIDP a demandé à la Federal Trade Commission (FTC) des États-Unis d'enquêter sur OpenAI et d'interdire à l'entreprise de publier davantage GPT-4.

Adresse du fichier : https://cdn.arstechnica.net/wp-content/uploads/2023/03/CAIDP-FTC-Complaint-OpenAI-GPT-033023.pdf

CAIDP La raison pour laquelle ils ont déposé cette demande auprès de la FTC est qu'ils estiment que « le produit de consommation GPT-4 publié par OpenAI est biaisé, trompeur et présente un risque pour la vie privée et la sécurité publique. et il n'y a aucune garantie avant le déploiement. " Mener une évaluation indépendante. "

CAIDP appelle à une surveillance et à une évaluation indépendantes de tous les produits commerciaux d'IA aux États-Unis et garantit que les « mesures de protection » nécessaires sont en place pour protéger les consommateurs, les entreprises et le marché commercial.

Auparavant, la FTC a annoncé une norme d'intelligence artificielle qui "tout en promouvant la responsabilité, exige que l'utilisation de l'intelligence artificielle soit transparente, explicable, juste et empiriquement raisonnable", a déclaré le CAIDP. "Le GPT-4 d'OpenAI ne répond à aucune de ces exigences."

Cela ne fait que deux semaines depuis la sortie de GPT-4, et les gens sont déjà profondément divisés sur ce type de modèle d'IA puissant. D'un côté, ceux qui veulent arrêter les modèles puissants tels que GPT-4 estiment que ces modèles poseront de plus grands risques pour la sécurité de l'information et même pour la société humaine. De l'autre, certains pensent que c'est le bon moment pour l'intelligence artificielle ; pour prospérer. Il convient de promouvoir un progrès technologique accéléré.

Fait intéressant, Sam Altman, PDG d'OpenAI, a publié un nouveau tweet : "Gardez votre calme dans l'œil du cyclone." Cela pourrait être sa réponse à une série d'appels récents visant à "suspendre la recherche de modèles tels que GPT-4".

En termes de risques, OpenAI a déclaré au moment de sa publication avoir demandé à des experts externes d'évaluer les risques potentiels posés par GPT-4. Cependant, le CAIDP a clairement indiqué dans son dossier auprès de la FTC quels actes GPT-4 avaient été violés.

CAIDP estime que GPT-4 a sérieusement affecté l'équité des affaires, déclarant : « La sortie commerciale de GPT-4 viole l'article 5 de la loi FTC, les normes de la FTC pour les entreprises sur l'utilisation et la publicité des produits d'intelligence artificielle, et intelligence artificielle Normes émergentes en matière de gouvernance et plus encore. »

De plus, OpenAI n'a divulgué aucun détail technique de GPT-4. C'est l'une des raisons pour lesquelles le RPCDI a déposé une demande auprès de la FTC.

CAIDP a déclaré : « OpenAI n'a pas divulgué de détails sur l'architecture, la taille du modèle, le matériel, les ressources informatiques, les techniques de formation, la construction d'ensembles de données ou les méthodes de formation, alors que la pratique courante dans la communauté de recherche consiste à enregistrer les données de formation et la formation. de la technologie des grands modèles de langage, mais OpenAI a choisi de ne pas faire ces choses pour GPT-4. En particulier, les modèles d'IA génératifs ne sont pas des produits de consommation ordinaires, car ils peuvent présenter des comportements anormaux lors de leur utilisation, et ces comportements peuvent être provoqués par leur publication. entreprises. Non découvert auparavant. "

Détails de la plainte

Plus précisément, le CAIDP a souligné une série de risques potentiels pour GPT-4 et le modèle associé ChatGPT dans cette demande de plainte.

Par exemple, OpenAI a clairement indiqué dans l'article « GPT-4 System Card » que GPT-4 peut renforcer et reproduire des préjugés et des visions du monde spécifiques, y compris des stéréotypes et des associations désobligeantes à l'encontre de certains groupes marginalisés. Le CAIDP a également cité un article de blog de la société OpenAI, selon lequel un grand modèle similaire, ChatGPT, répondait parfois à des instructions nuisibles ou présentait un comportement biaisé.

Dans la plainte soumise à la FTC, le CAIDP a déclaré que « OpenAI a rendu GPT-4 public pour un usage commercial malgré une parfaite compréhension des risques ». La plainte indique également que « la carte système GPT-4 ne fournit pas de détails sur les contrôles de sécurité effectués par OpenAI lors de ses tests, ni sur les mesures prises par OpenAI pour protéger les enfants, ce qui soulève également des questions sur l'utilisation de GPT-4 sur enfants." "

CAIDP a également souligné les préoccupations soulevées par l'organisation européenne des consommateurs BEUC : "Si ChatGPT est utilisé pour la notation du crédit à la consommation ou de l'assurance, est-il possible qu'il produise des résultats injustes et biaisés ?" comme référence dans le dépôt de plainte du RPCDI.

De plus, en termes de sécurité du réseau, ChatGPT peut être utilisé pour le phishing, la création de faux textes ou la génération de code malveillant. Sur le plan de la confidentialité, le CAIDP a déclaré que des informations avaient été rapportées ce mois-ci selon lesquelles OpenAI montrait des discussions privées à d'autres utilisateurs.

Dans un autre cas, un chercheur en IA a décrit comment ChatGPT pouvait prendre le contrôle du compte d'une personne, afficher l'historique des discussions et accéder à ses informations de facturation sans qu'elle s'en rende compte. Cependant, OpenAI a corrigé la vulnérabilité.

CAIDP a également déclaré que la capacité de GPT-4 à fournir des réponses textuelles à partir d'images saisies a d'énormes implications pour la vie privée et l'autonomie personnelle, permettant aux utilisateurs de connecter des images personnelles à des données personnelles détaillées. Il est entendu qu'OpenAI a suspendu la fonction de conversion d'image en texte, mais il est difficile de dire quelle est la situation réelle.

CAIDP estime que la FTC devrait interdire à OpenAI de poursuivre le déploiement commercial de GPT, exiger une évaluation indépendante des produits GPT avant le déploiement et tout au long du cycle de vie de l'IA GPT, exiger qu'OpenAI se conforme aux normes FTC AI et établir un GPT accessible au public. - Le mécanisme de signalement des incidents de 4 est similaire au mécanisme de signalement des fraudes à la consommation de la FTC.

CAIDP exhorte également la FTC à publier davantage de spécifications standard qui seront utilisées comme « normes de base pour les produits dans le domaine du marché de l'intelligence artificielle générative ».

Communauté universitaire de l'IA, un débat

Des milliers de personnes ont signé une pétition il y a deux jours pour suspendre le développement du modèle d'IA de suivi de GPT-4. Aujourd'hui, le CAIDP a demandé à la FTC d'enquêter sur l'interdiction par OpenAI de publier une nouvelle publicité. version de GPT-4. En seulement un ou deux jours, diverses discussions ont éclaté, et les patrons de l’IA et d’autres experts sont venus réagir publiquement. Il y a ceux qui s’y opposent et ceux qui le soutiennent.

En ce qui concerne la suspension du développement des grands modèles d'IA de suivi GPT-4, le lauréat du prix Turing Yoshua Bengio, le PDG de Tesla (co-fondateur d'OpenAI) Elon Musk, le professeur émérite de l'Université de New York Gary Marcus, le professeur Stuart de l'UC Berkeley Russell et d’autres y sont tous favorables et ont signé une lettre ouverte pour suspendre les expériences géantes d’IA. Notamment, Marc Rotenberg, président et fondateur du CAIDP, a également signé la lettre ouverte.

Adresse de la lettre ouverte : https://futureoflife.org/open-letter/pause-giant-ai-experiments/

Cependant, Yann LeCun, qui critique ChatGPT, a déclaré publiquement qu'il ne la signerait pas. Je ne suis pas d'accord avec le contenu de cette lettre ouverte.

Thomas G. Dietterich, professeur émérite à l'Oregon State University, a déclaré sur Twitter "Je n'ai pas signé non plus. La lettre est remplie d'un tas de rhétoriques terribles et de politiques inefficaces ou inexistantes. Certaines mesures importantes technique et nous travaillons dur pour résoudre les problèmes politiques. " LeCun a déclaré publiquement "Je suis d'accord."

Enda Ng a également publié un article s'opposant publiquement aux milliers de personnes qui ont signé la pétition et a déclaré : « GPT-4 a de nombreuses nouvelles applications dans l'éducation, les soins de santé, l'alimentation, etc., et aidera de nombreuses personnes. À moins que le gouvernement intervient, une suspension sera mise en œuvre et toutes les équipes seront bloquées. Élargir l'échelle du LLM est irréaliste. De plus, demander au gouvernement de suspendre les technologies émergentes qu'il ne comprend pas est anticoncurrentiel et crée également un mauvais précédent. une mauvaise politique. ou inverser cette tendance. C'est l'évolution inévitable. Nous devrions regarder vers l'avenir sous un angle différent et mieux comprendre le LLM, nous y adapter et exploiter sa puissance, ressentir la chaleur. "

Yi Tay (anciennement senior). chercheur chez Google Brain) qui vient d'annoncer son départ de Google Brain a déclaré : "Si vous interdisez les personnes qui discutent de LLM au hasard sur Internet pendant 6 mois, je signerai."

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!