Les chatbots digèrent Internet et Internet veut en récolter les fruits

Les sociétés d'IA exploitent le contenu créé par d'innombrables personnes sur Internet sans leur consentement ni compensation. Aujourd’hui, un nombre croissant d’entreprises technologiques et médiatiques exigent un paiement dans l’espoir de participer à l’engouement pour les chatbots.

Voici la traduction :

Si vous avez déjà blogué, publié sur Reddit ou partagé quoi que ce soit sur le Web ouvert, alors vous avez probablement contribué à la naissance de la dernière génération d'intelligence artificielle.

Bard de Google, ChatGPT d'OpenAI, la nouvelle version de Bing de Microsoft et des outils similaires fournis par d'autres startups intègrent tous des modèles de langage d'intelligence artificielle. Mais ces robots écrivains intelligents ne seraient pas possibles sans les grandes quantités de textes disponibles gratuitement sur Internet.

De nos jours, le contenu Web est redevenu au centre de la concurrence. Cela ne s'est pas produit depuis les premiers jours de la guerre des moteurs de recherche. Les géants de la technologie tentent de se tailler cette source irremplaçable de nouvelle valeur.

Les entreprises technologiques et médiatiques, à l’origine sans méfiance, se rendent compte que ces données sont essentielles pour favoriser une nouvelle génération d’intelligence artificielle basée sur le langage. Reddit est l'une des précieuses ressources de formation d'OpenAI, mais il a récemment annoncé qu'il facturerait aux sociétés d'intelligence artificielle l'accès aux données. OpenAI a refusé de commenter.

Récemment, Twitter a également commencé à facturer les services d’accès aux données, un changement qui affecte de nombreux aspects des activités de Twitter, notamment l’utilisation des données par les sociétés d’intelligence artificielle. La News Media Alliance, qui représente les éditeurs, a annoncé ce mois-ci dans un journal que les entreprises devraient payer des frais de licence lorsqu'elles utilisent les travaux produits par leurs membres pour former l'intelligence artificielle.

"Ce qui est vraiment important pour nous, c'est l'attribution des informations", a déclaré Prashanth Chandrasekar, PDG de Stack Overflow, un site de questions-réponses pour les programmeurs. Pour les grandes entreprises d'intelligence artificielle, visitez le site Web. La société prévoit de commencer à facturer des frais pour le contenu généré par les utilisateurs. sur "La communauté Stack Overflow a déployé tant d'efforts pour répondre aux questions au cours des 15 dernières années, et nous voulons vraiment nous assurer que cet effort porte ses fruits."

De nombreux services d'intelligence artificielle sont apparus auparavant, comme Dall-E 2 d'OpenAI, qui peut apprendre à générer des images, mais a été accusé de vol de propriété intellectuelle à grande échelle. Les entreprises qui ont créé ces systèmes sont actuellement impliquées dans des poursuites judiciaires suite à ces allégations. La bataille autour des textes générés par l’IA pourrait être encore plus vaste, impliquant non seulement des questions de rémunération et de crédit, mais également des questions de confidentialité.

Mais Emily M. Bender, linguiste informatique à l'Université de Washington, estime qu'en vertu des lois actuelles, les agences d'IA ne sont pas responsables de leurs actes.

Le différend surgit sur la manière dont sont développés les chatbots d’intelligence artificielle. Les algorithmes de base de ces robots sont appelés « algorithmes de grands modèles de langage », qui doivent imiter le contenu et la manière de parler humain en absorbant et en traitant de grandes quantités de données textuelles linguistiques existantes. Ce type de données est différent des informations comportementales et personnelles utilisées par des services tels que Meta Platforms, la société mère de Facebook, pour cibler les publicités auxquelles nous sommes habitués sur Internet.

Ces données sont créées par des utilisateurs humains utilisant divers services, tels que les centaines de millions de publications publiées par les utilisateurs de Reddit. Ce n'est que sur Internet que vous pouvez trouver une bibliothèque suffisamment grande de vocabulaires générés artificiellement. Sans cela, aucune des technologies d’IA basées sur le chat et des technologies associées actuelles ne réussirait.

Dans un article de 2021, Jesse Dodge, chercheur scientifique à l'Institut à but non lucratif Allen pour l'intelligence artificielle, a découvert que Wikipédia et d'innombrables articles de presse protégés par le droit d'auteur provenant de grands et petits médias, tous présents dans les bases de données de robots d'exploration Web les plus couramment utilisées. Google et Facebook utilisent cet ensemble de données pour former de grands modèles de langage, et OpenAI utilise une base de données similaire.

OpenAI ne divulgue plus ses sources de données, mais selon un article publié en 2020 par l'entreprise, son grand modèle de langage utilise des publications extraites de Reddit pour filtrer et améliorer les données utilisées pour entraîner son intelligence artificielle.

Tim Rathschmidt, porte-parole de Reddit, a déclaré qu'il n'était pas encore certain du montant des revenus qu'il générerait en facturant aux entreprises l'accès à ses données, mais il estime que les données dont elles disposent peuvent aider à améliorer la technologie avancée la plus populaire d'aujourd'hui.

Des rapports indiquent que les dirigeants du secteur de l'édition ont enquêté : dans quelle mesure leur contenu est-il utilisé pour former ChatGPT et d'autres outils d'intelligence artificielle ? Comment pensent-ils qu’ils devraient être indemnisés ? Et quelles lois peuvent-ils utiliser pour défendre leurs droits ? Cependant, Danielle Coffey, l'avocate générale de l'organisation, a déclaré que jusqu'à présent, aucun accord n'avait été conclu avec aucun des propriétaires de grands moteurs de discussion IA (tels que Google, OpenAI, Microsoft, etc.) pour leur permettre de payer une partie de leurs dépenses. les données de formation récupérées auprès des membres de la News Media Alliance.

Twitter n'a pas répondu à une demande de commentaire. Microsoft a refusé de commenter. Un porte-parole de Google a déclaré : « Nous aidons depuis longtemps les créateurs et les éditeurs à monétiser leur contenu et à renforcer leurs relations avec leur public. Conformément à nos principes en matière d'IA, nous continuerons à le faire de manière responsable et éthique. » Il est encore tôt. jours", a déclaré le porte-parole, et Google recherche des commentaires sur la manière de créer une intelligence artificielle qui profite au Web ouvert.

bourbier juridique et éthique

La copie de données disponibles sur le Web ouvert (également connue sous le nom de scraping) est légale dans certaines circonstances, même si les entreprises sont encore en train de peaufiner les détails sur comment et quand elles sont autorisées à le faire. .

La plupart des entreprises et des organisations sont disposées à mettre leurs données en ligne car elles souhaitent que les données soient découvertes et indexées par les moteurs de recherche afin que les gens puissent facilement trouver le contenu. Cependant, copier ces données pour entraîner l’intelligence artificielle, remplaçant ainsi la nécessité de retrouver la source d’origine, est une tout autre affaire.

Le linguiste informatique Bender a déclaré que les entreprises technologiques qui collectent des informations sur Internet pour former l'intelligence artificielle fonctionnent sur le principe suivant : "Nous pouvons l'accepter, donc c'est le nôtre." La conversion de texte (y compris des livres, des articles de magazines, des essais sur des blogs personnels, des brevets, des articles scientifiques et du contenu Wikipédia) en réponses de chatbot supprime les liens vers la source du matériel. Cela rend également plus difficile pour les utilisateurs de vérifier ce que le bot leur dit. C'est un gros problème pour les systèmes qui mentent souvent.

Ces scrapings à grande échelle volent également nos informations personnelles. Common Crawl est une organisation à but non lucratif qui explore de grandes quantités de contenu sur le Web ouvert depuis plus d'une décennie et met sa base de données gratuitement à la disposition des chercheurs. La base de données de Common Crawl est également utilisée comme point de départ pour les entreprises cherchant à former l'intelligence artificielle, notamment Google, Meta, OpenAI et d'autres.

Sebastian Nagel, data scientist et ingénieur chez Common Crawl, a déclaré qu'un article de blog que vous avez écrit il y a quelques années, bien qu'il ait été supprimé depuis, peut toujours exister pour une utilisation OpenAI. Dans ses données de formation, l'entreprise utilise du contenu Web de il y a des années pour entraîner son intelligence artificielle.

Contrairement aux index de recherche appartenant à Google et Microsoft, la suppression des informations personnelles d'une IA entraînée nécessite de recycler l'ensemble du modèle, a déclaré Bender. Dodge a également déclaré que, étant donné que le coût du recyclage d'un grand modèle de langage peut être très élevé, même si les utilisateurs peuvent prouver que leurs données personnelles ont été utilisées pour entraîner l'intelligence artificielle, il est peu probable que l'entreprise le fasse. En raison de l’énorme puissance de calcul requise, la formation de tels modèles peut coûter des dizaines de millions de dollars.

Mais Dodge a ajouté que dans la plupart des cas, il serait également difficile de former une IA sur un ensemble de données contenant des informations personnelles pour régurgiter ces informations. OpenAI a déclaré avoir ajusté son système de chat pour rejeter les demandes d'informations personnelles. Les gouvernements de l’Union européenne et des États-Unis envisagent de nouvelles lois et réglementations pour régir ce type d’intelligence artificielle.

Responsabilité et partage des bénéfices

Certains partisans de l'IA pensent que l'IA devrait avoir accès à toutes les données que leurs ingénieurs peuvent obtenir, car c'est ainsi que les humains apprennent. Logiquement, pourquoi une machine ne devrait-elle pas faire cela ?

Bender a déclaré qu'outre le fait que l'intelligence artificielle n'est actuellement pas la même que les humains, il y a un problème avec le point de vue ci-dessus, c'est-à-dire que selon les lois en vigueur, l'intelligence artificielle ne peut pas être responsable de ses propres actions. Les personnes qui plagient le travail d’autrui ou qui tentent de transformer la désinformation en vérité peuvent subir de graves conséquences, mais une machine et ses créateurs ne partagent pas la même responsabilité.

Bien sûr, ce n’est pas toujours le cas. Tout comme le détenteur des droits d'auteur Getty a poursuivi les sociétés d'IA génératrices d'images pour avoir utilisé leur propriété intellectuelle comme données de formation, les entreprises et autres organisations finiront probablement par poursuivre les fabricants d'IA basées sur le chat s'ils utilisent leur contenu sans autorisation, à moins qu'ils n'acceptent. à un mandat.

Ces essais personnels écrits par d’innombrables personnes, les messages postés sur des forums obscurs et des réseaux sociaux disparus, et toutes sortes d’autres choses, peuvent-ils vraiment rendre les chatbots d’aujourd’hui aussi bons que les écrivains ? Le seul avantage que les créateurs de ces contenus peuvent en tirer est peut-être qu’ils ont contribué au développement des chatbots en termes d’utilisation du langage.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!