OpenAI évalue les capacités de modération de contenu pour accroître l'efficacité et réduire l'intervention humaine

La startup d'intelligence artificielle OpenAI a déclaré qu'elle testait la fonction de modération de contenu de GPT-4, permettant à toute personne ayant accès à l'API OpenAI d'utiliser cette fonction pour créer son propre système de modération assisté par intelligence artificielle

Ce site Sur le site officiel d'OpenAI, nous avons appris que GPT-4 peut être utilisé pour développer des politiques de contenu appropriées et ajouter des étiquettes ou faire des commentaires aux publications plus rapidement. L’entreprise a testé la technologie et a également invité ses clients à l’expérimenter. Grâce à ce système, le processus de développement et de formulation d'une stratégie de contenu est raccourci de quelques mois à quelques heures.

OpenAI affirme que cette fonctionnalité offre une perspective plus positive pour l'avenir des plateformes numériques, allégeant la pression psychologique sur un grand nombre de modérateurs humains en aidant à réguler le trafic en ligne selon les politiques spécifiques à la plateforme

▲ Modération IA ( LLM) et le réviseur junior (pool B) sont tout aussi efficaces

La révision OpenAI présente les avantages suivants par rapport à la révision traditionnelle :

• Les étiquettes sont plus cohérentes. Les politiques de contenu évoluent constamment et sont souvent très détaillées. Les gens peuvent interpréter la politique différemment, ou certains modérateurs peuvent mettre plus de temps à digérer les nouveaux changements de politique, ce qui entraîne des étiquettes incohérentes. En revanche, LLM est sensible aux différences subtiles de formulation et peut s'adapter instantanément aux mises à jour des politiques pour offrir aux utilisateurs une expérience de contenu cohérente.
• Boucle de rétroaction plus rapide. Le cycle de mise à jour des politiques – élaborer de nouvelles politiques, les étiqueter et recueillir les commentaires humains – est souvent un processus long et interminable. GPT-4 peut raccourcir ce processus à quelques heures seulement, permettant ainsi de réagir plus rapidement aux nouveaux dangers.
• Réduire la charge mentale. Une exposition continue à du contenu préjudiciable ou répréhensible peut provoquer un épuisement émotionnel et un stress psychologique pour les modérateurs. L’automatisation de telles tâches profite au bien-être des personnes impliquées.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!