Table des matières
Surmontant deux difficultés majeures, le taux d'exactitude de l'identification des commentaires violents en ligne est supérieur à 90%
Maison Périphériques technologiques IA Utilisez l'IA pour combattre les guerriers du clavier et les trolls d'Internet, et protégez la vie de ceux qui sont victimes d'intimidation en ligne.

Utilisez l'IA pour combattre les guerriers du clavier et les trolls d'Internet, et protégez la vie de ceux qui sont victimes d'intimidation en ligne.

May 06, 2023 pm 04:55 PM
ai 网暴

Utilisez lIA pour combattre les guerriers du clavier et les trolls dInternet, et protégez la vie de ceux qui sont victimes dintimidation en ligne.

​Une fille née en 1995 s'est suicidée parce qu'elle avait publié un tel article de blog en ligne.

Utilisez lIA pour combattre les guerriers du clavier et les trolls dInternet, et protégez la vie de ceux qui sont victimes dintimidation en ligne.

Après la publication de ce tendre article de blog, le protagoniste Zheng Linghua a rencontré Beaucoup de rumeurs et d'insultes.

Certaines personnes ont remis en question son identité et ont répandu des rumeurs selon lesquelles elle était une « barmaid » simplement parce que ses cheveux étaient roses ; "amante", "Qialiu" et "menteuse" ont répandu des rumeurs selon lesquelles elle profitait de la maladie de son grand-père pour gagner de l'argent.

C'est tellement inesthétique. Bien que de nombreux médias aient réfuté les rumeurs, Zheng Linghua n'a pas reçu d'excuses. Même lorsque Zheng Linghua a utilisé les armes légales pour défendre ses droits, elle a quand même été harcelée.

Finalement, Zheng Linghua a souffert de dépression et a mis fin à ses jours il n'y a pas si longtemps.

De telles choses se sont produites à plusieurs reprises sur Internet. Ce genre de « mots terribles » qui imprègnent le monde en ligne rend non seulement les gens dégoûtants, mais peut même leur voler la vie. attention. Ce type de comportement a également un terme spécial : la cyber-violence, ou « cyber-violence » en abrégé.

Alors aujourd’hui, alors que l’IA peut déjà communiquer couramment avec les humains, l’IA peut-elle jouer un rôle dans l’identification des cyber-atrocités ?

Surmontant deux difficultés majeures, le taux d'exactitude de l'identification des commentaires violents en ligne est supérieur à 90%

Bien que la plupart des plateformes Internet ont déjà lancé des systèmes d'identification de discours spéciaux, mais la plupart de ces systèmes détectent et suppriment uniquement les mots clés, ce qui n'est évidemment pas assez intelligent. Vous pouvez contourner ces restrictions avec un peu d'attention.

En fait, pour identifier avec précision les propos de cyber-violence, deux choses doivent être faites :

  • Comment identifier avec précision les cyber violence basée sur le contexte Discours ?
  • Comment identifier efficacement les commentaires violents en ligne ?

Le premier point auquel il faut prêter attention est le contenu des propos violents en ligne, car la plupart des lettres et messages sur Internet sont segmentés, souvent dans des conversations, La cyberviolence est progressivement devenue plus grave et a finalement entraîné des conséquences négatives.

Le deuxième point de préoccupation est la vitesse. Après tout, dans l'environnement Internet, il y a trop de données à traiter. Si la détection prend beaucoup de temps, alors. ce système n'aura aucune valeur pratique, ne sera pas adopté. Une équipe de chercheurs britanniques a développé un nouveau modèle d'intelligence artificielle, appelé BiCapsHate, qui surmonte ces deux défis, dont les résultats ont été publiés le 19 janvier dans un article de la revue IEEE Transactions on Computational Social Systems.

Utilisez lIA pour combattre les guerriers du clavier et les trolls dInternet, et protégez la vie de ceux qui sont victimes dintimidation en ligne.

Le modèle se compose de cinq couches de réseau neuronal profond, qui part de une entrée Les couches commencent par traiter le texte d'entrée, puis passent à une couche d'intégration pour intégrer le texte dans une représentation numérique, puis la couche BiCaps apprend la représentation du contexte séquentiel et linguistique, la couche dense prépare le modèle pour la classification finale, et enfin la couche de sortie génère les résultats.

La couche BiCaps est le composant le plus important, qui obtient efficacement des informations contextuelles dans différentes directions avant et après le texte saisi via des réseaux de capsules. Rendez votre modèle encore plus informatif grâce à une multitude de fonctions auxiliaires superficielles et approfondies réglées à la main (y compris les dictionnaires Hatebase). Les chercheurs ont mené des expériences approfondies sur cinq ensembles de données de référence pour démontrer l'efficacité du modèle BiCapsHate proposé. Les résultats globaux montrent que BiCapsHate surpasse les méthodes de pointe existantes, notamment fBERT, HateBERT et ToxicBERT. Utilisez lIA pour combattre les guerriers du clavier et les trolls dInternet, et protégez la vie de ceux qui sont victimes dintimidation en ligne.

Sur des ensembles de données équilibrés et déséquilibrés, BiCapsHate a atteint une précision du f-score de 94 % et 92 % respectivement.

Rapide et peut fonctionner sur GPU

Tarique Anwar est maître de conférences au Département d'informatique de l'Université Université de York, qui a participé à la recherche. Il a souligné que les débats en ligne aboutissent souvent à des commentaires négatifs, haineux et abusifs, qui ne peuvent être contrôlés par les pratiques de modération de contenu existantes sur les plateformes de médias sociaux.

Il a déclaré : « De plus, les discours de haine en ligne reflètent parfois l'environnement réel, conduisant au crime et à la violence. Tariq Anwar a également déclaré que la haine en ligne Il existe plusieurs exemples. de discours conduisant à des violences physiques et à des émeutes. Pour aider à résoudre ce problème, l’équipe de Tariq Anwar a décidé de développer BiCapsHate et a obtenu de très bons résultats.

Comme l'a souligné Anwar, le langage peut être ambigu dans certains cas, c'est-à-dire qu'un mot peut être positif dans un contexte et négatif dans un autre. Les modèles précédents n'étaient pas assez bons à cet égard, comme HateBERT, toxicBERT et fBERT. Ces intelligences artificielles peuvent capturer le contexte dans une certaine mesure, mais Tariq Anwar estime qu'« elles ne sont toujours pas assez bonnes ».

Un autre avantage de BiCapsHate est la capacité du modèle à effectuer des calculs en utilisant des ressources matérielles limitées. "[D'autres modèles] nécessitent des ressources matérielles haut de gamme telles que des GPU et des systèmes informatiques haut de gamme", a expliqué Tariq Anwar. "En revanche, BiCapsHate... peut être exécuté sur une machine à processeur, même si vous ne disposez que de 8 Go de mémoire." a été développé et testé uniquement pour analyser la parole en anglais, il devra donc être adapté à d'autres langues. Il est également moins efficace pour repérer les mots offensants avec un ton haineux léger ou subtil que les discours de haine plus intenses.

Les chercheurs espèrent ensuite explorer les moyens d'évaluer la santé mentale des utilisateurs qui expriment de la haine en ligne. Si l’on craint que la personne soit mentalement instable et puisse être physiquement violente envers des personnes dans le monde réel, une intervention précoce peut être envisagée pour réduire la probabilité que cela se produise. ​

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!

Déclaration de ce site Web
Le contenu de cet article est volontairement contribué par les internautes et les droits d'auteur appartiennent à l'auteur original. Ce site n'assume aucune responsabilité légale correspondante. Si vous trouvez un contenu suspecté de plagiat ou de contrefaçon, veuillez contacter admin@php.cn

Outils d'IA chauds

Undresser.AI Undress

Undresser.AI Undress

Application basée sur l'IA pour créer des photos de nu réalistes

AI Clothes Remover

AI Clothes Remover

Outil d'IA en ligne pour supprimer les vêtements des photos.

Undress AI Tool

Undress AI Tool

Images de déshabillage gratuites

Clothoff.io

Clothoff.io

Dissolvant de vêtements AI

AI Hentai Generator

AI Hentai Generator

Générez AI Hentai gratuitement.

Article chaud

R.E.P.O. Crystals d'énergie expliqués et ce qu'ils font (cristal jaune)
3 Il y a quelques semaines By 尊渡假赌尊渡假赌尊渡假赌
R.E.P.O. Meilleurs paramètres graphiques
3 Il y a quelques semaines By 尊渡假赌尊渡假赌尊渡假赌
R.E.P.O. Comment réparer l'audio si vous n'entendez personne
3 Il y a quelques semaines By 尊渡假赌尊渡假赌尊渡假赌
WWE 2K25: Comment déverrouiller tout dans Myrise
3 Il y a quelques semaines By 尊渡假赌尊渡假赌尊渡假赌

Outils chauds

Bloc-notes++7.3.1

Bloc-notes++7.3.1

Éditeur de code facile à utiliser et gratuit

SublimeText3 version chinoise

SublimeText3 version chinoise

Version chinoise, très simple à utiliser

Envoyer Studio 13.0.1

Envoyer Studio 13.0.1

Puissant environnement de développement intégré PHP

Dreamweaver CS6

Dreamweaver CS6

Outils de développement Web visuel

SublimeText3 version Mac

SublimeText3 version Mac

Logiciel d'édition de code au niveau de Dieu (SublimeText3)

Quelle méthode est utilisée pour convertir les chaînes en objets dans vue.js? Quelle méthode est utilisée pour convertir les chaînes en objets dans vue.js? Apr 07, 2025 pm 09:39 PM

Lors de la conversion des chaînes en objets dans vue.js, JSON.Parse () est préféré pour les chaînes JSON standard. Pour les chaînes JSON non standard, la chaîne peut être traitée en utilisant des expressions régulières et réduisez les méthodes en fonction du format ou du codé décodé par URL. Sélectionnez la méthode appropriée en fonction du format de chaîne et faites attention aux problèmes de sécurité et d'encodage pour éviter les bogues.

Vue et Element-UI Cascade déroulante Boîte en V Mode en V Vue et Element-UI Cascade déroulante Boîte en V Mode en V Apr 07, 2025 pm 08:06 PM

Vue et Element-UI Boîtes déroulantes en cascade Points de fosse de liaison V-model: V-model lie un tableau représentant les valeurs sélectionnées à chaque niveau de la boîte de sélection en cascade, pas une chaîne; La valeur initiale de SelectOptions doit être un tableau vide, non nul ou non défini; Le chargement dynamique des données nécessite l'utilisation de compétences de programmation asynchrones pour gérer les mises à jour des données en asynchrone; Pour les énormes ensembles de données, les techniques d'optimisation des performances telles que le défilement virtuel et le chargement paresseux doivent être prises en compte.

Vue.js Comment convertir un tableau de type de chaîne en un tableau d'objets? Vue.js Comment convertir un tableau de type de chaîne en un tableau d'objets? Apr 07, 2025 pm 09:36 PM

Résumé: Il existe les méthodes suivantes pour convertir les tableaux de chaîne Vue.js en tableaux d'objets: Méthode de base: utilisez la fonction de carte pour convenir à des données formatées régulières. Gameplay avancé: l'utilisation d'expressions régulières peut gérer des formats complexes, mais ils doivent être soigneusement écrits et considérés. Optimisation des performances: Considérant la grande quantité de données, des opérations asynchrones ou des bibliothèques efficaces de traitement des données peuvent être utilisées. MEILLEUR PRATIQUE: Effacer le style de code, utilisez des noms de variables significatifs et des commentaires pour garder le code concis.

Comment définir le délai de Vue Axios Comment définir le délai de Vue Axios Apr 07, 2025 pm 10:03 PM

Afin de définir le délai d'expiration de Vue Axios, nous pouvons créer une instance AxiOS et spécifier l'option Timeout: dans les paramètres globaux: vue.prototype. $ Axios = axios.create ({timeout: 5000}); Dans une seule demande: ce. $ axios.get ('/ api / utilisateurs', {timeout: 10000}).

Géospatial de Laravel: optimisation des cartes interactives et de grandes quantités de données Géospatial de Laravel: optimisation des cartes interactives et de grandes quantités de données Apr 08, 2025 pm 12:24 PM

Traiter efficacement 7 millions d'enregistrements et créer des cartes interactives avec la technologie géospatiale. Cet article explore comment traiter efficacement plus de 7 millions d'enregistrements en utilisant Laravel et MySQL et les convertir en visualisations de cartes interactives. Exigences initiales du projet de défi: extraire des informations précieuses en utilisant 7 millions d'enregistrements dans la base de données MySQL. Beaucoup de gens considèrent d'abord les langages de programmation, mais ignorent la base de données elle-même: peut-il répondre aux besoins? La migration des données ou l'ajustement structurel est-il requis? MySQL peut-il résister à une charge de données aussi importante? Analyse préliminaire: les filtres et les propriétés clés doivent être identifiés. Après analyse, il a été constaté que seuls quelques attributs étaient liés à la solution. Nous avons vérifié la faisabilité du filtre et établi certaines restrictions pour optimiser la recherche. Recherche de cartes basée sur la ville

Les ingénieurs de backend senior à distance (plates-formes) ont besoin de cercles Les ingénieurs de backend senior à distance (plates-formes) ont besoin de cercles Apr 08, 2025 pm 12:27 PM

Ingénieur backend à distance Emploi Vacant Société: Emplacement du cercle: Bureau à distance Type d'emploi: Salaire à temps plein: 130 000 $ - 140 000 $ Description du poste Participez à la recherche et au développement des applications mobiles Circle et des fonctionnalités publiques liées à l'API couvrant l'intégralité du cycle de vie de développement logiciel. Les principales responsabilités complètent indépendamment les travaux de développement basés sur RubyOnRails et collaborent avec l'équipe frontale React / Redux / Relay. Créez les fonctionnalités de base et les améliorations des applications Web et travaillez en étroite collaboration avec les concepteurs et le leadership tout au long du processus de conception fonctionnelle. Promouvoir les processus de développement positifs et hiérarchiser la vitesse d'itération. Nécessite plus de 6 ans de backend d'applications Web complexe

Comment résoudre MySQL ne peut pas être démarré Comment résoudre MySQL ne peut pas être démarré Apr 08, 2025 pm 02:21 PM

Il existe de nombreuses raisons pour lesquelles la startup MySQL échoue, et elle peut être diagnostiquée en vérifiant le journal des erreurs. Les causes courantes incluent les conflits de port (vérifier l'occupation du port et la configuration de modification), les problèmes d'autorisation (vérifier le service exécutant les autorisations des utilisateurs), les erreurs de fichier de configuration (vérifier les paramètres des paramètres), la corruption du répertoire de données (restaurer les données ou reconstruire l'espace de la table), les problèmes d'espace de la table InNODB (vérifier les fichiers IBDATA1), la défaillance du chargement du plug-in (vérification du journal des erreurs). Lors de la résolution de problèmes, vous devez les analyser en fonction du journal d'erreur, trouver la cause profonde du problème et développer l'habitude de sauvegarder régulièrement les données pour prévenir et résoudre des problèmes.

Comment utiliser MySQL après l'installation Comment utiliser MySQL après l'installation Apr 08, 2025 am 11:48 AM

L'article présente le fonctionnement de la base de données MySQL. Tout d'abord, vous devez installer un client MySQL, tel que MySQLWorkBench ou le client de ligne de commande. 1. Utilisez la commande MySQL-UROot-P pour vous connecter au serveur et connecter avec le mot de passe du compte racine; 2. Utilisez Createdatabase pour créer une base de données et utilisez Sélectionner une base de données; 3. Utilisez CreateTable pour créer une table, définissez des champs et des types de données; 4. Utilisez InsertInto pour insérer des données, remettre en question les données, mettre à jour les données par mise à jour et supprimer les données par Supprimer. Ce n'est qu'en maîtrisant ces étapes, en apprenant à faire face à des problèmes courants et à l'optimisation des performances de la base de données que vous pouvez utiliser efficacement MySQL.

See all articles