Comment rendre l'intelligence artificielle explicable ?

RegTech company Hawk:Le directeur de la technologie d'IA, Wolfgang Berner, a déclaré que si vous êtes vraiment explicable, l'explicabilité est particulièrement critique pour de nombreuses applications.

Berner a déclaré : « Dans des domaines hautement réglementés tels que la lutte contre le blanchiment d'argent, il est tout à fait approprié de considérer la transparence et l'explicabilité dans l'utilisation de l'intelligence artificielle lorsque les décisions de l'IA sont trop déconnectées des données d'origine et qu'il y a un manque de données. transparence dans le fonctionnement de l'algorithme, les gens s'inquiéteront de cette « IA boîte noire » typique

Hawk AI estime que la clé d'une industrie conforme, de confiance et d'acceptation est un haut degré de transparence. Ainsi, pour l’entreprise, le besoin d’explicabilité de l’IA va bien au-delà des exigences purement réglementaires.

Grâce à une intelligence artificielle compréhensible, les institutions financières peuvent avoir une vue d'ensemble et un contrôle de modèles même complexes tels que les réseaux de neurones. Pour Hawk AI, l’explicabilité se compose de deux aspects : quelle est la justification d’une décision individuelle pilotée par l’IA ? Comment sont développés les algorithmes qui aident l’intelligence artificielle ?

Hawk AI a déclaré : "Pour Hawk AI, c'est clair : seul ce qui est techniquement explicable sera finalement accepté. Les critères exacts de décision ou la probabilité statistique de certains risques et la composition de l'algorithme sont liés à l'IA ​​processus de prise de décision Il est tout aussi important que tout cela soit exprimé dans un langage clair et compréhensible plutôt que dans des termes purement techniques. » L’entreprise estime que chaque détail et chaque source de données doivent être vérifiables – par exemple, si certaines valeurs sont significatives. supérieur ou inférieur par rapport à un groupe de pairs spécifique. La raison pour laquelle l'IA suppose certaines valeurs attendues et la manière dont ces valeurs sont liées les unes aux autres doivent être transparentes. L’image des données doit être si claire que le responsable de la conformité utiliserait les mêmes données pour prendre la même décision.

De plus, des processus cohérents de feedback et de validation contribuent à améliorer continuellement les décisions – de sorte que l’IA apprend directement des décisions de l’équipe de conformité et peut mieux les soutenir à l’avenir.

Hawk a mentionné que l'IA doit non seulement être transparente dès le début de son application - car elle s'améliore de manière indépendante en étant exposée à de nouvelles données - mais doit également être capable de comprendre de telles optimisations. À cette fin, l’entreprise affirme que chaque processus de changement dans l’IA est également documenté dans le logiciel et nécessite une approbation explicite. Par conséquent, sans des équipes de conformité capables de la comprendre et de la contrôler, l’IA n’évoluera jamais.

Hawk AI a conclu : « L'IA anti-blanchiment d'argent est prête – avec Hawk AI, c'est transparent et sécurisé. Pour ces raisons, Hawk AI parle d'« IA boîte blanche » en relation avec l'intelligence artificielle, par opposition à « IA boîte noire ». " Par rapport à "box AI", sa technologie est tout à fait compréhensible pour les équipes de conformité. De ce fait, notre logiciel offre un contrôle et une sécurité complets. L'application de l'intelligence artificielle dans le secteur financier révolutionne la lutte contre la criminalité financière. La lutte contre le blanchiment d’argent basée sur la technologie surpasse non seulement considérablement les systèmes traditionnels en termes d’efficience et d’efficacité, mais elle est également particulièrement tournée vers l’avenir en raison de sa capacité à tirer des leçons des modèles de comportement criminel. Par conséquent, à long terme, l’utilisation de l’intelligence artificielle pour lutter contre la criminalité financière deviendra une norme dans l’industrie. Cette technologie a fait ses preuves dans la pratique depuis de nombreuses années. Même dans les très grandes institutions financières, il est déjà utilisé aujourd’hui, ou du moins mis en place lors des premiers projets pilotes. «

Hawk AI s'est associé à Diebold Nixdorf, un leader dans le domaine du commerce connecté dans la finance et la vente au détail, pour étendre la portée des solutions AML du premier

.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!