Wie macht man künstliche Intelligenz erklärbar?

Wolfgang Berner, Chief Technology Officer des RegTech-Unternehmens Hawk:AI, sagte, dass die Erklärbarkeit für viele Anwendungen besonders wichtig sei.

Berner sagte: „In stark regulierten Bereichen wie der Bekämpfung der Geldwäsche ist es durchaus angebracht, beim Einsatz künstlicher Intelligenz auf Transparenz und Erklärbarkeit zu achten, wenn die Entscheidungen der KI zu stark von den Originaldaten abweichen.“ Transparenz in der Funktionsweise des Algorithmus. Die Menschen werden sich über diese typische „Black-Box-KI“ Sorgen machen.

Hawk AI glaubt, dass der Schlüssel zu einer konformen Branche, Vertrauen und Akzeptanz ein hohes Maß an Transparenz ist. Für das Unternehmen geht der Bedarf an KI-Erklärbarkeit also weit über rein regulatorische Anforderungen hinaus.

Mit verständlicher künstlicher Intelligenz können Finanzinstitute auch komplexe Modelle wie neuronale Netze überblicken und steuern. Für Hawk AI besteht die Erklärbarkeit aus zwei Aspekten: Was ist der Grund für eine individuelle Entscheidung, die von der KI gesteuert wird? Wie werden die Algorithmen entwickelt, die künstliche Intelligenz unterstützen?

Hawk AI sagte: „Für Hawk AI ist das klar – nur was technisch erklärbar ist, wird letztendlich akzeptiert.“ Die genauen Kriterien für eine Entscheidung oder die statistische Wahrscheinlichkeit bestimmter Risiken und die Zusammensetzung des Algorithmus hängen von der KI ab ​Entscheidungsprozess Es ist ebenso wichtig, dass dies alles in einer klaren und verständlichen Sprache und nicht in rein technischen Begriffen ausgedrückt wird. Das Unternehmen ist der Ansicht, dass jedes Detail und jede Datenquelle überprüfbar sein muss – zum Beispiel, ob bestimmte Werte von Bedeutung sind höher oder niedriger im Vergleich zu einer bestimmten Peer-Gruppe. Warum KI von bestimmten Erwartungswerten ausgeht und in welcher Beziehung diese Werte zueinander stehen, muss transparent sein. Das Datenbild muss so klar sein, dass der Compliance-Beauftragte dieselben Daten verwenden würde, um dieselbe Entscheidung zu treffen.

Darüber hinaus tragen konsistente Feedback- und Validierungsprozesse dazu bei, Entscheidungen kontinuierlich zu verbessern – so lernt die KI direkt aus den Entscheidungen des Compliance-Teams und kann diese in Zukunft besser unterstützen.

Hawk erwähnte, dass KI nicht nur zu Beginn ihrer Anwendung transparent sein muss – da sie sich selbstständig verbessert, indem sie neuen Daten ausgesetzt wird –, sondern auch in der Lage sein muss, solche Optimierungen zu verstehen. Dazu gibt das Unternehmen an, dass jeder Änderungsprozess in der KI auch in der Software dokumentiert wird und einer expliziten Genehmigung bedarf. Ohne Compliance-Teams, die dies verstehen und kontrollieren können, wird sich die KI daher nie weiterentwickeln.

Hawk AI kam zu dem Schluss: „KI-Geldwäschebekämpfung ist bereit – mit Hawk AI ist es transparent und sicher. Aus diesen Gründen spricht Hawk AI in Bezug auf künstliche Intelligenz von „White-Box-KI“ und nicht von „Black-Box-KI“. „Im Vergleich zu „Box AI“ ist seine Technologie für Compliance-Teams völlig verständlich. Der Einsatz künstlicher Intelligenz im Finanzsektor revolutioniert den Kampf gegen Finanzkriminalität. Technologiegetriebene Geldwäscheprävention übertrifft nicht nur herkömmliche Systeme hinsichtlich Effizienz und Effektivität deutlich, sondern ist aufgrund der Fähigkeit, aus kriminellen Verhaltensmustern zu lernen, auch besonders zukunftsweisend. Daher wird der Einsatz künstlicher Intelligenz zur Bekämpfung von Finanzkriminalität langfristig zum Branchenstandard werden. Diese Technologie hat sich seit vielen Jahren in der Praxis bewährt. Selbst bei sehr großen Finanzinstituten ist es bereits heute im Einsatz oder zumindest in ersten Piloten etabliert. „

Hawk AI ist eine Partnerschaft mit Diebold Nixdorf eingegangen, einem führenden Anbieter von vernetztem Handel im Finanz- und Einzelhandelsbereich, um die Reichweite seiner AML-Lösungen zu erweitern

Das obige ist der detaillierte Inhalt vonWie macht man künstliche Intelligenz erklärbar?. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!