Wie kann ein ethischer Einsatz von KI-Implementierungen sichergestellt werden?

Das erhebliche Wachstum der Automatisierungs- und Maschinentechnologien (wie künstliche Intelligenz und maschinelles Lernen) hat zweifellos zu neuen Größen- und Serviceniveaus für Unternehmen geführt.

Einer der Vorteile, die wir alle von KI erwarten könnten, ist die Möglichkeit, von Menschen verursachte Vorurteile zu beseitigen und die Diskriminierung von Minderheitengruppen zu verbessern. Wenn KI jedoch nicht gut gemanagt wird, kann sie die Diskriminierung noch weiter verstärken, indem sie Vorurteile in ihre Algorithmen einbaut.

Heutzutage entscheiden Maschinen oft darüber, ob wir für eine Hypothek in Frage kommen oder ob wir von Strafverfolgungsbehörden oder Versicherungsunternehmen überwacht werden, um Betrug zu bekämpfen. Ihr Einfluss erstreckt sich sogar auf die Entscheidung, welche Anzeigen Sie online sehen – einschließlich Stellenanzeigen für gut bezahlte Jobs.

Es gibt viele Organisationen, in denen künstliche Intelligenz in automatisierten Systemen nicht gut dokumentiert oder verstanden ist. Es ist an der Zeit, dass die automatisierte Entscheidungsfindung aus dem Schatten tritt und Verantwortung übernimmt.

Wenn sich automatisierte Entscheidungen direkt oder indirekt auf das Leben von Menschen auswirken und Maschinen auf schädliche Weise diskriminieren können, müssen Organisationen aufstehen, aufmerksam werden und Maßnahmen ergreifen, um sicherzustellen, dass künstliche Intelligenz so ethisch wie möglich intelligent umgesetzt wird.

Schritt Eins

Unternehmen und Regierungsorganisationen sollten gleichermaßen danach streben, das höchste Schutzniveau für jede von ihnen eingesetzte Maschinentechnologie zu erreichen. Zu Beginn jedes Automatisierungsprojekts müssen Unternehmen eine rechtliche, datenschutzbezogene und ethische Folgenabschätzung durchführen, um zu bestätigen, dass die Risiken vollständig verstanden sind und zufriedenstellend gemindert werden können. Dadurch wird auch sichergestellt, dass die am besten geeignete Lösung ausgewählt wird, um ein akzeptables Risikoniveau festzulegen und gleichzeitig einen Mehrwert zu schaffen.

Diese Bewertungen sollten von einem multidisziplinären, objektiven Prüfteam genehmigt werden, das über ein Vetorecht bei allen problematischen Aspekten des Projekts verfügt, einschließlich Bereitstellungsmethoden, Automatisierungsgraden und Regressmöglichkeiten. Die Bereitstellung muss ein kollaborativer Prozess zwischen Daten-/Technologieteams und Unternehmensführungsteams sein, um Best-Practice-Ethik in Daten und Analysen umzusetzen.

Einsatz

Der Bericht des Bürgerbeauftragten enthält einige starke Empfehlungen zu bewährten Verfahren bei der Gestaltung und Implementierung von Maschinentechnologie. Dennoch glauben wir, dass alle Organisationen verpflichtet sind, mindestens die folgenden Best Practices zu berücksichtigen:

• Ethische Überlegungen zu Fairness, Transparenz, Schadensfreiheit, Privatsphäre, Respekt für Autonomie und Rechenschaftspflicht erfordern Alle Organisationen, die eine Maschinentechnologie implementieren, müssen sicherstellen, dass diese für alle betroffenen Gruppen mit höchster Genauigkeit funktioniert #
Es gibt Prozesse, um schädliche Folgen zu erkennen und zu mildern.
• Menschen können ihre Einwilligung nach Aufklärung zur Teilnahme an dem Prozess geben gelten als ungerecht.
• Die Entwicklung und Bereitstellung jeder Maschinentechnologie sollte iterativ erfolgen, beginnend mit einer ethischen Überprüfung der Genauigkeit auf der Grundlage historischer Daten, um eine konsistente Leistung in der gesamten Stichprobenpopulation sicherzustellen. Wenn einige Gruppen deutlich schlechter abschneiden, müssen mehr Daten eingeholt werden, um eine angemessene Darstellung aller Gruppen sicherzustellen.
• Wenn Risiken schädlicher Folgen erkannt werden, sollte die Bereitstellung gleichermaßen iterativ und vorsichtig erfolgen, beginnend mit einer Human-in-the-Loop-Lösung, um die menschliche Aufsicht sicherzustellen und gleichzeitig Vertrauen in die Modell- oder Systemleistung zu gewinnen.

Das soll nicht heißen, dass der menschliche Entscheidungsprozess narrensicher ist. Es bietet lediglich die Möglichkeit, die Ausgabe vor der Bereitstellung zu verstehen und abzufragen. Dieser Prozess sollte mit dem vertrauenswürdigsten Bediener durchgeführt werden, um die Möglichkeit einer erneuten Einbeziehung menschlicher Voreingenommenheit in den Prozess zu verringern. Darüber hinaus sollten alle am Prozess Beteiligten über eine Schulung zu unbewussten Vorurteilen verfügen.

Einmal in der Produktion muss die laufende Genauigkeit und Leistung jeder Maschinentechnologie kontinuierlich gemessen und überwacht werden. Zusammen mit bestehenden KPIs sollte diese Leistung berichtsfähig und im gesamten Unternehmen sichtbar sein.

review

Jede Organisation, die algorithmische Entscheidungsfindung implementiert, muss über einen objektiven ethischen Überprüfungsprozess verfügen, der sowohl quantitative als auch qualitative Überlegungen umfasst. Die Modellleistung sollte anhand dieser ethischen Kennzahlen überwacht werden, um Leistungsanomalien für Minderheitengruppen und etwaige Leistungsänderungen im Laufe der Zeit zu verstehen. Das Modell kann dann im Rahmen des betrieblichen Prozesses fortlaufend angepasst und angepasst werden.

Auch wenn die Umsetzung entmutigend erscheinen mag, müssen Unternehmen ihr Verständnis und die Umsetzung ethischer Überlegungen in ihren KI- und maschinellen Lernprojekten verbessern. Unternehmen sollten bei der Verwaltung der Leistung und Auswirkungen ihrer automatisierten Entscheidungen einen „Problem-Überprüfung-Maßnahmen-Verbesserung“-Ansatz verfolgen, um ethische Ergebnisse sicherzustellen.

Das obige ist der detaillierte Inhalt vonWie kann ein ethischer Einsatz von KI-Implementierungen sichergestellt werden?. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!