Während sich die EU auf die Umsetzung des Gesetzes über künstliche Intelligenz zubewegt, werden Fragen der KI-Ethik wie Voreingenommenheit, Transparenz und Erklärbarkeit immer wichtiger, und der Gesetzentwurf wird die Verwendung wirksam regeln von künstlicher Intelligenz und maschinellen Lerntechnologien in allen Branchen. KI-Experten sagen, dass dies ein guter Zeitpunkt für KI-Benutzer ist, sich mit ethischen Konzepten vertraut zu machen.
Europas neueste Version des Gesetzes über künstliche Intelligenz, die letztes Jahr eingeführt wurde, durchläuft den Überprüfungsprozess zügig und könnte bereits 2023 umgesetzt werden. Während sich das Gesetz noch in der Entwicklungsphase befindet, scheint die Europäische Kommission bereit zu sein, Fortschritte bei der Regulierung künstlicher Intelligenz zu machen.
Das Gesetz wird beispielsweise neue Anforderungen für den Einsatz künstlicher Intelligenzsysteme stellen und bestimmte Anwendungsfälle ganz verbieten. Sogenannte Hochrisiko-KI-Systeme, wie sie beispielsweise in selbstfahrenden Autos und Entscheidungsunterstützungssystemen in den Bereichen Bildung, Einwanderung und Beschäftigung eingesetzt werden, erfordern von den Benutzern die Durchführung von Folgenabschätzungen und Prüfungen von KI-Anwendungen. Einige KI-Anwendungsfälle werden in Datenbanken genau verfolgt, während andere die Genehmigung externer Prüfer erfordern, bevor sie verwendet werden können.
Nick Carrel, Leiter der Datenanalyseberatung bei EPAM Systems, einem Softwareentwicklungsunternehmen mit Sitz in Newtown, Pennsylvania, sagte, dass die Notwendigkeit von Unerklärbarkeit und Interpretierbarkeit als Teil eines MLOps-Engagements oder eines datenwissenschaftlichen Beratungsengagements sehr hoch sei groß. Das EU-Gesetz zur künstlichen Intelligenz dränge Unternehmen auch dazu, Erkenntnisse und Antworten über ethische KI zu suchen, sagte er.
„Es besteht derzeit eine große Nachfrage nach dem, was man ML Ops nennt, also der Wissenschaft, Modelle für maschinelles Lernen zu betreiben. Wir betrachten ethische KI als eine der wichtigsten Grundlagen dieses Prozesses“, so Carrel sagte. „Wir haben auch mehr Anfragen von Kunden erhalten … da sie von der bevorstehenden EU-Gesetzgebung zu Systemen der künstlichen Intelligenz erfahren, die Ende dieses Jahres in Kraft treten wird, und sie wollen darauf vorbereitet sein.“ verwandtes Konzept. Die Interpretierbarkeit eines Modells bezieht sich auf das Ausmaß, in dem Menschen verstehen und vorhersagen können, welche Entscheidungen ein Modell treffen wird, während sich die Interpretierbarkeit auf die Fähigkeit bezieht, genau zu beschreiben, wie ein Modell tatsächlich funktioniert. Man kann das eine ohne das andere haben, sagt Andrey Derevyanka, Leiter Datenwissenschaft und maschinelles Lernen bei EPAM Systems.
„Stellen Sie sich vor, Sie machen ein Experiment, vielleicht ein Chemieexperiment, bei dem Sie zwei Flüssigkeiten mischen. Dieses Experiment ist offen für Interpretationen, denn Sie sehen, was Sie hier tun. Sie nehmen einen Gegenstand, fügen einen anderen hinzu, Wir bekommen das Ergebnis“, sagte Derevyanka. „Aber damit dieses Experiment interpretierbar ist, muss man die chemische Reaktion kennen, man muss wissen, wie die Reaktion entsteht, wie sie funktioniert, und man muss die internen Details des Prozesses kennen.“ 🎜#Derevyanka sagte: Insbesondere Deep-Learning-Modelle können bestimmte Situationen erklären, aber nicht erklären. „Sie haben eine Blackbox und sie funktioniert auf eine bestimmte Weise, aber Sie wissen, dass Sie nicht wissen, was sich darin befindet“, sagte er. „Aber man kann es erklären: Wenn man diesen Input gibt, bekommt man diesen Output.“ „Es ist unmöglich, Verzerrungen aus Daten vollständig zu beseitigen, aber es ist wichtig, dass Unternehmen daran arbeiten, Verzerrungen aus KI-Modellen zu beseitigen“, sagte Umit Cakmak, Leiter der Daten- und KI-Praxis bei EPAM Systems.
„Diese Dinge müssen im Laufe der Zeit analysiert werden“, sagte Cakmak. „Es ist ein Prozess, weil Verzerrungen in historischen Daten verankert sind. Es gibt keine Möglichkeit, Verzerrungen aus den Daten zu entfernen. Als Unternehmen müssen Sie also einige spezifische Prozesse einrichten, damit Ihre Entscheidungen mit der Zeit besser werden, was die Qualität verbessert.“ Ihre Daten im Laufe der Zeit, sodass Sie im Laufe der Zeit weniger voreingenommen sind.“ 🎜🎜#Der EU-Gesetzentwurf zur künstlichen Intelligenz wird den Einsatz von KI nach Risiko klassifizieren Es ist wichtig, dass Kunden und Führungskräfte, die einem Risiko ausgesetzt sind, darauf vertrauen können, dass KI-Modelle keine falschen Entscheidungen auf der Grundlage voreingenommener Daten treffen.
In der Literatur gibt es viele Beispiele für Datenverzerrungen, die in automatisierte Entscheidungssysteme eindringen, einschließlich rassistischer Vorurteile, die in Modellen auftauchen, die zur Bewertung der Mitarbeiterleistung oder zur Auswahl von Bewerbern aus Lebensläufen verwendet werden, sagte Cakmak. Es ist wichtig zu zeigen, wie das Modell zu seinen Schlussfolgerungen gelangt, um zu zeigen, dass Schritte unternommen wurden, um Datenverzerrungen im Modell zu beseitigen.
Cakmak erinnert sich, wie ein Gesundheitsunternehmen aufgrund mangelnder Erklärbarkeit ein für die Krebsdiagnose entwickeltes KI-System aufgab. „KI hat bis zu einem gewissen Grad funktioniert, aber dann wurde das Projekt abgebrochen, weil sie kein Vertrauen in den Algorithmus aufbauen konnten“, sagte er. „Wenn Sie nicht erklären können, warum das Ergebnis eintritt, können Sie nicht mit der Behandlung fortfahren.“
EPAM Systems hilft Unternehmen, künstliche Intelligenz vertrauenswürdig einzusetzen. Das Unternehmen befolgt in der Regel bestimmte Richtlinien, angefangen bei der Datenerfassung über die Vorbereitung eines Modells für maschinelles Lernen bis hin zur Validierung und Interpretation des Modells. Sicherzustellen, dass KI-Teams diese Prüfungen oder „Qualitätstore“ erfolgreich bestehen und dokumentieren, sei ein wichtiges Element ethischer KI, sagte Cakmak.
Ethics and Artificial Intelligence Act
Steven Mills, Chief AI Ethics Officer für Global GAMMA bei der Boston Consulting Group, sagte, die größten und am besten geführten Unternehmen seien sich bereits der Notwendigkeit einer verantwortungsvollen KI bewusst.
Aber je näher der KI-Gesetzentwurf in Kraft tritt, desto mehr Unternehmen auf der ganzen Welt beschleunigen ihre verantwortungsvollen KI-Projekte, um sicherzustellen, dass sie nicht mit dem sich ändernden regulatorischen Umfeld und neuen Erwartungen in Konflikt geraten.
„Es gibt viele Unternehmen, die bereits KI implementieren und erkennen, dass wir hinsichtlich all der möglichen unbeabsichtigten Folgen nicht so hoffnungsvoll sind, wie wir es gerne hätten, und dass wir das so schnell wie möglich angehen müssen“, sagte Mills „Das ist das Wichtigste.“ In manchen Fällen kommt es von externen Investoren, die nicht wollen, dass ihr Anlagerisiko durch den schlechten Einsatz von KI gefährdet wird, sagte Mills.
„Wir sehen einen Trend, bei dem Investoren, ob öffentliche Unternehmen oder Risikofonds, sicherstellen wollen, dass KI verantwortungsvoll aufgebaut wird“, sagte er. „Das ist möglicherweise nicht für jeden wichtig.“ „Aber hinter den Kulissen denken einige dieser VCs darüber nach, wo sie ihr Geld einsetzen, um sicherzustellen, dass diese Startups die Dinge richtig machen“, sagte Carrel. Details sind ebenfalls vage, aber das Gesetz hat das Potenzial, die Verwendung zu klären der künstlichen Intelligenz, von der sowohl Unternehmen als auch Verbraucher profitieren würden.
„Meine erste Reaktion war, dass dies sehr streng sein würde“, sagte Carrel, der vor seinem Einstieg bei EPAM Systems Modelle für maschinelles Lernen in der Finanzdienstleistungsbranche implementierte. „Ich versuche seit Jahren, die Grenzen der Entscheidungsfindung im Finanzdienstleistungssektor zu verschieben, und plötzlich kommt ein Gesetz heraus, das unsere Arbeit untergraben würde
Aber je mehr er sich mit dem bevorstehenden Gesetz befasste, desto mehr gefiel ihm Er sah.
„Ich denke, es wird auch das Vertrauen der Öffentlichkeit in den Einsatz von KI in verschiedenen Branchen stärken“, sagte Carrel. „Die Gesetzgebung, die die Registrierung von Hochrisiko-KI-Systemen in der EU vorschreibt, bedeutet, dass es solche geben wird.“ irgendwo da draußen ein sehr risikoreiches KI-System. Eine übersichtliche Liste aller verwendeten KI-Hochrisikosysteme. Dies gibt Prüfern viel Macht, was bedeutet, dass ungezogene Jungs und schlechte Spieler nach und nach bestraft werden, und hoffentlich werden wir mit der Zeit mehr Möglichkeiten für diejenigen schaffen, die KI und maschinelles Lernen für bessere Zwecke nutzen wollen. Die Menschen hinterlassen Best Practices – die verantwortungsvoller Weg.
Das obige ist der detaillierte Inhalt vonEuropas neues Gesetz zur künstlichen Intelligenz wird die ethische Überprüfung stärken. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!
