Microsoft schränkt den Zugriff auf einige seiner Dienste für künstliche Intelligenz ein

Künstliche Intelligenz birgt die Zukunft der Technologie, aber in den falschen Händen kann sie vielen Menschen Probleme bereiten. Aus diesem Grund hat Microsoft einige Änderungen an seinen Standards für verantwortungsvolle KI angekündigt und eine neue Richtlinie für eingeschränkten Zugriff eingeführt. Das Unternehmen gab am 21. Juni in mehreren Beiträgen bekannt, dass es nun einige seiner Dienste, die KI verwenden, entfernen und den Zugriff darauf einschränken werde. Diese Richtlinienänderungen wirken sich insbesondere auf den Gesichtserkennungsdienst Azure Face und benutzerdefinierte neuronale Stimmen von Microsoft aus.

Eine der Funktionen, die von dieser Änderung stark betroffen sein wird, ist die umstrittene Gesichtsanalysetechnologie, die darauf abzielt, auf den emotionalen Zustand einer Person zu schließen und verschiedene menschliche Attribute wie Geschlecht, Alter, Lächeln, Gesichtsbehaarung, Haare und Make-up zu identifizieren. Microsoft sagte, der Schritt sei auf einige Datenschutzbedenken und einen Mangel an wissenschaftlichem Konsens über die Definition des Konzepts „Emotion“ zurückzuführen.

„Wir arbeiten mit internen und externen Forschern zusammen, um die Einschränkungen und potenziellen Vorteile dieser Technologie zu verstehen und die Kompromisse abzuwägen“, sagte Sarah Bird, Hauptgruppenproduktmanagerin von Azure AI. „Insbesondere im Fall der Emotionsklassifizierung werfen diese Bemühungen wichtige Fragen zur Privatsphäre, einen mangelnden Konsens über die Definition von „Emotion“ und die Unfähigkeit auf, zwischen Gesichtsausdrücken und emotionalen Zuständen über Anwendungsfälle, Regionen und Bevölkerungsgruppen hinweg zu verallgemeinern. Kontakt . Der API-Zugriff auf die Fähigkeit, sensible Attribute vorherzusagen, eröffnet auch vielfältige Möglichkeiten, ihn zu missbrauchen – einschließlich der Unterwerfung von Menschen mit Stereotypen, Diskriminierung oder unfairer Dienstverweigerung.“ Die Attributerkennungsfunktion wird für Neukunden am 30. desselben Monats bereitgestellt und die Attributerkennungsfunktion für bestehende Kunden wird am 30. desselben Monats eingestellt. Nichtsdestotrotz erkennt Microsoft an, dass „diese Funktionen wertvoll sein können, wenn sie in einer Reihe kontrollierter Barrierefreiheitsszenarien verwendet werden“. Daher gibt es eine Ausnahme von der fortlaufenden Bereitstellung dieser Funktionen in Apps, die für Menschen mit Behinderungen entwickelt wurden, z. B. Seeing AI.

Andererseits wird Microsoft Bewerbern den Zugriff auf Gesichtserkennungsdienste in der Azure Face API, Computer Vision und Video Indexer verwehren. Gemäß der von Microsoft eingeführten Richtlinie für eingeschränkten Zugriff müssen Kunden Anwendungsfälle und Kundenqualifikationsanforderungen erfüllen, um auf den Betrieb zugreifen zu können. Aktuelle Kunden haben ein Jahr, bis zum 30. Juni 2023, Zeit, einen Antrag zu stellen und eine Genehmigung für die weitere Nutzung von Gesichtserkennungsdiensten zu erhalten. In der Zwischenzeit bleiben zusätzliche Gesichtserkennungsfunktionen zur Erkennung von Unschärfe, Belichtung, Brille, Kopfhaltung, Orientierungspunkten, Rauschen, Verdeckungen und Gesichtsbegrenzungsrahmen ohne Apps verfügbar.

Schließlich wird auch die benutzerdefinierte neuronale Sprachfunktion von Microsoft einigen Einschränkungen unterliegen, um möglichen Missbrauch zu verhindern, so Bird. „Basierend auf dem, was wir aus der benutzerdefinierten neuronalen Sprache lernen, werden wir ähnliche Kontrollen auf unseren Gesichtserkennungsdienst anwenden“, schrieb Natasha Crampton, Chief Responsible Officer für künstliche Intelligenz, in einem separaten Blogbeitrag. „Nach einer Übergangsphase für bestehende Kunden beschränken wir den Zugriff auf diese Dienste auf verwaltete Kunden und Partner, beschränken die Anwendungsfälle auf vordefinierte akzeptable Anwendungsfälle und nutzen die in die Dienste integrierten technischen Kontrollen.“

Das obige ist der detaillierte Inhalt vonMicrosoft schränkt den Zugriff auf einige seiner Dienste für künstliche Intelligenz ein. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!