Dites non aux préjugés et aux inégalités ! Microsoft cesse de proposer un service controversé de reconnaissance faciale

Microsoft Corp. a annoncé qu'elle supprimerait progressivement l'accès à certains de ses outils de reconnaissance faciale basés sur l'intelligence artificielle, notamment un service qui reconnaît les émotions basées sur des vidéos et des images.

Lorsque Microsoft a annoncé cette décision il y a quelques jours, il a également publié une « norme d'intelligence artificielle responsable » de 27 pages, qui explique les objectifs de Microsoft en matière d'équité. et une intelligence artificielle fiable. Pour répondre à ces normes, Microsoft a restreint l'accès à certains outils de reconnaissance faciale, notamment ceux fournis par ses services AzureFace API, Computer Vision et Video Indexer.

Microsoft a déclaré que les nouveaux utilisateurs n'auront pas la possibilité d'utiliser ces fonctionnalités, tandis que les clients existants devront cesser de les utiliser d'ici la fin de cette année.

La technologie de reconnaissance faciale est devenue une préoccupation majeure pour les groupes de défense des droits civiques et de la vie privée. Des recherches antérieures ont montré que la technologie de reconnaissance faciale est loin d’être parfaite, identifiant souvent mal les sujets féminins et les personnes à la peau plus foncée à des taux disproportionnés. Cela pourrait entraîner des problèmes potentiels importants lorsque l’IA est utilisée pour identifier des suspects criminels et dans d’autres situations de surveillance.

L'utilisation d'outils d'intelligence artificielle pour détecter les émotions est encore plus controversée. Plus tôt cette année, Zoom Video Communications Inc a annoncé qu'elle envisageait d'ajouter des capacités « d'intelligence artificielle émotionnelle », et le groupe de protection de la vie privée Fight for the Future a lancé une campagne exhortant Zoom à ne pas le faire en raison des craintes que la technologie ne soit utilisée à mauvais escient.

La controverse entourant la reconnaissance faciale a attiré l'attention des entreprises technologiques, Amazon Web Services Inc. et la société mère de Facebook, Meta Platforms Inc., ayant toutes deux réduit leur utilisation de ces outils.

Natasha Crampton, responsable de l'intelligence artificielle chez Microsoft, a déclaré dans un article de blog que Microsoft reconnaît que pour qu'un système d'intelligence artificielle soit digne de confiance, le système d'intelligence artificielle doit être une solution appropriée au problème auquel il est confronté. est destiné à résoudre. La reconnaissance faciale a été jugée comme une solution inappropriée, a déclaré Crampton, et Microsoft va abandonner son service Azure qui déduit « l'état émotionnel et les attributs d'identité tels que le sexe, l'âge, le sourire, la pilosité faciale, les cheveux et le maquillage ».

Elle a également déclaré : « Les systèmes d’IA ont le potentiel d’exacerber les préjugés sociaux et les inégalités, sans doute l’un des préjudices les plus largement reconnus associés à ces systèmes. Nos lois n’ont pas rattrapé les risques ou les inégalités uniques de l’IA. Nous constatons des signes indiquant que l’action gouvernementale en matière d’intelligence artificielle s’étend, mais nous reconnaissons également que nous avons la responsabilité d’agir. Les avis sont partagés sur la question de savoir si c’était une bonne décision. Charles King de Pund-IT a déclaré aux journalistes qu'en plus de la controverse sur la technologie de reconnaissance faciale, les résultats des outils de classification et de profilage de l'intelligence artificielle sont souvent insatisfaisants et atteignent rarement les résultats revendiqués par leurs créateurs. « Tout aussi important », a déclaré King, « les réfugiés et les personnes de couleur en quête d'une vie meilleure sont attaqués dans de nombreux endroits, et le potentiel d'abus des outils de profilage est très élevé. Par conséquent, je crois que Microsoft restreint l'utilisation de ce type d'outils. d'outil." La décision est tout à fait logique. Rob Enderle du groupe Enderle a déclaré qu'il était décevant de voir Microsoft s'éloigner de la reconnaissance faciale, un outil qui a parcouru un long chemin après ses nombreuses erreurs initiales. . Il a déclaré que la publicité négative entourant la reconnaissance faciale a contraint certaines grandes entreprises à rester à l’écart de ce domaine.

Enderle a déclaré : « La technologie de reconnaissance faciale basée sur l'IA est trop précieuse pour attraper les criminels, les terroristes et les espions, donc les agences gouvernementales n'arrêteront pas d'utiliser cette technologie. Cependant, Microsoft Le recul signifie qu'ils finiront par en utilisant des outils provenant d’entreprises spécialisées dans la défense ou de fournisseurs étrangers, qui ne fonctionneront probablement pas aussi bien et ne disposeront pas du même type de contrôles qui ont déclenché le génocide sur la technologie de reconnaissance faciale. Cela empêchera la société entière d’en bénéficier. »#🎜🎜 #

Microsoft a déclaré que ses normes en matière d'intelligence artificielle responsable ne se limitent pas à la reconnaissance faciale. Microsoft appliquera également ces normes à Azure AI Custom Neural Speech, un service de synthèse vocale qui peut être utilisé pour alimenter les outils de transcription. Microsoft a expliqué qu'une étude de mars 2020 a révélé que les communautés afro-américaines et noires présentaient des taux d'erreur plus élevés lors de l'utilisation du logiciel et, à la lumière de cela, Microsoft a pris des mesures pour améliorer le logiciel.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!