Microsoft restreint l'accès à certains de ses services d'intelligence artificielle

L’intelligence artificielle détient l’avenir de la technologie, mais entre de mauvaises mains, elle peut causer des problèmes à de nombreuses personnes. C'est pourquoi Microsoft a annoncé quelques modifications à ses normes d'IA responsable, en introduisant une nouvelle politique d'accès limité. La société a déclaré dans plusieurs articles le 21 juin qu'elle supprimerait et restreindrait désormais l'accès à certains de ses services qui utilisent l'IA. Ces changements de politique affecteront en particulier le service de reconnaissance faciale Azure Face de Microsoft et les voix neuronales personnalisées.

L'une des caractéristiques qui sera grandement affectée par ce changement est la technologie controversée d'analyse faciale, qui vise à déduire l'état émotionnel d'un individu et à identifier différents attributs humains tels que le sexe, l'âge, le sourire, la pilosité faciale, les cheveux et le maquillage. Microsoft a déclaré que cette décision faisait suite à certains problèmes de confidentialité et à un manque de consensus scientifique sur la définition du concept « d'émotion ».

« Nous travaillons avec des chercheurs internes et externes pour comprendre les limites et les avantages potentiels de cette technologie et peser sur les compromis », a déclaré Sarah Bird, chef de produit principal du groupe Azure AI. « Particulièrement dans le cas de la classification des émotions, ces efforts soulèvent d'importantes questions sur la vie privée, un manque de consensus sur la définition de « émotion » et une incapacité à généraliser entre les expressions faciales et les états émotionnels à travers les cas d'utilisation, les régions et les données démographiques. L'accès à l'API pour prédire les attributs sensibles ouvre également diverses possibilités d'abus, notamment en soumettant les gens à des stéréotypes, à de la discrimination ou à un déni de service injuste.

En conséquence, l'entreprise a annoncé le 21 juin. La fonction de détection d'attributs sera fournie aux nouveaux clients le 30 du même mois, et la fonction de détection d'attributs sera arrêtée pour les clients existants le 30 du même mois. Néanmoins, Microsoft déclare "reconnaître que ces fonctionnalités peuvent être utiles lorsqu'elles sont utilisées dans un ensemble contrôlé de scénarios d'accessibilité". Il existe donc une exception à la fourniture continue de ces fonctionnalités dans les applications conçues pour les personnes handicapées, par exemple Seeing AI.

D'autre part, Microsoft empêchera les candidats d'accéder aux services de reconnaissance faciale dans Azure Face API, Computer Vision et Video Indexer. Selon la politique d'accès limité introduite par Microsoft, les clients doivent satisfaire aux cas d'utilisation et aux exigences de qualification client pour accéder aux opérations. Les clients actuels auront un an, jusqu'au 30 juin 2023, pour demander et obtenir l'autorisation de continuer à utiliser les services de reconnaissance faciale. Pendant ce temps, des fonctionnalités supplémentaires de détection de visage pour détecter le flou, l’exposition, les lunettes, la pose de la tête, les points de repère, le bruit, les occlusions et les cadres de délimitation du visage resteront disponibles sans applications.

Enfin, selon Bird, la fonctionnalité vocale neuronale personnalisée de Microsoft sera également confrontée à certaines restrictions pour éviter d'éventuels abus. "Sur la base de ce que nous avons appris du discours neuronal personnalisé, nous appliquerons des contrôles similaires à notre service de reconnaissance faciale", a écrit Natasha Crampton, responsable de l'intelligence artificielle, dans un article de blog séparé. "Après une période de transition pour les clients existants, nous limitons l'accès à ces services aux clients et partenaires gérés, en limitant les cas d'utilisation à des cas d'utilisation acceptables prédéfinis et en tirant parti des contrôles techniques conçus dans les services."

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!