Pour une IA responsable, Microsoft restreint la reconnaissance faciale

Microsoft a mis en place un certain nombre de standards qu’il s’impose de respecter vis-à-vis de l’utilisation de l’IA. La reconnaissance faciale constitue un volet important de ces normes.

Microsoft a publié un rapport de 27 pages sur sa vision d’une intelligence artificielle responsable et a établi un certain nombre de normes à respecter en la matière. Voici ce qu’il faut en retenir.

L’accès à la reconnaissance faciale est restreint

L’une des grandes annonces de la firme de Redmond est la restriction d’accès à ses outils de reconnaissance faciale au sein de ses plateformes Azure Face API, Computer Vision et Video Indexer, dans le but de se conformer à ses propres standards.

Natasha Crampton, à la tête de la division de Microsoft qui se consacre à l’intelligence artificielle, ajoute que les services Azure qui servent à identifier « des états émotionnels et des attributs d’identité tels que le sexe, l’âge, le sourire, la barbe, les cheveux et le maquillage » vont également être retirés.

« Nous reconnaissons que pour que les systèmes d’IA soient dignes de confiance, ils doivent être des solutions appropriées aux problèmes qu’ils sont censés résoudre », explique Crampton. Autrement dit, l’IA doit être une réponse concrète à des problématiques précises et ne doit pas pouvoir se voir attribuer des fonctionnalités qui dépassent le rôle qui lui est attribué, afin d’éviter les abus.

La synthèse vocale s’améliore

Microsoft ajoute qu’il est important pour les sociétés privées d’adopter des attitudes responsables quant à l’intelligence artificielle, alors que la plupart des législations ne sont pas encore armées pour empêcher des usages non éthiques des technologies qui y sont liées.

La reconnaissance faciale n’est pas la seule à être dans le viseur de Microsoft. Sa technologie de synthèse vocale proposée par l’intermédiaire de la fonctionnalité de voix neurale personnalisée d’Azure AI est aussi concernée. Elle avait été accusée dans une étude de mars 2020 de produire des taux d’erreur très élevés parmi les populations noires et a été améliorée dans ce cas de figure pour éviter des discriminations.

Outre les inquiétudes liées à la vie privée, la reconnaissance faciale a été la cible de critiques à cause de taux d’échecs importants auprès des femmes et des individus non blancs.

Leave a Reply

Your email address will not be published.