616885838

Il y a quelques années, Google était gêné quand ses algorithmes qualifiaient incorrectement un couple noir de «gorilles». Incapable d’arrêter ses algorithmes de reconnaissance d’image efficacement, Google les «fixa» récemment en supprimant complètement «gorilla» .

La reconnaissance faciale

Le fabricant du moteur de recherche GIF intelligent Gfycat a récemment rencontré un problème similaire – mais contrairement à Google, il l’a fait d’une manière qui ne supprimait pas seulement la fonction d’identification d’image pour prétendre qu’il n’y avait pas de problème. En formant sa reconnaissance d’image sur des visages « non-blancs », elle a pu développer un logiciel de reconnaissance faciale qui est bien meilleur que ses rivaux pour reconnaître les individus « non-blancs », en particulier ceux d’ascendance est-asiatique.

« Nous voulions nous assurer que notre contenu attirait les consommateurs d’Asie de l’Est, car ils constituent un segment important de nos créateurs et de nos utilisateurs », a déclaré Richard Rabbat, PDG de Gfycat. « Par exemple, nous avons vu une tonne de contenu K-pop sur notre site. Cependant, quand nous avons regardé nos résultats de reconnaissance faciale pour les célébrités asiatiques, la reconnaissance faciale open-source I.A. nous utilisons beaucoup plus souvent des célébrités asiatiques mal étiquetées que des célébrités blanches.

Ce problème est incroyablement commun dans la reconnaissance faciale I.A.., et cela signifie généralement que les données d’entraînement ne contenaient pas assez de visages de personnes de couleur.  »

Après avoir découvert que son projet de reconnaissance faciale existant était incapable de reconnaître l’acteur asiatique iconique Jackie Chan, Rabbat a réalisé que quelque chose devait être fait. « Après avoir identifié ses limites à la détection des célébrités asiatiques, nous l’avons modifié considérablement et nous l’avons recyclé pour qu’il soit beaucoup plus précis de reconnaître les visages asiatiques avec un seuil de certitude beaucoup plus élevé », a-t-il déclaré.

S’étant concentré sur la formation de l’algorithme avec des images de personnes d’Asie de l’Est, le système – qui a 15.000 GIF téléchargés chaque jour – est maintenant capable de différencier les actrices Lucy Liu et Constance Wu. Il n’était pas auparavant capable de le faire.

Comme le souligne Rabbat, identifier correctement les célébrités dans les GIF n’est pas un problème sérieux, mais ce problème est révélateur d’un problème beaucoup plus important. « A.I. La reconnaissance faciale prend de plus en plus d’importance dans la vie de tous les jours « , a-t-il déclaré. « Il est important que les entreprises réfléchissent à l’impact de leur technologie sur la société. Les entreprises technologiques peuvent investir davantage pour s’assurer que leur technologie est inclusive et aborde la diversité dès le premier jour.

Nous ne pensons pas pouvoir compter sur l’I.A. pour corriger ce problème, car à l’heure actuelle elle est dominée par les géants de la technologie, et ces géants doivent s’assurer qu’ils créent des produits « responsables.  »

Ce qui n’est malheureusement pas le but de ces entreprises, qui visent surtout à faire du profit, au détriment des utilisateurs,