comment-déjouer-les-logiciels-de-reconnaissance-faciale

Les algorithmes de reconnaissance faciale peuvent être déjoués par une touche de maquillage appliquée stratégiquement et suffisamment subtile pour ne pas attirer l’attention humaine.

Déjouer les logiciels de reconnaissance faciale

Les logiciels de reconnaissance faciale sont utilisés dans les smartphones et autres technologies similaires, mais aussi par la police. C’est pourquoi il est intéressant de trouver des moyens de tromper ce système.

Nitzan Guetta, de l’université Ben-Gurion du Néguev, en Israël, et ses collègues ont mis au point un logiciel d’IA capable de suggérer où appliquer le maquillage pour tromper les systèmes de reconnaissance faciale en leur faisant croire que l’identité d’une personne a changé.

Testé contre une technologie de reconnaissance faciale réelle, le maquillage appliqué selon les recommandations a pu tromper ce système dans 98,8 % des cas. Pour l’ensemble des personnes, le logiciel de reconnaissance faciale a réussi à identifier une personne dans 47,6 % des cas, mais ce taux est tombé à 1,2 % avec le maquillage.

L’IA est construite à l’aide d’un système d’apprentissage automatique contradictoire, qui oppose deux algorithmes – l’un conçu pour trouver des solutions à un problème, l’autre pour identifier les failles des solutions potentielles.

Inverser l’ingénierie des modèles de reconnaissance faciale

Ce système contradictoire tente d’inverser l’ingénierie des modèles de reconnaissance faciale en observant les éléments du visage d’une personne que les modèles considèrent comme uniques. Les résultats, présentés sous forme de carte thermique sur l’image du visage d’une personne, mettent en évidence les zones qui, selon les systèmes de reconnaissance faciale, identifient le mieux un individu.

Cette carte thermique numérique est ensuite utilisée pour créer une projection de maquillage numérique qui peut être utilisée dans le monde réel pour appliquer du maquillage sur ces zones spécifiques afin de modifier la forme perçue du visage. Comme le savent tous ceux qui ont déjà utilisé un pinceau à contourner sur leur visage, un peu de maquillage peut faire une grande différence.

Testé sur 10 hommes et 10 femmes âgés de 20 à 28 ans, le port du maquillage a fait chuter le taux de réussite de la reconnaissance faciale de 42,6 % à 0,9 % chez les femmes et de 52,5 % à 1,5 % chez les hommes.

Selon Mariann Hardey, de l’université de Durham (Royaume-Uni), ce qui rend le système si intelligent, c’est qu’il ne repose pas sur des palettes de couleurs criardes. Au lieu de cela, ce système contradictoire se limite à utiliser les teintes naturelles du maquillage. C’est important, car cela permet aux gens d’essayer de prévenir d’être reconnus tout en n’attirant pas l’attention sur eux : des recherches antérieures ont montré que le port de vêtements aux motifs excentriques peut faire échouer de tels systèmes, mais ils ressemblent manifestement à une tentative de contourner la détection.

Protéger sa vie privée

« La modification du visage pourrait devenir plus qu’une tendance TikTok, et ce type de maquillage pourrait devenir la prochaine vague pour protéger sa vie privée en public contre les systèmes de reconnaissance faciale automatique », explique Hardey.

Cette recherche a été pré-publiée dans arXiv.

Source : New Scientist
Crédit photo : iStock