IA-peut-détecter-les-visages-générés-par-ordinateur

Il est plus facile que jamais de créer une fausse identité en ligne avec un visage généré par ordinateur, mais il existe un moyen très simple de repérer ces fausses photos : il suffit de regarder les yeux. L’incapacité de l’intelligence artificielle à dessiner des pupilles circulaires permet de savoir si un visage provient ou non d’une vraie photographie.

Détecter les faux visages

Les réseaux adverses génératifs (GANs) – un type d’intelligence artificielle capable de générer des images à partir d’une simple commande – peuvent produire des visages d’apparence réaliste. Comme ils sont créés au moyen d’un processus de modifications continuelles, ils sont moins susceptibles d’être détectés comme faux par des vérifications simples telles que les recherches d’images inversées, qui identifient la réutilisation d’images de personnes qui existent sur de faux profils.

Mais ils ont une particularité. Les pupilles des visages générés par les GANs ne sont pas parfaitement rondes ou elliptiques, contrairement aux vraies pupilles. Les vraies pupilles sont également symétriques les unes par rapport aux autres. Les pupilles créées par ordinateur ont souvent des bords bosselés ou sont asymétriques.

« Même si les modèles GANs sont très puissants, ils ne comprennent pas vraiment bien la biologie humaine », explique Siwei Lyu, de l’université d’Albany (New York). « Un grand nombre de ces détails très fins ne seront pas représentés efficacement par les GANs ».

Un système informatique informatique

Lyu et ses collègues ont développé un système informatique qui identifie l’emplacement des yeux dans l’image d’un visage, extrait les pupilles et identifie leur forme. Ce système vérifie si les pupilles sont circulaires ou elliptiques. Si elles ne le sont pas, il identifie l’image comme étant une fausse. Si elles le sont, il passe à la vérification suivante : la pupille a-t-elle des bords lisses ou irréguliers ? Si c’est le cas, l’image est identifiée comme fausse.

Les pupilles sont l’une des premières choses que l’on regarde pour détecter les anomalies », explique Eliot Higgins, fondateur du site d’investigation Bellingcat, qui affirme que ces résultats reflètent son expérience des « deepfakes« , des images ou vidéos humaines entièrement artificielles réalisées par l’IA. Ce système n’est pas totalement infaillible : certaines maladies et infections affectent la forme des pupilles des personnes, mais les cas sont rares, selon M. Lyu.

Maintenant qu’il a repéré le signe révélateur d’un faux visage, Lyu et son équipe cherchent à savoir comment devancer les fraudeurs. « Faire des cercles parfaits n’est pas si facile », dit-il, mais les personnes qui font des deepfakes peuvent trouver un moyen de contourner ce problème afin de continuer à créer de fausses identités en ligne. « Je pense que le problème peut être résolu [avec] les GANs ».

Cette recherche a été pré-publiée dans arXiv.

Source : New Scientist
Crédit photo : StockPhotoSecrets

L'IA peut détecter les visages générés par ordinateursmartinI.A.
Il est plus facile que jamais de créer une fausse identité en ligne avec un visage généré par ordinateur, mais il existe un moyen très simple de repérer ces fausses photos : il suffit de regarder les yeux. L'incapacité de l'intelligence artificielle à dessiner des pupilles circulaires permet de...