les-algorithmes-de-tarification-de-Uber-et-Lyft-sont-biaisés
Les algorithmes utilisés par les compagnies de covoiturage, telles que Uber et Lyft, pour déterminer les tarifs semblent créer un préjugé racial. En analysant les données de transport et de recensement à Chicago, Aylin Caliskan et Akshat Pandey de l’université George Washington ont découvert que les compagnies de covoiturage facturent un prix plus élevé par kilomètre pour un voyage si le point de ramassage ou la destination est un quartier avec une plus grande proportion de résidents issus des minorités ethniques que pour ceux dont les résidents sont majoritairement blancs.

Un préjugé racial

« En résumé, si vous vous rendez dans un quartier où il y a une forte population afro-américaine, vous allez payer un prix plus élevé pour votre trajet », explique M. Caliskan.
Contrairement aux taxis traditionnels, les services de covoiturage ont des tarifs dynamiques, qui sont calculés sur la base de facteurs tels que la durée du trajet et la demande locale – bien que l’on ne sache pas exactement quels autres facteurs ces algorithmes prennent en considération, car les compagnies de covoiturage ne mettent pas toutes leurs données à la disposition des gems.
Les chercheurs ont analysé les données de plus de 100 millions de voyages effectués à Chicago par le biais d’applications de covoiturage entre novembre 2018 et décembre 2019. Chaque trajet contenait des informations telles que le lieu d’embarquement et de débarquement, la durée, le coût et le fait de savoir s’il s’agissait d’un trajet individuel ou partagé. Les données n’incluent pas de détails démographiques tels que l’origine ethnique de l’utilisateur.
Au cours de cette période, 68 millions de trajets ont été effectués par des voyageurs, et la majorité d’entre eux ont utilisé Uber. Le duo a comparé les données sur les voyages avec les informations provenant de l’American Community Survey du US Census Bureau, qui fournit des statistiques globales sur les quartiers, y compris la population, la répartition par ethnicité, les niveaux d’éducation et les prix médians des maisons.

Des prix plus élevés

Ils ont constaté que les prix au kilomètre étaient plus élevés en moyenne si le lieu de ramassage ou de dépôt du voyage se situait dans un quartier où la proportion de résidents blancs était plus faible, où le prix médian des maisons était plus bas ou où le niveau d’éducation moyen était plus faible.
« Même si l’identité n’est pas explicitement prise en compte dans la façon dont les résultats d’un algorithme sont décidés, la nature structurelle et historique du racisme et la façon dont il influence la géographie, les opportunités et la durée de vie signifient que des disparités raciales peuvent encore apparaître », déclare Os Keyes de l’Université de Washington à Seattle.
« Chicago, le site de cette analyse, en est un bon exemple : en raison, entre autres, des pratiques de « redlining« , il reste très ségrégué géographiquement », dit Keyes. Le « redlining » est une pratique par laquelle les prêteurs hypothécaires refusent de proposer des prêts dans certains quartiers.
Cela devrait nous amener à remettre en question les études sur l’équité » et les préjugés dans les algorithmes qui promettent de mettre fin au racisme algorithmique en ne mentionnant tout simplement pas la race », déclare M. Keyes.
Les chercheurs n’ont trouvé aucun lien statistique suggérant que les quartiers où la proportion de minorités ethniques est plus élevée ont une plus forte demande quant au transport, ce qui pourrait potentiellement expliquer les prix plus élevés des billets.

La réponse de Lyft

« Nous reconnaissons que les préjugés systémiques sont profondément enracinés dans la société et nous apprécions les études comme celle-ci qui cherchent à comprendre où la technologie peut involontairement discriminer », a déclaré un porte-parole de Lyft. « Il y a de nombreux facteurs qui entrent dans la tarification des prix – le moment de la journée, les objectifs du voyage, et plus encore – et il ne semble pas que cette étude en tienne compte. Nous sommes impatients d’examiner les résultats plus complets lorsqu’ils seront publiés pour nous aider à continuer à donner la priorité à l’équité dans notre technologie ».
Uber n’a pas répondu à une demande de commentaires avant cette publication.
Selon la législation américaine, il est illégal de discriminer un individu sur la base d’attributs protégés, y compris la race. Les conclusions de cette étude sont problématiques, déclare M. Caliskan. « Même si ces algorithmes sont censés être équitables et qu’ils n’utilisent pas d’attributs protégés, ils semblent avoir un impact significatif sur ces quartiers ».

Les biais algorithmiques se retrouvent dans des endroits inattendus

« Cette étude montre comment les biais algorithmiques par code postal et par race peuvent se glisser dans les endroits les plus inattendus », déclare Noel Sharkey de l’université de Sheffield, au Royaume-Uni. « C’est un exemple de plus dans la longue liste de la façon dont les préjugés ethniques et raciaux ont trouvé un nouvel endroit dans les logiciels informatiques. Il n’y a aucune excuse pour des préjugés en matière d’automatisation et ces systèmes devraient être arrêtés jusqu’à ce qu’ils puissent faire preuve d’équité et d’égalité », ajoute-t-il.
Cette recherche a été pré-publiée dans arXiv.
Source : New Scientist
Crédit photo sur Unsplash : Richard Goff