drone_controverse_lettre_protestation_USA_google_2018

La coopération de Google avec l’administration Trump ne semble pas faire l’unanimité. En effet, nous apprenions il y quelques semaines, que les technologies d’intelligence artificielle de Google étaient utilisées par l’armée américaine pour l’un de ses projets de drones.

Plus précisément, les systèmes TensorFlow de Google étaient utilisés pour le projet Maven du département américain de la Défense (DoD), créé en juillet dernier pour utiliser l’apprentissage automatique et l’intelligence artificielle, afin d’analyser de longues séquences filmées par des drones américains. L’intention initiale était de faire analyser la vidéo par l’IA, pour détecter des objets suspects et de les signaler à des analystes humains. Ce qui suscitait une controverse à l’intérieur et à l’extérieur de l’entreprise, selon The Guardian.

3000 employés de Google

Nous venons d’apprendre que plus de 3000 employés de Google ont écrit une lettre au PDG Sundar Pichai, exigeant de ne plus participer à ce qu’ils appellent « l’affaire de la guerre ». Les ingénieurs de Google faisaient partie des milliers de membres du personnel de Google qui ont signé la lettre, selon le New York Times. La lettre de ces employés, demande l’annulation immédiate d’un projet militaire spécifique et une déclaration de politique plus générale, sur les technologies conçues pour l’armée.

Premièrement, cette lettre demandait à Google d’annuler immédiatement son rôle dans la mise en œuvre du projet Maven. La deuxième requête, plus générale dans la lettre pour Google, est que Pichai «rédige, publie et applique une politique claire stipulant que ni Google ni ses sous-traitants ne construiront jamais des technologies de guerre», car participer au projet Maven « portera atteinte de façon irréparable à la marque de Google et à sa capacité à rivaliser pour attirer des talents », indique la lettre. Google «se bat pour garder la confiance du public», poursuit la lettre, alors que beaucoup craignent «une IA militarisée».

La réputation de Google mise en péril

Puis toujours selon cette lettre; «Chacun de nos utilisateurs nous fait confiance. Ne compromettez jamais cela.». Les signataires de la lettre affirment que le contrat avec le DoD s’oppose directement à cette valeur fondamentale et met en péril la réputation de l’entreprise. « Il y a une inquiétude générale dans la communauté des technologies que le complexe militaro-industriel utilise leurs trucs pour tuer des gens de manière incorrecte », a déclaré Schmidt.

Une controverse réelle

Eric Schmidt, ancien PDG de Google, a été le conférencier d’honneur du Centre de l’intelligence artificielle et de la sécurité mondiale de New American en novembre 2017. Schmidt a été interrogé sur la relation entre les entreprises technologiques, l’A.I., la recherche et la sécurité nationale. La lettre adressée à l’actuel PDG Pichai est la preuve, au moins pour ceux qui l’ont signé, que la controverse mentionnée par Schmidt est réelle parmi les employés de Google impliqués dans la recherche sur l’intelligence artificielle.

[via The Guardian I The New York Times]