L’algorithme de recommandation de YouTube a un côté obscur

Société https://live.staticflickr.com/65535/47995355366_d508b68190_b.jpg https://live.staticflickr.com/65535/47995355366_d508b68190_b.jpg Technologie Média 0 https://technologiemedia.net/2019/06/03/lalgorithme-de-recommandation-de-youtube-a-un-cote-obscur/#respond
975

youtube-comportements-étranges-utilisateurs

Il était 3 heures du matin et le détecteur de fumée n’arrêtait pas d’émettre des bips. Il n’y avait pas d’incendie, donc je n’avais pas besoin de paniquer. Je devais juste trouver un moyen de calmer cette fichue chose et d’abattre ma colère. J’avais sorti la batterie et poussé et tourné tous les boutons en vain.

Le côté obscure de Youtube

Heureusement pour moi, les solutions possibles ont toutes été exposées dans le tutoriel YouTube que j’ai trouvé. La vidéo m’a aidé utilement à travers mes options, en montrant chaque étape. Et le fait qu’il ait eu des centaines de milliers de points de vue m’a assuré que cela pourrait fonctionner.

YouTube est devenu le lieu idéal pour apprendre à tout faire, du montage d’un meuble Ikea à la connexion Bluetooth avec vos oreillettes. Il s’agit d’une fonte de didacticiels, certains très bons, certains très sinueux, certains réalisés par des personnes qui sont devenues des professionnels et qui gagnent des sommes importantes par le biais de la publicité. Mais plusieurs vidéos sont téléchargées par des personnes qui ont résolu un problème qui les frustrait et qui souhaitent partager la réponse avec le monde entier.

La langue maternelle du monde numérique est probablement la vidéo, pas le texte – une tendance qui échappe aux classes alphabètes qui ont dominé le dialogue public à l’ère pré-numérique. J’ai remarqué que beaucoup de jeunes commencent leurs recherches sur le Web sur YouTube. De plus, Google, qui possède YouTube, met en évidence les vidéos dans ses résultats de recherche.

“Comment puis-je” assembler cette table, améliorer mon AVC, décider si je suis féministe, choisir les vaccins, souligner mes joues, attacher mes lacets, rechercher si le changement climatique est réel…? Quelqu’un sur YouTube a une réponse. Mais ce site a également été ciblé par des extrémistes, des théoriciens du complot et des réactionnaires qui comprennent son rôle de passerelle vers l’information, en particulier pour les jeunes générations.

Il utilise un système de recommandation optimisé par une IA

Et c’est là que réside le côté obscur: YouTube gagne de l’argent en maintenant les utilisateurs sur ce site et en leur montrant des annonces ciblées. Pour les surveiller, il utilise un système de recommandation optimisé par une intelligence artificielle haut de gamme (Google, sait tout). En effet, après que Google Brain, la division de l’intelligence artificielle de l’entreprise, ait repris les recommandations de YouTube en 2015, il y avait des articles élogieux sur la manière dont elle avait considérablement accru «l’engagement».

Ces vidéos «recommandées» sont lues les unes après les autres. Vous avez peut-être terminé un tutoriel sur la façon de tailler des couteaux, mais le suivant pourrait bien expliquer pourquoi les féministes ruinent la virilité des hommes, que les vaccins sont toxiques, ou que le changement climatique est une supercherie – ou un « spécialiste » astucieux qui «prouve» que le Titanic n’a jamais frappé un iceberg .

Les algorithmes de YouTube vont pousser tout ce qu’ils jugent intéressant, et il semble qu’ils aient compris que les affirmations sauvages, ainsi que les discours de haine et le colportage à outrage, peuvent l’être particulièrement.

Recevoir des recommandations sur des substances nocives est devenu une expérience si courante qu’il y a eu de fortes répercussions. Google a interdit quelques-uns des «créateurs» indisciplinés et offensifs (mais pas avant de les avoir aidés à exposer leurs points de vue à des millions de personnes), et Google a récemment annoncé une initiative visant à réduire le nombre de «contenus limites et susceptibles de mal informer les internautes Selon Google, ce contenu pourrait être un «remède miracle factice pour une maladie grave» ou prétendre que «la Terre est plate». Selon eux, le changement affectera moins de 1% des vidéos.

Un modèle économique qui encourage ce qui est le plus regardé

Même s’il est bon de voir une réponse de la part de Google, le problème est profond et structurel. Le modèle économique encourage ce qui est le plus regardé. La portée de YouTube est vaste. Les Chromebooks chics et astucieux de Google représentent plus de la moitié des ordinateurs du marché américain de la maternelle à la 12e année, et ils sont généralement préchargés avec YouTube. De nombreux parents et éducateurs ne réalisent probablement pas à quel point leurs enfants et leurs élèves l’utilisent.

Nous ne pouvons pas ignorer le fait que les enfants utilisent YouTube pour une raison quelconque: ils souhaitent y regarder des émissions, tout comme j’avais besoin de trouver une solution pour mon détecteur à 3 heures du matin.. Les gens ne voient pas comment les recommandations fonctionnent – ni comment elles sont conçues pour nous garder les yeux accrochés à l’écran. Nous ne pourrions demander ni YouTube ni «aucune recommandation» pour les Chromebooks dans les écoles.

Une nouvelle ère de défis

Ceci n’est que la pointe de l’iceberg du lien dangereux entre le profit, l’échelle mondiale et l’IA. C’est une nouvelle ère, avec des défis aussi réels que l’iceberg que le Titanic a frappé, peu importe ce que prétend la vidéo.

Au sujet de l’auteure

Zeynep Tufekci est professeure associée à la faculté de l’information et de la bibliothéconomie de l’université de Caroline du Nord et collabore régulièrement avec le New York Times. Son livre: « Twitter and Tear Gas: The Power and Fragility of Networked Protest« , a été publié par Yale University Press en 2017.

Source : Scientific American
Crédit photo : Pixabay

https://live.staticflickr.com/65535/47995355366_d508b68190_b.jpg