THE CLEANERS – Les censeurs du web

Chaque minute, chaque jour, plus de 500 heures de vidéo sont téléchargées sur Youtube, 2,5 millions de posts sont écrits sur Facebook, 450.000 tweets sont publiés sur Twitter. Ce sont les chiffres des réseaux sociaux, dont la communauté compte de plus de 3 milliards d’adeptes.

THE CLEANERS, présenté lors de la dernière édition du Sundance Festival, est un documentaire important, équilibré, qui propose une lecture pertinente de la compréhension des aspects légaux des réseaux sociaux: privacy, liberté d’expression, responsabilisation.

Moritz Riesewieck et Hans Block nous disent beaucoup de choses, peut-être plus que ce que nous sommes capables de métaboliser en 80 minutes. Premièrement, les réseaux sociaux ne sont pas des agoras virtuelles, des lieux où, pour le formuler comme Mark Zuckerberg “People can share anything with anyone.”

En théorie (mais seulement en théorie) tout peut se retrouver sur les réseaux sociaux, sans aucune responsabilité de Facebook, Twitter ou Google, qui continuent de se comporter comme des plateformes technologiques, des providers de contenus produits par d’autres. Mais depuis l’élection de Trump et le Brexit, cette ligne de défense ne tient plus, la démarcation entre société technologique et éditoriale étant devenue trop floue.

Les contenus diffusés ne sont pas les meilleurs mais les plus ‘viraux’, et cela nous amène au second thème. Les réseaux sociaux ont un business-model précis: faire du profit en suscitant de l’engagement. Les algorithmes font le reste, en sélectionnant le target et les contenus.

Tout ce qui est posté sur le web ne reste pas en ligne. Ce sont les content moderators qui contrôlent le web et le rendent plus sur (et moins démocratique) de ce qu’on pourrait imaginer. Des milliers d’hommes et de femmes, souvent jeunes, travaillent 10 à 12 heures par jour pour nettoyer ‘l’espace social’ des rassemblements nazis, de la pédopornographie, des décapitations, mais pas des suicides en direct, car si la vidéo est en temps réel, il faut attendre qu’elle se finisse pour pouvoir l’éliminer.

Qui contrôle les censeurs du web? Quelles sont leurs lignes éditoriales? De qui dépendent-ils? Ce sont les questions qui émergent au fur et à mesure de la vision du documentaire. Certains ont courageusement décidé de témoigner à visage découvert et de raconter leur métier devant les caméras de Moritz Riesewieck et Hans Block. 25.000 images, c’est leur target quotidien. A peine 3% du travail de chacun est ensuite examiné par les team leaders.

‘Les nettoyeurs’ ne sont pas des employés des grandes entreprises de la Silicon Valley mais dans la banlieue de Manille, aux Philippines. Une main d’oeuvre en outsourcing, un phénomène de plus en plus fréquent au sein des entreprises technologiques. Payés au lance-pierre, et assez peu instruits, ces nettoyeurs sont nettement moins payés que leurs collègues américains.

“C’est le seul travail pour avoir un salaire décent” raconte l’un d’entre eux, “le monde devrait savoir que nous sommes la, qu’il y a quelqu’un qui nettoie les réseaux sociaux. On fait de notre mieux pour des millions de personnes, notre objectif est de maintenir les réseaux sociaux le plus sur possible, pour protéger les gens, comme des policiers.”

Un peu comme Rodrigo Duterte, le président de la terreur, de la guerre à la drogue, qui a fait tuer, torturer ou disparaître plus de 7000 personnes parmi les toxico-dépendants et les dealers. Mais tous ne vivent pas le métier de content moderator de la même façon, certains veulent arrêter, les images de tant d’horreurs humaines se retrouvant en ligne étant souvent insoutenables.

De Manille aux Etats-Unis, pour en arriver à la big issue qui inclue toutes les autres: l’impact politique que les réseaux sociaux ont sur les dynamiques globales.

Depuis l’élection de Donald Trump en 2016, aux répressions de Recep Erdogan, au massacre des Rohingyas en Birmanie, aux vidéos de propagande de l’ISIS. Ce qu’il y a (ou ce qu’il n’y a pas) en ligne conditionne la qualification politique de ce qui se passe dans le monde, d’un fait, d’une news, d’un évènement. Des aspects dramatiques de l’actualité comme les bombardements en Syrie, à certains aspects plus drôles. Comme par exemple, le corps nu avec la tête de Donald Trump. Le pénis est trop petit pour quelqu’un qui promet  de rendre l’Amérique ‘Great Again’, la caricature trop offensive pour la personnalité d’un président. C’est pourquoi le dessin de la jeune artiste Illma Gore, 50 millions de partages sur les réseaux sociaux, a été retiré du web.

Il y a beaucoup plus que les attributs du président des Etats-Unis et de la pornographie sous le coup des censeurs du web. Devant la Commission du Sénat américain qui enquête sur les interférences russes lors des élections américaines de 2016, Colin Stretch, vice-président et consultant légal de Facebook, a reconnu après quelques hésitations, que l’entreprise avait développé un système de geo-blocking rendant invisible dans un pays donné des contenus considérés comme illégaux par le pays concerné. Dans la majeure partie des cas, il s’agit de contenus qui n’ont rien à voir avec des questions politiques.

Yaman Akdeniz, professeur de droit à Istanbul, voit les choses de façon différente “Facebook retire tout ce que le gouvernement turc lui demande de retirer, surtout les critiques politiques”. En Turquie la césure se fait autocensure. “Je n’aime pas cette solution, mais l’alternative était d’être complètement écarté” reconnait avec embarras Nicole Wong, ex policy maker chez Google et Twitter. En 2004 elle avait dit “[…] nous devons décider ce qui ne peut pas être vu sur les réseaux sociaux, il y a un choix à faire. Et le choix dépend du contexte […].” 

Le contexte dans ce cas prend la tête d’Erdogan et le corps de la Turquie, un marché  duquel il n’est pas possible de rester en dehors, même au prix d’éliminer la ‘propagande terroriste’, ce qui signifie, comme le fait noter le sénateur américain Lindsey Graham, détourner l’attention des victimes.

Abdulwahab Tahan de l’ONG Airwars le confirme.

“Mon travail consiste à récolter des informations sur les attaques aériennes en Syrie commis par la coalition, le régime, la Russie. Une fois les données récoltées, nous les géolocalisons […]. Sans notre travail, le régime aurait encore plus les mains libres, personne ne le défierait, il y aurait encore plus de victimes civiles. Ces vidéos font partie de la guerre, elles sont des preuves pour le futur. Le problème c’est que souvent elles sont classées comme des vidéos de l’ISIS et donc éliminées de Youtube. Cela touche beaucoup d’organisations, et beaucoup de vidéos sur la Syrie.”

Dans tous les cas les algorithmes sont plus influents que les journalistes. David Kaye, rapporteur spécial des Nations Unies pour la liberté d’expression n’est pas optimiste: “[…] les réseaux sociaux auront toujours plus de pouvoir pour décider ce que nous pouvons voir ou ne pas voir. Avec le temps nous aurons toujours moins d’informations disponibles, des informations provocantes, et nous ne devrons pas être surpris si la société devient de plus en plus pauvre.” 

Les témoignages des poids lourds de Facebook, Google et Twitter devant la Commission d’enquête du Sénat américain sur les crimes et le terrorisme en octobre 2017 ne sont pas rassurants non plus. Tous ont dit faire de leur mieux pour protéger les réseaux des terroristes, jihadistes, et extremistes en tout genre; tous garantissent avoir des milliers de personnes qui examinent des milliers de pages pour bloquer la diffusion des contenus séditieux et éviter les interférences d’agents étrangers dans le processus démocratique aux Etats-Unis. “Nous avons dix mille personnes qui travaillent pour la sécurité et nous investirons encore plus en 2018” (Colin Stretch)

Selon Tristan Harris, l’ex design ethicist de Google, ‘qui a essayé de donner une conscience à la Silicon Valley’, selon l’Atlantic, les réseaux sociaux sont indubitablement programmés pour provoquer des comportements et des réactions extrêmes.

“Il y a un malentendu au départ, c’est de penser que la nature humaine est la nature humaine et la technologie est la technologie, c’est à dire comme instrument neutre. Ce n’est pas vrai car la technologie a des préjudices, des positions, des objectifs. Son objectif est d’attirer l’attention du plus de personnes possible. Outrage, offense, violence, en réalité tout le mal du monde, ces éléments contribuent à l’objectif, et Facebook en tire profit.”

Les dernières scènes de THE CLEANERS nous ramènent la où nous avions commencer notre voyage, dans la banlieue de Manille au milieu de montagnes de déchets. Certains arrêteront, d’autres reconnaissent ne plus être les mêmes depuis qu’ils ont commencé ce travail (“c’est comme si un virus avait pris possession de mon cerveau”), d’autres encore serrent les dents. Un autre s’est même suicidé, une corde autour du cou. Il était spécialisé dans la censure des vidéos d’automutilations extrêmes.

Share your thoughts