Tweets haineux, scènes de violences, photos macabres... Chaque jour, les modérateurs de contenus visionnent et trient des milliers de publications signalées sur les réseaux sociaux. (...)

« Supprimer… Ignorer… Supprimer... » Les modérateurs et modératrices de Manille sont sur le qui-vive. comme chaque jour, ils vont devoir analyser, en quelques secondes seulement, photos, vidéos et messages d’injures et décider ou non de leur suppression. Un travail sans fin, lorsqu’on sait que chaque minute, en moyenne, pas loin de trois millions de publications sont postées sur Facebook, 400 heures de vidéos mises en ligne sur YouTube et 450.000 tweets envoyés. L’aspect le plus éprouvant de leur métier consiste toutefois à rester, des heures durant, l’œil rivé sur un écran d’ordinateur, où s’affichent des images et des vidéos de corps déchiquetés et écartelés, d’enfants noyés ou violentés, sans compter le flot continu d’injures et d’appels aux meurtres.

C’est à ces petites mains du web que rend hommage The Cleaners, le premier documentaire de Moritz Riesewieck et Hans Block. Le film nous plonge dans le quotidien des modératrices et modérateurs philippins dont certains témoignages ont de quoi glacer le sang(...)

Pourquoi les Philippines ? La main d’œuvre y est bon marché et anglophone, un atout pour des géants du web américains. Mais pas seulement. Les deux réalisateurs ont été surpris de voir « le passé colonial du pays brandi comme un argument marketing ». « Sur un clip de promotion pour une entreprise de Content Moderation (ou CM), le message était : après 400 ans de colonisation [espagnole de 1565 à 1897 et américaine de 1898 à 1946, ndlr], nous comprenons mieux que quiconque ce que les Occidentaux veulent. Ça pourrait être drôle si ce n’était pas si effrayant ! »

« En vérité tout le monde peut devenir modérateur. Le recrutement se fait dans la rue. »(...)

Quant aux autochtones employés, « ce sont en grande majorité des jeunes, des femmes (ce qu’on ne s’explique toujours pas), la plupart ayant fait des études supérieures. Presque tous vivent en banlieue et sont souvent le principal gagne-pain de leur famille ».(...)

D’après Moritz et Hans, une ou un modérateur de contenus toucherait entre un et trois dollars de l’heure, sur la base de quarante heures par semaine, sans compter les heures sup, ce qui au total représente plus que le salaire moyen philippin, inférieur à 300 dollars mensuels, d’après les statistiques officielles. Cette « aisance » financière ne doit pas faire oublier que ces modérateurs sont d’abord « les victimes collatérales d’un système qui ne repose pas encore sur des bases solides. Ils font un véritable travail d’édition qui nécessiterait une formation ad hoc. Leur profil aussi devrait être plus diversifié pour pouvoir bien comprendre les enjeux politiques ou culturels d’un si grand nombre de pays ».

Concernant le travail à proprement parler, les deux réalisateurs estiment aussi que les employés et employées devraient bénéficier de plus de temps pour visionner les vidéos, ce qui permettrait de réduire leur stress. « Le problème, c’est que vous ne pouvez pas prouver l’impact de ce job, le stress post-traumatique qu’il génère ». Un jour, un employé leur a confié « qu’après le suicide d’un de ses collègues, on lui avait complètement lavé le cerveau. C’est le mot qu’il a utilisé [« brainwashed », ndlr]. Il nous a raconté que la direction les avait tous rassemblés dans une pièce pour leur signifier que ce drame était uniquement lié à des raisons personnelles et n’avait rien à voir avec son travail ici. » L’employé en question s’occupait de modérer des vidéos de suicide et d’automutilation…(...)

Avec 80% de la population pratiquante, les Philippines sont le premier pays catholique d’Asie. « Se confronter à la cruauté du monde devient dès lors plus facile, plus légitime, parce que vous avez une narration qui donne sens à votre travail. Beaucoup d’employés parlent d’un sacrifice nécessaire, comme s’ils rachetaient en quelque sorte tous les péchés du web. » L’idée d’expiation est d’autant plus forte dans un pays où certains fidèles se flagellent, voire se crucifient le jour du Vendredi saint. (...)

Avec leur film, ils souhaitent « que les personnes se servant des réseaux sociaux n’acceptent plus d’être appelées “utilisateurs” mais décident elles-mêmes de ce qui y est acceptable ou non ». Ils ont aussi l’espoir de changer le regard sur la modération de contenu. « Nous-mêmes, en tournant ce documentaire, avons commencé à voir les choses différemment. Avant, on n’aurait jamais trouvé acceptable de publier des images de cadavres, mais maintenant notre avis sur la question a évolué, notamment avec le travail fait par Airwars ». Cette ONG britannique utilise des vidéos ou des images publiées sur les réseaux sociaux pour dresser une cartographie exacte des combats et recenser le nombre de morts sur les zones de combats. Concernant la guerre en Syrie, elle considère que le nombre de victimes de la coalition internationale est plus élevé que celui communiqué par les chiffres officiels.

Le documentaire qui sera disponible sur Arte à la fin de l’été, n’a pas fait l’objet d’une sortie officielle aux Philippines.

Lire aussi : Les obscurs secrets des règles de modération de Facebook