L'échec des systèmes IA de modération de Meta : des centaines de publicités pour des drogues passent à travers les mailles du filet

developpez.com

L’échec des systèmes IA de modération de Meta : des centaines de publicités pour des drogues passent à travers les mailles du filet

#Meta #publicites #moderation

Article mis en ligne le 4 août 2024

dernière modification le 2 août 2024

Meta Platforms, l’entreprise derrière Facebook et Instagram, continue de diffuser des publicités pour des drogues illégales, même après que les médias aient révélé qu’elle faisait l’objet d’une enquête fédérale à ce sujet. Ces annonces dirigent les utilisateurs vers des marchés en ligne où sont vendues de la cocaïne, des opioïdes et d’autres substances illicites. Malgré les politiques de Meta interdisant la promotion de la vente de drogues récréatives ou illicites, l’entreprise continue de percevoir des revenus provenant de ces publicités.

Le 15 mars 2024, Nick Clegg, président des affaires mondiales de Meta, a vanté les efforts de son entreprise pour lutter contre la toxicomanie. Qualifiant l’épidémie d’opioïdes de « problème majeur de santé publique », il a écrit que Meta, la société mère de Facebook et d’Instagram, avait rejoint l’Alliance to Prevent Drug Harms pour « aider à perturber la vente de drogues synthétiques en ligne ».

Mais le moteur publicitaire de Meta, qui génère l’essentiel des bénéfices de l’entreprise, n’a manifestement pas reçu le message. (...)

Meta a continué à percevoir des revenus provenant de publicités qui enfreignent ses politiques (...)

Une analyse séparée menée par un groupe de surveillance de l’industrie a trouvé des centaines d’autres annonces similaires. Ces publicités utilisent des photos de bouteilles de médicaments, de pilules ou de briques de cocaïne pour promouvoir leurs produits. Certaines annonces affichent même des images de poudre arrangées pour former le mot “DMT”, une drogue psychédélique.

Le Journal a rapporté en mars que les autorités fédérales enquêtaient sur Meta pour son rôle dans la vente illicite de drogues. L’organisation à but non lucratif Tech Transparency Project, qui enquête sur les plateformes en ligne, a examiné la bibliothèque d’annonces de Meta de mars à juin et a trouvé plus de 450 annonces de drogues illicites sur Facebook et Instagram.
(...)

Malgré l’utilisation d’outils d’IA pour modérer le contenu, Meta n’a pas réussi à empêcher ces annonces de passer à travers ses systèmes de modération

Meta utilise des outils d’intelligence artificielle pour modérer le contenu, mais les outils de l’entreprise n’ont pas réussi à arrêter de telles publicités pour des médicaments, qui redirigent souvent les utilisateurs vers d’autres plateformes où ils peuvent effectuer des achats. L’utilisation de photos pour présenter les médicaments disponibles semble permettre aux publicités de contourner les systèmes de modération de contenu de Meta.

Meta collabore avec les forces de l’ordre pour lutter contre ce type d’activité, a déclaré un porte-parole de l’entreprise. Les équipes de modération de contenu de l’entreprise ont été affectées par des réductions de personnel ces dernières années. Le porte-parole a déclaré que l’entreprise avait quadruplé la taille de l’équipe travaillant sur la sûreté et la sécurité depuis 2016. (...)

Les utilisateurs qui cliquent sur les liens contenus dans les annonces sont généralement redirigés vers des groupes de discussion privés sur l’application Telegram, qui n’appartient pas à Meta. Lorsqu’ils y accèdent, ces groupes de discussion affichent généralement un flux de messages des revendeurs comprenant des photos des drogues qu’ils proposent, des menus avec les prix et des instructions pour passer des commandes, selon l’examen du Journal et l’analyse du Tech Transparency Project.

Meta a désactivé un grand nombre des annonces de médicaments repérées par le WSJ et TTP dans les 48 heures suivant leur mise en ligne, a déclaré le porte-parole de l’entreprise.

Toutes les publicités ont été supprimées pour violation des règles de Meta et, après avoir été contactée, l’entreprise a également banni de sa plateforme les utilisateurs qui avaient créé les publicités. En outre, l’entreprise a déclaré qu’elle utilisait les informations sur les nouvelles tactiques adverses recueillies lors de l’enquête sur ces publicités pour se déployer et procéder à de nouveaux balayages. (...)

La responsabilité juridique des entreprises technologiques

Les législateurs ont débattu de la nécessité de tenir les entreprises technologiques responsables de ce que des tiers publient sur leurs plateformes. Les efforts en ce sens ont été compliqués par la section 230 du Communications Decency Act, qui stipule que les plateformes en ligne ne sont pas responsables de ce que des tiers publient, à quelques exceptions près. (...)

Par le passé, le ministère de la justice a tenté d’étendre la portée des lois fédérales sur les stupéfiants de manière à rendre les plateformes internet coupables lorsque des entreprises les utilisent pour enfreindre la loi. En 2011, Google a accepté de payer 500 millions de dollars pour avoir permis à des pharmacies canadiennes en ligne de placer des publicités ciblant les consommateurs américains, ce qui a entraîné l’importation illégale de médicaments sur ordonnance aux États-Unis. (...)

Le contrat d’engagement républicain, outil de mise au pas du monde associatif

Créé afin de lutter contre « l’islamisme radical » et « tous les séparatismes », le contrat d’engagement républicain (CER) n’a, à ce jour, jamais en réalité été invoqué à l’égard d’associations confessionnelles, qu’elles soient islamistes ou liées à d’autres mouvements radicaux ou séparatistes, révèle un décompte réalisé par l’Observatoire des libertés associatives.

Et sur les vingt-quatre cas relevés, seuls trois portent sur des faits liés à la religion musulmane au sein d’associations telles qu’une section locale du Planning familial, accusée d’avoir représenté une femme voilée sur une affiche, une MJC, à laquelle on a reproché d’avoir embauché des femmes voilées, et une association d’aide aux femmes, accusée sans preuve de « prosélytisme religieux ».

Pour le reste, le CER, que les associations doivent obligatoirement signer lorsqu’elles demandent une subvention, a été brandi à l’égard de l’association Alternatiba Poitiers accusée de « désobéissance civile » ; d’une association d’aide aux mal-logé·es, l’Atelier populaire d’urbanisme (APU), dont une salariée est accusée de violences verbales envers des agents municipaux ; d’une association d’aide aux immigré·es ayant appelé à une manifestation contre les violences policières interdites ; d’une télévision associative, Canal Ti Zef à Brest, mobilisée dans la lutte contre l’évacuation d’un squat ; ou encore d’une compagnie de théâtre, la compagnie Arlette Moreau à Poitiers, ayant moqué son préfet. (...)

Lors de l’adoption de la loi séparatisme, à l’été 2021, des député·es de l’opposition et des responsables associatifs avaient déjà alerté sur les risques d’un détournement du CER dans un but de répression politique. (...)

Parler de détournement du CER est excessif. Lorsqu’on relit les débats parlementaires, on se rend en effet compte que la majorité assumait, dès le départ, le fait de ne pas viser exclusivement les associations séparatistes radicales mais toute association ayant recours à certains modes d’action liés à la désobéissance civile. (...)

Pourtant, malgré ce champ d’application particulièrement large, le contrat d’engagement républicain est en partie un échec pour le gouvernement. « Le bilan est encore loin d’être concluant », constatait un rapport d’évaluation du Sénat publié au mois de mars, qui soulignait le peu de cas de mobilisation du CER – quatre selon le rapport – et des modalités d’application disparates en fonction des collectivités. « Cette loi ne fait peur à personne. Surtout pas aux islamistes », assénait même sa rapporteuse, Jacqueline Eustache-Brinio.

Comment le gouvernement s’est lui-même piégé (...)

En créant ce contrat, le gouvernement s’est en quelque sorte piégé lui-même. Il n’existe pas en effet de droit à la subvention pour les associations. Chaque collectivité dispose de ce fait d’un droit discrétionnaire en matière d’attribution et elle peut refuser ou accorder telle ou telle subvention sans avoir à se justifier.

En créant le CER, la loi séparatisme a créé un nouvel acte administratif qui offre une prise juridique, un recours possible pour les associations. Or, dans la seule décision visant directement le CER rendue à ce jour, le tribunal administratif de Poitiers a rejeté la demande du préfet de la Vienne visant à obtenir le remboursement d’une subvention versée à l’association Alternatiba pour avoir tenu un atelier de désobéissance civile.

D’autres recours lancés ces derniers mois devraient permettre de préciser cette jurisprudence naissante. (...)

il n’est par exemple qu’évoqué à l’oral dans une réunion ou dans un mail ou brandit comme une menace, sans que l’on sache s’il est vraiment à l’origine d’une sanction à non.

Au mois d’août dernier, Le Monde révélait ainsi qu’il existe une « liste rouge » d’associations basées dans la région du plateau de Millevaches qui seraient privées de subventions par la préfecture sans que cela leur ait été officiellement notifié, leur ôtant ainsi toute possibilité de recours.

Plus récemment, une association d’aide aux immigré·e·s, l’Asti du Petit-Quevilly en Seine-Maritime, s’est vu « rappeler » ses engagements par la préfecture pour avoir appelé à une manifestation contre les violences policières interdite. Celle-ci a transmis cet « avertissement » aux partenaires financiers, dont la métropole de Rouen, qui a en conséquence suspendu l’examen des demandes de subvention de l’Asti. (...)

« Il y a chez certaines collectivités une profonde incompréhension du CER, qui est utilisé à tort et à travers, et notamment comme un moyen de pression, de régulation des relations avec les associations », analyse Claire Thoury, présidente du Mouvement associatif, une organisation regroupant environ 700 000 associations, et qui avait publié, en janvier 2023, un premier bilan de l’application du CER. (...) « Le CER a désormais un effet presque plus symbolique que pratique », ajoute Julien Talpin, chercheur en science politique au CNRS et l’un des fondateurs, en 2019, de l’Observatoire des libertés associatives. « On peut penser que certaines associations n’oseront plus aborder certains sujets comme les violences policières ou en ce moment le conflit israélo-palestinien. Le problème est de réussir à objectiver ces effets indirects et diffus et cette autocensure. » (...)

« Il y a donc une dissonance entre ce que prétend défendre le CER et les conséquences de son application à certaines associations, pointe-t-elle. Cela ne fait en outre qu’ajouter de la confusion à ce que sont les valeurs républicaines. » (...)

L’entrée en vigueur du CER est en outre intervenue dans un contexte de défiance croissante entre le monde associatif et les autorités. « Nous sommes en fait dans un contexte de dérive générale », affirme Claire Thoury. (...)

« Il y a également eu récemment le maire de Saint-Raphaël qui impose à toutes les associations touchant des subventions de participer aux manifestations patriotiques de la ville. C’est hallucinant ! », s’indigne la présidente du Mouvement associatif. (...)

« Les associations ne sont pas là pour faire plaisir aux pouvoirs publics, insiste Claire Thoury. Ce n’est pas leur mission. Mais l’inverse non plus ! Une association peut très bien s’opposer à une collectivité sur un sujet précis et être en accord sur un autre. C’est ce qu’on appelle un contre-pouvoir et c’est tout simplement le cours normal de la vie démocratique. » (...)

Source

Dans la même rubrique