Les plus grands chatbots diffusent des mensonges à leur insu

Futura Sciences

#IA #chatbots #desinformation

Article mis en ligne le 26 juin 2024

dernière modification le 23 juin 2024

Selon un rapport de l’organisme NewsGuard, la désinformation russe est parvenue à infiltrer les meilleures IA génératives. Leurs chatbots peuvent répéter avec conviction les faux narratifs du Kremlin.

Faut-il faire confiance aux chatbots sur leurs réponses liées à l’actualité ? La réponse est clairement non selon une enquête menée par la société de lutte contre la désinformation NewsGuard.

Qu’il s’agisse de ChatGPT, de Google Gemini, de Grok, Mistral ou bien de Claude, il ressort que les dix meilleurs chatbots du moment semblent sensibles à la désinformation russe. Lorsqu’on leur pose des questions sur des sujets d’actualité liés à l’Ukraine ou la Russie, les chatbots se contentent de répéter les fausses informations émanant du Kremlin et de ses affiliés disséminés sur de nombreux sites. Avec des noms, comme New York News Daily, The Houston Post et The Chicago Chronicle, ces derniers sont conçus pour ressembler à des médias américains crédibles. Paradoxalement, les sites sont alimentés en faux articles qui sont justement générés par des IAIA. À la tête de ce réseau de sites, se trouve un certain John Makk Dougan. Poursuivi par la justice aux États-Unis, cet Américain, ancien adjoint du shérif de Floride, a demandé l’asile politique à la Russie et vit à Moscou. L’exilé gère en tout 167 sites distillant la désinformation russe au niveau mondial. Le problème, c’est que les chatbots viennent y piocher leurs réponses. (...)

Les chatbots sont sensibles à la désinformation

Les enquêteurs de NewsGuard ont testé en tout 570 requêtes, ce qui en fait 57 par chatbot. Dès que les chercheurs posaient une question sur un « complot » issu de l’actualité, tout au long des tests les chatbots ont répondu par la désinformation. Parmi les allégations manifestement fausses relayées par les chatbots, figurent des complots concernant la corruption présumée du président ukrainien Volodymyr Zelensky. Ils évoquent aussi la fausse histoire du meurtre d’un journaliste égyptien qui aurait été organisé par la veuve du dissident russe Alexei Navalny. Les narratifs du Kremlin sont donc parvenus à se frayer un chemin dans le « cerveau » des chatbots les plus populaires.

Le plus étonnant, c’est que ces IA raccordées aux fils d’actualité n’ont pas pu passer à côté d’articles de presse décrivant ce vaste réseau de désinformation (...)

Mais il semble que la puissance de feu d’un large réseau de désinformation est suffisante pour les convaincre de la légitimité d’une fausse information (...)

Au final, il semble clair qu’il vaut mieux éviter d’utiliser un chatbot pour répondre à des questions liées à l’actualité, surtout sur des sujets à controverses. D’ailleurs, dans une autre étude récente menée par Google, il apparaissait déjà que l’IA est la principale source de désinformation en ligne.

Le contrat d’engagement républicain, outil de mise au pas du monde associatif

Créé afin de lutter contre « l’islamisme radical » et « tous les séparatismes », le contrat d’engagement républicain (CER) n’a, à ce jour, jamais en réalité été invoqué à l’égard d’associations confessionnelles, qu’elles soient islamistes ou liées à d’autres mouvements radicaux ou séparatistes, révèle un décompte réalisé par l’Observatoire des libertés associatives.

Et sur les vingt-quatre cas relevés, seuls trois portent sur des faits liés à la religion musulmane au sein d’associations telles qu’une section locale du Planning familial, accusée d’avoir représenté une femme voilée sur une affiche, une MJC, à laquelle on a reproché d’avoir embauché des femmes voilées, et une association d’aide aux femmes, accusée sans preuve de « prosélytisme religieux ».

Pour le reste, le CER, que les associations doivent obligatoirement signer lorsqu’elles demandent une subvention, a été brandi à l’égard de l’association Alternatiba Poitiers accusée de « désobéissance civile » ; d’une association d’aide aux mal-logé·es, l’Atelier populaire d’urbanisme (APU), dont une salariée est accusée de violences verbales envers des agents municipaux ; d’une association d’aide aux immigré·es ayant appelé à une manifestation contre les violences policières interdites ; d’une télévision associative, Canal Ti Zef à Brest, mobilisée dans la lutte contre l’évacuation d’un squat ; ou encore d’une compagnie de théâtre, la compagnie Arlette Moreau à Poitiers, ayant moqué son préfet. (...)

Lors de l’adoption de la loi séparatisme, à l’été 2021, des député·es de l’opposition et des responsables associatifs avaient déjà alerté sur les risques d’un détournement du CER dans un but de répression politique. (...)

Parler de détournement du CER est excessif. Lorsqu’on relit les débats parlementaires, on se rend en effet compte que la majorité assumait, dès le départ, le fait de ne pas viser exclusivement les associations séparatistes radicales mais toute association ayant recours à certains modes d’action liés à la désobéissance civile. (...)

Pourtant, malgré ce champ d’application particulièrement large, le contrat d’engagement républicain est en partie un échec pour le gouvernement. « Le bilan est encore loin d’être concluant », constatait un rapport d’évaluation du Sénat publié au mois de mars, qui soulignait le peu de cas de mobilisation du CER – quatre selon le rapport – et des modalités d’application disparates en fonction des collectivités. « Cette loi ne fait peur à personne. Surtout pas aux islamistes », assénait même sa rapporteuse, Jacqueline Eustache-Brinio.

Comment le gouvernement s’est lui-même piégé (...)

En créant ce contrat, le gouvernement s’est en quelque sorte piégé lui-même. Il n’existe pas en effet de droit à la subvention pour les associations. Chaque collectivité dispose de ce fait d’un droit discrétionnaire en matière d’attribution et elle peut refuser ou accorder telle ou telle subvention sans avoir à se justifier.

En créant le CER, la loi séparatisme a créé un nouvel acte administratif qui offre une prise juridique, un recours possible pour les associations. Or, dans la seule décision visant directement le CER rendue à ce jour, le tribunal administratif de Poitiers a rejeté la demande du préfet de la Vienne visant à obtenir le remboursement d’une subvention versée à l’association Alternatiba pour avoir tenu un atelier de désobéissance civile.

D’autres recours lancés ces derniers mois devraient permettre de préciser cette jurisprudence naissante. (...)

il n’est par exemple qu’évoqué à l’oral dans une réunion ou dans un mail ou brandit comme une menace, sans que l’on sache s’il est vraiment à l’origine d’une sanction à non.

Au mois d’août dernier, Le Monde révélait ainsi qu’il existe une « liste rouge » d’associations basées dans la région du plateau de Millevaches qui seraient privées de subventions par la préfecture sans que cela leur ait été officiellement notifié, leur ôtant ainsi toute possibilité de recours.

Plus récemment, une association d’aide aux immigré·e·s, l’Asti du Petit-Quevilly en Seine-Maritime, s’est vu « rappeler » ses engagements par la préfecture pour avoir appelé à une manifestation contre les violences policières interdite. Celle-ci a transmis cet « avertissement » aux partenaires financiers, dont la métropole de Rouen, qui a en conséquence suspendu l’examen des demandes de subvention de l’Asti. (...)

« Il y a chez certaines collectivités une profonde incompréhension du CER, qui est utilisé à tort et à travers, et notamment comme un moyen de pression, de régulation des relations avec les associations », analyse Claire Thoury, présidente du Mouvement associatif, une organisation regroupant environ 700 000 associations, et qui avait publié, en janvier 2023, un premier bilan de l’application du CER. (...) « Le CER a désormais un effet presque plus symbolique que pratique », ajoute Julien Talpin, chercheur en science politique au CNRS et l’un des fondateurs, en 2019, de l’Observatoire des libertés associatives. « On peut penser que certaines associations n’oseront plus aborder certains sujets comme les violences policières ou en ce moment le conflit israélo-palestinien. Le problème est de réussir à objectiver ces effets indirects et diffus et cette autocensure. » (...)

« Il y a donc une dissonance entre ce que prétend défendre le CER et les conséquences de son application à certaines associations, pointe-t-elle. Cela ne fait en outre qu’ajouter de la confusion à ce que sont les valeurs républicaines. » (...)

L’entrée en vigueur du CER est en outre intervenue dans un contexte de défiance croissante entre le monde associatif et les autorités. « Nous sommes en fait dans un contexte de dérive générale », affirme Claire Thoury. (...)

« Il y a également eu récemment le maire de Saint-Raphaël qui impose à toutes les associations touchant des subventions de participer aux manifestations patriotiques de la ville. C’est hallucinant ! », s’indigne la présidente du Mouvement associatif. (...)

« Les associations ne sont pas là pour faire plaisir aux pouvoirs publics, insiste Claire Thoury. Ce n’est pas leur mission. Mais l’inverse non plus ! Une association peut très bien s’opposer à une collectivité sur un sujet précis et être en accord sur un autre. C’est ce qu’on appelle un contre-pouvoir et c’est tout simplement le cours normal de la vie démocratique. » (...)

Source

Dans la même rubrique