Depuis quelques jours, des algorithmes de surveillance sont utilisés par la RATP et la SNCF dans plus de cinquante gares d’Île-de-France. Des drones sont autorisés à survoler certaines villes de Seine-Saint-Denis pendant plus d’un mois. Un recours à ces technologies jamais vu dans sa quantité comme dans sa durée.

Les passagers et passagères des transports parisiens seront sous étroite surveillance lors des Jeux olympiques et paralympiques (JOP). Pour assurer la sécurité de la compétition, la préfecture de police de Paris a publié il y a quelques jours deux arrêtés autorisant la RATP à utiliser des algorithmes de surveillance dans quarante-six stations du 22 juillet au 12 août, et la SNCF dans onze gares du 25 juillet au 13 août. (...)

Le logiciel Cityvision de la start-up française Wintics aura pour objectif de tenter de détecter la présence d’un bagage abandonné, une densité de personnes trop importante, un mouvement de foule ou une intrusion dans une zone interdite au public.

« Environ deux cents caméras sur le ressort de Paris et de l’Île-de-France bénéficieront de l’assistance algorithmique », indique à Mediapart la préfecture de police de Paris. Derrière leurs écrans, les forces de l’ordre et les opérateurs vidéo de la RATP et de la SNCF analyseront ensuite les alertes émises par le logiciel. « La machine ne prend aucune décision elle-même : elle est cantonnée à signaler via une alarme visuelle sur l’écran une détection au profit d’opérateurs humains », complète la préfecture de police. (...)

Interdits jusqu’à peu, ces algorithmes de surveillance peuvent être expérimentés depuis le 19 mai et la promulgation de la loi « Jeux olympiques ». Jusqu’en mars 2025, lors d’événements sportifs et culturels, la police, la gendarmerie mais aussi les services de sécurité de la SNCF et la RATP pourront coupler ces intelligences artificielles (IA) aux caméras pour détecter huit situations prédéfinies, dont la présence d’objets abandonnés ou le port d’une arme. (...)

« Il y a également la question de l’après-JO, s’interroge Elia Verdon, doctorante en droit public et en informatique, et directrice scientifique de l’Observatoire de la surveillance en démocratie. La durée d’expérimentation court jusqu’à mars 2025, bien après les Jeux olympiques. Cela pourrait être l’occasion pour certaines municipalités de l’utiliser au cours d’autres événements, comme des marchés de Noël. On connaît l’intérêt de certaines collectivités pour ces outils. »

Profitant de l’expérimentation accordée dans le cadre de la loi JO, le président de la région Auvergne-Rhône-Alpes, Laurent Wauquiez, a par exemple fait voter le recours à ces IA pour surveiller les trains et les lycées de la région, comme l’a révélé Reporterre. (...)

Efficacité remise en cause

Au cours des derniers mois, plusieurs documents ont également fait état des difficultés opérationnelles rencontrées par ces algorithmes. En octobre 2022, les députés Philippe Gosselin et Philippe Latombe ont assisté, dans le cadre d’une mission d’information, à une expérimentation infructueuse de ces technologies, menée par la SNCF à la gare du Nord. (...)

Cette volonté de tester ces IA à grande échelle, avant même d’avoir prouvé leur intérêt, inquiète Katia Roux, chargée de plaidoyer chez Amnesty International. « Ces algorithmes sont extrêmement intrusifs. Ils vont évaluer des situations en analysant des données corporelles et comportementales, qui sont des données personnelles protégées. Nous craignons qu’ils limitent le droit de manifester ou la liberté d’expression, puisque se savoir surveillé peut amener les personnes concernées à s’autocensurer. »

Dans sa réponse adressée à Mediapart, la préfecture de police de Paris nuance : « Ils ne peuvent utiliser aucune donnée biométrique, ne mettent en œuvre aucune technique de reconnaissance faciale et ne peuvent procéder à aucun rapprochement, interconnexion ou mise en relation automatisée avec d’autres traitements de données à caractère personnel. »

« Les caméras sont vues comme quelque chose de très technique, et non pas politique, ce qui neutralise tout débat et contrôle citoyen. »
Alexandre Schon, membre du comité de vigilance citoyen JO 2024 (...)

la CNCDH tire la sonnette d’alarme sur les risques de discrimination induits par la technologie. (...)

Face à ces mises en garde, le ministère de l’intérieur a nommé un comité d’évaluation de cette expérimentation de vidéosurveillance algorithmique. Présidé par l’ex-référent déontologue du ministère de l’intérieur Christian Vigouroux, il est notamment composé des sénateurs Jérôme Durain et Nadine Bellurot, du directeur général de la police nationale Frédéric Veaux, du directeur de la RATP Jean Castex, du préfet de police Laurent Nuñez et de la présidente de la région Île-de-France Valérie Pécresse. (...)

Au-delà des algorithmes de surveillance, l’avis de la CNCDH met l’accent sur la nécessité de renforcer les contrôles des systèmes de vidéosurveillance, laquelle « s’est largement banalisée à partir des années 2000 ». (...)

Pendant ces deux semaines olympiques, la Seine-Saint-Denis ne sera pas que sous l’œil de caméras fixes. Début juillet, la préfecture de police de Paris a publié plusieurs arrêtés autorisant le recours aux drones. Au Bourget, où est installé le centre des médias, huit de ces volatiles numériques peuvent survoler la ville ainsi que celles du Blanc-Mesnil et de Dugny, et ce jusqu’au 9 septembre. Le même nombre de drones est autorisé à survoler depuis le 24 juillet – et jusqu’au 12 août – Saint-Denis, l’Île-Saint-Denis et le XVIIIe arrondissement de Paris. (...)

Enseignant-chercheur à l’université de Bordeaux et membre de l’Observatoire de la surveillance en démocratie, Yoann Nabat voit, lui, dans les Jeux olympiques un usage unique de ces technologies. « Elles ont toutes été déjà utilisées de manière ponctuelle : les drones en manifestation, la vidéosurveillance algorithmique lors de compétitions sportives, les scanners corporels dans les aéroports, les QR codes pendant la pandémie. Mais c’est la première fois que l’on associe ces technologies de surveillance au cours d’un même événement, les Jeux olympiques. »