
Si les annonces de moratoires dans le domaine de la reconnaissance faciale semblent soulager un certain nombre de ses opposants, il ne fait aucun doute que ces réponses des grandes entreprises de la technologie demeurent manifestement des décisions commerciales calculées et limitées qui répondent avec plus ou moins de sincérité à la pression publique du moment et aux très fortes mobilisations contre le racisme et les violences policières qui secouent les États-Unis depuis la mort de George Floyd le 25 mai 2020.
Comme s’en émeut la Quadrature du Net (@laquadrature), ces décisions ne cherchent qu’à temporiser un moment difficile pour les entreprises, face à une pression publique devenue explosive, à l’heure où les Américains se soulèvent massivement contre le racisme. « Les grandes entreprises de la sécurité ne sont pas des défenseuses des libertés ou encore des contre-pouvoirs antiracistes. Elles ont peur d’être aujourd’hui associées dans la dénonciation des abus de la police et de son racisme structurel. » Les grandes entreprises du numérique ont déjà été épinglés pour les biais racistes et sexistes de nombre de leurs outils, notamment pour les plus évidents d’entre, ceux qui relèvent de la reconnaissance faciale. En annonçant mettre en pause l’utilisation de certains de leurs outils, ces entreprises tentent de redorer leur image alors qu’elles n’ont cessé, ces dernières années, de convaincre les autorités de se servir de leurs outils pour faire régner l’ordre. En acceptant de faire de la reconnaissance faciale un épouvantail, les Gafams n’en continuent pas moins de proposer des outils de surveillance et d’aide à la prise de décision toujours plus invasifs… et profondément discriminatoires.
La surveillance contribue-t-elle au bien-être humain ?
L’éditorialiste et chercheur au laboratoire de recherche des technologies émergentes de l’université Monash, Jathan Sadowski (@jathansadowski), dresse le même constat dans une tribune pour OneZero. Pour l’auteur de Too Smart, un livre récent particulièrement critique des technologies, ces timides renoncements sont loin de « démanteler la machine de guerre urbaine » que ces entreprises mettent en place. Caméras omniprésentes, algorithmes prédictifs, systèmes intelligents… les technologies de la ville « intelligente » n’ont pas leur place dans une société qui rejette l’oppression, estime-t-il. Cette intelligence qu’il faut entendre surtout en son sens anglais de « renseignement », tient plus d’un travail de police donc que d’une quelconque faculté à comprendre, comme le faisait remarquer le philosophe et historien des sciences Michel Blay dans Penser ou cliquer. (...)
Les activistes et universitaires qui s’inquiètent de la surveillance invasive peuvent certes se féliciter de ces timides avancées… mais ne peuvent pas pour autant se reposer, tant les chantiers à déminer sont nombreux. (...)
« il ne suffit pas de rendre la reconnaissance faciale illégale pour que son héritage infrastructurel disparaisse », disait le chercheur Os Keyes (cf. « Interdire la reconnaissance faciale »). Comme le souligne une remarquable synthèse de France Info sur le sujet, le coût du maintien de l’ordre aux États-Unis a triplé en quarante ans, à la fois du fait de sa militarisation et de son suréquipement, mais aussi parce que ses missions n’ont cessé de s’élargir, au détriment notamment des programmes sociaux. (...)
Exiger des réponses non policières aux problèmes de société (...)
Nous devons défaire non pas pour défaire, mais parce que c’est seulement ainsi que nous pourrons commencer à construire un monde nouveau sur les ruines de l’ancien, souligne Sadowski. La décision de dissoudre le service de police de Minneapolis montre que la marche du monde n’est pas immuable. Si les institutions peuvent être abolies, alors les infrastructures peuvent aussi être démantelées. « Les entreprises qui ont profité de ces technologies et les gouvernements qui les ont utilisées contre le public n’ont aucune autorité morale pour nous dire ce qu’il faut garder et ce qu’il faut jeter. » (...)
Le démantèlement passe par la suppression des budgets qui maintiennent cette vaste infrastructure de police et par l’annulation de contrats lucratifs avec des sociétés de surveillance (...)