Le moment est venu pour les démocraties libérales de s’attaquer au pouvoir d’invasion de la vie privée de l’autoritarisme algorithmique.
Les technologies de surveillance sont plus populaires que jamais aux yeux du gouvernement chinois, qui les utilise pour contrôler ses citoyens à diverses échelles. Pékin scanne le visage des passants, ce qui lui permet d’arrêter les criminels dans les gares, dans les stations-service et dans les stades –et de diffuser publiquement les noms des piétons indisciplinés. Un système de « crédit social » a été mis en place par le gouvernement : le score des citoyens chinois baisse lorsque ces derniers fréquentent des dissidents, ce qui peut leur faire perdre droits et privilèges.(...)
On pourrait bientôt voir les dictateurs d’autres pays utiliser ce type d’outils. Si les villes et les États américains sont des laboratoires pour la démocratie, les lointaines provinces chinoises sont devenues les laboratoire de l’autoritarisme. La Chine exporte une gamme d’outils (surveillance, reconnaissance faciale, données) acquis par plusieurs gouvernements étrangers, de nature à organiser une répression d’une envergure et d’une efficacité algorithmique dont les tyrans d’antan pouvaient seulement rêver. On pourrait parler ici d’« autoritarisme algorithmique ».(...)
Les dictateurs d’hier devaient se contenter d’informateurs individuels et d’enquêtes au cas par cas. Ceux de demain pourront –comme la Chine– identifier des milliers d’individus spécifiques, en public et à distance, à l’aide de caméras. Les suivre constamment à la trace, et utiliser une intelligence artificielle ainsi que des outils informatiques sans précédent pour traiter les informations de surveillance et les renvoyer sur le terrain en temps réel. Cette technologie est encore appliquée de manière imparfaite et peu cohérente, mais la Chine est en train de combler ses lacunes. On a par ailleurs constaté que le comportement d’une population pouvait être influencé par la perception de la surveillance, même lorsque cette dernière est, en réalité, absente.(...)
L ’autoritarisme numérique de Pékin pourrait bien devenir un modèle exportable, à même de séduire les dirigeants qui doutent des bienfaits des normes démocratiques. Un modèle qui pourrait bien miner (voire rivaliser avec) les démocraties libérales.(...)
Si ce modèle –la dictature assistée par la technologie– est complexe, c’est notamment parce que les outils qu’il utilise pourraient s’avérer particulièrement utiles pour les consommateurs et les citoyens du monde entier. Ce sont des outils à double tranchant. On peut citer l’exemple surréaliste de ce tueur en série présumé, arrêté après qu’un membre de sa famille a envoyé un échantillon d’ADN à un site de base de données généalogiques (l’ADN correspondait à un échantillon trouvé sur une scène de crime).(...)
Même dans les démocraties bénéficiant d’un sain équilibre des pouvoirs, l’utilisation policière de l’intelligence artificielle souffre de plusieurs lacunes : manque de transparence, consultation insuffisante des citoyens, risques sérieux d’utilisation biaisée et excessive.(...)
Outre la Chine, les pays les plus friands de ces technologies sont à la fois autoritaires, petits et développés, comme les Émirats arabes unis ou Singapour. (...)
dans une décennie ou deux, les dictateurs et les tyrannies en herbe (Turquie, Hongrie, Égypte, Rwanda...) chercheront certainement à obtenir ces technologies, s’en serviront pour réprimer la société civile et pour écraser l’opposition, affaiblissant par là même la démocratie dans le monde entier.(...)
Le Zimbabwe serait déjà en train de solliciter des entreprises chinoises pour installer des programmes de surveillance et de reconnaissance faciale à l’échelle nationale (...)
La Chine va ainsi acquérir de nombreux visages d’Africains, ce qui va permettre à son secteur technologique d’améliorer son ensemble de données.
Au printemps dernier, la Malaisie a, elle aussi, annoncé de nouveaux partenariats avec la Chine, qui équipera ses forces de police de caméras portatives à reconnaissance faciale. Selon quelques rapports discrets, des pays du Golfe feraient également appel à la Chine, non seulement pour ses drones (une technologie que l’Amérique refuse de leur céder), mais aussi pour sa gamme d’outils totalitaires (...)
De nombreux gouvernements tentent de sécuriser les informations qu’ils recueillent, mais plusieurs cas alarmants de fuites de données ont été signalés. En outre, ces identifiants nationaux représentent un risque sans précédent de surveillance d’État à grande échelle. (...)
Il est temps que les personnes chargées de défendre les libertés individuelles –au sein des gouvernements, de la société civile et du secteur de la technologie– réfléchissent sérieusement aux défis qui se profilent à l’horizon.(...)
Il faudra également mettre au point un protocole d’utilisation raisonnable et équilibré de ces nouvelles technologies en démocratie : la chose s’avérera indispensable si nous voulons convaincre d’autres États de faire de même.(...)
Il sera difficile d’instaurer des normes internationales dépassant la sphère des démocraties existantes, mais il est primordial d’essayer. Une organisation internationale –que ce soit l’Union européenne ou les Nations unies– devra mettre en place un ensemble de pratiques recommandées pour la protection des droits individuels à l’ère de la reconnaissance faciale. Les grandes entreprises et les nations pourraient signer un engagement commun visant à protéger les citoyens en fixant les limites de cette reconnaissance, en permettant à la population de refuser le partage d’informations biologiquement identifiables (les Indiens se sont battus pour ce droit et l’ont obtenu), ou en sécurisant le stockage des données d’identification.(...)
Les partisans du modèle démocratique (qui ne comptent plus la Maison-Blanche dans leurs rangs, espérons qu’elle les rejoigne bientôt) doivent également prendre acte de l’évolution imminente de la sphère publique des pays autoritaires. Ils peuvent agir dès aujourd’hui en permettant aux populations et aux sociétés civiles vulnérables d’acquérir une meilleure connaissances des nouvelles technologies –ce qui leur permettra de mieux défendre leurs droits dans ces nouveaux domaines. Les gouvernements et les ONG doivent aussi étudier les contre-mesures technologiques et tactiques permettant de contourner et de perturber ces nouveaux outils totalitaires.