Quoi de commun entre la police prédictive et Parcoursup ? Les deux reposent sur des algorithmes, certes, mais ils sont surtout deux outils plus ou moins subtils du contrôle social assisté par ordinateur. À chaque fois, l’algorithme incarne une somme de décisions politiques dont l’importance n’a d’égale que l’opacité : tout repose alors sur l’efficacité opérationelle, l’interface, la baisse du taux de criminalité ou la répartition des élèves dans les filières en fonction de leurs choix. Une fois n’est pas coutume, les causes structurelles ou les déterminations collectives sont converties et neutralisées en décisions individuelles.
Quel est le sens de la vie ? Qu’est-ce que le destin ?
Voilà des questions avec lesquelles beaucoup d’élèves arrivent en cours de philosophie en terminale. La plupart du temps, les philosophes sont incapables de donner à ces questions des réponses satisfaisantes. Les élèves partiront à la fin de l’année, sans réponses, mais avec des questions polies et affûtées.
Et pourtant… pour être tout à fait honnêtes, ne devrions-nous pas leur dire que les réponses à ces questions existent déjà ? Que désormais, ces questions sont obsolètes ? Qu’il y a des algorithmes qui ont pour charge de nous décharger du poids de notre destin. Laissez faire le pilote automatique, tous les choix ont déjà été faits pour vous.
En réalité, cela n’a pas attendu les algorithmes ou Parcoursup pour commencer. Certains disent que c’est le cas depuis longtemps, algorithmes ou pas (...)
Parcoursup et la police prédictive
La vie, le destin, l’algorithme
paru dans lundimatin#341, le 30 mai 2022
Quoi de commun entre la police prédictive et Parcoursup ? Les deux reposent sur des algorithmes, certes, mais ils sont surtout deux outils plus ou moins subtils du contrôle social assisté par ordinateur. À chaque fois, l’algorithme incarne une somme de décisions politiques dont l’importance n’a d’égale que l’opacité : tout repose alors sur l’efficacité opérationelle, l’interface, la baisse du taux de criminalité ou la répartition des élèves dans les filières en fonction de leurs choix. Une fois n’est pas coutume, les causes structurelles ou les déterminations collectives sont converties et neutralisées en décisions individuelles.
« J’ai pris une Gorgée de Vie -
Je vais vous dire ce que j’ai payé -
Très exactement une existence -
Le prix du marché, ont-ils dit.
Ils m’ont pesée, grain par grain de poussière -
Ont pris la mesure de chaque Particule,
Puis m’ont remis la valeur de mon Être -
Une Goutte de Paradis, une seule ! »
Emily Dickinson
Quel est le sens de la vie ? Qu’est-ce que le destin ?
Voilà des questions avec lesquelles beaucoup d’élèves arrivent en cours de philosophie en terminale. La plupart du temps, les philosophes sont incapables de donner à ces questions des réponses satisfaisantes. Les élèves partiront à la fin de l’année, sans réponses, mais avec des questions polies et affûtées.
Et pourtant… pour être tout à fait honnêtes, ne devrions-nous pas leur dire que les réponses à ces questions existent déjà ? Que désormais, ces questions sont obsolètes ? Qu’il y a des algorithmes qui ont pour charge de nous décharger du poids de notre destin. Laissez faire le pilote automatique, tous les choix ont déjà été faits pour vous.
En réalité, cela n’a pas attendu les algorithmes ou Parcoursup pour commencer. Certains disent que c’est le cas depuis longtemps, algorithmes ou pas :
« Ces instruments ne sont pas des moyens mais des « décisions prises à l’avance » : ces décisions, précisément, qui sont prises avant même qu’on nous offre la possibilité de décider. Ou, plus exactement, ils sont la décision prise à l’avance [1]. »
Aux États-Unis, une de ces décisions a été prise avec la généralisation des logiciels de police prédictive : les données sur le crime sont utilisées pour construire des modèles de prévision qui permettent de savoir qui risque de devenir un criminel et où risquent de se produire les prochains crimes. Les algorithmes analysent le passé pour anticiper l’avenir, et prévenir le crime. Richard Berk, professeur de criminologie et d’analyse statistique à l’université de Pennsylvanie, peut ainsi dire avant votre naissance si vous serez des criminels, si vous ressemblerez plus à Dark Vador ou bien à Luke Skywalker [2], et prendre toutes les mesures nécessaires pour vous empêcher d’accomplir votre sombre destin.
En plus d’ouvrir des marchés extrêmement lucratifs pour des entreprises privées, de financiariser les budgets municipaux et de remédier à la crise de légitimité de la police (c’est bien connu : les chiffres, c’est objectif), ces « instruments » sont des moyens de contrôle d’une puissance redoutable. Bien qu’ils mettent en jeu des mécanismes virtuels (finance, données), ils ont des effets très réels : ils enferment chacun dans un déterminisme social implacable, oblitérant toute possibilité que le futur soit autre chose que la reproduction des dominations passées et présentes. (...)
De la même manière, en France, dans l’Éducation nationale, la pénétration toujours plus profonde du numérique et des procédures algorithmiques, sous couvert d’efficacité et de scientificité, a pour effet d’insérer les logiques marchandes dans des segments de la vie sociale qui avaient d’autres objectifs que la rentabilité, et par là de pérenniser voire aggraver les inégalités qui existaient déjà avant l’existence des algorithmes. (...)
Plus besoin de sociologues, de psychologues, de conseillers d’orientation : nous avons des statistiques, et elles pensent par elles-mêmes. PredPol, le logiciel utilisé par la police américaine, fait de vous un ou une criminel-né. Parcoursup fait de vous un perdant-né, un exploité-né conscient de la nécessité et du bien-fondé de sa misère. C’est une manière de réinventer l’exclusion, un des moyens par lesquels l’État perpétue l’existence d’un lumpenprolétariat facilement exploitable par le capitalisme numérisé (précaires, intérimaires, vacataires, auto-entrepreneurs). L’efficacité de ces dispositifs tient à leur fausse transparence (...)
Le problème n’est bien sûr pas l’algorithme en lui-même, mais les instructions codées dans l’algorithme. Ces « décisions » sont des choix politiques, qui sont pourtant présentés comme des questions purement techniques (...)
Parcoursup impose une « décision prise à l’avance » de plus, en ceci que la temporalité de cette plateforme vide l’avenir des élèves de tout contenu. Cela se voit par exemple lors des premières phases de sélection par l’algorithme : les réponses négatives et les mises en attente impliquent que l’avenir est bouché, remplacé par un « atermoiement illimité ». Le futur est mis en suspens. On actualise Parcoursup pour savoir si par hasard on a gagné quelques places dans la liste d’attente. On demande à son voisin de classe où il en est. On apprend qu’un autre élève a finalement eu sa place. Ce n’est pas ce qu’il voulait, mais il va dire oui par peur de ne rien avoir sinon. Encore un pour qui l’algorithme aura remplacé l’avenir par un parcours bien adapté à sa « personnalité », calculé sur mesure. Et plus le parcours est « personnalisé », plus la mesure colle au réel, plus les formes de domination deviennent subtiles. Pire : cette attribution des parcours prend comme base de sélection ces dominations, représentées par l’origine géographique et la classe sociale. Rien de bien neuf, au fond : une technique de plus pour faire toujours la même chose, à savoir organiser le pouvoir de quelques uns et l’impuissance de beaucoup d’autres. (...)
Dans cette dictature du parcours linéaire, il faut être cohérent avec soi-même. Pas d’infidélités, pas de détours. Il devient impossible de changer de voie, surtout quand on vient d’une filière ou d’un lycée moins « côté ». Pas de réorientation possible ; une fois que l’algorithme a fait son choix, il faut suivre la voie. C’est d’ailleurs ce que dit explicitement un rapport rédigé en 2007 par des spécialistes pour le Haut conseil de l’éducation (...)
Parcoursup et la police prédictive
La vie, le destin, l’algorithme
paru dans lundimatin#341, le 30 mai 2022
Quoi de commun entre la police prédictive et Parcoursup ? Les deux reposent sur des algorithmes, certes, mais ils sont surtout deux outils plus ou moins subtils du contrôle social assisté par ordinateur. À chaque fois, l’algorithme incarne une somme de décisions politiques dont l’importance n’a d’égale que l’opacité : tout repose alors sur l’efficacité opérationelle, l’interface, la baisse du taux de criminalité ou la répartition des élèves dans les filières en fonction de leurs choix. Une fois n’est pas coutume, les causes structurelles ou les déterminations collectives sont converties et neutralisées en décisions individuelles.
« J’ai pris une Gorgée de Vie -
Je vais vous dire ce que j’ai payé -
Très exactement une existence -
Le prix du marché, ont-ils dit.
Ils m’ont pesée, grain par grain de poussière -
Ont pris la mesure de chaque Particule,
Puis m’ont remis la valeur de mon Être -
Une Goutte de Paradis, une seule ! »
Emily Dickinson
Quel est le sens de la vie ? Qu’est-ce que le destin ?
Voilà des questions avec lesquelles beaucoup d’élèves arrivent en cours de philosophie en terminale. La plupart du temps, les philosophes sont incapables de donner à ces questions des réponses satisfaisantes. Les élèves partiront à la fin de l’année, sans réponses, mais avec des questions polies et affûtées.
Et pourtant… pour être tout à fait honnêtes, ne devrions-nous pas leur dire que les réponses à ces questions existent déjà ? Que désormais, ces questions sont obsolètes ? Qu’il y a des algorithmes qui ont pour charge de nous décharger du poids de notre destin. Laissez faire le pilote automatique, tous les choix ont déjà été faits pour vous.
En réalité, cela n’a pas attendu les algorithmes ou Parcoursup pour commencer. Certains disent que c’est le cas depuis longtemps, algorithmes ou pas :
« Ces instruments ne sont pas des moyens mais des « décisions prises à l’avance » : ces décisions, précisément, qui sont prises avant même qu’on nous offre la possibilité de décider. Ou, plus exactement, ils sont la décision prise à l’avance [1]. »
Aux États-Unis, une de ces décisions a été prise avec la généralisation des logiciels de police prédictive : les données sur le crime sont utilisées pour construire des modèles de prévision qui permettent de savoir qui risque de devenir un criminel et où risquent de se produire les prochains crimes. Les algorithmes analysent le passé pour anticiper l’avenir, et prévenir le crime. Richard Berk, professeur de criminologie et d’analyse statistique à l’université de Pennsylvanie, peut ainsi dire avant votre naissance si vous serez des criminels, si vous ressemblerez plus à Dark Vador ou bien à Luke Skywalker [2], et prendre toutes les mesures nécessaires pour vous empêcher d’accomplir votre sombre destin.
En plus d’ouvrir des marchés extrêmement lucratifs pour des entreprises privées, de financiariser les budgets municipaux et de remédier à la crise de légitimité de la police (c’est bien connu : les chiffres, c’est objectif), ces « instruments » sont des moyens de contrôle d’une puissance redoutable. Bien qu’ils mettent en jeu des mécanismes virtuels (finance, données), ils ont des effets très réels : ils enferment chacun dans un déterminisme social implacable, oblitérant toute possibilité que le futur soit autre chose que la reproduction des dominations passées et présentes. Tout cela est parfaitement documenté, par exemple dans le documentaire Do Not Resist (2016) de Craig Atkinson [3], ou par Jackie Wang dans son livre Capitalisme carcéral :
« La production algorithmique de « zones à risque » sur le territoire urbain nous confronte à des formes de pouvoir de plus en plus imperceptibles, qui nous balisent, nous trient et nous enferment dans des cages invisibles, souvent à notre insu. Une cage invisible peut être décrite comme un appareil carcéral qui contrôle et confine la population sans l’enfermer dans une enceinte physique [4]. »
Toutes les études montrent que sous couvert d’objectivité et de transparence, les algorithmes utilisés par la police américaine ne font que confirmer et aggraver les formes de dominations déjà existantes. Les algorithmes encodent en un langage opaque les biais des statistiques et de l’entendement policier. Si vous êtes dominée, criminel ou exclue, si vos parents le sont, vos enfants le seront aussi. C’est la machine qui le dit, il n’y a pas à discuter. Les quartiers pauvres, à majorité noire ou hispanique, désignés comme « zones à risque », deviennent la cible d’un contrôle policier renforcé. Se promener dans un de ces quartiers, c’est être suspect : les policiers peuvent tirer sans sommation. À Ferguson, dans le Missouri, avant les émeutes de 2014, il y avait en moyenne trois mandats d’arrêt par famille noire.
« Lorsque l’agent Timothy Loehmann, de la police de Cleveland, est arrivé sur les lieux où on l’avait appelé, il ne lui a pas fallu moins de deux secondes pour abattre Tamir Rice, un garçon noir de douze ans qui jouait avec un fusil en plastique. Les policiers ont déjà la gâchette facile : et si les petites cases rouges qui délimitent les zones de crime temporaire avaient pour effet de réduire le temps de réaction des policiers lorsqu’ils pénètrent dans ces secteurs [5] ? »
* * *
De la même manière, en France, dans l’Éducation nationale, la pénétration toujours plus profonde du numérique et des procédures algorithmiques, sous couvert d’efficacité et de scientificité, a pour effet d’insérer les logiques marchandes dans des segments de la vie sociale qui avaient d’autres objectifs que la rentabilité, et par là de pérenniser voire aggraver les inégalités qui existaient déjà avant l’existence des algorithmes. Aux yeux du ministère et de ses technocrates, il n’y a plus d’inégalités ou de déterminismes sociaux, seulement des solutions optimales adaptées au parcours individuel de chacun. Leur objectif prioritaire est de calculer le plus tôt possible la valeur économique des enfants, pour les aiguiller sur la bonne voie, le bon parcours, le droit chemin. Plus besoin de sociologues, de psychologues, de conseillers d’orientation : nous avons des statistiques, et elles pensent par elles-mêmes. PredPol, le logiciel utilisé par la police américaine, fait de vous un ou une criminel-né. Parcoursup fait de vous un perdant-né, un exploité-né conscient de la nécessité et du bien-fondé de sa misère. C’est une manière de réinventer l’exclusion, un des moyens par lesquels l’État perpétue l’existence d’un lumpenprolétariat facilement exploitable par le capitalisme numérisé (précaires, intérimaires, vacataires, auto-entrepreneurs). L’efficacité de ces dispositifs tient à leur fausse transparence : en prétendant assurer une distribution optimale des élèves dans les formations, les algorithmes masquent l’exclusion sous des mécanismes de plus en plus objectivés et institutionnalisés. C’est ce qui explique aussi qu’il devienne de plus en plus difficile de savoir où et contre quoi lutter.
Le problème n’est bien sûr pas l’algorithme en lui-même, mais les instructions codées dans l’algorithme. Ces « décisions » sont des choix politiques, qui sont pourtant présentés comme des questions purement techniques. Victor Demiaux, conseiller de la présidente de la CNIL, se demande ainsi, assez naïvement, « si la tentation ne pourrait pas être grande, pour des responsables de politiques publiques, de se cacher derrière l’algorithme, pour échapper à la fatigue d’avoir à faire des choix, de prendre des décisions et de les assumer [6] ». Et Julien Grenet, ancien membre du Comité éthique et scientifique de Parcoursup (il a démissionné), de renchérir sur « l’incroyable opacité de Parcoursup, alors que cette nouvelle plateforme avait été vendue comme un instrument de transparence par rapport à son prédécesseur APB. Grâce à la Cour des comptes, on découvre par exemple que la soi-disant publication de l’algorithme promise et réalisée par le ministère ne porte que sur... 1% du code source ! Surtout, la Cour souligne le manque de transparence des méthodes de classement interne aux formations, ce qu’on appelle les « algorithmes locaux ». Car, aujourd’hui encore, « les bacheliers n’ont aucune idée de la manière dont leur dossier sera classé [7]. » Cependant, les appels à la transparence de ces experts sont largement insuffisants : les choix politiques qui ont présidés à l’élaboration de Parcoursup ne seront pas rendus moins détestables par plus de transparence. Il reste encore à faire la critique de ces décisions politiques, et à comprendre leurs effets sur le milieu scolaire, la vie des élèves, le travail des professeurs, etc.
Parcoursup impose une « décision prise à l’avance » de plus, en ceci que la temporalité de cette plateforme vide l’avenir des élèves de tout contenu. Cela se voit par exemple lors des premières phases de sélection par l’algorithme : les réponses négatives et les mises en attente impliquent que l’avenir est bouché, remplacé par un « atermoiement illimité ». Le futur est mis en suspens. On actualise Parcoursup pour savoir si par hasard on a gagné quelques places dans la liste d’attente. On demande à son voisin de classe où il en est. On apprend qu’un autre élève a finalement eu sa place. Ce n’est pas ce qu’il voulait, mais il va dire oui par peur de ne rien avoir sinon. Encore un pour qui l’algorithme aura remplacé l’avenir par un parcours bien adapté à sa « personnalité », calculé sur mesure. Et plus le parcours est « personnalisé », plus la mesure colle au réel, plus les formes de domination deviennent subtiles. Pire : cette attribution des parcours prend comme base de sélection ces dominations, représentées par l’origine géographique et la classe sociale. Rien de bien neuf, au fond : une technique de plus pour faire toujours la même chose, à savoir organiser le pouvoir de quelques uns et l’impuissance de beaucoup d’autres.
Avec Parcoursup, notre « parcours » nous apparaît avoir été déterminé il y a bien longtemps, en fonction de critères qui dépassent notre existence individuelle et qui sont définis par d’autres (par exemple : la classe, la race, le genre). Il est donc « normal » d’avoir à travailler plus si l’on vient d’une « banlieue » ou d’un quartier populaire, si l’on manque de capital culturel ou symbolique, faire plus d’efforts, montrer patte blanche, afin de pouvoir « réussir » et être autorisé à « s’en sortir » (du quartier). Le pire, c’est qu’il n’y a même plus de promesses derrière ces machinations. Le plus important n’est pas que les élèves croient qu’ils peuvent s’en sortir, mais qu’ils jouent le jeu même sans y croire. On ne pourra pas les forcer à faire l’apologie de l’ordre existant, mais ils apprendront au moins que toute forme de société qui ne fait pas de la domination une nécessité systémique est impossible.
Dans cette dictature du parcours linéaire, il faut être cohérent avec soi-même. Pas d’infidélités, pas de détours. Il devient impossible de changer de voie, surtout quand on vient d’une filière ou d’un lycée moins « côté ». Pas de réorientation possible ; une fois que l’algorithme a fait son choix, il faut suivre la voie. C’est d’ailleurs ce que dit explicitement un rapport rédigé en 2007 par des spécialistes pour le Haut conseil de l’éducation : il faudrait mettre en place des mesures dissuasives pour que les bac pro n’aient même pas l’idée d’essayer autre chose que la voie directe vers le marché du travail. Par exemple augmenter les coûts de l’université. Ou encore forcer ces mêmes bacheliers à passer des épreuves supplémentaires s’ils veulent vraiment aller à l’université : culture générale et expression, soit les deux emblèmes de la violence symbolique de l’école envers les plus pauvres, les deux piliers de l’exclusion scolaire (et on le sait depuis longtemps) [8].
On retrouve une logique similaire dans la nouvelle épreuve du baccalauréat Blanquer, le mal nommé « Grand Oral ». Le candidat y est censé, debout devant un jury, se justifier de son « parcours ». À 17, 18 ou 19 ans, mettre en cohérence les éléments épars de sa vie, comme dans un C.V.. Effacer de son histoire les incohérences, les doutes, les pauses, les cassures, les moments collectifs, les possibilités inexplorées et les détours. Donner en spectacle la version de lui-même où le moindre événement significatif de sa vie est un résultat de ses choix, et non de son imbrication dans un monde qui existait avant lui. Faire semblant, prétendre que toutes les « décisions prises à l’avance » sont des choix librement consentis, et les transformer ainsi en habitudes.
Tout cela fait oublier en même temps qu’il sanctionne le poids des héritages.
Tout cela ne produit, chez les élèves et les professeurs, que de la désorientation. Les élèves ne savent plus ce qu’elles veulent ni ce qu’ils peuvent.
Tout cela fonctionne. Tout cela fonctionne déjà trop bien. (...)