Contre Attaque vous propose une série de 5 articles pour mieux comprendre l’intelligence artificielle. Quelle est son histoire et son état à l’heure actuelle, ses pratiques dans le domaine militaire, son impact sur l’environnement et que faire des ses “exploits” ? Le domaine de l’intelligence artificielle est gigantesque et les investissements dans ce domaine augmentent de 30% chaque année. Chaque jour des nouveautés apparaissent, cette série d’articles ne prétend pas être exhaustive mais donne des clés de lecture pour une techno-critique de l’IA qui s’impose dans nos sociétés.
Le terme d’intelligence artificielle (IA) apparaît pour la première fois en 1956. Marvin Minsky indique avoir créé ce terme pour récolter des fonds parce que le terme était prometteur. Pour autant, l’intelligence artificielle n’est en réalité que partiellement intelligente, et surtout artificielle. En effet l’IA n’est que le produit d’une sorte de bachotage de la part d’une machine.
Il existe plusieurs formes d’IA, mais toutes sont issues d’un fonctionnement similaire nécessitant une grande quantité de données et une énorme puissance de calcul. C’est pour cela que si le terme existe depuis les années 1956, ce n’est que récemment que ses fonctionnalités se sont imposées dans nos vies.
L’objectif de l’IA est de répliquer des comportements humains et ses sens. La raison, mais aussi la vue, le langage, l’ouïe, le touché. Sa mise en place repose sur de l’entraînement (...)
l’intelligence artificielle fait des erreurs. (...)
l’intelligence artificielle dépend de métriques qu’on lui demande de maximiser. (...)
L’intelligence artificielle dans le système bancaire (...)
l’un des problèmes de l’intelligence artificielle : en remplaçant l’analyse humaine par l’IA pour gagner en « efficacité », il faut nécessairement décider qu’une part de l’erreur sera imputée à la machine et non pas à l’humain, avec notamment comme conséquence l’inexplicabilité de l’erreur. Si l’IA s’améliore, elle ne sera jamais infaillible.
Les capitalistes ont trouvé la parade à ce dilemme : ils mettent un humain entre l’IA et le client pour donner le change. Le résultat sera ainsi réinterprété par l’humain afin de ne pas entrer dans un système où l’IA décide. Seulement voilà, la Cour Européenne de Justice, en décembre 2023, a rendu un arrêt « SCHUFA », du nom d’une banque allemande, qui montrait que dans l’immense majorité des cas l’humain suivait la décision de l’IA. Un pigeon placé là pour rassurer et qui ne fait que cliquer sur un bouton. Mais un pigeon qui prolonge les arbitrages capitalistes des banques, rendant toujours plus inaccessible et discriminatoire l’accès au financement des plus précaires. Seuls les plus riches peuvent avoir de l’argent en avance, un principe du capitalisme financier que l’IA vient aggraver.
D’où viennent toutes ces données ? (...)
Les données utilisées sont issues de l’ensemble des données générées et collectées par le monde numérique. Sans le savoir vous avez probablement déjà participé à générer des jeux de données d’entraînement. Par exemple les Captcha, ces petites questions insupportables avec des images que l’on vous pose quand vous essayer de vous connecter sur un site : « sélectionnez toutes les cases qui contiennent une moto ». (...)
Amazon, par sa plateforme Mechanical Turk, génère aussi des données par l’exploitation ubérisée de 15.000 à 50.000 personnes qui réalisent des tâches informatiques répétitives. Ces travailleurs du clic sont payés à la tâche, comme celle de caractériser des images. Le salaire médian est de 2 dollars de l’heure, aucune protection sociale, pas de vacances : une main d’œuvre corvéable à merci. L’entreprise de Jeff Bezos est ainsi l’aboutissement du capitalisme le plus obscène.
Un premier exemple d’intelligence artificielle dans l’histoire (...)
Alan Turing n’a ensuite cessé, dès la fin de la guerre, de prévenir des usages néfastes de l’IA dans nos sociétés. Il imagine un test de Turing et anticipe le jour où l’humanité ne saura plus distinguer si elle s’adresse à un autre humain ou à une machine. Ce jour est arrivé.