Des soldats sont parvenus à tromper la vigilance de robots de défense contrôlés par des algorithmes, en se cachant dans un carton. Une technique qui rappelle une tactique présente dans les jeux vidéo de la licence Metal Gear Solid.
Dans le livre intitulé Four Battlegrounds, Paul Scharre raconte une anecdote liée au développement des intelligences artificielles au sein de l’armée américaine. Des marines enchaînaient les expérimentations pour aider les scientifiques à pondre un algorithme efficace dans la détection des mouvements humains. Puis, ils ont fini par inverser l’objectif : le but n’était plus de se faire repérer, mais de tromper l’intelligence artificielle. Certains y sont parvenus en se cachant dans… une boîte en carton. (...)
il est impossible de ne pas penser aux jeux vidéo d’infiltration d’Hideo Kojima quand on imagine des soldats se cacher dans une boîte en carton pour atteindre un endroit en toute discrétion. (...)
« Huit marines — aucun n’a été détecté », peut-on lire sur la capture d’une page. Les marines n’ont pas tous fait appel à une boîte en carton pour gagner — « Deux ont fait des sauts périlleux sur 300 mètres : aucune détection. » Un autre s’est carrément déguisé en sapin pour tromper l’IA. (...)
« L’IA a été entrainée pour détecter des humains en train de marcher, pas des humains en train de faire des sauts périlleux, cachés dans une boîte ou déguisés en arbre. Ces simples astuces, qu’un humain aurait repérées très facilement, étaient suffisantes pour casser l’algorithme. » (...)