L’anecdote est à la fois amusante (ou inquiétante) mais surtout révélatrice. Voici comment l’IA conversationnelle m’a soutenu mordicus une chose fausse et a refusé de l’admettre malgré les preuves. Un petit rappel salvateur.

(...) Je venais d’installer peu de jours auparavant la toute dernière version d’Ubuntu. Sur un point de détail je rencontrai un problème d’ajustement de configuration. Rien de grave, mais je voulais une réponse. Je ne la trouvais ni sur les sites dits spécialisés, ni sur les forums dédiés et encore moins les vidéos en ligne. Autrefois j’en serais resté là et j’aurais patienté un peu ou déposé une question.

Mais je savais que l’intelligence artificielle conversationnelle est à disposition même avec un compte gratuit. Alors, je l’interrogeais.

C’est impossible cette version n’existe pas ! (...)

L’enfermement dans un ton supérieur d’expertise

J’aurais dû garder la conversation tant elle était drôle. J’avais déjà remarqué cette dérive antérieurement et souligné qu’il ne fallait pas demander conseil à l’IA (...)

Il y a deux choses à retenir à mes yeux :

pour une erreur repérée, combien n’en voyons-nous pas ? Non seulement nous risquons d’apprendre des choses fausses ou de travers et cela pourrait avoir des conséquences selon le sujet (...)

l’IA conversationnelle tente par un « ton d’expertise » une sorte de vassalisation de ses usagers. C’est un problème éthique presque plus grave. (...)

Si on souligne souvent avec l’IA les problèmes liés par exemple aux aspects écologiques, il ne faut pas sous estimer non seulement la question de la vérité scientifique mais aussi cette question éthique quand on sait comment notre cerveau peut être influençable et victime de biais cognitifs et psychologiques.

Il faut donc bien replacer l’IA conversationnelle dans sa position d’outil en se demandant pourquoi nous l’utilisons avec quelle intention. (...)