Travail & automatisation n°8 – Relecture de l’Eloge du carburateur, de Matthew B. Crawford
Premières réflexions glanées à la relecture de l' »Eloge du carburateur » de Matthew B. Crawford1, avec à l’esprit la façon dont l’IA générative « percole » nos façons de travailler.
Pour ceux qui ne le connaissent pas, il s’agit d’un philosophe américain, mécanicien par ailleurs. Dans ce livre, partant de ses expériences, il pose la question de la place du travail manuel dans une monde toujours plus façonné par le numérique et l’abstrait. Ce livre est déjà ancien, publié aux Etats-Unis en 2009. Bien qu’écrit avant l’émergence de l’IA générative, il reste une ressource utile pour penser.
Quelques points (tirés des notes posées sur mon compte Twitter) :
- Maîtrise de la syntaxe ne veut pas dire maîtrise du sens : évoquant son emploi de rédacteur de notes de synthèse, il relate, dépité, avoir découvert que son « travail reposait sur l’hypothèse que, pour rédiger un bon résumé, il suffisait d’appliquer une méthode », sans réel besoin de comprendre le contenu. Et ajoute entre deux parenthèse, « comme un ordinateur qui manipule la syntaxe sans être affecté par la sémantique ». Troublante façon de résumer ce qui est devenue le propre de l’IA générative, une logique asémantique capable de restituer dans un language précis un texte apparemment cohérent et grammaticalement exacte.
- « L’interface informatique ajoute une couche d’abstraction supplémentaire en dissimulant la logique d’origine humaine du programme qui régit le logiciel » : On tend à oublier que tout ceci n’est que le fruit d’un travail humain immense, tant au niveau des données que des couches logiciels multiples, jusqu’au retravail de nos prompts par la machine pour améliorer les résultats (subjugués par l’apparente magie des outputs et un fonctionnement qu’on peine à expliquer en détail ?). Cette logique d’origine humaine, « une réalité têtue et résistante », ne doit pas être oubliée : Elle « aiguise la conscience de la réalité comme facteur indépendant ». En effet, il n’y a ni magie ni conscience dans la machine avec laquelle nous interagissons. Pire, la logique humaine conduit à des choix, voire à des raccourcis face à certains obstacles. Nous devons garder cela à l’esprit en manipulant les outils génératifs pour ne pas passer à côté des biais qui y sont engrainés et des approximations ou hallucinations proposés par la machine.
- Crawford souligne une tension qui vire au paradoxe : le recul de notre agir humain (agency) « explique l’accroissement de notre autonomie ». Sans manquer de souligner l’intérêt de la technologie, il rappelle très justement qu’utiliser des outils qui nous simplifie la vie peut conduire à entamer notre liberté, et doit relever d’un choix. Il prend l’exemple de la jauge à huile, aujourd’hui disparue dans la plupart des véhicules : si auparavant, nous pouvions mesurer la quantité d’huile dans le moteur pour l’ajuster, nous ne sommes maintenant plus en capacité de le faire, et contraint par une alerte à déposer notre véhicule dans un garage.
Publié initialement sur LinkedIn : voir le billet d’origine