Travail & automatisation n°9 – Relecture de l’Eloge du carburateur, de Matthew B. Crawford
Suite de la relecture débutée ici de l’Eloge du carburateur de Matthew B. Crawford, avec à l’esprit la façon dont l’IA générative « percole » nos façons de travailler.
Compréhension scientifique et intuition sont nourries par l’expérience
Crawford, citant Aristote, souligne que compréhension scientifique et intuition sont nourries par l’expérience : « Le manque d’expérience diminue notre capacité d’adopter une vue d’ensembles de faits communément admis.
C’est pourquoi ceux qui développent des liens d’associations intimes avec la nature et ses phénomènes sont mieux à même d’établir des principes capables de susciter des développements amples et cohérents ». Une réflexion s’appuyant uniquement sur des savoirs ou la pensée d’autrui risque de nous faire passer à côté du sujet, dont certaines dimensions « ne sont connaissables qu’à travers la pratique ».
Au fond, « La seule chose qui fonctionne dans ce cas, ce n’est pas un système de règles mais le type de jugement plus ou moins intuitif qui émerge de l’expérience », cette intuition véritable, nourrie par l’expérience et le temps.
Le travail intellectuel contenu dans bien des métiers manuels
Pour Crawford, il y a en fait plus de travail intellectuel dans bien des métiers manuels que dans d’autres plus intellectuels.
Pour l’illustrer, il développe une réflexion autour des liens entre « technologie intellectuelle » et « connaissance personnelle », juste après avoir détaillé la dimension tacite de nombre de savoirs qui ne peuvent être encapsulés en « savoir théorique ».
Il en va ainsi des savoirs d’un pompier, d’un joueur d’échecs ou d’un mécanicien. Leur travail est « situé », sollicitant un jugement tiré de l’expérience. Ce qui l’amène à affirmer que les systèmes de diagnostics « n’éliminent nullement le jugement du mécanicien » : « Comprendre pourquoi [ces systèmes] en sont incapables nous permettra de mieux saisir les limites intrinsèques de l’idée de « technologie intellectuelle » et le risque que court le processus de #travail lorsqu’on perd la consciences de ces limites.
On ne peut faire abstraction du contexte
« Traiter les états du monde isolement des contextes » nous expose expose au risque de « sombrer dans le non-sens ».
L’application à l’IA est immédiate : le meilleur des « raisonnements », même tiré de o1, peut nous induire en erreur gravement. Nous restons dépendant d’une « erreur de frappe » commise par « quelqu’un d’autre » (comme des erreurs se nichant dans les données d’entrainement). Un exemple frappant apparait dans le film de Jean-Jacques Annaud, Notre-Dame en flamme : le signal encodé dans le système d’alerte est erroné, pointant vers la toiture de la sacristie alors que le feu se trouve au-dessus de la nef.
Le diagnostic informatisé « rajoute une couche de travail additionnel, qui mobilise un autre type de disposition cognitive », un effort d’interprétation prenant en compte les limites intrinsèques de l’outil: la connaissance personnelle est nécessaire pour éviter les rationalités fallacieuses et accomplir correctement sa tâche.
Publié initialement sur LinkedIn : voir le billet d’origine