Travail & automatisation n°6 – L’IA générative, manche efficace ou fragile ?
Parmi les télescopages de la semaine, la rediffusion d’un podcast « Avec Philosophie » sur l’IA1 par France Culture et une intervention pour le compte d’Espérance & Algorithmes auprès de Talents & Foi afin d’éclairer des craintes et raccourcis sur les liens entre IA et travail.
J’y ai découvert la réflexion de Gilbert Simondon2, un philosophe français du siècle passé, qui a travaillé sur la technique et la « mécanologie » (science des machines).
Il emploie l’image du manche3, étape essentielle dans le développement d’un outil. Le manche s’intercale entre l’outil (le silex taillé ou le fer de hache) et la personne qui l’utilise. Il n’est pas tout à fait un outil, mais en démultiplie la puissance. L’outil quant à lui est « un intermédiaire entre le monde et l’homme ».
Pour bien fonctionner, l’outil doit « être indémanchable, être bien constitué ». Si le manche contribue à l’efficacité de l’outil, il en constitue dans le même temps un point faible. Dit autrement, la fragilité est le prix de l’efficacité de l’outil.
Pour pallier cette fragilité, ou l’atténuer, les « différentes cultures » ont adapté les manches en fonction des usages ou des matériaux (emmanchement à collet ou à douille, à jonc ou à soie…).
« La nature même de l’outil est d’établir un rapport constant et non fallacieux entre le corps de l’opérateur et l’objet sur lequel il agit ».
Si l’image parait obsolète, elle a le mérite de souligner l’importance de « l’harmonie nécessaire » entre l’outil et la personne. L’outil n’a pas qu’une simple utilité souligne Apolline Guillot, rédactrice en chef de Philonomist, qui intervient dans ce podcast. Il y a dans les IA génératives une « concrétion d’intelligence humaine » qu’il nous faut mesurer.
Simondon invite à comprendre comment l’outil fonctionne et à mesurer la place de tous les humains qui sont derrière. Pas de diabolisation donc, ni d’angélisme face à cette technique, une de plus, mais la nécessité d’en mesurer les apports et la fragilité.
« Un homme cultivé ne se permettrait pas de parler des objets ou des personnages peints sur une toile comme de véritables réalités, ayant une intériorité, une volonté bonne ou mauvaise. Ce même homme parle pourtant des machines qui menacent l’homme comme s’il attribuait à ces objets une âme et une existence séparée, autonome, qui leur confère l’usage de sentiments et d’intentions envers l’homme. »
Le détour par les travaux d’Antonio A. Casilli est éclairant : l’IA cache une quantité mal comprise de travail humain, bien souvent essentiel au succès de ces outils. Jusqu’à l’action de « travailleurs du clic » parfois indispensable à leur bon fonctionnement. La disparition du système sans caisse d’Amazon « Just Walk Out » vient d’en offrir une nouvelle illustration: En dépit de plus d’un millier de travailleurs indiens chargés de traquer en temps réel l’activité des clients dans les magasins d’Amazon, le système ne parvenait pas à fonctionner correctement.
La robustesse et la solidité des solutions d’IA génératives laissent parfois dubitatifs et imposent une prise de distance en fonction des tâches à considérer. D’autant que de l’invention à l’innovation, puis à sa généralisation, il y a un pas: Trop peu de ceux qui y travaillent s’interrogent vraiment sur les besoins des personnes qui vont l’utiliser dans la durée.
PS : Outre différents liens vers le podcast, des articles de Philosophie magazine ou la fiche de Gilbert Simondon, une citation évoquée dans l’un des articles, éclairante alors que certains ont la tentation d’antropomorphiser les IA génératives :
« Un homme cultivé ne se permettrait pas de parler des objets ou des personnages peints sur une toile comme de véritables réalités, ayant une intériorité, une volonté bonne ou mauvaise. Ce même homme parle pourtant des machines qui menacent l’homme comme s’il attribuait à ces objets une âme et une existence séparée, autonome, qui leur confère l’usage de sentiments et d’intentions envers l’homme. »
Publié initialement sur LinkedIn : voir le billet d’origine
- Travailler, consommer, tout va-t-il changer ? – épisode 2/3 du podcast L’intelligence artificielle, objet philosophique https://www.radiofrance.fr/franceculture/podcasts/avec-philosophie/travailler-consommer-tout-va-t-il-changer-1050206 ↩︎
- Gilbert Simondon / Wikipédia : https://fr.wikipedia.org/wiki/Gilbert_Simondon ↩︎
- Éloge du manche / https://www.philomag.com/articles/eloge-du-manche ↩︎