IA & Prise de décision : face au risque de « capitulation cognitive » (cognitive surrender), comment maintenir une évaluation critique dans nos usages de l’intelligence artificielle ?
J’évoquais il y a quelques semaines l’urgente nécessité d’une « ingénierie de la friction intentionnelle » afin de préserver la souveraineté cognitive des personnes et de nos organisations. Cyril Colléatte approfondit le sujet dans un long billet (Thinking Fast, Slow and Artificial – ce qu’on perd quand l’IA pense à notre place) auquel je vous renvoie.
Parmi les points partagés :
- Les enjeux complexes de l’introduction des technologies IA dans la prise de décision humaine (pour un entrepreneur comme pour de plus grandes organisations) rendent nécessaire une « patience cognitive » que je pense nourrie des frictions qui structurent notre apprentissage du monde et notre cognition.
- Notre souveraineté cognitive est menacée par la suppression de ces frictions, tout comme le sont notre connexion au réel, notre autonomie et notre capacité d’agir.
Cyrille éclaire ce sujet structurant en croisant les réflexions de Daniel Kahneman (La prise de décision : entre rationalité et intuition) et les travaux de Shaw et Nave (Thinking—Fast, Slow, and Artificial: How AI is Reshaping Human Reasoning and the Rise of Cognitive Surrender) publiés dans une étude en janvier dernier.
A sa lecture, on comprend mieux pourquoi la fluidité des réponses de l’IA trouble notre jugement, court-circuitant la nécessité d’en vérifier la pertinence (cf. l’idée de WYSIATI proposée par Kahneman), indépendamment de la qualité des réponses de la machine.
Pour y remédier, Shaw et Nave suggéraient la piste d’une « friction intentionnelle » sans pour autant la tester.
Ce qu’a fait Cyrille. Son constat est cohérent avec les propositions de Kahneman: « la friction fonctionne… jusqu’à ce qu’elle devienne elle-même une habitude », au point de perdre son efficacité.
Sa proposition pour malgré tout avancer : « cartographier précisément les zones où le jugement humain reste non délégable, et de protéger ces zones par du design, pas par la discipline. » Avec un objectif, préserver « la capacité à détecter ses erreurs sur les cas limites » au risque sinon d’une reddition massive.
Je vous invite vivement à lire ce billet en entier.
Publié initialement sur LinkedIn : voir le billet d’origine
➡️ Vous souhaitez poursuivre la discussion ? Prenez rendez-vous.
Ce blog est né d’un choix : écrire pour partager ce qui émerge de ma pratique et de mes lectures.
Vous souhaitez continuer à me lire sans qu’un algorithme filtre votre attention ? Vous pouvez vous abonner à ma newsletter ou au flux RSS de ce site pour être informé de chaque nouvel article.