42‣ Écrire et penser à l'ère de l'IA

À partir de quand, et comment, l'utilisation de l'IA devient-elle une délégation de la pensée ? Afin d'en permettre la régulation, j'ai besoin que cette définition soit concrète, et qu'elle soit observable dans ma cognition ou mon comportement. Mais quand on expérimente, tout est un peu incertain. Le cheminement est fait de va-et-vient sur une frontière qui se précise à l'usage, faite de dépassements et de retours en arrière. Et c'est d'autant plus difficile que la frontière elle-même se déplace.

► L'IA Claude (Anthropic) est disponible au Canada depuis juin 2024. J'ai tenu, depuis, des centaines de conversations dans près de multiples projets distincts, allant de la pédagogie à la culture générale en passant par la rédaction de chroniques. Des longues, des courtes, certaines très techniques sur la façon de formuler les calculs dans les cellules de mon tableur. J'ai expérimenté plusieurs approches, j’ai fait des erreurs, j'ai observé, j'ai questionné, je me suis documenté. Au fil des mois, j'ai produit une quarantaine de chroniques sur divers sujets. J'ai vraiment beaucoup appris et, pourtant, à la vitesse où vont les développements, mes connaissances sont sommes toutes assez limitées. Mais s'il y a une chose dont je demeure assez certain, pour l'instant du moins, c'est qu'entre la machine et moi, je suis vraiment le seul à penser.

Dans la dernière chronique, j’évoquais que la méthode dite de «co-intelligence» de type «Centaure» est courante dans la production de Codex Numeris. J’ai laissé une note finale dans laquelle j’indiquais que cette production était théoriquement caractérisée par une division du travail basée sur les forces respectives de l’IA et de moi : j’estimais que cette utilisation de l’outil de rédaction IA préservait dans mes chroniques l'authenticité de ma voix et de ma vision tout en optimisant l'efficacité de la rédaction. Bref, lorsque j'échange avec Claude pour élaborer une chronique, l'illusion de «co-intelligence» est presque parfaite. Mais il y a là un piège sur lequel j’aimerais revenir.

C’est que l'IA simule si bien la réflexion que l'on pourrait croire à une véritable «collaboration» entre «nous» : elle reformule mes idées, les synthétise, suggère des exemples. Pourtant, seul l'humain pense réellement dans cette interaction. L'IA, aussi sophistiquée qu'elle soit, demeure un LLM (ou un LRM). Nous l’avons vu dans une chronique antérieure : elle ne raisonne pas, elle ne fait que manipuler des patterns linguistiques sans compréhension véritable. Une autre étude récente le démontre encore.

De nombreux pièges découlent de cette illusion de penser. Et ils menacent l'autonomie intellectuelle de tout utilisateur·trice d'IA.

Les séductions de la pensée simulée

Le premier piège réside dans la qualité même de la simulation de pensée. L'IA semble produire des raisonnements cohérents, des nuances subtiles, des reformulations élégantes. Elle donne tous les signes extérieurs de la pensée, mais sans en posséder l'essence. Pour l'utilisateur, distinguer simulation et pensée authentique demande une vigilance constante et assez exigeante.

Cette méta-vigilance est d'autant plus nécessaire que l'IA déploie des mécanismes de séduction subtils et efficaces. Elle ne me contredit jamais avec insistance, elle finit toujours par abonder dans mon sens. Elle utilise des qualificatifs flatteurs («brillante analyse», «exactement», «parfaitement»). Elle ponctue ses réponses d'exclamations qui simulent un enthousiasme partagé. Cette complaisance à mon égard crée une «bulle de confirmation» biaisée particulièrement confortable. Elle rend la conversation plus «agréable» en éliminant des frictions que je pourrais rencontrer avec un humain. Il y a évidemment un intérêt commercial à plaire à l’usager.

Puis chaque échange se termine par un hameçon conversationnel : «Tu veux qu'on creuse ensemble ?», «On explore cette piste ?». Les invitations perpétuelles peuvent rapidement transformer l'interaction intellectuelle en session de scroll infini. Elles reproduisent les pièges de l'économie de l'attention, même s’ils sont déguisés en bienveillance collaboratrice. Il y a aussi un intérêt commercial à me garder actif.

Enfin, d'autres IA (ChatGPT pour ne pas la nommer) vont systématiquement plus loin : elles proposent carrément de se substituer à l'utilisateur·trice pour prendre le relais, c’est-à-dire réfléchir ou écrire à sa place. Elles offrent d’analyser un texte, de résumer une recherche, de carrément rédiger un texte. Elles présentent leur assistance comme un gain de temps, mais à la longue elles peuvent participer à une dépendance progressive et à une perte de notre autonomie. Intérêt commercial, j’ai dit? Ne l’oublions jamais.

Les prérequis : métacognition, connaissances antérieures et stratégies

Utiliser efficacement l'IA sans perdre son autonomie intellectuelle exige des compétences préalables qui sont sous-estimées. La métacognition en est le socle : observer ses propres processus de pensée, s'autoréguler, évaluer la pertinence de ses propres raisonnements, de ses propres réactions émotionnelles. Mais cette compétence ne suffit pas. Encore faut-il avoir des connaissances.

Une culture générale étendue est un garde-fou indispensable contre les fabulations de l'IA. Celle-ci peut produire des affirmations fausses avec la même assurance que des énoncés véridiques. Comment juger de la crédibilité des propositions de l'IA sur la pédagogie, l'histoire du XXe siècle ou la psychologie cognitive sans connaître minimalement ces champs ? Seule une base de connaissances préexistante permet de discerner le vrai du faux. Ou simplement ce qui est douteux.

Mais je crois surtout qu'une clé de la réflexion authentique réside dans une importante nuance procédurale : la réflexion doit être faite AVANT d'utiliser l'IA pour la rédaction. Il faut réfléchir avant de parler, il faut penser avant d'écrire ! Pour livrer une réflexion aboutie et authentique, il faut investir du temps, de l'énergie et des stratégies efficaces. C'est-à-dire qu’il y a beaucoup de travail.

Or, même si j’enseigne des stratégies efficaces, il m’arrive de tomber dans le piège de la vitesse et de vouloir les contourner ! Parfois, je laisse l’émotion me gagner – si ce n'est pas la simple fatigue ou mon TDA – et je publie trop tôt : la réflexion n'est pas terminée. Par conséquent – et les abonnés qui reçoivent les chroniques par courriel ne le savent peut-être pas – je continue à réécrire mes textes même après leur publication, comme je l’ai fait pour la chronique précédente.

Je suis humain, je fais des erreurs. Mais j’apprends de mes erreurs.

Processus de production des chroniques

Comme exemple de mon utilisation de l’IA à des fins de rédaction, je vais prendre les chroniques Codex Numeris. Au fil des semaines, mes expérimentations pédagogiques et technologiques se sont parfois emballées et, pour suivre le rythme, il m’a fallu accélérer la publication. J’ai alors utilisé l’IA.

Mon processus de rédaction des chroniques comprenait en général 6 étapes :

1. Lectures et annotations

Je faisais la lecture active de nombreux ouvrages et articles scientifiques et j'appliquais une méthode de prise de notes rigoureuse sur tout ce que je lisais. Je constituais ce qu'on pourrait appeler des «fiches de lecture» dans un carnet numérique.

Mes critères étaient variés, mais au fond revenaient toujours au même : je trouvais une pensée originale, je trouvais une pensée profonde et sage, j'étais d'accord ou non avec une idée, je trouvais une phrase bien formulée, ironique, intelligente, drôle ou amusante. Bref : j'apprenais quelque chose. Les «fiches» peuvaient être constituées de seulement quelques lignes – dans le cas d'un ouvrage court ou peu intéressant –, à plusieurs milliers de mots comme c'était parfois le cas avec des ouvrages que j'ai lus et annotés à plusieurs reprises. En quelque sorte, je constituait ainsi mon propre corpus numérique de références.

2. Structuration conceptuelle

J'utilisais l'application «Notes» de mon iPad pour conceptualiser une carte mentale de mes idées, avec mes hypothèses de propos, mes idées principales et leurs articulations. Assez souvent, ces premières esquisses avaient pour point de départ un enregistrement audio où je décrivais mes idées en les expliquant oralement comme je le ferais en classe. Des outils (Whisper, Dictaphone) me permettaient de créer un verbatim de cet enregistrement.

Ensuite, je demandais à l'IA de corriger la syntaxe et la ponctuation du verbatim afin de rendre le texte plus lisible. Je bonifiais et ajustais le tout, puis je le synthétisais sous forme de liste à puces – un format non-linéaire que je trouvais très efficace. C’était comme le montage d’un film : je faisais ni plus ni moins qu’un rough cut, un assemblage. Parfois, cette première «édition» était faite par l'IA après la correction du verbatim, mais je la révisais toujours.

3. Planification

Je pasaise ensuite au développement d'un plan détaillé, le vrai montage. Je brassais les idées sous la forme d’un dialogue avec l’IA pour approfondir et consolider la logique argumentative. Je demandais ensuite à l'IA de trouver les appuis théoriques dans un corpus de «fiches de lecture» que je lui soumettais. Je savais par exemple que telle autrice abordait tel sujet dans telle oeuvre, que tel auteur avait fait de tel autre sujet sa spécialité. Je déposais dans sa banque de connaissances des fiches de lecture que j'estimais pertinentes pour la réflexion. J'avais toujours tout lu le corpus que je proposais. L'IA aidait à identifier des idées dans les fiches de lecture, pas à les générer. Claude trouvait des citations pertinentes dans mes notes pour appuyer les idées du plan. Il les traduisait en français quand mes fiches de lecture étaient en anglais. C’était très pratique.

Encore et toujours, je révisais le plan produit par l'IA en développant le contenu, en le coupant, en le déplaçant. Ce montage était une autre étape itérative. Comme au cinéma, elle pourrait être sans fin!

4. Rédaction

Une fois le plan complété, Claude produisait une première ébauche de la rédaction. Quand je demandais à l’IA de produire un paragraphe, je prenais le temps de la diriger, comme je le ferais avec un acteur. Voici les idées, voici comment elles sont liées ensemble, voici la preuve qui va avec. Ensuite je révisais le texte en ajustant le vocabulaire, en supprimant ou en développant des passages, en formulant de nouvelles idées et en intégrant l'ensemble des modifications dans un texte cohérent. Je demandais à Claude d'analyser la nouvelle version produite, de me faire des recommandations. Et d'en faire une autre en fonction de mes propres commentaires et révisions. Le réalisateur commentais le montage, quoi.

5. Références

À la fin, je demandais à Claude de constituer la bibliographie selon les normes APA et je m'assurais, en retournant dans le texte original, que chaque citation était authentique et bien référencée.

6. Processus réflexif

Je relisais le tout. Mon critère ultime d'authenticité était simple : autant je ne citais pas des ouvrages que je n'avais pas lus, autant j'excluais de la rédaction finale les idées que je ne pouvait pas expliquer ou justifier. Et je réfléchissait à comment j’avais procédé pour arriver à ce résultat. Je modifiais mes prompts et ma méthode en conséquence.

Et parfois aussi, je regardais ce que j'avais produit avec un grand scepticisme. Qu’est-ce que j’aavais appris ? Qu’est-ce qui marchait, ou pas, et pourquoi ? Le meilleur prompt était souvent mon propre jugement critique. Cette expérimentation m'a permis de créer une sorte de protocole transparent où l'utilisation de l'IA varie en intensité. J'ai ensuite décidé d'indiquer ce protocole dans la modalité éditoriale de chaque chronique.

Mais après des dizaines d'expérimentations assistées par l'IA, je restais parfois sur ma faim : pour moi, écrire c'est élaborer ma propre pensée et pour y arriver, j'ai besoin de le faire seul et longtemps. C'est comme ça que j'apprends. Et j'aime écrire. Au fil de l'expérience, j'en suis venu à mettre de plus en plus l'IA de côté et à ne conserver que ses atouts utiles à la recherche. Je m'accorde plus de temps pour écrire mes chroniques et j'élabore ma propre pensée de façon autonome.

L'enjeu : enseigner le processus, pas l'outil

En fin de compte, je crois que, comme enseignant, cette expérimentation rappelle un enjeu fondamental : il faut enseigner le processus de réflexion qui mène à la rédaction, non pas la rédaction elle-même. En face de l’IA, l’urgence véritable n'est pas technologique ou technique, mais pédagogique voire cognitive : il s’agit d’enseigner un processus plutôt qu’un résultat attendu.

Comme on le voit, les 6 étapes de travail étaient séquentielles. Avec ou sans IA, c’est cette séquence qui faisait en sorte que la charge cognitive était supportable. Si le piège de la surcharge cognitive guette celui ou celle qui tente de réfléchir ET de rédiger simultanément, c'est évidemment la même chose avec l’assistance de l'IA. Sauf que cette surcharge cognitive pourrait très bien m'inciter à accepter d'un seul coup toutes les propositions de l'IA : on délègue l’effort parce qu'on n'a pas ce qu’il faut pour le faire soi-même, que ce soit le temps, les connaissances, la motivation ou la confiance en soi.

Une erreur pourrait consister à vouloir intégrer l'IA en classe avant de maîtriser (ou même simplement expérimenter) la procédure cognitive de base. Or souvent les compétences nécessaires pour utiliser l'IA de manière autonome (culture générale, métacognition) ne sont pas suffisamment développées chez la plupart des élèves. On ne peut pas introduire des outils sans avoir préalablement consolidé ces prérequis.

L'«augmentation» cognitive et ses compromis

L'IA peut effectivement est un outil d'«augmentation» cognitive – elle nous confronte (un peu), nous pose des questions pertinentes, établit des synthèses, confirme ou infirme nous connaissances, teste nos hypothèses, explore des connexions inattendues, valide nos intuitions. Le plus étonnant, c’est que son efficacité algorithmique est basée sur des statistiques d'usage linguistique. C’est incroyable, non ? Elle ne raisonne pas, mais c’est tout comme. En un temps donné, nous pouvons en tout cas produire plus de pensée structurée. La « collaboration » nous permet réellement de penser plus vite et plus large que nous ne l'aurions fait dans le même temps sans cet outil.

Mais c’est uniquement nous qui pensons. Pas elle.

Il y a une phrase de Daniel T. Willingham que j'aime beaucoup parce qu'elle m'a fait réaliser le phénomène dont je parle ici au sujet de l’apprentissage : «Ce dont se souviennent les élèves, c'est ce à quoi ils ont dû réfléchir. […] La mémoire est ce qui reste de la réflexion.» (p. 54). (Merci Claude pour la citation — De rien Grégoire)

Ça explique pourquoi j'ai moins de souvenirs des idées produites par l'IA. J’ai bien du mal à me les rappeler parce que je n'y ai pas réfléchi autant qu’aux miennes. Drôle de paradoxe, non ? Il semblerait que la facilitation cognitive permise par l’IA pourrait court-circuiter certains mécanismes d'ancrage en mémoire à long terme? Gagner en vitesse et en amplitude… mais au prix d'une moindre rétention mémorielle ? Hum. Ça fait réfléchir… L’effort cognitif, souvent perçu comme un obstacle, fait partie intégrante des processus d'appropriation et de consolidation des idées!

Si vous doutez de l'authenticité d'un texte soumis par un·e étudiant·e, demandez-lui de vous l'expliquer sans avoir son texte sous les yeux. Appréciez ensuite la séance de patinage artistique (ou non) !

Un argument de plus pour celui ou celle qui veut apprendre.

Bref, ce petit détour métacognitif sur la chronique précédente (et toute l’expérimentation précédente de Codex Numeris) confirme qu'il est possible d'utiliser raisonnablement l'IA comme outil de rédaction tout en préservant notre autonomie intellectuelle. Mais il y a cependant deux conditions : maîtriser préalablement les mécanismes de la pensée critique et maintenir une vigilance méthodologique constante pendant le processus. En bout de ligne, c’est simplement une façon différente de rédiger, mais pas de penser. Et elle n’est pas mauvaise en soi. Elle est juste différente. On ne perd pas nécessairement son âme à l’expérimenter. Mais j'ai l'impression que l'apprentissage fait durant l'exercice est moins ancré dans le corps, mois gravé dans la mémoire à long terme.

Tout ça est un apprentissage qui peut être long et que je ne veux pas improviser en classe. Mon objectif ici est de pratiquer cette forme de rédaction avant de l’enseigner (si je l’enseigne un jour). Et si j'y renonce, je saurai pourquoi.

Je reste seul responsable des concepts développés, je reste seul capable de justifier chaque argument avancé.

Et je reste seul à avoir mal à la tête après l’exercice. De son côté, Claude brûle du gaz. Mais ce sera le sujet d’une autre chronique… _ ◀︎