63‣ De l'autonomie et de la dépendance

La pénurie de puces de mémoire que nous vivons depuis quelques mois, et que l'on prévoit durer encore quelques années, nous rappelle que les «nuages» sur lesquels reposent les infrastructures d'Internet, de l'IA et de nos réseaux sociaux ont un poids physique bien réel. Il faut des minéraux pour les faire tourner et de l’énergie pour les extraire. Or, cette énergie devient plus coûteuse à mesure qu’on la consomme. Le fait que le modèle technologique actuel ne soit pas durable ne relève pas de la dystopie. C’est de la simple comptabilité. Mais que faisons-nous pour cultiver notre autonomie ?

► UN écosystème naturel, ça tient tout seul et ça s'autorégule de manière silencieuse. L’air, la lumière, la pluie n'ont besoin d'aucun entretien. Il en est autrement pour un écosystème infonuagique. Les disques ont une espérance de vie de quelques années. La salle des machines a besoin d'être constamment tempérée, car un serveur est sensible à l'humidité, à la poussière. Ça rouille. Rien de tout cela n’est visible depuis notre écran et c’est peut-être là que se situe une bonne part du problème. La métaphore du nuage masque la condition matérielle qui rend possible notre environnement technologique.

L’intelligence artificielle n’est ni artificielle ni intelligente, écrit Kate Crawford. Au contraire, l’IA « repose sur la fabrication, le transport et le travail physique ; sur les centres de données et les câbles sous-marins qui relient les continents ; sur les appareils personnels et leurs composants bruts ; sur les signaux de transmission qui traversent les airs […] et sur des cycles computationnels continus. Tout cela a un prix » (Crawford, 2023, p. 64).

Car un centre de données n’est pas dans un état fixe. Il est au carrefour de plusieurs flux : un approvisionnement continu, des pièces qu’on remplace rapidement, de la d'œuvre qualifiée pour le faire. Qu'arrive-t-il si le flux se tarit ? Il arrive des pannes comme on en connait fréquemment depuis quelques mois.

Les préoccupations physiques et énergétiques autour de nos installations humaines ne datent pas d'hier. Donella Meadows et ses collègues avaient formulé cette menace en 1972 avec une lucidité qui n’a pas vieilli. « Plus on consomme de ressources, plus la qualité des réserves résiduelles est censée diminuer. Il faut creuser de plus en plus profond pour atteindre des gisements qui sont de plus en plus éloignés du lieu d’exploitation. Cela signifie qu’il faut davantage de capital et d’énergie pour extraire, traiter et transporter une tonne de cuivre ou un baril de pétrole. Sur le court terme, cet état de fait peut être compensé par le progrès technologique, mais à long terme, c’est bel et bien la capacité de croissance physique qui diminue » (Meadows et al., 2012, p. 221).

Une transition inégale

L’expression décisive est énergie nette : c'est ce qui reste une fois qu’on a fourni l'effort nécessaire pour aller chercher l’énergie. Même si l’on intensifiait dès maintenant le passage à d’autres sources, écrit Richard Heinberg (en 2008), les efforts « interviendront si tard que, pour la durée de la transition, la société aura inexorablement moins d’énergie nette à sa disposition pour effectuer les travaux utiles, dont la production et le transport des biens de consommation, l’agriculture et le chauffage des habitations » (Heinberg, 2008, p. 240). 

Les entreprises qui bâtissent les centres de données (les hyperscalers) ont créé des dépenses d’investissement projetées à plusieurs centaines de milliards pour la seule année 2026. Or, l'infrastructure de l'IA se construit aujourd'hui à crédit sur des montages financiers «hors bilan».

Je ne fais ici aucun pronostic sur les marchés financiers ; ce n’est pas du tout de ma compétence ni même mon propos. Mais je remarque simplement que du béton, du cuivre, des turbines et des transformateurs sont achetés aujourd’hui avec l'espoir de revenus demain. L'infrastructure de l'IA est financée par l’emprunt et sa maintenance future dépend d’une promesse de plus en plus difficile à tenir.

Les centres de données américains font tourner leurs grands modèles en consommant une électricité qu'ils tirent d’un réseau vieillissant. Le gouvernement Trump a fait le pari du pétrole, du charbon et du gaz, en démantelant les dispositifs de transition énergétique. La Chine a fait le pari inverse et tire désormais 51% de sa production électrique de sources renouvelables, principalement solaires. Un pays a misé sur une ressource qui s’épuise, l’autre sur des ressources qui ne s’épuisent pas. À cela s’ajoutent des évènements météorologiques extrêmes de plus en plus fréquents, que même les ministères de la Défense désignent comme une menace directe pour les infrastructures critiques. Comment tenir le coup ? Drill, baby, drill ? Vraiment ?

Pour maintenir une croissance continue, une société cherche « un nouveau subside énergétique lorsqu’il devient visible que la productivité marginale commence à chuter. Parmi les sociétés dépourvues du tremplin technique nécessaire à un tel développement, la tentation habituelle est d’acquérir un tel subside énergétique au moyen de l’expansion territoriale » (Tainter, 2013, p. 145). Joseph Tainter parle ici de sociétés anciennes, mais les manœuvres américaines autour du pétrole vénézuélien ou iranien sont tout à fait contemporaines. L'invasion de l'Ukraine par la Russie n'est pas différente. Nous sommes à un moment crucial de la transition énergétique et les réponses ne sont pas évidentes.

Dans Future Scenarios (2009), le permaculteur David Holmgren dégage quatre avenirs possibles, quatre scénarios. Le premier, qu’il nomme Brown Tech, correspond à un déclin pétrolier lent, compensé par des ressources fossiles de mauvaise qualité, dans un climat qui se dégrade vite. Ce scénario s’accompagne de réponses centralisées et autoritaires. Ce n’est pas l’effondrement, c’est une transition «brune», très inégale : des régions, des institutions, des réseaux tiennent, pendant que d’autres tombent en ruine. Ici les robots, là-bas rebuts.

Dario Amodei, le pdg d’Anthropic, a soutenu récemment qu’un essaim d’agents autonomes qui s'emparerait d'Internet est un risque plus immédiat qu’une superintelligence qui anéantirait l’humanité. L’idée n’est pas nouvelle : Bostrom et Tegmark l’avaient explorée sur le mode du scénario. On parle ici d'un Internet saturé d’activité non humaine, où distinguer un interlocuteur d’un automate devient difficile et où la confiance, qui est une ressource de base du réseau, s’épuise.

Le système ne s’effondre pas d’un coup sous l’effet d’une catastrophe venue du ciel. Sa dégradation vient du coût de la maintenance, qui devient tellement coûteuse qu’on l'arrête tout simplement. Appliqué au numérique, cela ne signifie pas une soudaine panne générale, mais un système dégradé, inégal, de moins en moins fiable. Là où il rapporte le moins en tout cas. Dans les milieux les plus démunis. Comme le réseau routier, il ne casse pas, mais l’ensemble s’affaiblit. C'est peut-être, je crois, la plus probable des hypothèses.

Autonomie, dépendance

J’en viens maintenant à ce qui me préoccupe le plus. Ce n’est pas tant l’électricité et comment on la produit. Ces inquiétudes sont très bien documentées au sujet d’Internet ou de l'intelligence artificielle. Ce n'est pas non plus comment on régule ou non le développement de l'IA.

Je ne sais ni si Internet ni si l'intelligence artificielle sont éternels. Je constate seulement que nous sommes en train de bâtir notre avenir sur l’hypothèse que les deux le seraient et, que jusqu'à maintenant, cette hypothèse n’a jamais été prouvée. Meadows écrivait que l’idée de limites est « politiquement taboue et économiquement inconcevable » et que notre culture tend à en nier l’existence « en faisant une confiance aveugle aux pouvoirs de la technologie » (Meadows et al., 2012, p. 294).

La dépendance structurelle repose sur le fait de confier à un système (qu’on ne maîtrise pas) une fonction dont on ne pourra plus se passer. Un bon outil augmente l’autonomie de la personne qui l’utilise, un mauvais se l'accapare. Pas besoin de sombres prédictions ou d'anticipations dystopiques pour ça. 

Quand le problème devient visible, on légifère sur ce qui est visible. Nous surveillons les objets avec une grande vigilance, mais nous vérifions bien moins ce que ces objets menacent. 

Que se passe dans la tête de celui ou celle à qui on a retiré sa ressource ? Est-il ou est-elle encore autonome ? A-t-il ou a-t-elle encore les moyens de produire une idée, de tenir un raisonnement, de supporter l’inconfort... de ne pas savoir ? L'a-t-il ou l'a-t-elle déjà eu ?

Je pense qu'avec l'arrivée de l'intelligence artificielle, nous avons tout à coup pris conscience que nos systèmes éducatifs et pédagogiques étaient depuis longtemps fort abimés.

Le véritable enjeu, pour reprendre autrement les mots de Philippe Bihouix, n’est pas tant entre dépendance et autonomie, qu'entre dépendance subie et autonomie choisie. Et ce choix est applicable dès lundi matin : la relation entre un·e enseignant·e et un·e élève ne consomme pas d’électricité, ne dépend d’aucun fournisseur et ne rouille pas. C’est peut-être la seule infrastructure pédagogique durable. Mais elle est dans quel état ? Et comment assurons-nous résilience et sa maintenance ? _ ◀︎