Par Laëtitia KERMARREC

L’IA est entraînée à partir de productions humaines déjà disponibles. Elle ne fait pas à elle seule de nouvelles découvertes : elle puise dans nos acquis antérieurs, nos livres, nos articles, nos travaux scientifiques, nos conversations, etc. disponibles sur Internet. Puis elle les combine et les reformule pour générer des rédactions et des images.

Donc pour que l’IA continue de produire, nous devons, nous humains, continuer à créer.

Une IA peut recombiner les connaissances que nous lui avons fournies, mais elle ne peut pas remplacer l’humain qui observe, expérimente, se trompe, s’interroge et formule une hypothèse à laquelle personne n’avait encore pensé. De plus, avec l’IA, les informations les plus rares ou les plus inhabituelles sont systématiquement mises de côté et vont donc tendre à disparaître, pour laisser place à des moyennes, des vérités générales, un monde lissé. À l’inverse, certaines erreurs peuvent être répétées et amplifiées si elles sont présentes sur Internet.

Et pourtant, nous allons exactement dans le sens opposé, avec l’IA que nous utilisons pour obtenir toujours davantage de contenus, dans toujours plus de domaines. Que se passera-t-il si une part croissante de ce qui circule sur Internet est elle-même générée par l’IA? Nous risquons de tourner en circuit fermé, dans une reformulation permanente de ce que les IA ont déjà produit, en se déconnectant progressivement du monde réel. Le danger est alors d’être spectateur d’un rétrécissement de notre horizon intellectuel. C’est ce que les chercheurs appellent le « model collapse » ou « effondrement des modèles » en français (1).

Et nos enfants

Le risque est d’autant plus important si nous permettons aux plus jeunes de déléguer systématiquement leur réflexion à l’IA. Il faut savoir que le cerveau humain fonctionne par apprentissage et renforcement. Les compétences que nous exerçons se consolident, tandis que certaines connexions peuvent être éliminées lorsque leur utilisation diminue. C’est le principe de la plasticité cérébrale : notre cerveau se transforme en fonction de ce que nous lui demandons de faire. L’un des exemples les plus célèbres est celui des chauffeurs de taxi londoniens (voir encadré).

Imaginons maintenant un enfant qui utilise l’IA pour la moindre requête : rédiger un texte, résoudre une équation, expliquer un raisonnement, etc. Il obtient le résultat, mais il ne construit pas les compétences qui lui permettraient de refaire la démarche seul.

Or l’objectif de l’apprentissage n’est pas simplement d’obtenir la bonne réponse, il est de construire un cerveau capable de chercher cette réponse. C’est-à-dire de développer l’esprit critique du jeune, son raisonnement, sa mémoire, sa capacité à résoudre un problème inédit, mais aussi la persévérance face à quelque chose de difficile. Autant de compétences essentielles à notre autonomie et épanouissement à l’âge adulte. Si ces capacités sont systématiquement externalisées, elles ne seront ni développées ni entretenues. Nous pourrions former alors des adultes de plus en plus dépendants d’outils comme l’IA.

Taxis londoniens : champions de la plasticité

Avant l’utilisation généralisée des systèmes de navigation (GPS), les chauffeurs de taxis londoniens devaient mémoriser des milliers de rues et de lieux pour obtenir leur licence.

Une étude publiée en 2000 a montré que leur hippocampe postérieur, une région importante pour la mémoire et la navigation spatiale, était plus volumineux que celui de personnes servant de groupe témoin (2).

Le volume de cette région était également corrélé à leur expérience de conduite.

(1) AI models collapse when trained on recursively generated data, Ilia Shumailov et al. nature 2024.

(2) Navigation-related structural change in the hippocampi of taxi drivers, Eleanor et al. Proc Natl Acad Sci U S A 2000.