Alors que l'usage des agents conversationnels d'IA se généralise, leur effet sur le cerveau humain est de plus en plus discuté.Une étude du très sérieux MIT jette le trouble sur l'avenir de nos capacités cognitives à l'ère de ChatGPT.
Répondre à un courriel, trouver son prochain lieu de voyage ou rédiger son mémoire de recherche… En moins de trois ans, utiliser ChatGPT est devenu une habitude pour 500 millions de personnes chaque semaine sur la planète. A tel point que beaucoup s'inquiètent désormais des répercussions de cet outil - et plus généralement de tous les agents d'intelligence artificielle - sur les capacités du cerveau humain.
Notre cerveau travaille-t-il moins que d'habitude lorsque nous utilisons ChatGPT ? Notre mémoire est-elle aussi bien entraînée ? Perdons-nous en capacités cognitives ? Autant de questions que se sont posées huit chercheurs du prestigieux MIT (Massachusetts Institute of Technology) durant quatre mois.
Le groupe d'experts vient de publier les premières conclusions d'une étude dénommée « Votre cerveau sur ChatGPT ». Ils ont étudié à l'aide d'un encéphalogramme l'activité cérébrale de 54 adultes de 18 à 39 ans lors de trois sessions de tests consistant à rédiger un essai en vingt minutes sur un sujet donné.
Les participants ont été divisés en trois groupes : certains pouvant utiliser ChatGPT (le modèle 4o), d'autres pouvant s'aider d'un moteur de recherche classique (comme Google), et les derniers n'ayant que leur cerveau pour réfléchir.
Répondre à un courriel, trouver son prochain lieu de voyage ou rédiger son mémoire de recherche… En moins de trois ans, utiliser ChatGPT est devenu une habitude pour 500 millions de personnes chaque semaine sur la planète. A tel point que beaucoup s'inquiètent désormais des répercussions de cet outil - et plus généralement de tous les agents d'intelligence artificielle - sur les capacités du cerveau humain.
Notre cerveau travaille-t-il moins que d'habitude lorsque nous utilisons ChatGPT ? Notre mémoire est-elle aussi bien entraînée ? Perdons-nous en capacités cognitives ? Autant de questions que se sont posées huit chercheurs du prestigieux MIT (Massachusetts Institute of Technology) durant quatre mois.
Le groupe d'experts vient de publier les premières conclusions d'une étude dénommée « Votre cerveau sur ChatGPT ». Ils ont étudié à l'aide d'un encéphalogramme l'activité cérébrale de 54 adultes de 18 à 39 ans lors de trois sessions de tests consistant à rédiger un essai en vingt minutes sur un sujet donné.
Les participants ont été divisés en trois groupes : certains pouvant utiliser ChatGPT (le modèle 4o), d'autres pouvant s'aider d'un moteur de recherche classique (comme Google), et les derniers n'ayant que leur cerveau pour réfléchir.
Moins de connexions neuronales
Le premier constat est clair : « la connectivité cérébrale est systématiquement réduite en fonction de la quantité de soutien externe », expliquent les chercheurs. En clair, les personnes aidées par ChatGPT opèrent nettement moins de connexions neuronales que celles utilisant un moteur de recherche, et encore moins que celles réfléchissant sans aucune aide extérieure.
Les chercheurs ont réalisé une quatrième phase de test sur 18 participants en échangeant le groupe pouvant s'aider de ChatGPT (« Grands modèles langagiers seul ») avec celui n'ayant aucun outil à disposition (« cerveau seul »). Ceux qui avaient d'abord utilisé le robot conversationnel pour rédiger leur essai se souvenaient moins bien de ce qu'ils avaient écrit, et présentaient en moyenne une activité cérébrale plus faible lors de ce test.
Cette phase suggère une « diminution probable des compétences d'apprentissage », selon l'étude. En fait, l'usage répété de ces outils pourrait créer une « dette cognitive » dans le cerveau, affectant à long terme ses capacités.
Ainsi, ces résultats suggèrent que l’IA peut favoriser un « traitement passif » de l’information, au prix « d’une perte de l’engagement cognitif profond » et « d’une moindre activation des capacités d’esprit critique lorsque la personne effectue ensuite des tâches seule », écrivent les auteurs.
Conséquences ? Lorsqu’il leur a été demandé de citer un extrait de leur propre texte quelques minutes après la rédaction, les deux groupes non assistés par IA ont été capables de restituer au moins partiellement leur production dès la seconde session d’exercice. À l’inverse, 83 % des utilisateurs de ChatGPT se sont révélés incapables de se souvenir d’un seul passage. Une amnésie cognitive qui s’expliquerait par une diminution de l’activation des réseaux impliqués dans le traitement sémantique, si bien que l’utilisateur intègre des phrases produites par l’algorithme sans réelle appropriation intellectuelle. Les auteurs parlent de « délestage cognitif »: à force d’utiliser l’intelligence artificielle, notre cerveau lui « transfère » certaines tâches mentales de sorte à n’avoir plus besoin de retenir le contenu d’une information, mais à facilement pouvoir retrouver son emplacement.
En seulement quelques jours, cet article a fait l'objet de nombreux commentaires sur les réseaux sociaux, certains arguant que la méthodologie et la cohorte auraient biaisé les résultats. « Cette étude nous apprend quelque chose d'important sur la tricherie avec l'IA (si vous la laissez faire votre travail, vous n'apprendrez rien), mais cela ne nous apprend rien sur le fait que l'utilisation du Grand modèle langagier (LLM) nous rend plus bête dans l'ensemble », affirme sur LinkedIn Ethan Mollick, professeur à l'université de Wharton.
Si l'article n'a pas encore fait l'objet d'une publication dans une revue scientifique, d'autres soulignent néanmoins son sérieux. « Certes, la cohorte est faible, mais la méthodologie est très bien faite, avec une expérience répétée dans le temps et l'alternance des différents groupes. C'est un procédé en général très probant », commente Jean-Gérard Pailloncy, docteur en informatique et en mathématiques. « Lorsque l'on apprend, on construit un raisonnement et de nouvelles connexions cérébrales se mettent en place. Se servir de ChatGPT quand on ne connaît pas un sujet pour le régurgiter immédiatement tel quel conduit inévitablement à ne rien retenir » , ajoute le chercheur. Pour lui, « l'outil multiplie les capacités d'un esprit formé, mais réduit les capacités des cerveaux non formés ». D'autant plus quand l'on sait que tous les chatbots présentent un certain niveau d'hallucinations.
En seulement quelques jours, cet article a fait l'objet de nombreux commentaires sur les réseaux sociaux, certains arguant que la méthodologie et la cohorte auraient biaisé les résultats. « Cette étude nous apprend quelque chose d'important sur la tricherie avec l'IA (si vous la laissez faire votre travail, vous n'apprendrez rien), mais cela ne nous apprend rien sur le fait que l'utilisation du Grand modèle langagier (LLM) nous rend plus bête dans l'ensemble », affirme sur LinkedIn Ethan Mollick, professeur à l'université de Wharton.
Si l'article n'a pas encore fait l'objet d'une publication dans une revue scientifique, d'autres soulignent néanmoins son sérieux. « Certes, la cohorte est faible, mais la méthodologie est très bien faite, avec une expérience répétée dans le temps et l'alternance des différents groupes. C'est un procédé en général très probant », commente Jean-Gérard Pailloncy, docteur en informatique et en mathématiques. « Lorsque l'on apprend, on construit un raisonnement et de nouvelles connexions cérébrales se mettent en place. Se servir de ChatGPT quand on ne connaît pas un sujet pour le régurgiter immédiatement tel quel conduit inévitablement à ne rien retenir » , ajoute le chercheur. Pour lui, « l'outil multiplie les capacités d'un esprit formé, mais réduit les capacités des cerveaux non formés ». D'autant plus quand l'on sait que tous les chatbots présentent un certain niveau d'hallucinations.
Un affaiblissement de la créativité
Si ces conclusions du MIT, publiées dans l’archive ouverte arXiv, doivent encore être validées par des experts et qu’elles ne fournissent aucune preuve sur le long terme, elles font écho aux résultats d’une autre étude parue en mai dans laquelle une équipe de l’université de Pennsylvanie a évalué l’impact de l’utilisation de ChatGPT sur la créativité. Les participants devaient imaginer des idées de produits combinant une brique et un ventilateur, soit en utilisant ChatGPT, soit en s’aidant de recherches en ligne, soit grâce à leur seule imagination. Résultat : les participants qui utilisaient internet pour enrichir leurs propres idées produisaient les concepts les plus « uniques », sans que leurs propositions ne se recoupent. À l’inverse, 94 % des propositions émises par l’IA présentaient des concepts très similaires. Neuf participants assistés par ChatGPT sont allés jusqu’à donner le même nom à leur produit sans s’être concertés.
Le sujet des compétences cognitives
Le sujet résonne évidemment avec l'appropriation de plus en plus grande de ChatGPT et consorts chez les adolescents, dont le cerveau est encore en formation, et l'usage de ces outils à l'école. « Il faut apprendre aux jeunes à développer leur esprit critique et à se poser les bonnes questions. Peut-être faut-il même aller jusqu'à poser une limite d'âge », abonde Chloé Duteil, fondatrice de Stlar, un cabinet spécialisé en data & IA.
Vers un déclin cognitif ?
Faut-il pour autant en conclure à un déclin cognitif inexorable des futures générations ? Le débat n’est pas sans rappeler celui qui entourait autrefois à l’arrivée des calculatrices dans les écoles. « À l’époque déjà, on redoutait une perte des capacités de calcul mental. Crainte qui s’est démontrée fausse », rappelle Justine Cassell. C’est pourquoi les spécialistes appellent à nuancer : « Le danger, c’est que les utilisateurs acceptent trop facilement les IA, sans les remettre en question, estime le Pr Terwiesch. Ce n’est donc pas en soi l’IA qui diminue les capacités cognitives humaines, mais plutôt l’usage qu’on en fait car la fluidité des réponses peut inciter à la passivité. »
Plusieurs études ont en effet montré que l’IA pouvait stimuler la production d’idées, affiner un raisonnement et ainsi constituer ainsi un véritable vecteur de créativité... à condition d’en faire un usage raisonné. « Interagir avec l’IA peut apporter la capacité de penser plus loin, de confronter nos idées, l’utiliser intelligemment signifie aussi de devoir recontextualiser, vérifier les réponses produites, estime Justine Cassell. À l’inverse, une utilisation passive peut devenir un frein. » Ces considérations sont d’autant plus inquiétantes lorsqu’il est question des jeunes utilisateurs, dont le cerveau est encore en développement. « Un usage trop systématique de l’IA pourrait ralentir le développement de compétences fondamentales, telles que l’analyse, la construction d’un raisonnement », estime le Pr Terwiesch.
Alors qu’un retour en arrière paraît peu probable, les spécialistes s’accordent finalement à dire qu’un seul scénario permettrait une utilisation véritablement responsable des IA : en les intégrant comme un « partenaire intellectuel » plutôt que comme des substituts de notre réflexion. « Par exemple, un enseignant peut utiliser l’IA pour stimuler la réflexion des élèves, en exigeant cependant qu’ils critiquent, trouvent les failles, les contredisent et apprennent ainsi à discerner le vrai et du faux », illustre le Pr Cassell. « Dans un contexte professionnel, ajoute le Pr Terwiesch, on peut structurer l’usage de l’IA dans des processus encadrés, où les idées générées sont ensuite filtrées par le jugement humain. »
