Neurosciences et psychologie
Le silence sur l'impact de l'intelligence artificielle dans le système éducatif
|
MPH, MSc
|
Dans cet article critique, nous discutons de l'impact de l'intelligence artificielle au niveau universitaire et de la difficulté d'une « utilisation éthique » ou « responsable » de l'IA. Nous abordons les implications éthiques de la fraude académique et l'impact sur l'emploi de la génération qui délègue le développement de ses compétences intellectuelles à la machine.
« UTILISATION RESPONSABLE » DE L'INTELLIGENCE ARTIFICIELLE L'être humain est plus un être rationalisateur qu'un être rationnel. Une grande partie du comportement humain est influencée par l'effet des jeux de langage. Lorsqu'un politicien souhaite augmenter les impôts, il sait qu'il doit utiliser un jeu de langage pour obtenir le consentement. Il dira qu'il « renforce l'État providence ». Et le tour est joué. L'impact psychologique de tout fait objectif dépend davantage du jeu de langage qui le dissimule que du fait lui-même. Les politiciens sont ceux qui le comprennent le mieux, et leurs électeurs, ceux qui le comprennent le moins.
À une certaine époque, on disait que l'impact des réseaux sociaux dépendait d'une « utilisation responsable » de ceux-ci. Le problème avec ce raisonnement est que les technologies ne sont pas utilisées avec une logique, mais que ce sont elles qui imposent la leur. Les réseaux sociaux ont été conçus pour créer des signaux visuels et des formes de communication qui favorisent les réactions affectives primitives et une interaction impulsive : commérages, rires, envie, ressentiment, etc. C'est précisément la base de leur succès. De par leur conception, leur utilisation générale ne peut être « responsable ». D'autre part, Internet a mis à la disposition de tous la possibilité d'accéder à un univers de livres et de lectures d'une grande valeur intellectuelle. Mais cela n'a pas incité les gens à lire davantage, ni à se tourner vers des lectures plus approfondies. Cela a eu exactement l'effet inverse, et la lecture n'a cessé de décliner, parallèlement à l'intelligence humaine.
Il en va de même pour l'intelligence artificielle, en particulier dans le domaine de l'éducation. On évoque une condition « utilisation éthique et responsable de l'IA » . Il n'y a pas d'« utilisation responsable » au sens général, car l'utilisation est déterminée par la structure fonctionnelle même de cette technologie. La technologie n'est pas utilisée selon une logique, mais impose sa propre logique d'utilisation. C'est l'IA qui propage son propre ordre des choses, dans le sens où l'entendent des auteurs tels que Jaques Ellul. Ainsi, c'est l'être humain qui est l'instrument de la technologie plutôt que l'inverse. De ce fait, le système éducatif a été soumis à ce type de technologies, dont la logique n'est pas éthique, mais intrinsèquement mécaniste et utilitaire.
Nous corrigeons des centaines de mémoires de master chaque année, et nous pouvons décrire la réalité : rares sont ceux qui utilisent l'IA pour élargir leur raisonnement, la plupart l'utilisent pour le remplacer. Les gens ont tendance à prendre le chemin le plus court vers leurs objectifs en économisant l'effort de réflexion ou d'écriture. Ainsi, les compétences cognitives telles que la capacité d'élaboration conceptuelle, la compréhension approfondie de la lecture, l'organisation des idées par le biais du processus d'écriture, la capacité de synthèse et d'intégration, l'interprétation et l'articulation de son propre jugement, etc. ne sont pas développées chez la personne. Tout ce que cet outil fait à la place de l'étudiant n'est pas travaillé par celui-ci, ce qui signifie que son cerveau ne travaille pas non plus. Cela se traduira inévitablement par une perte d'intelligence et d'autres capacités neurocognitives (attention, mémoire, fonctions exécutives, etc.). L'effet Flynn inversé suivra son cours.
L'éducation devient une formalité pour obtenir un diplôme par le chemin le plus court possible, et non un processus de développement des compétences. Cela fait que l'attribution des travaux est devenue presque de la science-fiction. Dans ce contexte, les plus grandes revues scientifiques affirment que ce qu'il faut désormais évaluer, ce sont des choses comme l'« empathie » ou la « créativité » de l'élève. Cette vision pose plusieurs problèmes. Tout d'abord, les décisions morales mûres exigent précisément la capacité de mener une réflexion approfondie, et non une simple émotion. L'empathie d'un point de vue « pédagogique », pour ainsi dire, est un concept naïvement galvaudé et même psychologiquement problématique. Il en va de même pour le concept de « créativité ». Il est difficile d'avoir une pensée créative sans intelligence. L'intelligence n'est pas une cause suffisante pour la créativité, mais elle en est une cause nécessaire dans une large mesure. Il faut être particulièrement intelligent pour voir au-delà de ce que les autres voient. Cependant, sans s'en rendre compte, on abandonne progressivement l'évaluation basée sur les compétences et les connaissances pour obtenir un « diplôme supérieur ». Il semble que dans un avenir proche, l'« évaluation » commencera inévitablement à se baser sur un ensemble d'aspects diffus de nature personnelle, éloignés des compétences que l'on suppose chez l'étudiant qui obtient un diplôme. Tout commence à aller dans le sens de la société du simulacre de Baudrillard. Une autre chose est de vouloir faire comme si rien ne se passait, comme cela a été fait avec la dégradation du système éducatif depuis des décennies.
L'autre option consiste à jouer les policiers, plutôt que les enseignants, et à passer des heures à corriger les copies à la recherche d'indices d'IA, contre lesquels ils ne peuvent en réalité rien faire étant donné le vide juridique en matière de fraude académique (qui n'est d'ailleurs pas nouveau). D'autre part, il est prouvé que les professionnels de santé qui trichent dans leurs études reportent leur comportement sur leurs patients. Par conséquent, la fraude académique, outre qu'elle dégrade la qualité de l'enseignement et la valeur des diplômes, n'est pas sans conséquence pour la société, et elle est préoccupante, du moins pour les rares personnes qui se soucient encore de ces questions. J'ai moi-même dû mettre un frein à de nombreuses personnes, certaines présentant une incompétence flagrante pouvant avoir de graves conséquences pour des tiers, et d'autres ayant simplement normalisé la tromperie comme mode de vie. Les freiner n'est pas une question purement académique : c'est un devoir éthique pour tout enseignant. Les réactions de ce type de personnes sont souvent assez agressives, et le professeur se retrouve essentiellement seul et sans protection juridique face à ce genre de situations. Après tout, ces personnes profitent depuis des années d'un système conçu pour leur permettre de faire ce qu'elles veulent, dégradant tout sur leur passage. Cette situation n'est pas le fruit du hasard, elle a été permise, pour ne pas dire conçue et activement légiférée.
Il y a quelques années, la principale cause de fraude académique était la présentation de travaux contenant du texte plagié. Aujourd'hui, cela est très rare. La plupart de mes propres étudiants échouent principalement parce qu'ils utilisent l'IA, plus précisément parce que leurs travaux contiennent des données inventées qui ne correspondent pas aux études scientifiques qu'ils doivent évaluer (les fameuses hallucinations), et parce qu'ils présentent des erreurs grossières résultant de son utilisation. S'il n'y a pas d'erreurs, même si un professeur sait qu'un travail a été réalisé à l'aide de l'IA (j'ai des étudiants qui ne prennent même pas la peine de supprimer les petites flèches colorées produites par l'IA dans leur mémoire de fin d'études), il ne peut en réalité pas objectiver l'échec. Le dernier rebondissement est que les universités sont inondées de plaintes « pseudo-légales » rédigées par l'IA, dont certaines sont assez amusantes, dans lesquelles les étudiants se font passer pour des avocats afin de tenter de faire pression pour que leurs travaux universitaires réalisés à l'aide de l'IA soient approuvés, en recourant à toutes sortes de menaces. J'insiste : tout cela a été permis, pour ne pas dire activement conçu. Ce qui s'est surtout développé au cours des dernières décennies dans le système éducatif, c'est la bureaucratisation en guise de réponse, dissolvant ainsi le caractère humain des relations et la valeur existante dans le processus d'enseignement de la part du professeur, laissant place à un cadre contractuel dans lequel l'étudiant se sent comme un client qui a payé pour un service auquel il a droit à toutes sortes d'exigences, plutôt que comme un étudiant.
L'IA peut avoir des utilisations positives, mais cela n'empêche pas qu'il existe une utilisation générale qui ne l'est pas. Ce qui est certain dans l'article de Nature, c'est ce que dit son titre : il faut repenser les évaluations dans les universités. Tout simplement parce qu'il n'y a pas d'autre solution. Et aux rebelles, et à ceux d'entre vous, professeurs, qui n'avez pas encore baissé les bras, passant vos nuits à corriger jusqu'à ce que vos yeux se ferment, mettant un frein à ceux qui doivent être freinés, je vous adresse tout mon respect.
« UTILISATION RESPONSABLE » DE L'INTELLIGENCE ARTIFICIELLE L'être humain est plus un être rationalisateur qu'un être rationnel. Une grande partie du comportement humain est influencée par l'effet des jeux de langage. Lorsqu'un politicien souhaite augmenter les impôts, il sait qu'il doit utiliser un jeu de langage pour obtenir le consentement. Il dira qu'il « renforce l'État providence ». Et le tour est joué. L'impact psychologique de tout fait objectif dépend davantage du jeu de langage qui le dissimule que du fait lui-même. Les politiciens sont ceux qui le comprennent le mieux, et leurs électeurs, ceux qui le comprennent le moins.
À une certaine époque, on disait que l'impact des réseaux sociaux dépendait d'une « utilisation responsable » de ceux-ci. Le problème avec ce raisonnement est que les technologies ne sont pas utilisées avec une logique, mais que ce sont elles qui imposent la leur. Les réseaux sociaux ont été conçus pour créer des signaux visuels et des formes de communication qui favorisent les réactions affectives primitives et une interaction impulsive : commérages, rires, envie, ressentiment, etc. C'est précisément la base de leur succès. De par leur conception, leur utilisation générale ne peut être « responsable ». D'autre part, Internet a mis à la disposition de tous la possibilité d'accéder à un univers de livres et de lectures d'une grande valeur intellectuelle. Mais cela n'a pas incité les gens à lire davantage, ni à se tourner vers des lectures plus approfondies. Cela a eu exactement l'effet inverse, et la lecture n'a cessé de décliner, parallèlement à l'intelligence humaine.
Il en va de même pour l'intelligence artificielle, en particulier dans le domaine de l'éducation. On évoque une condition « utilisation éthique et responsable de l'IA » . Il n'y a pas d'« utilisation responsable » au sens général, car l'utilisation est déterminée par la structure fonctionnelle même de cette technologie. La technologie n'est pas utilisée selon une logique, mais impose sa propre logique d'utilisation. C'est l'IA qui propage son propre ordre des choses, dans le sens où l'entendent des auteurs tels que Jaques Ellul. Ainsi, c'est l'être humain qui est l'instrument de la technologie plutôt que l'inverse. De ce fait, le système éducatif a été soumis à ce type de technologies, dont la logique n'est pas éthique, mais intrinsèquement mécaniste et utilitaire.
Nous corrigeons des centaines de mémoires de master chaque année, et nous pouvons décrire la réalité : rares sont ceux qui utilisent l'IA pour élargir leur raisonnement, la plupart l'utilisent pour le remplacer. Les gens ont tendance à prendre le chemin le plus court vers leurs objectifs en économisant l'effort de réflexion ou d'écriture. Ainsi, les compétences cognitives telles que la capacité d'élaboration conceptuelle, la compréhension approfondie de la lecture, l'organisation des idées par le biais du processus d'écriture, la capacité de synthèse et d'intégration, l'interprétation et l'articulation de son propre jugement, etc. ne sont pas développées chez la personne. Tout ce que cet outil fait à la place de l'étudiant n'est pas travaillé par celui-ci, ce qui signifie que son cerveau ne travaille pas non plus. Cela se traduira inévitablement par une perte d'intelligence et d'autres capacités neurocognitives (attention, mémoire, fonctions exécutives, etc.). L'effet Flynn inversé suivra son cours.
L'éducation devient une formalité pour obtenir un diplôme par le chemin le plus court possible, et non un processus de développement des compétences. Cela fait que l'attribution des travaux est devenue presque de la science-fiction. Dans ce contexte, les plus grandes revues scientifiques affirment que ce qu'il faut désormais évaluer, ce sont des choses comme l'« empathie » ou la « créativité » de l'élève. Cette vision pose plusieurs problèmes. Tout d'abord, les décisions morales mûres exigent précisément la capacité de mener une réflexion approfondie, et non une simple émotion. L'empathie d'un point de vue « pédagogique », pour ainsi dire, est un concept naïvement galvaudé et même psychologiquement problématique. Il en va de même pour le concept de « créativité ». Il est difficile d'avoir une pensée créative sans intelligence. L'intelligence n'est pas une cause suffisante pour la créativité, mais elle en est une cause nécessaire dans une large mesure. Il faut être particulièrement intelligent pour voir au-delà de ce que les autres voient. Cependant, sans s'en rendre compte, on abandonne progressivement l'évaluation basée sur les compétences et les connaissances pour obtenir un « diplôme supérieur ». Il semble que dans un avenir proche, l'« évaluation » commencera inévitablement à se baser sur un ensemble d'aspects diffus de nature personnelle, éloignés des compétences que l'on suppose chez l'étudiant qui obtient un diplôme. Tout commence à aller dans le sens de la société du simulacre de Baudrillard. Une autre chose est de vouloir faire comme si rien ne se passait, comme cela a été fait avec la dégradation du système éducatif depuis des décennies.
IA ET AVENIR PROFESSIONNEL
Outre l'impact de l'utilisation de l'IA sur leur intelligence générale et sur le développement des compétences académiques qui sont supposées, ce que les étudiants semblent ne pas comprendre, fascinés par les économies d'efforts que leur procure l'IA, c'est que ces économies impliquent précisément qu'ils n'acquièrent aucune compétence intellectuelle que l'IA ne réalise pas automatiquement en un clin d'œil. Je pense que la plupart des étudiants ne comprennent pas l'ironie de la situation et s'imaginent apparemment travailler confortablement assistés par une IA, en appuyant sur un bouton pour tout ce qui nécessite un effort ou de l'intelligence. J'ai une nouvelle pour vous : l'IA n'a besoin de personne pour appuyer sur un bouton. La personne elle-même s'est exclue de l'équation. En d'autres termes, ceux qui ne savent pas faire quelque chose qu'une IA ne fait pas seront exclus du monde du travail. Seules survivront professionnellement les personnes qui ont développé suffisamment de compétences pour apporter le raisonnement, le contexte et les nuances qu'une IA, dans son traitement par force brute, ne parvient pas à saisir. Beaucoup de personnes intelligentes et travailleuses vont se retrouver exclues du marché du travail. Ceux qui ne sont pas particulièrement intelligents, ni travailleurs, ni compétents, et qui n'apportent rien de plus que la réponse automatique d'une IA, n'auront même pas de quoi commencer.L'ÉTHIQUE EN CLASSE
Même si c'est au compte-gouttes, certains médias commencent à évoquer le fait que le système éducatif universitaire est actuellement un « paradis de la tricherie académique », et les universités elles-mêmes ne savent pas comment y mettre un terme. Les étudiants se sentent en droit de ne faire aucun travail et estiment qu'une IA devrait faire leurs devoirs à leur place. Les professeurs le savent. La solution la moins coûteuse pour eux est de fermer les yeux et d'éviter tout type de problèmes et d'inconvénients institutionnels, professionnels et personnels.L'autre option consiste à jouer les policiers, plutôt que les enseignants, et à passer des heures à corriger les copies à la recherche d'indices d'IA, contre lesquels ils ne peuvent en réalité rien faire étant donné le vide juridique en matière de fraude académique (qui n'est d'ailleurs pas nouveau). D'autre part, il est prouvé que les professionnels de santé qui trichent dans leurs études reportent leur comportement sur leurs patients. Par conséquent, la fraude académique, outre qu'elle dégrade la qualité de l'enseignement et la valeur des diplômes, n'est pas sans conséquence pour la société, et elle est préoccupante, du moins pour les rares personnes qui se soucient encore de ces questions. J'ai moi-même dû mettre un frein à de nombreuses personnes, certaines présentant une incompétence flagrante pouvant avoir de graves conséquences pour des tiers, et d'autres ayant simplement normalisé la tromperie comme mode de vie. Les freiner n'est pas une question purement académique : c'est un devoir éthique pour tout enseignant. Les réactions de ce type de personnes sont souvent assez agressives, et le professeur se retrouve essentiellement seul et sans protection juridique face à ce genre de situations. Après tout, ces personnes profitent depuis des années d'un système conçu pour leur permettre de faire ce qu'elles veulent, dégradant tout sur leur passage. Cette situation n'est pas le fruit du hasard, elle a été permise, pour ne pas dire conçue et activement légiférée.
Il y a quelques années, la principale cause de fraude académique était la présentation de travaux contenant du texte plagié. Aujourd'hui, cela est très rare. La plupart de mes propres étudiants échouent principalement parce qu'ils utilisent l'IA, plus précisément parce que leurs travaux contiennent des données inventées qui ne correspondent pas aux études scientifiques qu'ils doivent évaluer (les fameuses hallucinations), et parce qu'ils présentent des erreurs grossières résultant de son utilisation. S'il n'y a pas d'erreurs, même si un professeur sait qu'un travail a été réalisé à l'aide de l'IA (j'ai des étudiants qui ne prennent même pas la peine de supprimer les petites flèches colorées produites par l'IA dans leur mémoire de fin d'études), il ne peut en réalité pas objectiver l'échec. Le dernier rebondissement est que les universités sont inondées de plaintes « pseudo-légales » rédigées par l'IA, dont certaines sont assez amusantes, dans lesquelles les étudiants se font passer pour des avocats afin de tenter de faire pression pour que leurs travaux universitaires réalisés à l'aide de l'IA soient approuvés, en recourant à toutes sortes de menaces. J'insiste : tout cela a été permis, pour ne pas dire activement conçu. Ce qui s'est surtout développé au cours des dernières décennies dans le système éducatif, c'est la bureaucratisation en guise de réponse, dissolvant ainsi le caractère humain des relations et la valeur existante dans le processus d'enseignement de la part du professeur, laissant place à un cadre contractuel dans lequel l'étudiant se sent comme un client qui a payé pour un service auquel il a droit à toutes sortes d'exigences, plutôt que comme un étudiant.
MOT DE LA FIN
L'éthique ou l'intelligence même sont des choses qui ont perdu toute valeur. Dans notre société, ce qui n'apporte pas un bénéfice immédiat à la personne n'a que peu d'importance. L'éducation est en train de devenir la plus pure simulation à la Baudrillard. Les établissements publics perçoivent leurs fonds publics, les établissements privés leurs fonds privés, les enseignants leur salaire, le gouvernement prélève des impôts sur les personnes qui travaillent... et la roue continue de tourner. Les rebelles, ceux qui étudient encore, sont conscients que le système n'éduque personne, que ce sont les personnes qui le souhaitent qui s'éduquent, plus contre le système que grâce à lui.L'IA peut avoir des utilisations positives, mais cela n'empêche pas qu'il existe une utilisation générale qui ne l'est pas. Ce qui est certain dans l'article de Nature, c'est ce que dit son titre : il faut repenser les évaluations dans les universités. Tout simplement parce qu'il n'y a pas d'autre solution. Et aux rebelles, et à ceux d'entre vous, professeurs, qui n'avez pas encore baissé les bras, passant vos nuits à corriger jusqu'à ce que vos yeux se ferment, mettant un frein à ceux qui doivent être freinés, je vous adresse tout mon respect.
>
>
>
>
>
>
>
>
>
>
>
>
>
>
>
