L'Intelligence Artificielle et en particulier l'IA générative est en train de changer le monde et particulièrement l'éducation. Pierre-Yves OUDEYER évoque les intelligences génératives et les enjeux qui sont associés d'une manière générale, puis dans le domaine de l'éducation.

Qu'est-ce que l'IA générative ?

Ce sont ces logiciels, comme Chat GPT, Gemini ou Midjourney, Mistral qui sont apparus il y a seulement deux ans, (Trois ans dans le milieu scientifique) avec un usage massif et une croissance rapide au niveau du grand public à partir de novembre 2022.

Productions de textes, images, vidéos par l'IA, et bientôt des films entiers produits par l'IA...et aucun moyen technologique de savoir si ce sont des humains ou l'IA qui les a réalisés.

[*]Deepfakes: désinformation et vie privée. Les erreurs (hallucinations) des IAgens sont souvent involontaires. Cependant, il est aussi possible d’utiliser ces logiciels pour volontairement créer des textes ou des images qui mettent en scène des personnes ou des lieux réels, mais dans des situations qui n’ont pas existé. Dans le cas des images ou des vidéos, la qualité des logiciels d’IAGens permet aujourd’hui de générer des scènes pour lesquels il est quasi-impossible de deviner s’il s’agit d’une vraie image ou d’une image inventée: on parle alors de deepfakes.

La capacité à produire des deepfakes est malheureusement utilisée aujourd’hui à grande échelle à des fins malveillantes, que ce soit par des particuliers ou de grandes organisations. Certains états les utilisent pour des campagnes de désinformation massive. Par exemple, en 2022, pendant l’invasion de l’Ukraine par Russie, une vidéo truquée de Volodymyr Zelensky le montrait en train de demander à la population ukrainienne de se rendre. Ce type d’usage est devenu courant pendant les élections, y compris dans les États “démocratiques” occidentaux, et est amplifié par l’usage de “bots”, des logiciels qui simulent des personnes réelles sur les réseaux sociaux afin de propager ces fausses informations.

Cela illustre les enjeux citoyens majeurs qui y sont associés. D’autres usages malveillants incluent les escroqueries commerciales ou les fausses publicités. Enfin, les deepfakes sont aussi utilisés de manière grandissante par les individus, y compris les adolescents, pour mettre en scène, parfois de manière ridicule, des personnes publiques ou bien certaines de leurs connaissances. Un autre usage consiste à se mettre en scène ou à utiliser ces logiciels pour montrer modifier son apparence et montrer une image de soi qui ne correspond pas à la réalité. Ces usages peuvent ainsi avoir de graves conséquences sur la vie des personnes concernées.

Les capacités nouvelles et très larges des technologies d’IAGen, mais aussi leur nature qui en fait des outils puissants de transmission culturelle, ce qui inclue tout un ensemble de mécanismes de désinformation, posent ainsi aujourd’hui à la société en général, et pour les jeunes et futurs citoyens en particulier, de grands défis et de grandes opportunités.

Plus de 80% des élèves depuis la quatrième l'utilisent. Ce sont des technologies de transmissions culturelles. Elles sont entrainées avec des contenus représentatifs des personnes qui ont produit ces textes vidéos...Donc avec les croyances, les biais. Ce n'est pas la même chose si vous cherchez l'information en Chine par exemple ou en Europe...Les campagnes mensongères ou arnaques sont simples à développer et à diffuser.

Dans quelques années les contenus des plates formes seront créés par les IA avec des modèles culturels qui  sont surtout créés hors d'Europe. Si on veut éviter les biais, remédier à ces problématiques, on pratique ce qu'on appelle l'alignement des modèles.

Comment s'aligner avec des valeurs, règles compatibles avec des objectifs qu'on définit.

Des" scoreurs " font ces actions à la main et ils sont recrutés dans des pays où ils sont mal payés...Quelles valeurs pour aligner les modèles ? Question très importante pour les démocraties !

Cela génére de plus de nombreux effets collatéraux ...des exactitudes, des faits qui sont interprétés différement selon les cultures, les biais de la vérité illusoire (on finit par penser que des affirmations sont vraies car diffusées fréquemment), les réponses qui ne sont pas vraies mais qui confirment les croyances...

Cependant des opportunités se trouvent dans les sciences et l'ingénierie (contributions fondamentales en physique et en chimie des chercheurs qui ont récu des prix nobels et ouvert ainsi des perspectives essentielles.) La manière de faire la science change fondamentalement aujourd'hui et va modifier les approches pédagogiques.

Les usages en éducation

L'ampleur du déploiement de cet univers est important avec des disparités selon l'âge.

[*]En France, selon une enquête Ifop/Talan (2024), près de 70% des 18-24 ans utilisent personnellement les logiciels d’IAGen, contre seulement 47% des 25-34 ans et 22% des 35 ans et plus. Les utilisateurs estiment gagner 38% de productivité et d’efficacité grâce aux IA génératives. En particulier, 46% des 18-24 ans estiment cette hausse de la productivité à plus de 40%. Enfin, 44% des utilisateurs (et 61% des 25-34 ans) reprennent les résultats des IA génératives tels quels sans les modifier et 35% déclarent qu’ils auraient du mal à se passer des IA génératives.

Un sondage pilote en Nouvelle Aquitaine auprès de lycéens, réalisée par l’équipe Flowers à Inria en juin 2024, indique que plus de 90% des élèves de seconde ont déjà utilisé un logiciel d’IA générative pour les aider à faire leurs devoirs. Par ailleurs, une grande proportion d’entre eux, après avoir expérimenté ChatGPT, l’utilisent directement ensuite pour faire des recherches d’information, sans passer par des moteurs de recherche classique. Globalement, en France l’augmentation du nombre d’utilisateurs à été de 60% en un an, et c’est surtout un usage massif des jeunes générations.

Plusieurs enjeux majeurs pour les élèves et les enseignants.

D’abord pour les élèves, quand ils utilisent par exemple l’IA générative pour les devoirs à la maison, le risque est que ces outils soient utilisés d’une manière qui court-circuite l’effort cognitif nécessaire à un apprentissage efficace (Kasneci et al., 2023; Abdelghani et al., 2023).

[*]Plus précisément, l’image de “super- intelligence” véhiculée dans de nombreux médias, combinée au ton assuré des logiciels d’IAGen (alors qu’ils sont incapables de métacognition, c’est-à-dire incapable d’évaluer leurs propres incertitudes), peut amener de nombreux élèves à surestimer à la fois les compétences des IAGens et leurs propres compétences, limitant le développement et l’expression de leur curiosité, de leur esprit critique et de leur métacognition qui sont pourtant essentiels à des apprentissages efficaces et motivants (Abdeghani et al., 2023; Oudeyer et la., 2016).

Les élèves savent-ils poser les bonnes questions à ChatGPT ?

[*]Ces effets sont amplifiés par l’absence de posture pédagogique dans le comportement des IAGen: en effet, ils ont été entraînés à prédire les mots et les images les plus probables, ainsi qu’à répondre le plus directement et efficacement aux questions des utilisateurs. En conséquence, quand un élève leur pose un question ou leur donne un exercice, ils vont avoir une très forte tendance à donner tout de suite la réponse, au lieu de donner des indices pédagogiques pour aider et permettre à l’apprenant de faire l’effort de trouver par lui-même la réponse (Macina et al, 2023; Jurenka et al., 2024).

Ces défis sont à la fois liés à la nature des logiciels d’IA générative, mais aussi aux biais cognitifs des élèves apprenants et à leur compréhension limitée de ces systèmes (Kidd and Birhane, 2023)

Comment entrainer la curiosité et la métacognition des élèves avec des outils de l'IA générative ?

[*]Au delà de la découverte des mécanismes et des enjeux sociétaux de l’IA générative, un enjeu essentiel est de développer des outils et approches permettant aux adolescents d’entraîner leur pensée critique, leur capacité à poser des questions curieuses et à remettre en question des informations qu’ils reçoivent, à apprendre de manière active et par eux-mêmes.

Ces capacités sont très liées aux mécanismes de la curiosité (Oudeyer et al., 2016) ainsi qu’à ceux de la métacognition (Proust, 2019), qui sont essentiels en général pour les apprentissages, et particulièrement importants quand ceux-ci sont réalisés en interaction avec des systèmes d’IA générative (Abdelghani et al., 2023). Bien que ces compétences transverses soient encore très peu prises en compte dans les enseignements scolaires, plusieurs travaux ont commencé à montrer comment certains exercices et gestes pédagogiques peuvent être mis à profit afin d’entraîner la curiosité et la métacognition des enfants dans le contexte scolaire (Abdelghani et al., 2023b; Guilleray et al., 2024).

Cette voie ouvre ainsi non seulement des perspectives complémentaires et prometteuses pour le développement de la littératie en IA générative, mais pour l’éducation des futurs citoyens en général.

Les enjeux sont aussi majeurs pour les enseignants.

[*]D’abord, l’usage grandissant et massif des Agens pour l’aide à la réalisation des devoirs à la maison rend très difficile leur évaluation par les enseignants. En particulier, si des outils logiciels d’IA sont apparus avec l’objectif de détecter automatiquement les textes ou images générés par IA, beaucoup de scientifiques s’accordent sur le fait que cet objectif est quasi impossible à atteindre (Oravec, 2023): de nouveaux logiciels d’IAGen apparaissent en permanence, en particulier avec des fonctionnalités pour contourner la détection automatique de leur utilisation, et avec un risque élevé de détecter de faux positifs, c’est- à-dire d’attribuer à un logiciel d’IAGen des textes véritablement écrits par des humains.

Globalement, l’arrivée de l’IAGen a amené de nombreux enseignants à modifier leurs pratiques d’enseignement. Dans une étude de grande ampleur réalisée auprès de 908 enseignants du primaire et secondaire en Estonie (Laak and Aru, 2024), on observe que l’arrivée de l’IAGen a amené 49% des enseignants à modifier leurs pratiques, en éliminant une grande partie des devoirs à la maison, et en incluant des activités favorisant la pensée critique. 

Cependant, cette étude, ainsi que d’autres études convergentes (e.g. l’étude Impact Research 2024 réalisée auprès de 1003 enseignants aux Etats-Unis, et Klopfer et al., 2023), montrent aussi des usages évalués comme positifs par les enseignants (74% d’entre eux dans l’étude de Laak et Aru, 2024), en particulier pour les aider dans la préparation d’activités créatives et motivantes sur un sujet, ou la mise au point de plans de cours et d’exercices/quizs associés, ou enfin pour répondre aux emails envoyés par les parents. 

En revanche, l’utilisation de ces logiciels pour les aider à évaluer les travaux des élèves est jugée peu pertinente et peu efficace par les enseignants (Impact Research, 2024). Enfin, beaucoup d’entre eux souhaiteraient recevoir plus de formations sur l’IAGen et la manière de la prendre en compte et l’inclure dans les enseignements.

IA générative et éducation: des opportunités demain ?

[*]Au-delà de ces grands défis associés au rôle de l’IA générative dans les apprentissages scolaires, ces évolutions technologiques pourraient aussi amener à des opportunités éducatives diverses.

Comme expliqué ci-dessus, l’IA générative n’est qu’une approche de l’IA parmi beaucoup d’autres, et il y a une longue tradition de travaux alliant IA, sciences cognitives et sciences de l’éducation, ayant mené à la mise au point de logiciels éducatifs proposant des activités d’apprentissage basés sur des principes cognitif et/ou pédagogiques forts et utilisant l’IA pour plus d’accessibilité et de personnalisation (Nkambou et al., 2010).

Par exemple, des travaux récents dans l’équipe Flowers à Inria, ont permis de développer un algorithme de personnalisation de séquences d’exercices basé sur les principes de notre compréhension des mécanismes de l’apprentissage dirigé par la curiosité chez l’enfant (Oudeyer et al., 2016).

Des expérimentations à l’école primaire auprès d’environ 1000 enfants ont montré que cette approche permettait, en comparaison avec des séquences d’exercices faites à la main par un expert en didactique des maths, d’améliorer significativement l’efficacité d’apprentissage et la motivation, en particulier pour les élèves différant de l’élève “moyen” (Clement et al., 2015, Clément et al., 2024). Cette approche a
ensuite été transposée dans le logiciel AdaptivMaths, développé dans le cadre du programme
français P2IA, et supporté par le ministère de l’éducation (https://www.adaptivmath.fr/).

L'intégralité de la conférence. Vidéo

Sources :

Pod'educ Service Académique Numérique Educatif Nouvelle-Aquitaine

*ETAPP-IA : Echange, transformation des apprentissages et des pratiques pédagogiques en intelligence artificielle.

IA générative, société et éducation: En quoi l’IA générative représente-elle un enjeu dans la formation des citoyens ? Pierre-Yves Oudeyer

C'est (pas) moi, c'est l'IA  https://www.educavox.fr/formation/outils/c-est-pas-moi-c11111-est-l-ia

|*]HAL Id: hal-04945894 https://inria.hal.science/hal-04945894v1
Distributed under a Creative Commons Attribution 4.0 International License

Abdelghani, R. (2024) Guiding the minds of tomorrow: Conversational Agents to Train Curiosity and
Metacognition in Young Learners, Thèse de l’Université de Bordeaux