Dans cet objectif, l’UNESCO publie le tout premier Guide mondial pour l’IA générative dans l'éducation et la recherche, conçu pour faire face aux perturbations causées par ces technologies.
« L'IA générative peut être une formidable opportunité pour le développement humain, mais elle peut aussi être la source de dommages et de préjudices. Elle ne peut être intégrée dans l'éducation sans l'engagement du public et sans de solides garanties et réglementations gouvernementales. Ce Guide de l'UNESCO aidera les décideurs politiques et les enseignants à exploiter de façon optimale le potentiel de l'IA dans l'intérêt supérieur de l’élève », déclare Audrey Azoulay, Directrice générale de l’UNESCO.
La première partie de ce Guide de l’UNESCO explique ce qu'est l'IA générative et comment elle fonctionne. Les sections suivantes abordent les controverses relatives à l'IA générative et leurs implications pour l'éducation, en particulier la façon dont elle aggrave les fractures numériques. En effet, les modèles actuels de ChatGPT sont formés à partir de données provenant d’utilisateurs en ligne, qui reflètent les valeurs et les normes sociales dominantes des pays du Nord.
Une limite d’âge de 13 ans
Le Guide de l'UNESCO présente ensuite sept étapes clés que les gouvernements doivent suivre pour réglementer l'IA générative et établir des cadres politiques pour son utilisation éthique dans l'éducation et la recherche. Il recommande par exemple l'adoption de normes mondiales, régionales ou nationales en matière de protection des données et de vie privée. Il fixe également une limite d'âge de 13 ans pour l'utilisation des outils d'IA dans les salles de classe, et appelle à former les enseignants spécifiquement sur ce sujet.
Fondé sur la Recommandation de l'UNESCO de 2021 sur l'éthique de l'intelligence artificielle et le Consensus de Beijing de 2019 sur l'intelligence artificielle dans l'éducation, ce Guide encourage l’intervention humaine, l'inclusion, l'équité, l'égalité des genres et la diversité culturelle et linguistique. Ce Guide répond également aux préoccupations exprimées lors de la première table ronde ministérielle mondiale sur l'IA générative, organisée par l'UNESCO en mai 2023.
Lancement le 7 septembre
Le lancement du Guide a lieu aujourd’hui au siège de l’UNESCO à l’occasion de la Semaine de l’apprentissage numérique de l’UNESCO, qui rassemble plus de 1 000 participants pour discuter notamment des plateformes publiques d’apprentissage numérique et de l’IA générative dans l’éducation. Parmi les intervenants figurent :
- Stuart Russel, professeur d’informatique, University of California, Berkeley (États-Unis d’Amérique)
- Yoshua Bengio, professeur au département d’informatique et de recherche opérationnelle de l’Université de Montréal, fondateur et directeur scientifique de Mila, l’Institut québécois d'intelligence artificielle, lauréat du Prix Turing 2018
- Yann LeCun, vice-président et scientifique en chef de l’IA chez Meta
- Daniel Andler, mathématicien et philosophe, membre de l’Académie des sciences morales et politiques et professeur émérite, Sorbonne Université́, France
Manque de gouvernance dans l’utilisation de l’IA générative en classe
Le public a découvert l'IA générative en novembre 2022 à la suite du lancement de ChatGPT, qui est devenue l'application à la croissance la plus rapide de l'histoire. Capable de générer des textes, des images, des vidéos, de la musique et des codes de logiciels, les outils d'IA générative ont des conséquences considérables sur l'éducation et la recherche.
Pourtant, le secteur de l'éducation reste insuffisamment préparé à l'intégration éthique et pédagogique de ces outils à évolution rapide. Selon une récente enquête mondiale de l'UNESCO, menée auprès de plus de 450 écoles et universités, moins de 10 % d'entre elles disposent de politiques institutionnelles et/ou d'orientations formelles concernant l'utilisation des applications génératives de l'IA, en grande partie en raison de l'absence de réglementations nationales.
En juin 2023, l’UNESCO a alerté sur le fait que l’IA est déployée à l’école à un rythme trop rapide, avec un manque préoccupant de contrôle, de surveillance ou de réglementation des pouvoirs publics. L’Organisation a publié un document révélant que la publication d’un nouveau manuel scolaire nécessite plus d’autorisations que l’utilisation d'outils d’IA générative en classe.
