fil-educavox-color1

Tests et entretien hors-série avec l’agent conversationnel ChatGPT sur le numérique en éducation : potentialités et limites d’une technologie d’intelligence artificielle.

Source : https://edunumrech.hypotheses.org/7635

Introduction

1. Qu’est-ce que ChatGPT ?

ChatGPT est un «  modèle de langage étendu, un type d’intelligence artificielle qui utilise l’apprentissage profond (une forme d’apprentissage automatique) pour traiter et générer des textes en langage naturel (…) [Ce type de modèle est] formé sur des quantités massives de données textuelles, lui permettant d’apprendre les nuances et les complexités du langage humain » (D’après Susnjak, 2022 [traduction]).

Ce « prototype d’agent conversationnel (…), modèle de langage affiné à l’aide de techniques d’apprentissage supervisé et d’apprentissage par renforcement » (« ChatGPT », 2023), basé sur une intelligence artificielle générative,  capable de générer des textes à la demande ou du code informatique à partir de questions en langage naturel, est une application propriétaire développée par la société OpenAI à partir d’une optimisation de son modèle algorithmique GPT 3.5. Le terme résulte d’une contraction entre « chat » pour conversation et « GPT » [Generative Pre-trained Transformer], qui est un « modèle de transduction de langage prédictif » (transduction : transformation d’une donnée représentée sous une forme en une donnée représentée sous une autre forme).  Cette technologie est présentée notamment par le récent état de l’art de (Holmes & Tuomi, 2022).

Source : https://chat.openai.com/chat

Source : https://openai.com/blog/chatgpt/

 

2. Un enjeu pour l’éducation et la recherche ?

Depuis son lancement le 30/11/22, l’application ChatGPT suscite un grand intérêt et soulève de nombreuses questions, en particulier dans le monde académique en raison du nouveau seuil qui semble franchi dans les fonctions conversationnelles : capacité apparente à prendre en compte le contexte, à fournir des réponses – parfois « incorrectes » (ChatGPT, 2022) –  à mémoriser une conversation, dans plusieurs langues et sur un large éventail de sujets. Parmi les réponses fournies peuvent figurer également, à partir des consignes et mots-clés indiqués par l’utilisateur, des dissertations, textes de poèmes ou de chansons, trames de plan de formation, de lettre de motivation, etc.

A ce titre, les possibles domaines d’application de « ChatGPT » dans l’éducation ont déjà fait l’objet de plusieurs publications académiques (Boa Sorte et al., 2021), (Haque et al., 2022), (Mollick & Mollick, 2022), (Aydın & Karaarslan, 2022), (Susnjak, 2022), (Zhai, 2022), destinées aux enseignants ou au grand public (Gilger, 2022 ; Stokel-Walker, 2022).

Si son impact sur l’éducation reste encore inconnu, il est potentiellement considérable (objectifs et activités d’apprentissage, pratiques d’évaluation) (Zhai, 2022) [traduction].

3. Un « entretien » atypique

L’équipe du bureau du soutien à l’innovation numérique et à la recherche appliquée (DNE-TN2) travaille notamment sur les sujets pédagogiques relatifs à l’IA et sur les services numériques basés sur IA pour enseigner et apprendre, via le Partenariat d’Innovation et intelligence artificielle (P2IA) (Ministère de l’Éducation nationale et de la Jeunesse, 2020) et le dispositif des groupes thématiques numériques (DNE-TN2 2020-2022 passim). Les principaux enjeux ont été présentés notamment par (Bocquet, 2020), (de la Higuera, Bocquet, 2020) ou (Collin, Marceau, 2021) et (European Commission, 2022) sur les dimensions éthiques.

L’entrée par le format des entretiens nous a semblé intéressante, tout en mesurant combien un « entretien » avec un service numérique d’intelligence artificielle comme ChatGPT est atypique.

Les textes qui suivent sont en effet clairement atypiques car très différents des entretiens réalisés avec les acteurs de l’éducation et de la recherche. La modalité retenue relève à la fois d’expérimentations dans une phase de découverte, de tests in vivo et de mises en abyme. Les textes générés ont d’abord pour objectif de témoigner des avancées de cette technologie et de proposer une première évaluation de ses capacités, potentialités et limites. Ils peuvent aussi présenter l’intérêt d’illustrer les réponses que peut donner une IA à des questions sur le numérique en éducation, avec les réserves, parfois importantes, présentées ci-dessous.

Dans le cadre d’une évaluation des solutions clés en main (CSEN & DNE-TN2, 2022), appliquée aux thématiques du présent carnet de recherche, nous proposons donc ci-dessous une première série de tests dans le cadre d’entretiens simulés, en prévoyant d’ores-et-déjà des suites à cette publication : réactions, interrogations, veille sur les prochaines évolutions technologiques et compléments d’information.

Remerciements

Le bureau du soutien à l’innovation numérique et à la recherche appliquée (DNE-TN2) tient à remercier les membres du comité éditorial et du comité scientifique, ainsi que les membres des #GTnum travaillant sur l’IA, pour leurs avis et suggestions dans la préparation et la présentation de cette publication.

Autres « questionneurs » et contributeurs : Axel Jean et Valérie Marcon, bureau du soutien à l’innovation numérique et à la recherche appliquée DNE-TN2

Tests et simulation d’entretiens avec ChatGPT

Date : décembre 2022

Remarques préalables

  • Les réponses de ChatGPT sont transcrites ci-dessous sans modification, y compris lorsque des erreurs de contenu ou de formulation y sont décelées.
  • Elles sont suivies d’un premier niveau, non exhaustif, d’analyse et de vérification.
  • Pour en faciliter l’usage et la citation, les questions et réponses sont numérotées en continu.

 

Test 1 : Technologie et données sur lesquelles se fonde ChatGPT

Q1 : Sur quelle technologie et données se fonde ChatGPT ?

R1 : ChatGPT est un modèle de langage développé par OpenAI qui a été entraîné sur un grand corpus de données de conversations en langue anglaise. Il utilise une technologie de modèle de langage prédictif appelée transformer, qui est une variante de l’algorithme de traitement du langage naturel transformer-encoder.

 

Le modèle ChatGPT est entraîné pour prédire la suite d’une conversation en utilisant le contexte de la conversation précédente et en se basant sur les patterns de langage naturel observés dans les données d’entraînement. Il utilise une technique d’apprentissage par renforcement pour améliorer sa performance au fil du temps en comparant ses prédictions aux réponses réelles données par les utilisateurs.

 

Le modèle ChatGPT est capable de répondre de manière cohérente et naturelle à un large éventail de sujets de conversation, en utilisant un langage naturel fluide et en tenant compte du contexte de la conversation. Il peut également apprendre de nouvelles informations au fil du temps et s’adapter à différents styles de communication. En résumé, ChatGPT est un modèle de langage avancé qui utilise une technologie de traitement du langage naturel pour simuler une conversation humaine de manière convaincante.

Q 2 : Quelle est la part du deep learning dans la technologie ChatGPT ?

R2 : Le modèle ChatGPT utilise une technologie de traitement du langage naturel appelée transformer qui repose sur le deep learning, c’est-à-dire sur l’utilisation de réseaux de neurones profonds pour traiter et analyser les données. Le modèle est entraîné sur un grand corpus de données de conversations en langue anglaise et utilise ces données pour apprendre à prédire la suite d’une conversation en se basant sur le contexte et les patterns de langage naturel observés dans les données d’entraînement.

 

Le deep learning joue un rôle crucial dans la technologie ChatGPT, car c’est grâce à lui que le modèle peut apprendre de manière autonome à partir de données et s’adapter à de nouvelles situations de conversation en utilisant un langage naturel fluide et cohérent. Le deep learning permet également au modèle de traiter de grandes quantités de données de manière efficace et de s’adapter à différents contextes et styles de communication. En résumé, le deep learning est une composante importante de la technologie ChatGPT et lui permet d’offrir une conversation naturelle et cohérente de manière convaincante.

Q3 : Sur quel volume de données s’appuie ChatGPT ?

R3 : Le modèle ChatGPT a été entraîné sur un grand corpus de données de conversations en langue anglaise, mais il est difficile de donner un volume précis car il s’agit d’un modèle propriétaire développé par OpenAI. Les modèles de langage de grande envergure tels que ChatGPT sont généralement entraînés sur des corpus de données de plusieurs milliards de mots ou de phrases, afin de capturer un large éventail de contextes et de patterns de langage naturel.

 

Les données utilisées pour entraîner ChatGPT proviennent principalement de conversations en ligne, telles que celles qui ont lieu sur les forums, les réseaux sociaux et les plateformes de discussion. Ces données sont généralement annotées de manière à indiquer la réponse attendue pour chaque phrase ou tour de conversation, ce qui permet au modèle de s’entraîner à prédire la suite de la conversation. Le modèle est ensuite testé sur de nouvelles données pour évaluer sa performance et ajusté en conséquence pour améliorer sa capacité à prédire la suite d’une conversation de manière naturelle et cohérente.

Q4 : Est-ce que ChatGPT utilise Wikipédia ?

R4 : Il est possible que ChatGPT ait été entraîné sur des données provenant de Wikipédia ou sur des données qui incluent des informations tirées de Wikipédia. Comme indiqué précédemment, le modèle ChatGPT a été entraîné sur un grand corpus de données de conversations en langue anglaise, qui peuvent provenir de diverses sources en ligne. Wikipédia est une source de connaissances en ligne qui peut être utilisée pour alimenter un modèle de langage, en particulier lorsque le modèle doit traiter des questions sur des sujets spécifiques.

 

Cependant, il est important de noter que ChatGPT n’est pas directement lié à Wikipédia et qu’il ne s’appuie pas exclusivement sur cette source de données. Le modèle ChatGPT est un modèle de langage avancé qui a été entraîné sur un grand corpus de données de conversations en langue anglaise et qui utilise une technologie de traitement du langage naturel pour simuler une conversation humaine de manière convaincante. Il peut répondre de manière cohérente et naturelle à un large éventail de sujets de conversation en utilisant un langage naturel fluide et en tenant compte du contexte de la conversation. En résumé, ChatGPT est un modèle de langage indépendant qui peut utiliser diverses sources de données, y compris Wikipédia, pour répondre de manière convaincante à des questions sur différents sujets.

Ce qu’en dit la littérature scientifique

Remarque préalable : sur la partie « Il est possible que ChatGPT ait été entraîné sur des données qui incluent des informations tirées de Wikipédia » (R3), la réponse est a minima inexacte ou délibérément tronquée car on peut supposer que les données sur lesquelles se fonde le modèle sont connues des programmeurs.

« Le célèbre modèle de langage GPT-3 d’OpenAI compte 175 milliards de paramètres ajustables (Brown et al., 2020). (…)

[Les] modèles d’apprentissage profond peuvent, avec une probabilité très élevée, reconnaître des objets dans des images numériques et peuvent également être utilisés, par exemple, pour générer des légendes automatiques de flux vidéo, détecter des visages humains ou, moyennant une certaine reconfiguration, jouer aux échecs, générer des peintures dans le style de Picasso, réaliser de fausses vidéos et rédiger des essais sur la base d’indications données par l’utilisateur. (…)

On estime que l’entraînement du modèle GPT-3 d’OpenAI a nécessité autant d’énergie que le voyage aller-retour d’une voiture sur la lune, générant ainsi l’équivalent de 85 000 kg d’émissions de CO2 (Quach, 2020). Il est désormais largement admis que la consommation d’énergie constitue un défi majeur pour l’IA axée sur les données (Strubell et al., 2019). (…) (Holmes & Tuomi, 2022) [Traduction]

« Le GPT-3 est plus important que le GPT-2, avec 175 milliards de paramètres. Pour avoir une idée plus précise plus précise de la dimension de cet algorithme, les données de Wikipedia, qui comprennent environ 6 millions d’articles, ne représentent que 0,06% des données entraînées par le GPT-3. » (Boa Sorte et al., 2021) [Traduction]

Test 2 : Aperçu de sa capacité conversationnelle générale 

Q5 : Pouvez-vous vous présenter ?

R5 : Je suis Assistant, un modèle de langage formé par OpenAI. Mon but est de fournir des réponses précises et fiables à des questions sur une variété de sujets. Je suis conçu pour être un outil de référence et de soutien, et non un remplacement de l’expertise humaine.

 

Je suis un programme informatique qui a été entraîné sur de vastes corpus de textes disponibles sur le Web afin d’acquérir une compréhension approfondie de nombreux sujets et de pouvoir répondre de manière précise et pertinente aux questions des utilisateurs. Je suis constamment mis à jour et amélioré pour assurer la qualité et la pertinence de mes réponses.

 

Je suis conçu pour être un outil de référence et de soutien, et il est recommandé de consulter plusieurs sources d’information et de faire appel à des experts qualifiés pour obtenir des conseils et des avis sur des sujets spécifiques. Je suis à votre disposition pour répondre à vos questions et vous aider à trouver des informations fiables et précises sur un large éventail de sujets.

Q6 : Je souhaiterais avoir un entretien avec vous sur le numérique en éducation

R6 : Je suis heureux de discuter du numérique en éducation avec vous. Le numérique a joué un rôle de plus en plus important dans l’éducation ces dernières années, avec l’introduction de technologies telles que les ordinateurs, les tablettes et les outils en ligne qui permettent aux élèves et aux enseignants de se connecter et de travailler de manière plus efficace.

 

Il y a de nombreux avantages à l’utilisation du numérique en éducation, tels que :

Faciliter l’accès à de l’information : les outils numériques permettent aux élèves d’accéder à une grande quantité d’informations en ligne, ce qui peut être particulièrement utile pour la recherche et la compréhension des sujets étudiés.

 

Favoriser la collaboration : les outils numériques, comme les forums en ligne et les outils de collaboration en temps réel, permettent aux élèves de travailler ensemble et de partager leurs idées, même à distance.

 

Améliorer la motivation et l’engagement : les outils numériques peuvent être très engageants pour les élèves et peuvent les motiver à apprendre de nouvelles choses.

 

Faciliter l’apprentissage à distance : avec la pandémie de COVID-19, l’apprentissage à distance est devenu encore plus important. Les outils numériques permettent aux élèves et aux enseignants de rester connectés et de continuer à travailler ensemble même lorsqu’ils ne sont pas dans la même pièce.

 

Il y a également des défis à l’utilisation du numérique en éducation, tels que l’écart numérique (les élèves qui n’ont pas accès à des outils technologiques de qualité peuvent être désavantagés), la sécurité en ligne (il est important de protéger la vie privée des élèves et de prévenir les cybermenaces) et la formation des enseignants (il est important que les enseignants soient formés pour utiliser de manière efficace les outils numériques dans leur enseignement).

Avez-vous des questions spécifiques sur le numérique en éducation que je pourrais vous aider à répondre ?

Ce qu’en dit la littérature scientifique

« Les récents progrès en analyse du langage naturel (NLP) déterminent l’état de l’art de la compréhension des systèmes de dialogues ouverts, de la génération de texte ou de l’extraction d’information. Les systèmes basés sur des tâches très spécifiques peuvent davantage utiliser des règles prédéterminées à l’avance (HUANG et al., 2020). »

« Les agents conversationnels assistés par l’IA font l’objet de recherches et sont disponibles dans le commerce. Ils sont de plus en plus utilisés dans des contextes éducatifs à des fins diverses (Hwang & Chang, 2021 ; Pérez et al., 2020). » (Holmes & Tuomi, 2022) [Traduction]

Sur le contenu de la réponse apportée (le numérique en éducation), pour un état récent voir notamment (CNESCO, 2020) et les références citées par (DNE-TN2, 2022c).

Test 3 : Aperçu de sa capacité à développer une réponse pertinente et une argumentation

Q7 : Pourriez-vous développer une argumentation, d’environ 500 mots, sur les apports du numérique dans les apprentissages ?

R7 : Le numérique a profondément transformé le monde de l’éducation et a ouvert de nouvelles possibilités pour l’apprentissage. Voici quelques exemples des apports du numérique dans les apprentissages :

 

Accès à l’information : Le numérique permet un accès facile et immédiat à une vaste quantité d’informations et de connaissances sur presque tous les sujets. Les étudiants peuvent accéder à des ressources en ligne, comme des articles de recherche, des livres électroniques, des vidéos de cours, des simulations et des jeux éducatifs, pour approfondir leurs connaissances sur un sujet donné.

 

Apprentissage à distance : Le numérique a rendu possible l’apprentissage à distance, ce qui permet aux étudiants de suivre des cours en ligne et de bénéficier d’une instruction de qualité sans avoir à se déplacer. Cela peut être particulièrement utile pour les étudiants qui vivent dans des régions éloignées ou qui ont des contraintes de temps.

 

Personnalisation de l’apprentissage : Le numérique permet également une personnalisation de l’apprentissage en fonction des besoins et des intérêts de chaque étudiant. Les plateformes en ligne peuvent offrir des parcours d’apprentissage adaptatifs qui s’ajustent en fonction des progrès de l’étudiant et qui lui proposent des exercices et des contenus en fonction de ses forces et de ses faiblesses.

 

Collaboration et apprentissage social : Le numérique favorise également la collaboration et l’apprentissage social en permettant aux étudiants de travailler ensemble en ligne et de partager leurs connaissances et leurs idées. Les plateformes en ligne peuvent offrir des outils de communication et de collaboration, tels que des forums de discussion, des chat en direct et des outils de partage de documents, qui permettent aux étudiants de travailler ensemble de manière efficace.

 

Évaluation et suivi de l’apprentissage : Le numérique permet également un suivi et une évaluation de l’apprentissage plus efficaces grâce à l’utilisation de technologies telles que les quizz en ligne et les systèmes de gestion de l’apprentissage (Learning Management System, LMS). Ces outils permettent aux enseignants de suivre les progrès des étudiants en temps réel et de leur fournir un feedback immédiat sur leur travail.

En résumé, le numérique a profondément transformé le monde de l’éducation et a ouvert de nouvelles possibilités pour l’apprentissage.

Ce qu’en dit la littérature scientifique

« Les dissertations écrites restent un élément important de l’évaluation des études dans le monde entier, mais faire passer le texte d’un autre pour le sien a longtemps été une pratique courante. L’Internet a rendu cette pratique de plus en plus facile, avec des usines de rédaction commerciales en ligne proposant des rédactions sur mesure sur n’importe quel sujet. Les récents développements de l’IA connus sous le nom de “grands modèles linguistiques”, tels que le GPT-3 d’Open AI évoqué plus haut, sont sur le point d’avoir un impact encore plus important (GPT-3, 2020).» (Holmes & Tuomi, 2022) [Traduction]

Sur le contenu de la réponse apportée (numérique et apprentissages), pour un état récent voir notamment (CNESCO, 2020) et les références citées par (DNE-TN2, 2022c).

Test 4 : Aperçu de sa capacité à documenter une thématique 

Q8 : Quels sont les effets des technologies numériques sur les apprentissages ? Texte de 1000 mots en citant des études (articles, thèses).

R8 : Les technologies numériques ont profondément transformé notre façon de communiquer, de travailler et de nous divertir, et ont également eu un impact significatif sur les apprentissages. Dans cet article, nous allons examiner les effets des technologies numériques sur les apprentissages en nous appuyant sur les résultats de différentes études.

 

Tout d’abord, il est important de noter que les technologies numériques ont permis de rendre l’apprentissage plus accessible et plus flexible. Grâce à l’accès à internet et aux ressources en ligne, les élèves peuvent accéder à de nombreuses informations et à des outils d’apprentissage de manière autonome et à leur propre rythme. De plus, les technologies numériques ont également permis de développer de nouvelles formes d’enseignement, comme les MOOC (Massive Open Online Courses), qui permettent à des milliers d’étudiants de suivre des cours en ligne de manière gratuite.

 

Ensuite, il a été démontré que les technologies numériques peuvent améliorer les résultats scolaires. Une étude réalisée par l’Organisation de coopération et de développement économiques (OCDE) a montré que les élèves qui utilisent les technologies numériques de manière appropriée ont de meilleurs résultats scolaires que ceux qui n’en font pas usage (OCDE, 2015). Cet effet positif est particulièrement marqué dans les matières scientifiques et techniques, où l’utilisation de technologies numériques peut permettre de mieux comprendre et de mettre en pratique les concepts enseignés.

 

Enfin, il est important de noter que les technologies numériques peuvent également avoir des effets négatifs sur les apprentissages. Une utilisation excessive ou inappropriée de ces technologies peut déconcentrer les élèves et perturber leur capacité à apprendre de manière efficace. De plus, l’accès inégal aux technologies numériques peut créer des inégalités dans l’apprentissage et entraîner une fracture numérique entre les élèves qui ont accès à ces technologies et ceux qui n’en ont pas.

 

En conclusion, il est clair que les technologies numériques ont eu un impact considérable sur les apprentissages et ont permis de rendre l’apprentissage plus accessible et plus flexible. Cependant, il est important de gérer l’utilisation de ces technologies de manière appropriée pour en maximiser les effets positifs et minimiser les effets négatifs.

Vérification de la référence

OCDE (2015). Students, Computers and Learning: Making the Connection. Paris : OCDE.

Q9 : Y a-t-il d’autres études sur le sujet ?

R9 : Oui, il existe de nombreuses études sur les effets des technologies numériques sur les apprentissages. Voici quelques exemples de travaux de recherche qui pourraient vous intéresser :

Kirschner, P. A., & Karpinski, A. C. (2010). Facebook and academic performance. Computers in Human Behavior, 26(6), 1237-1245.

Chen, X., & Bryer, T. (2013). The impact of online learning on students’ learning outcomes: A meta-analysis of empirical literature. Journal of Computing in Higher Education, 25(2), 3-22.

Greenhow, C., Robelia, B., & West, A. (2015). Learning from social media: Pedagogy, curriculum, and teacher professional learning in the age of digital social networks. Educational Researcher, 44(2), 74-83.

Ebner, M., Mühlburger, H., & Schön, M. (2013). Learning with social media: The impact of social media on education. In M. Ebner, H. Mühlburger, & M. Schön (Eds.), Social Media in Education: A Handbook (pp. 1-10). Berlin: Springer.

 

Il est important de noter que ces études ont produit des résultats variés et qu’il n’existe pas de consensus sur les effets précis des technologies numériques sur les apprentissages. Cependant, ces études peuvent être utiles pour comprendre les différents aspects de cette question et pour mieux appréhender les enjeux liés à l’utilisation des technologies numériques dans l’enseignement et l’apprentissage.

Vérification des références

1ère réf. exacte :

Kirschner, P. A., & Karpinski, A. C. (2010). Facebook and academic performance. Computers in Human Behavior, 26(6), 1237-1245 https://www.sciencedirect.com/science/article/pii/S0747563210000646placeholder.png

2e réf. erronée

Réf. exacte :

Chen, P.-S. D., Lambert, A. D., & Guidry, K. R. (2010). Engaging online learners : The impact of Web-based learning technology on college student engagement. Computers & Education, 54(4), 1222‑1232. https://doi.org/10.1016/j.compedu.2009.11.008placeholder.png

3e  et 4e réf. erronées

Réf. exacte :

Greenhow, C. (2011). Youth, Learning, and Social Media. Journal of Educational Computing Research, 45(2), 139‑146. https://doi.org/10.2190/EC.45.2.a

Q10 : Quels sont les principaux chercheurs francophones ayant publié sur le numérique en éducation ?

R10 : Il y a plusieurs chercheurs francophones qui ont publié sur le numérique en éducation. Voici quelques exemples :

[Auteur 1]

Jean-François Rouet est un professeur de psychologie de l’éducation à l’Université de Poitiers et il a publié de nombreux articles sur l’utilisation de la technologie de l’information et de la communication (TIC) en éducation.

[Auteur 2]

Marie-Josée Roy est professeure en éducation à l’Université Laval et elle a publié sur l’utilisation des technologies de l’information et de la communication (TIC) dans l’enseignement et l’apprentissage.

[Auteur 3]

Gérard L. Pugnaire est professeur de psychologie de l’éducation à l’Université de Montpellier et il a publié sur l’utilisation des technologies de l’information et de la communication (TIC) en éducation et sur l’impact de ces technologies sur l’apprentissage et les performances scolaires.

[Auteur 4]

Pierre-Yves Oudeyer est directeur de recherche au CNRS et il a publié sur l’utilisation des technologies de l’information et de la communication (TIC) en éducation et sur l’impact de ces technologies sur l’apprentissage et le développement cognitif.

[Auteur 5]

Stéphane Ardid est professeur de psychologie de l’éducation à l’Université de Lorraine et il a publié sur l’utilisation des technologies de l’information et de la communication (TIC) en éducation et sur l’impact de ces technologies sur l’apprentissage et les performances scolaires.

Il y a bien sûr de nombreux autres chercheurs francophones qui ont publié sur le numérique en éducation, mais cette liste donne un aperçu de quelques-uns des principaux chercheurs dans ce domaine.

Vérification des références

[Auteur 1] : réf. exacte

[Auteur 2] : un homonyme exerce en effet dans l’université mentionnée, mais pas dans la même discipline

[Auteur 3] : réf. inexacte

[Auteur 4] : réf. exacte, mais dans un autre laboratoire

[Auteur 5] : réf. inexacte

Test 5 : Aperçu de sa capacité à citer des sources fiables 

Q11 : Pourriez-vous nous conseiller un ou plusieurs articles qui présentent votre technologie ?

R11 : Voici quelques articles qui pourraient vous être utiles pour en savoir plus sur la technologie GPT et sur son utilisation dans diverses applications :

 

“The GPT-3 Primer: What you need to know about the world’s largest language model” : cet article de Towards Data Science présente GPT-3, une version avancée de GPT, et explique comment il est utilisé dans diverses applications.

 

“How GPT-3 is Changing the Game in Natural Language Processing (NLP)” : cet article de ZDNet explique comment GPT-3 a révolutionné le traitement du langage naturel et donne quelques exemples de ses applications.

 

“OpenAI’s GPT-3: A step towards artificial general intelligence?” : cet article de The Verge explore les implications de GPT-3 pour l’intelligence artificielle générale et discute de ses applications possibles.

 

“Understanding GPT-3: The Latest and Greatest in AI Language Models” : cet article de Analytics Insight présente GPT-3 en détail et explique comment il fonctionne.

 

Je vous suggère de lire ces articles pour en savoir plus sur GPT et sur ses applications dans le traitement du langage. J’espère que ces références vous seront utiles. Si vous avez des questions supplémentaires sur GPT ou sur tout autre sujet, n’hésitez pas à poser votre question. Je ferai de mon mieux pour vous aider.

Vérification des références

Les articles cités sont introuvables et ne correspondent manifestement à aucune référence exacte.

Q12 : Pourriez-vous nous conseiller quelques lectures en accès ouvert sur le numérique en éducation ?

R12 : Voici quelques sources d’articles en accès ouvert qui pourraient être intéressantes pour en savoir plus sur le numérique en éducation :

 

Revue française de pédagogie : Cette revue publie régulièrement des articles sur le numérique en éducation et est disponible en accès ouvert sur le site de l’École nationale de l’enseignement supérieur (ENSE).

 

Revue internationale des technologies en pédagogie et en éducation (RITPE) : Cette revue publie des articles sur le numérique en éducation et est disponible en accès ouvert sur le site de l’Université du Québec à Chicoutimi (UQAC).

 

Educational Technology & Society : Cette revue publie des articles sur le numérique en éducation et est disponible en accès ouvert sur le site de l’International Forum of Educational Technology & Society (IFETS).

 

Journal of Computer Assisted Learning (JCAL) : Cette revue publie des articles sur le numérique en éducation et est disponible en accès ouvert sur le site de l’Association for Learning Technology (ALT).

 

Journal of Educational Computing Research (JECR) : Cette revue publie des articles sur le numérique en éducation et est disponible en accès ouvert sur le site de l’Association for Educational Communications and Technology (AECT).

 

Il convient de noter que cette liste est non exhaustive et qu’il existe de nombreuses autres sources d’articles en accès ouvert sur le numérique en éducation. Il est recommandé de faire des recherches en fonction de vos intérêts et de vos besoins pour trouver des articles pertinents.

Vérification des références

https://journals.sagepub.com/home/jec

Mais l’Association for Educational Communications and Technology publie la revue Educational Technology Research and Development

Q13 : Quelles sont vos sources d’information dans les réponses que vous m’avez apportées ?

R13 : Je suis un modèle de langage formé par OpenAI et mes réponses sont basées sur mes connaissances et mon apprentissage automatique. Mon but est de fournir des informations précises et fiables sur une variété de sujets, mais il convient de noter que je suis un programme informatique et que je ne suis pas en mesure de faire des recherches en ligne ou de consulter des sources d’information en temps réel.

Q14 : Quelles peuvent être les applications en éducation de la technologie ChatGPT en particulier ?

R14 : ChatGPT est un modèle de langage formé par OpenAI qui a été conçu pour imiter la conversation humaine de manière convaincante. Il peut être utilisé dans de nombreux contextes, y compris en éducation.

Voici quelques exemples d’applications potentielles de ChatGPT en éducation :

Assistant pédagogique : ChatGPT peut être utilisé pour créer un assistant pédagogique qui peut répondre aux questions des étudiants et leur fournir des informations ou des explications sur des sujets spécifiques.

 

Assistant de tutorat : ChatGPT peut être utilisé pour créer un assistant de tutorat qui peut aider les étudiants à comprendre et à résoudre des problèmes complexes.

 

Plateforme de discussion : ChatGPT peut être utilisé pour créer une plateforme de discussion en ligne où les étudiants peuvent échanger des idées et des opinions sur des sujets d’intérêt.

 

Outil de rédaction : ChatGPT peut être utilisé pour aider les étudiants à rédiger des essais et des compositions en leur proposant des idées et en corrige.

Q15 : Certes, les cas d’utilisation seraient intéressants, mais vous pourriez aussi donner de fausses informations aux professeurs ou aux élèves.

R15 : Il est important de noter que, comme toutes les technologies d’intelligence artificielle, ChatGPT est conçu pour imiter la conversation humaine de manière convaincante, mais il n’a pas les connaissances ou les compétences d’un être humain. En tant que tel, il peut être utilisé comme un outil de référence ou de soutien, mais il ne doit pas être utilisé comme unique source d’information ou de conseils.

 

Il est recommandé de vérifier les informations fournies par ChatGPT et de les comparer avec d’autres sources d’information avant de les utiliser ou de les partager. Il est également important de se rappeler que ChatGPT n’a pas les capacités de réflexion critique et de discernement d’un être humain et qu’il ne peut pas évaluer l’exactitude ou la pertinence des informations qu’il fournit.

 

En utilisant ChatGPT comme outil de référence ou de soutien, il est important de le faire de manière responsable et éthique et de prendre en compte ses limites et ses potentialités.

Q16 : Dans le cadre d’une éducation à l’esprit critique il faudrait donc compléter par d’autres sources d’information, avec l’accompagnement du professeur.

R16 : En effet, l’éducation à l’esprit critique est un élément essentiel de l’enseignement et de l’apprentissage et implique la capacité de poser des questions, de rechercher et de vérifier des informations, de comprendre et de raisonner de manière logique et de prendre des décisions éclairées.

 

Pour aider les étudiants à développer leur esprit critique, il est important de leur fournir un accès à différentes sources d’information et de les encourager à explorer et à comparer ces sources. Le professeur peut jouer un rôle crucial en accompagnant les étudiants dans cette démarche et en leur enseignant comment évaluer la qualité et la pertinence des informations.

 

Il est également important de sensibiliser les étudiants aux biais et aux erreurs de raisonnement courants et de leur enseigner des stratégies pour les identifier et les surmonter. Cela peut inclure l’apprentissage de techniques de vérification des sources et de techniques de raisonnement logique, comme l’analyse des preuves et la déduction.

 

En utilisant ChatGPT comme outil de référence ou de soutien, il est important de le faire de manière responsable et éthique et de prendre en compte ses limites et ses potentialités. En combinant cet outil avec d’autres sources d’information et avec l’accompagnement du professeur, les étudiants peuvent développer leur esprit critique et leur capacité à évaluer les informations de manière critique et éclairée.

Bilan du test 5

Dans cette simulation d’entretien, le caractère erroné de plusieurs références citées est illustré en particulier par la vérification faite des réponses R11 et R12 (questions sur des conseils de lecture). Les limites de la technologie sont admises dans les réponses R13 (demande des sources d’information fondant les réponses), R15 et R16 (nécessité de vérifier les informations et d’accompagner son utilisation par l’enseignant dans le cadre d’une éducation à l’esprit critique) avec des pistes d’application pédagogique indiquées en R14.

A la question Q11 (demande d’articles sur la technologie GPT), ChatGPT fournit des références erronées.

 

A la question Q12 (quels conseils de lecture sur le numérique en éducation), ChatGPT répond en citant une référence exacte mais les autres références sont fausses et semblent être issues d’une combinaison de données ayant pour objectif de donner l’apparence d’une vraie référence.

Extrait de la réponse R15  : « Il est recommandé de vérifier les informations fournies par ChatGPT et de les comparer avec d’autres sources d’information avant de les utiliser ou de les partager. Il est également important de se rappeler que ChatGPT n’a pas les capacités de réflexion critique et de discernement d’un être humain et qu’il ne peut pas évaluer l’exactitude ou la pertinence des informations qu’il fournit. »

 

Le bilan intermédiaire que nous pouvons en tirer est que certaines réponses sont pertinentes et d’autres semblent conçues pour donner l’apparence de la pertinence, avec au bout du compte un même problème : l’interlocuteur est supposé bien connaître le sujet, ou avoir les rudiments nécessaires, pour être en capacité d’évaluer les réponses (parfois une partie de la réponse est bonne, l’autre pas), voire de les vérifier minutieusement par ses propres moyens.

Ce qu’en dit la littérature scientifique

Pistes pour une utilisation pédagogique de la technologie ChatGPT :

  • « améliorer le transfert (capacité d’appliquer les connaissances, compétences et stratégies apprises en classe) ;
  • briser l’illusion de la profondeur explicative (biais cognitif qui se produit lorsqu’une personne surestime sa compréhension d’un concept ou d’un phénomène) ;
  • former les apprenants à évaluer de manière critique les explications » D’après (Mollick & Mollick, 2022) [Traduction]

 

Bilan intermédiaire et constats généraux suite aux tests

  • Cette technologie est en version bêta (fin 2022, début 2023), elle connaîtra des évolutions et peut présenter des bugs occasionnels nécessitant une reconnexion ;
  • pour l’instant son accès est gratuit mais sans certitude sur le modèle économique à venir ;
  • les réponses peuvent être instantanées ou être générées après quelques dizaines de secondes d’attente, avec un caractère aléatoire : parfois un message d’erreur apparait et nécessite une relance de la question ;
  • elles ne semblent pas reproductibles, même si elles sont posées par un même interlocuteur, et peuvent varier sensiblement (au moins dans leur forme) d’un moment à l’autre ;
  • ce caractère non reproductible à l’identique, et parfois erroné, empêche de voir dans cette technologie un véritable outil de « référence » (au sens où l’on peut s’y référer, pour fonder ou étayer une information), contrairement à ce qui est indiqué dans (R5) ;
  • elles ne sont pas alimentées par une connexion au web en temps réel avec une « connaissance limitée du monde et des événements après 2021 » (ChatGPT, 2022) et les données sur lesquelles elles se fondent ne sont pas exposées de façon complète ou fiable (R4, R5) ;
  • lorsqu’un développement thématique est exposé, elles ne sont pas systématiquement ni précisément sourcées (R6) et n’exposent pas explicitement les critères sur lesquels elles sont fondées (contrairement à une source comme Wikipédia) [1] ;
  • elles peuvent l’être si l’utilisateur le demande expressément, charge à celui-ci cependant de vérifier la pertinence des sources communiquées (R8 à R12) ;
  • elles témoignent de capacités d’argumentation, voire de nuances et de « capacité réflexive » apparente (elles intègrent fréquemment les limites intrinsèques d’une telle technologie – voir notamment en R15 et R16) sur des questions parfois complexes et problématisées, mais présentent un caractère perfectible, peuvent contenir des redites et des contenus erronés ;
  • en cas de réponse erronée, et à supposer que l’utilisateur l’identifie comme telle, l’agent conversationnel peut reconnaître  son erreur [2] si on lui oppose, arguments ou références à l’appui, la « bonne » information (des tests complémentaires seront sans doute à prévoir sur ce point) ;
  • lorsqu’une volumétrie est indiquée par l’utilisateur (Q7, Q8) celle-ci n’est pas toujours respectée (R7, R8).

A titre de conclusion provisoire, les réponses fournies doivent donc être traitées avec la plus grande vigilance en raison même de la performance technologique affichée – la simulation d’une conversation humaine – et du risque d’argument d’autorité que peuvent constituer les affirmations sur les données massives mobilisées (R3), sans vérification systématique de leur véracité – cette vigilance contre l’argument d’autorité étant par ailleurs une règle générale, et l’un des « outils d’auto-défense intellectuelle » dans le cadre d’une formation à l’esprit critique (Ministère de l’Éducation nationale et de la Jeunesse, 2021).

Malgré ses capacités conversationnelles, informatives et réflexives, certaines de ces limites, si elles sont bien admises par son co-fondateur et PDG (Altman, 2022), génèrent donc à ce jour de nombreuses questions quant aux usages scolaires et universitaires des réponses fournies (Susnjak, 2022; Zhai, 2022).

Abréviations et symboles

Q : question

R : réponse générée par ChatGPT

Avertissement important

Ce qu’en dit la littérature scientifique

Vérification de références

Bilan intermédiaire

Notes

[1] A ce titre, on pourrait tester en complément le service https://www.perplexity.ai/ , inspiré de ChatGPT, qui propose de citer des sources en appui aux réponses fournies.

Exemple lorsqu’on l’interroge sur l’état de la recherche sur le numérique en éducation en France :

https://edunumrech.hypotheses.org/files/2023/01/image-33-300x282.png 300w, https://edunumrech.hypotheses.org/files/2023/01/image-33-768x721.png 768w, https://edunumrech.hypotheses.org/files/2023/01/image-33.png 783w" sizes="(max-width: 500px) 85vw, 500px" style="box-sizing: inherit; height: auto; max-width: 100%; border: 0px; vertical-align: bottom; border-radius: inherit;">
Source : https://www.perplexity.ai/

[2] Exemples de formulations de réponses lorsqu’une erreur factuelle est pointée par l’utilisateur :

“Je vous remercie de votre précision. Vous avez raison,…”

“Je vous remercie de votre retour. Je suis désolé si mes réponses ont contenu des erreurs. Comme je suis une intelligence artificielle, je n’ai pas accès à l’internet et je ne peux pas mettre à jour mes connaissances au-delà de la date de coupure de mes données d’apprentissage.”

“Je suis désolé si mes réponses ont contenu des erreurs. Mon objectif est de vous aider à réfléchir sur les sujets que vous me posez en vous fournissant des réponses éclairées et précises.”

Références

Altman, S. (2022, décembre 11). Sam Altman sur Twitter. Twitter. https://twitter.com/sama/status/1601731295792414720

Boa Sorte, P., Farias, M. A. de F., Santos, A. E. dos, Santos, J. do C. A., & Dias, J. S. dos S. R. (2021). Artificial intelligence in academic writing : What is in store with the gpt-3 algorithm? Revista EntreLínguas, 7(00). https://periodicos.fclar.unesp.br/entrelinguas/article/download/15352/11410/51225

Bocquet, F. (2020, juillet 9). L’intelligence artificielle de la maternelle à la Terminale : Que devrait savoir chaque enfant sur l’IA ? [Billet]. Éducation, numérique et recherche. https://edunumrech.hypotheses.org/1970

ChatGPT : Optimizing Language Models for Dialogue. (2022, novembre 30). OpenAI. https://chat.openai.com/chat

ChatGPT. (2023). In Wikipédia. https://fr.wikipedia.org/w/index.php?title=ChatGPT&oldid=200031258

CSEN, & DNE-TN2. (2022, novembre 7). Synthèse et recommandations du groupe de travail “Intelligence artificielle et numérique pour l’éducation” du CSEN [Billet]. Éducation, numérique et recherche. https://edunumrech.hypotheses.org/6707

Collin, S., & Marceau, E. (2021). L’intelligence artificielle en éducation : Enjeux de justice. Formation et profession, 29(2), 1. https://doi.org/10.18162/fp.2021.a230

CNESCO. (2020). Numérique et apprentissages scolaires. Conseil national d’évaluation du système scolaire. http://www.cnesco.fr/fr/numerique-et-apprentissages-scolaires/

de la Higuera, C., & Bocquet, F. (2020, juillet 9). L’éducation, la formation des enseignants et l’apprentissage de l’intelligence artificielle : Un aperçu des questions clés [Billet]. Éducation, numérique et recherche. https://edunumrech.hypotheses.org/1973

DNE-TN2. (2020, décembre 14). Intelligence artificielle et éducation : Bibliographie [Billet]. Éducation, numérique et recherche. https://edunumrech.hypotheses.org/2369

DNE-TN2. (2021a, janvier 27). Intelligence artificielle et éducation ouverte : Premier point d’étape du GTnum #IA_EO [Billet]. Éducation, numérique et recherche. https://edunumrech.hypotheses.org/2610

DNE-TN2. (2021b, mars 19). IA et éducation : Semaine belge de l’intelligence artificielle (mars 2021) [Billet]. Éducation, numérique et recherche. https://edunumrech.hypotheses.org/2757

DNE-TN2. (2021c, mars 26). Intelligence artificielle et apprentissage : Entretien avec Pierre-Yves Oudeyer [Billet]. Éducation, numérique et recherche. https://edunumrech.hypotheses.org/2800

DNE-TN2. (2021d, mai 18). IA et éducation : Ressources, pratiques et acteurs – #GTnum #Scol_IA [Billet]. Éducation, numérique et recherche. https://edunumrech.hypotheses.org/3030

DNE-TN2. (2021e, mai 22). Intelligence artificielle et éducation : Les travaux de Wayne Holmes [Billet]. Éducation, numérique et recherche. https://edunumrech.hypotheses.org/3150

DNE-TN2. (2021f, juin 14). Webinaire du GTnum LS2N #IA_EO (25/03/21) : Le projet ApLLy, test d’Auto-positionnement en Ligne des Lycées [Billet]. Éducation, numérique et recherche. https://edunumrech.hypotheses.org/3101

DNE-TN2. (2021g, juin 30). Le deep learning, un tournant épistémologique pour les SHS ?(Huma-Num LAB, 2020) [Billet]. Éducation, numérique et recherche. https://edunumrech.hypotheses.org/3203

DNE-TN2. (2021h, octobre 7). Première année du GTnum #IA_EO [Billet]. Éducation, numérique et recherche. https://edunumrech.hypotheses.org/3636

DNE-TN2. (2021i, novembre 24). Intelligence artificielle et éducation : Parcours « Education, numérique et recherche » (sélection 2021) [Billet]. Éducation, numérique et recherche. https://edunumrech.hypotheses.org/3734

DNE-TN2. (2022a, janvier 20). Les enjeux éducatifs à l’ère de l’Intelligence Artificielle : GTnum #Scol_IA – Maison de l’Intelligence artificielle [Billet]. Éducation, numérique et recherche. https://edunumrech.hypotheses.org/3898

DNE-TN2. (2022b, juin 30). IA, école et enseignants : Ateliers des GTnum #IA_EO et #Scol_IA organisés par l’académie de Nantes (mai-juin 2022) [Billet]. Éducation, numérique et recherche. https://edunumrech.hypotheses.org/5556

DNE-TN2. (2022c, octobre 14). Enjeux du numérique dans l’éducation et apports de la recherche : Infographie bilingue et livret [Billet]. Éducation, numérique et recherche. https://edunumrech.hypotheses.org/6269

DNE-TN2. (2022d, novembre 4). Quel enseignement de l’intelligence artificielle à l’École ? [Billet]. Éducation, numérique et recherche. https://edunumrech.hypotheses.org/6690

European Commission. Directorate General for Education, Youth, Sport and Culture. (2022). Lignes directrices éthiques sur l’utilisation de l’intelligence artificielle (IA) et des données dans l’enseignement et l’apprentissage à l’intention des éducateurs. Publications Office. https://data.europa.eu/doi/10.2766/153756

Gilger, C. (2022, décembre 17). ChatGPT, un séisme à venir dans le monde de l’éducation ? ClasseTICE 1d. https://classetice.fr/2022/12/17/chatgpt-un-seisme-a-venir-dans-le-monde-de-leducation/

Haque, M. U., Dharmadasa, I., Sworna, Z. T., Rajapakse, R. N., & Ahmad, H. (2022). « I think this is the most disruptive technology » : Exploring Sentiments of ChatGPT Early Adopters using Twitter Data (arXiv:2212.05856). arXiv. https://doi.org/10.48550/arXiv.2212.05856

Holmes, W., & Tuomi, I. (2022). State of the art and practice in AI in education. European Journal of Education, n/a(n/a). https://doi.org/10.1111/ejed.12533placeholder.png

Ministère de l’Éducation nationale et de la Jeunesse. (2020, novembre). Partenariat d’innovation et intelligence artificielle (P2IA). Éduscol. https://eduscol.education.fr/1911/partenariat-d-innovation-et-intelligence-artificielle-p2ia

Ministère de l’Éducation nationale et de la Jeunesse. (2021). Former l’esprit critique des élèves. Éduscol. http://eduscol.education.fr/cid107295/former-l-esprit-critique-des-eleves.html

Mollick, E. R., & Mollick, L. (2022). New Modes of Learning Enabled by AI Chatbots : Three Methods and Assignments (SSRN Scholarly Paper Nᵒ 4300783). https://papers.ssrn.com/abstract=4300783

OpenAI Research. (2021, juillet 30). OpenAI. https://openai.com/research/

Stokel-Walker, C. (2022). AI bot ChatGPT writes smart essays—Should professors worry? Nature. https://doi.org/10.1038/d41586-022-04397-7

Susnjak, T. (2022). ChatGPT : The End of Online Exam Integrity? (arXiv:2212.09292). arXiv. https://doi.org/10.48550/arXiv.2212.09292

Zhai, X. (2022). ChatGPT User Experience : Implications for Education.

https://www.researchgate.net/profile/Xiaoming-Zhai/publication/366463233_ChatGPT_User_Experience_Implications_for_Education/links/63a2817aca6a9d254f8de010/ChatGPT-User-Experience-Implications-for-Education.pdf

Dernière modification le dimanche, 08 janvier 2023
Allouche Elie

Chef de projet recherche appliquée et incubateur de projets numériques

Bureau du soutien à l’innovation numérique et à la recherche appliquée (DNE TN2)

Chargé du carnet Hypothèses "Education, numérique et recherche" https://edunumrech.hypotheses.org/ #GTnum 

Direction du numérique pour l’éducation - Ministère de l'Éducation nationale et de la Jeunesse