Extraits
Métavers : Enjeux d’éthique. Avis 9 du Comité national pilote d’éthique du numérique.
Il porte donc sur les enjeux d’éthique relatifs au déploiement de mondes numériques en trois dimensions (3D) appelés métavers, qui intègrent des technologies et des applications préexistantes telles que la réalité virtuelle, les jeux vidéo en ligne ou les réseaux sociaux, et se caractérisent notamment par des propriétés d’immersion, de persistance temporelle et d’utilisation massive.
Ils offrent différents types d’activités telles que rencontres en ligne, achats, visites de sites touristiques, etc. Du fait du stade de déploiement précoce dans lequel les métavers se trouvent, il n’est ni possible, ni souhaitable, d’émettre un avis définitif sur leur emploi.
Néanmoins, des enjeux d’éthique spécifiques aux métavers peuvent d’ores et déjà être identifiés concernant leurs effets à court, moyen et long terme, sur la personne, sur la société et sur l’environnement.
Cet avis souhaite contribuer au développement de la réflexion éthique à mettre en oeuvre dans ce contexte. Il procède sans a priori et s’adresse à tous les acteurs concernés à divers titres. Il propose d’aider les différentes parties prenantes à répondre de manière responsable aux interrogations spécifiques posées par les métavers en se fondant sur des arguments tangibles et sur une démarche rigoureuse.
1. Introduction
1.1 Motivations
Avant d’envisager les enjeux d’éthique et de formuler des recommandations, il est utile d’expliquer la raison d’être de la réflexion menée par le CNPEN sur les métavers en répondant à plusieurs questions souvent posées sur ce sujet [2].
1.1.1 Pourquoi rédiger un rapport supplémentaire sur les Métavers ?
En octobre 2021, Meta (nouveau nom du groupe FaceBook) présentait son objectif stratégique d’« aider à donner vie au métavers » ; depuis cette annonce sont parus de nombreuses publications analysant l’existence, l’évolution, les potentielles applications des métavers et formulant parfois des recommandations.
Ainsi du rapport de la mission exploratoire interministérielle [3], des travaux de la Commission et du Parlement européens [4], des publications de nombreux think tanks comme le CERRE [5], Respect Zone [6] ou Renaissance numérique [7], ou encore de différents ouvrages, à l’image du livre écrit par Matthew Ball [8]. D’autres analyses portent sur des sujets spécifiques, comme les données personnelles [9] ou les enjeux de sécurité [10]. La quasi-totalité de ces documents mentionne explicitement la nécessité de poser des questionnements éthiques, mais pratiquement aucun ne les traite véritablement.
On trouve, en revanche, des travaux abordant les enjeux éthiques, mais la plupart sont davantage focalisés sur les réalités virtuelle ou augmentée [11,12] que sur le contexte spécifique des métavers, à l’exception du rapport issu du projet européen TechEthos [13] qui traite différents contextes technologiques dont les métavers.
1.1.2 Quelle nouveauté dans les questionnements éthiques posés par les Métavers ?
Les métavers sont construits sur plusieurs technologies préexistantes, principalement la réalité virtuelle ou augmentée, les jeux vidéo en ligne massivement multijoueurs et les réseaux sociaux. Il convient donc de s’interroger sur l’éventuelle spécificité des métavers quant aux enjeux éthiques qu’ils présentent. Tout d’abord, on constate qu’ils héritent de questionnements désormais bien connus sur les impacts environnementaux, les données personnelles ou bien les phénomènes de harcèlement ou de manipulation, tout en les renouvelant. Ainsi, les métavers soulèvent de nouveaux problèmes sur les données collectées qui sont à la fois beaucoup plus volumineuses et de nature différente (notamment physiologique) comparées, par exemple, à celles qui sont recueillies lors d’une navigation sur le web ou une participation à un réseau social.
Par ailleurs, la puissance d’évocation et de persuasion d’une visualisation immersive amplifie de façon importante certains effets des expériences vécues dans les métavers. Pour s’en convaincre, comparons la force de persuasion de la description orale d’une situation S, de la lecture d’un texte relatant S, d’une photo montrant S, d’une vidéo montrant S et enfin de la construction d’un monde numérique 3D reproduisant S et dans lequel l’utilisateur peut se déplacer pour changer son point de vue, agir sur certains éléments ou encore interagir avec d’autres personnes représentées par des avatars. Cette progression, due aux évolutions technologiques, peut se résumer par : j’ai entendu (tradition orale), j’ai lu (imprimerie), j’ai vu (photographie, cinéma), j’ai vécu (métavers).
Enfin, de nouvelles questions se posent, comme celles relatives aux effets physiologiques du port d’un casque de visualisation pendant une longue durée par des utilisateurs parfois mineurs. Ces différences sont détaillées dans la Section 2.1.3 « De quelles connaissances sont issues les métavers ». Enfin, il est fondamental de souligner que la combinaison de ces différentes technologies numériques ne produit pas un effet cumulatif, mais en amplifie considérablement chacune des conséquences. C’est donc bien la nature intégrative des métavers qui en fait une technologie originale qu’il convient d’analyser en tant que telle.
1.1.3 Comment étudier une technologie intégrative en cours de déploiement ?
Il n’existe pas encore d’études analysant en profondeur les métavers et leurs effets puisqu’ils sont en cours de déploiement. Il convient donc d’exploiter, avec lucidité, les travaux relatifs aux technologies et applications préexistantes – fondations des métavers – que ce soit la réalité virtuelle, les jeux vidéo ou plus généralement l’usage du numérique.
Naturellement, ces analyses ne sont pas parfaitement adaptées aux métavers et il est indispensable de prendre en compte les différences entre ces technologies pour les interpréter. Une des principales lacunes porte sur l’absence de recul dans l’observation de l’utilisation des métavers ; il est donc impératif de conduire des études sur le temps long en mettant en place un suivi longitudinal.
1.1.4 Approche retenue
Le développement des métavers recèle nombre d’enjeux d’éthique et cet avis a pour objectif d’informer et d’aider à anticiper des déploiements et des usages quelle que soit la terminologie utilisée à l’avenir pour désigner les métavers. Dans la deuxième partie de cet avis, la notion même de métavers est interrogée : de quoi s’agit-il exactement ? De quelles connaissances préexistantes sont-ils issus ? À quoi pourraient-ils servir ? Autant d’interrogations qu’il faut traiter avant de pouvoir aborder les enjeux d’éthique dans la troisième partie.
Figure en annexe l’avis formulé, dans le contexte de ce travail, par le Comité d’éthique pour les données d’éducation saisi en novembre 2022 par le Ministre de l’Éducation nationale pour envisager les enjeux d’éthique dans le domaine spécifique de l’éducation et contribuer ainsi à la réflexion menée par le Comité national pilote d’éthique du numérique sur un spectre plus large.
1.2 Enjeux d'éthique
1.2.1 Quelle réflexion mener s'agissant des Métavers ?
Les métavers suscitent des questionnements éthiques communs à d’autres technologies comme la réalité virtuelle, les réseaux sociaux [16]ou les jeux vidéo en ligne, tout en posant de nouvelles questions induites par leurs spécificités, notamment la prise en compte du temps réel, de l’immersion et de l’incarnation à la première personne.
On peut par exemple s’interroger sur les effets, quels qu’ils soient, constatés dans le monde dit réel après des expériences immersives réalisées dans un métavers [17]. Il faut souligner que ces effets, et donc les questionnements éthiques en découlant, seront très variables à court, moyen et long terme selon chaque personne, les équipements utilisés et les usages adoptés. Cependant, ils doivents être pleinement pris en compte dès à présent, même si leur nocivité n’a pas encore été pleinement démontrée [18].
1.2.2 Quelles tensions éthiques ?
Avant de pouvoir décrire précisément les principaux enjeux que posent les métavers pour la personne, la société et l’environnement (Partie 3), il est indispensable de bien comprendre leur évolution, leur fonctionnement et leur utilité (Partie 2). Cependant quelques tensions éthiques générales sont d’ores et déjà abordées dans cette section car elles ne nécessitent pas de connaissance détaillée des métavers.
La première de ces tensions porte sur la raison d’être profonde d’un métavers. En effet, beaucoup de projets de développement de ces systèmes ont démarré peu de temps après l’annonce faite par le groupe Facebook fin 2021 de se concentrer sur le développement du métavers et de se renommer Meta [19], avec comme principale motivation la peur de manquer une étape importante de l’évolution technologique. Il s’agissait d’une posture plus défensive (ne pas perdre une opportunité de développement) qu’offensive (utiliser un métavers pour répondre à un besoin). Ce mécanisme de « suivisme » a été amplifié par la disponibilité des technologies sous-jacentes devenues suffisamment matures pour être déployées à grande échelle. En d’autres termes, puisque l’innovation existe, alors il faudrait la mettre en oeuvre sans autre forme de motivation. Implicite pour certains, explicite pour d’autres, ce réflexe assimilant innovation et progrès mérite une réflexion approfondie [20].
Une deuxième tension apparaît dès lors qu’on s’interroge sur la justification (au sens démonstration de l’utilité) du développement d’un métavers. Le 15 février 2023, un tribunal colombien inaugurait une audience virtuelle en utilisant Horizon Workrooms, le métavers de Meta [21]. Le 30 mars de la même année, le Centre d’arbitrage international de Dubaï (DIAC) annonçait le lancement de son métavers pour le règlement des différends, faisant valoir sa volonté de promouvoir la durabilité et le respect de l’environnement [22]. Si les promoteurs de ces initiatives les justifient de différentes façons (désengorger les tribunaux, limiter les déplacements physiques), les raisons invoquées peuvent parfois manquer de cohérence et dissimuler des motivations moins vertueuses. Comment s’assurer que tenir une audience dans un métavers serait une solution plus efficace que l’organisation d’une visioconférence pour soulager les infrastructures physiques ? Comment mesurer que le déploiement d’un métavers se justifie sous l’angle environnemental au regard des consommations de ressources pour fabriquer les équipements nécessaires et d’énergie pour les faire fonctionner ?
Une troisième tension réside dans la confrontation des arguments liés à la liberté d’un utilisateur d’agir dans un métavers à ceux liés aux conséquences de ses comportements pour les autres utilisateurs. Ainsi, certains promoteurs de ces systèmes avancent l’argument qu’il est indispensable d’offrir un espace de liberté quasi-total dans un monde numérique. D’autres conjecturent même qu’il est préférable que certains utilisateurs réalisent — via leurs avatars — des actes malveillants, voire répréhensibles, dans un monde imaginaire plutôt que dans la vie réelle. À l’opposé, il est indispensable de s’interroger sur les effets de ces actes sur les autres utilisateurs de métavers qui pourraient en être victimes. La section 3.2.2 Enjeux psychologiques décrit les conséquences, bien réelles et parfois durables, que peuvent produire certains comportements d’avatars, par exemple un harcèlement ou une agression.
Malgré ses tâtonnements et ses incertitudes, la réflexion éthique est essentielle à une innovation réfléchie tant pour l’environnement que pour l’humain et ses organisations [23]. En effet, si certains risques que le présent avis expose ont déjà été documentés en matière de jeux vidéo en ligne, de réseaux sociaux ou de réalité virtuelle, il importe de les étudier précisément pour les métavers qui, du fait de leurs spécificités, peuvent les amplifier ou les accentuer. D’autres risques semblent propres à ces univers immersifs, mêm e s’il n’est pas toujours aisé de les appréhender dans la mesure où il s’agit de technologies émergentes et qu’il n’y a pas encore le recul nécessaire pour en connaître les effets à moyen ou long terme. Plutôt que de se perdre en conjectures, la présente réflexion entend exposer, le plus concrètement possible, les dilemmes éthiques fondamentaux qui la soustendent (cf. Partie 3 Réflexions et enjeux d’éthique).
*********
Terminologie
Dans cet avis, le terme virtuel est rarement utilisé. En français [14], il décrit ce qui est en puissance, potentiel, possible (cf. dictionnaires Larousse, Robert, etc.) alors qu’il est souvent utilisé, en anglais, pour évoquer, parfois en les confondant, soit le monde numérique, soit le monde imaginaire (cf. Section 2.2.2 Terminologie), à l’image de l’expression même de réalité virtuelle qui associe de façon surprenante réalité et imaginaire15. La suite de l’avis met en évidence les conséquences bien réelles et observables d’une expérience immersive que ce soit en termes de coût environnemental ou d’effets sur les utilisateurs, ce qui illustre les risques d’incompréhensions associées à l’utilisation du terme virtuel.
Par ailleurs, metaverse est un terme anglais résultant de la contraction de meta et universe. En français, il se traduit par le terme métavers, qui sera le plus souvent utilisé au pluriel dans le présent avis. En effet, les conditions techniques qui permettraient de considérer cet espace comme unique ne sont pas réunies aujourd’hui : la plupart des systèmes ne seront pas interopérables à court ou moyen terme, ce qui ne permettra pas le partage d’expériences et de données entre des systèmes concurrents utilisant des standards propriétaires (cf. Section 2.1.5 Le devenir des métavers). On peut faire l’analogie avec l’émergence du web qui n’a été rendue possible que grâce à l’adoption de standards partagés par tous les acteurs plusieurs années après l’apparition d’Internet.
*********
Synthèse
Les univers numériques immersifs, couramment appelés métavers, se développent grâce à des avancées scientifiques et technologiques et sous l’impulsion de nombreux acteurs du numérique.
Contrairement à ce que l’adjectif « virtuel », qui leur est souvent accolé, pourrait laisser supposer, vivre une telle expérience immersive peut produire des effets importants sur les utilisateurs, l’environnement ou la société. Malgré un manque de recul pour en connaître tous les aspects, notamment à moyen et à long terme, le CNPEN en étudie dans cet avis les enjeux d’éthique et formule des recommandations dans le but d’éclairer la réflexion collective.
Les métavers sont construits sur des technologies préexistantes, comme la réalité virtuelle, les jeux vidéo et les réseaux sociaux.
Ils en héritent des problématiques bien connues ayant trait par exemple à leur impact sur l’environnement, à la gestion des données personnelles et aux phénomènes de harcèlement ou de manipulation. Si les métavers suscitent des questionnements éthiques communs à d’autres types de systèmes numériques, ils en posent également de nouveaux de par leurs spécificités, notamment à cause de leur puissance d’évocation et de conviction rendue possible par le caractère temps réel de l’interaction entre l’utilisateur et le système, et par l’immersion et l’incarnation à la première personne. En outre, la nature intégrative des métavers conduit à amplifier certains aspects en combinant ces différentes technologies. Si de nombreux rapports et ouvrages ont déjà été publiés sur les métavers, le CNPEN relève cependant que la plupart de ces publications s’accordent sur la nécessité d’une réflexion éthique sans qu’aucune, ou presque, ne s’attache à traiter spécifiquement de cette question que nous présentons dans l’introduction.
La deuxième partie de l’avis est dévolue aux descriptions techniques nécessaires à l’élaboration d’une réflexion éthique qui suivra.
En effet, la confusion répandue entre métavers et réalité virtuelle (ou augmentée), mais également la complexité technologique de ces systèmes, rendent indispensable une description technique pour bien comprendre leur fonctionnement et fixer le vocabulaire. Sont donc décrits la réalité virtuelle, la réalité augmentée et les avatars dont le rôle est central dans l’écosystème des métavers. Relevant qu’il existe de nombreuses définitions des métavers, le CNPEN opte pragmatiquement pour une approche descriptive en listant leurs principales caractéristiques, à savoir : leur nature tridimensionnelle, leur persistance temporelle, les interactions qu’ils permettent et les façons d’y accéder.
Dans un souci d’exactitude sémantique et de rigueur scientifique, l’avis s’attarde sur les distinctions entre les métavers et d’autres initiatives, à l’instar du web 3, des chaînes de blocs (blockchains) et des crypto-monnaies. L’avis s’attache à retracer la généalogie des technologies actuellement utilisées, en les différenciant des applications préexistantes dont elles sont issues, et à interroger leur devenir en proposant trois scénarios prospectifs d’évolution. Dans la mesure où le fonctionnement des métavers repose sur l’intégration d’un nombre important de dispositifs (matériels, logiciels, réseaux, données) et l’implication de plusieurs parties prenantes dans leur élaboration, leur mise en oeuvre et leurs usages (chercheurs, fabricants, utilisateurs, pouvoirs publics, etc.), l’avis propose une typologie de ces principaux éléments.
Le cadre technique ayant été posé, et les spécificités des métavers soulignées, les enjeux d’éthique apparaissent plus clairement et sont développés dans la troisième partie.
Après avoir mis en exergue certaines tensions entre des principes comme le respect de l’autonomie humaine, la soutenabilité environnementale et l’équité, l’avis explicite les enjeux concernant la personne en abordant tour à tour les enjeux physiologiques (impact sur le système visuel, cybercinétose) et psychologiques (dépendance, harcèlement, agression), sans oublier les enjeux qui sont spécifiques aux avatars (illusions anthropomorphiques) et aux données (protection, information, consentement).
Le propos s’attache ensuite à étudier certaines situations de vulnérabilité potentielle dont le cas des enfants et adolescents et celui des personnes en situation de handicap.
L’avis aborde ensuite les enjeux concernant la société en abordant les questions d’accès et d’équité, d’influence voire de manipulation, de responsabilité, tant à l’égard des fabricants que des utilisateurs, et de souveraineté, cette dernière étant déclinée sous ses formes individuelle, culturelle, technologique et nationale. La dernière partie de l’avis est consacrée aux enjeux environnementaux, vus sous l’angle de la consommation de ressources pour la fabrication des équipements nécessaires et d’énergie pour les faire fonctionner. Cette dernière interrogation absolument essentielle invite à conjuguer éthique environnementale et éthique sociale en appelant à l’indispensable sobriété numérique et à la responsabilisation de tous à l’heure où l’empreinte des métavers est clairement questionnée.
Considérant l’ensemble de ces éléments, le CNPEN formule des recommandations au fil du texte dans la partie 3 pour éclairer le débat public sur les métavers.
Elles soulignent les enjeux d’éthique relatifs à la conception, la mise en oeuvre et les usages des métavers qui nécessitent de prendre en compte les cinq points fondamentaux suivants :
- Vivre une expérience immersive n’est pas neutre et surtout pas virtuel. Elle engendre des effets bien réels, parfois intenses sur la personne, notre organisation sociale et l’environnement et ceci à court, moyen ou long terme.
- Les métavers sont issus de l’intégration de technologies numériques préexistantes ou inédites. Cela amplifie considérablement des effets déjà connus et en crée de nouveaux. Il convient donc de les étudier rigoureusement en convoquant des expertises multidisciplinaires.
- Il est indispensable de prendre en compte les effets de l’usage des métavers tant physiologiques que psychologiques sur la personne. Une attention toute particulière doit être portée aux personnes potentiellement vulnérables, en particulier les enfants et les adolescents.
- Nos sociétés sont affectées de façon de plus en plus intense par la propagation de discours haineux ou discriminatoires et par des opérations de désinformation et de déstabilisation informationnelle, que les métavers vont exacerber. Il convient d’en prendre pleinement conscience et de se donner les moyens d’y résister.
- L’urgence de réduire globalement notre empreinte environnementale exige, a minima, une réflexion argumentée pour justifier de nouveaux usages entraînant un surplus de consommation de ressources et d’énergies.
Ces mêmes recommandations, classées selon qu’elles soient générales ou qu’elles concernent la personne, la société ou l’environnement, sont présentées dans leur ensemble ci-dessous.
Synthèse des recommandations
Dans cette synthèse, les recommandations formulées dans le corps de cet avis sont classées en quatre sections. La première regroupe les recommandations générales alors que les trois suivantes détaillent celles qui sont dévolues à la personne (préfixées P), la société (S) et l’environnement (E).
1. Recommandations générales
Projets de recherche
(Aux chercheurs) Développer, aux niveaux français, européen et international, des programmes de recherche multidisciplinaire étudiant en particulier les impacts des métavers, tant physiologiques que psychologiques à court, moyen et long terme et visant à formuler des recommandations.
Ces recherches devront nécessairement prendre en compte les situations où l’utilisateur est isolé lors de son expérience immersive dans la mesure où l’absence d’accompagnement par un tiers peut amplifier certains de ces effets et en créer de nouveaux. Intégrer des questionnements éthiques dans tous ces programmes, en relation avec les comités d’éthique des institutions de recherche.
Ces projets devraient en particulier :
P1 porter sur les effets touchant à l’intégrité psychique de la personne tels que la dépendance, le harcèlement, les agressions et les extorsions vécus dans un contexte immersif ou encore la manipulation fondée sur le transfert émotionnel et le recours aux techniques de captologie dans la conception des univers virtuels ;
P10 viser à comprendre les effets physiologiques et psychologiques de l’utilisation des métavers spécifiques aux personnes vulnérables ;
P13 viser à comprendre les effets physiologiques et psychologiques de l’utilisation des métavers spécifiques aux enfants et aux adolescents. Comme le recommande le Comité d’éthique pour les données d’éducation, il importe de comprendre les effets possiblement induits sur les enfants ou les adolescents concernant la construction de leur identité avant d’envisager tout déploiement plus important de ces usages, en particulier dans le domaine scolaire et périscolaire ;
P17 identifier et analyser les risques d’anthropomorphisation pouvant résulter du choix d’un avatar reprenant des caractéristiques humaines dans son comportement ;
S10 viser à concevoir des algorithmes de reconnaissance comportementale pouvant déclencher l’enregistrement à partir de la détection d’un comportement supposé à risque pour l’utilisateur ;
E3 développer une métrique de l’impact environnemental des métavers en tant que systèmes incluant, d’une part, la fabrication, la durabilité et le recyclage des équipements et, d’autre part, les consommations énergétiques, et en systématiser l’affichage. Définir une labellisation et une certification appropriées.
Réflexions éthiques
(Aux pouvoirs publics, aux fabricants et exploitants et aux chercheurs)
Mener des réflexions éthiques sur :
P21 le recours à des avatars revêtant l’apparence et le comportement (notamment les dialogues) d’un enfant, d’une personne vivante ou décédée, en vue de mettre en oeuvre un encadrement de ces pratiques.
P22 l’articulation entre la préservation de l’anonymat et l’obligation pour la personne de s’authentifier lors de ses usages de services numériques.
Devoir d'information
(Aux pouvoirs publics et aux exploitants) Imposer aux exploitants de métavers un devoir d’information, claire et compréhensible, relatif aux :
P6 effets physiologiques dus à la cybercinétose pouvant survenir pendant ou après une immersion. Ces avertissements doivent être affichés avant la connexion et être disponibles en dehors de toute connexion. En particulier, avertir sur la nécessité de prendre un temps de repos post-immersion avant de reprendre une activité nécessitant une vigilance particulière comme la conduite d’un véhicule ;
P11 risques potentiels notamment pour des personnes atteintes de certaines pathologies ou de certains troubles du comportement ;
P16 dangers d’exploitation des enfants ou des adolescents ;
P18 risques d’anthropomorphisation ;
P19 possibilités d’introduction par l’exploitant d’avatars contrôlés par un système numérique. Dès lors, il conviendrait d’envisager des mécanismes visant à ce que l’utilisateur n’oublie pas, au cours de l’expérience immersive, qu’il peut interagir avec ces avatars et donc, s’il le souhaite, puisse les identifier en tant que tels ;
S5 modifications potentielles de l’environnement immersif par l’exploitant en fonction des données physiologiques, comportementales et d’interactions qui sont collectées.
S8 possibilités de désinformation et de manipulation émanant d’avatars.
2. Recommandations concernant la personne
P2 (Aux pouvoirs publics1) Saisir les autorités compétentes, en particulier l’Agence nationale de sécurité sanitaire de l’alimentation, de l’environnement et du travail (ANSES) pour réaliser un suivi de son avis publié en 2021 sur la réalité virtuelle et la réalité augmentée en l’étendant au contexte spécifique des métavers et à l’aune de nouveaux dispositifs.
P3 (Aux pouvoirs publics) Imposer aux fabricants de métavers de ne pas développer des interfaces contraignant l’utilisateur à rester connecté et, en particulier, lorsque l’utilisateur s’est déconnecté, de ne pas le priver de certaines fonctionnalités lors d’une connexion ultérieure.
P4 (Aux fabricants et aux exploitants) Afin de prendre en compte la possible survenue de situations inconfortables causées par la cybercinétose alors que l’utilisateur est isolé lors de son expérience immersive, mettre en place une procédure lui permettant d’évaluer les principaux facteurs de risque le concernant, en particulier avant la première expérience immersive complète; par exemple, étudier des procédures sous forme de questionnaires ou d’une immersion par étapes successives avec des points d’arrêt et de questionnements.
P5 (Aux fabricants et aux exploitants) Afin de réduire les risques de cyberattaques et le cas échéant leurs effets, mettre en place en continu les mécanismes de cybersécurité nécessaires.
P7 (Aux pouvoirs publics) Imposer des mécanismes visant à faire prendre conscience à un utilisateur de son temps de connexion à un métavers ; par exemple, avec l’affichage de cette durée ou du cumul journalier, hebdomadaire ou mensuel.
P8 (Aux fabricants) Développer des mécanismes de protection (zone d’exclusion, déconnexion immédiate, etc.) clairement identifiés, toujours accessibles et bien décrits dans la documentation.
P9 (Aux pouvoirs publics) Élaborer la législation permettant de nouvelles incriminations en cas d’expérience traumatisante dans un métavers qu’elle soit psychologique (même en l’absence d’agression physique de l’utilisateur), ou bien physique.
P12 (Aux pouvoirs publics, aux fabricants et aux exploitants, aux utilisateurs) Recommander aux personnes atteintes de certaines pathologies ou de certains troubles du comportement soit d’éviter l’usage de métavers, soit d’être accompagnées avant, pendant et après l’utilisation d’un métavers à ces différents stades ; formuler des conseils aux aidants sur les risques potentiels des métavers.
P14 (Aux pouvoirs publics) Sans attendre les résultats d’études scientifiques en cours, mener des réflexions sur les mesures à prendre pour protéger les utilisateurs 1. dans un cadre national ou européen. les plus jeunes, en vue d’une part d’imposer des limites d’âge à l’utilisation de certains périphériques comme les casques de visualisation et d’autre part d’encadrer l’accès aux métavers, en étudiant notamment la possibilité de mettre en place des contrôles parentaux ou des limitations d’accès efficients.
P15 (Aux pouvoirs publics) Élaborer la législation permettant de nouvelles incriminations en cas d’exploitations dont seraient victimes les enfants ou les adolescents dans les métavers.
P20 (Aux pouvoirs publics et aux exploitants) Mener des actions de sensibilisation, en particulier à destination des personnes vulnérables, sur les risques de manipulation ou d’attachement à des entités fictives.
P23 (Aux pouvoirs publics) Mener une réflexion sur la nécessité de renforcer la protection des données physiologiques et comportementales pour leur étendre la qualification de données sensibles au sens du RGPD, voire aller jusqu’à envisager l’interdiction de traitements sensibles de ces données dès lors qu’il en résulte des risques substantiels d’intrusion dans l’intimité de la personne ou encore de limitation de son autonomie, de son processus décisionnel et de sa liberté de choix.
P24 (Aux pouvoirs publics) Imposer aux gestionnaires de métavers de mettre en place un mécanisme respectueux du principe de protection des données personnelles dès la conception au sens du RGPD, qui mentionne précisément les risques et les types d’exploitation des données à caractère personnel ; par ailleurs, imposer de prendre toute mesure visant à prévenir les atteintes substantielles à l’autonomie de l’utilisateur.
3. Recommandations concernant la société
S1 (À toutes les parties prenantes) Mener des actions de sensibilisation et d’incitation pour favoriser la participation aux activités de standardisation et de normalisation. Penser une stratégie française et européenne pour conduire cette participation, y compris au niveau international.
S2 (Aux pouvoirs publics) Imposer aux fabricants de métavers de mettre en oeuvre les solutions techniques visant à permettre l’accessibilité numérique de leurs produits à des personnes en situation de handicap.
S3 (Aux pouvoirs publics) Interdire que le recours à un métavers soit l’unique option pour réaliser certaines démarches, notamment administratives ; maintenir de façon impérative la possibilité de recourir à d’autres solutions, impliquant en particulier des agents humains.
S4 (Aux pouvoirs publics) Analyser le cadre légal existant afin de s’assurer qu’il permet d’interdire et de sanctionner de façon efficiente les pratiques trompeuses ou manipulatrices résultant de la modification de l’environnement immersif en fonction de l’exploitation des données et des interactions de l’utilisateur d’un métavers, en portant une attention particulière à l’utilisation des systèmes d’intelligence artificielle à cette fin.
S6 (Aux fabricants et aux exploitants) Développer un système de paramétrage aisément compréhensible et accessible et ce, à n’importe quel moment, pour que l’utilisateur puisse exprimer son choix parmi différentes options :
- aucune adaptation de l’environnement immersif (tous les utilisateurs qui ont fait ce choix « voient » la même chose) ;
- adaptation de l’environnement immersif avec une prise en compte de ses intérêts déclarés explicitement
- adaptation de l’environnement immersif incluant des modifications basées sur l’exploitation des données de l’utilisateur par l’exploitant du métavers ou bien par des entreprises tierces développant une activité dans ce métavers.
S7 (À toutes les parties prenantes) Prendre pleinement conscience des capacités de nuisances sociétales (désinformation, déstabilisation) et de la nature de l’impact anthropologique des métavers résultant de la modification des relations interindividuelles et de la mutation de la relation à l’information et au savoir.
S9 (Aux fabricants et exploitants) S’agissant des actes répréhensibles commis dans un métavers, prévoir des mesures visant à les détecter, les caractériser et à en identifier les auteurs. Le cas échéant, permettre la constitution de moyens de preuve à des fins de poursuites judiciaires.
S11 (Aux pouvoirs publics) Évaluer la nécessité d’adapter — au niveau national, européen ou international — les régimes de responsabilité, pour tenir compte de la spécificité et des problèmes juridiques et enjeux d’éthique posés par les métavers, en prenant notamment en compte les règlements européens concernant le numérique.
S12 (Aux pouvoirs publics et aux exploitants) Mener des actions de sensibilisation à destination des utilisateurs sur le fonctionnement des métavers et sur les enjeux d’éthique relevant de leurs comportement dans les métavers et de leurs effets sur les autres utilisateurs dans le monde dit réel. Alerter les utilisateurs sur les risques liés à leurs interactions dans les métavers afin de développer leur sens critique.
S13 (À toutes les parties prenantes) Disposer des technologies logicielles et matérielles nécessaires au développement de métavers souverains, c’est-à- dire permettant une expression démocratique respectueuse des valeurs nationales et européennes, notamment sur les aspects scientifiques, culturels, linguistiques, législatifs, financiers ou sécuritaires.
4. Recommandations concernant l'environnement
E1 (Aux exploitants) Avant de développer un métavers, réfléchir à sa raison d’être ainsi qu’aux conséquences environnementales de sa mise en oeuvre et de son utilisation afin de favoriser des usages bénéfiques pour le bien commun.
E2 (Aux pouvoirs publics) Développer la mutualisation des infrastructures et des équipements utilisés par les institutions publiques pour accéder aux métavers. Par ailleurs, mettre à disposition du grand public des équipements immersifs dans des tiers-lieux permettant de surcroît un accompagnement de l’expérience immersive.
E4 (Aux pouvoirs publics) Imposer l’affichage d’une mesure de l’impact environnemental des équipements mis en oeuvre et des consommations induites par leurs usages.
E5 (Aux fabricants) Proposer aux utilisateurs des configurations de leur environnement favorisant des comportements plus sobres dans leurs usages des métavers, par exemple des performances bridées en termes de résolution graphique.
E6 (Aux pouvoirs publics) Imposer aux fabricants de ne pas développer des interfaces manipulatrices favorisant des connexions de longue durée pour ne pas amplifier les consommations énergétiques des univers immersifs.
E7 (Aux utilisateurs) Adopter une attitude responsable face aux conséquences environnementales de l’utilisation d’un métavers, en particulier lors de l’acquisition de nouveaux équipements ou de leur usage via un réseau mobile.
E8 (À toutes les parties prenantes) Réfléchir à la construction de mécanismes permettant notamment de préserver des échanges humains ou de compenser des pertes de retombées économiques subies par les populations vivant à proximité des sites objets de métavers touristiques.
Accès aux documents en intégralité
https://www.ccne-ethique.fr/sites/default/files/2024-04/CNPEN_A9_Metavers_2024-02-29.pdf
L’Avis complet, y compris les recommandations détaillées, est disponible sur le site
institutionnel du C.N.P.E.N. https://www.ccne-ethique.fr/fr/cnpen
Annexe : Comité d'éthique pour les données d'éducation
Présidente : Nathalie Sonnac
Membres : Sylvie Alayrangues, Ignacio Atal, Dominique Cardon, Jean-François Cerisier, Gilles Dowek, Christine Froidevaux, Michelle Laurissergues, Catherine Morin-Desailly, Pierre Schmitt, Bruno Studer, Françoise Tort, Célia Zolynski.
Depuis plusieurs années, réalités virtuelle et augmentée font l’objet d’une attente de plus en plus grande dans le domaine de l’éducation où elles sont vues comme des opportunités pour répondre à plusieurs enjeux : proposer des remédiations pour des publics présentant des besoins particuliers, ouvrir l’accès à des contenus culturels et éducatifs enrichis grâce à des versions augmentées, et accompagner des apprentissages professionnels en mode virtuel sur des machines.
Elles sont ainsi vues comme un levier pour créer des environnements d’apprentissage plus personnalisés (simulateurs) et parfois plus ludiques, qu’il serait impossible de développer dans un autre contexte, pour des raisons de coûts, de sécurité et d’impact environnemental.
De plus, ces dispositifs peuvent s’ouvrir à la diversité des publics et être plus propices à l’inclusion.
Toutefois, différentes questions éthiques sont soulevées par les usages du métavers et de la réalité virtuelle, augmentée et immersive (appelés ici par commodité univers virtuels) dans l’éducation et ont des conséquences sur la protection des données d’éducation.
Nous pointons les enjeux d’éthique qui sont spécifiques au domaine de l’éducation ou qui sont accentués dans ce domaine, en distinguant ceux qui sont liés au fait que la pratique serait effectuée dans l’Éducation Nationale et ceux qui sont liés au fait que parmi les utilisateurs de ces univers il y aurait des jeunes (enfants et adolescents).
Enfin, nous dégageons les enjeux liés aux données personnelles d’éducation et concluons sur les
besoins de formation des utilisateurs potentiels.
