L'intitulé de cette conférence : « Panorama du numérique et de ses enjeux pour l'éducation ». Vous pouvez la retrouver en creative commons sur cette page.

Voici donc les 5 enjeux que j'ai formulés lors de cette conférence. C'est évidemment une liste hautement subjective et non exhaustive. Elle a pour objectif d'ouvrir une réflexion plus que de donner des réponses toutes faites.

Enjeu 1 : Le numérique amplifie les effets de nos biais cognitifs et sociaux

Dans le sillage du progrès des neurosciences et des sciences cognitives, les biais cognitifs et sociaux sont de mieux en mieux identifiés et compris par les chercheurs. Nous sommes tous biaisés : notre cerveau nous joue des tours, il n'est pas complètement fiable. Disons-le clairement, il nous induit en erreur, et trouble notre perception de la réalité.

Ces biais cognitifs et sociaux font partie du fonctionnement de notre cerveau, ils ne sont pas apparus avec le numérique. Mais le numérique, et notamment les traitements algorithmiques, renforce considérablement les effets de ces différents biais.

Quelques-uns de nos biais cognitifs

Biais de confirmation : nous recherchons en priorité une information qui vient confirmer une croyance, un préjugé. Ce biais est particulièrement problématique dans notre utilisation des moteurs de recherche, des réseaux sociaux. Notre façon de taper des requêtes sur Google est biaisée (l'algorithme de Google comporte lui aussi des biais), et nous avons tendance à suivre des personnes sur Twitter, Instagram qui ont les mêmes goûts que nous, la même pensée politique, les mêmes valeurs. Nous nous isolons inconsciemment des informations qui pourraient contredire nos croyances. De la même façon, nous irons plus spontanément regarder un film qui correspond à nos goûts plutôt que de prendre un « risque ». Un biais très bien compris par Netflix et les autres plateformes de VOD.

Biais de négativité : nous avons tendance à mieux retenir les choses négatives, à leur donner plus d'importance. Ce phénomène se ressent déjà sur l'offre informationnelle de la presse, souvent pessimiste, voire catastrophiste. Mais il est amplifié sur les réseaux sociaux et sur des plateformes comme Youtube, où les vidéos négatives et extrêmes circulent de fait mieux que les vidéos positives ou plus modérées.

Biais de conformisme : nous avons tendance à penser et agir comme les autres. Sur un réseau social, nous sommes en permanence confrontés à des opinions qui finissent par nous influencer.

Biais de répétition : nous donnons de l'importance à une information, même complètement fausse, ridicule, choquante, lorsqu'elle nous est régulièrement communiquée. Ici clairement des réseaux sociaux qui font tourner des informations, y compris des infox, en boucle finissent là aussi par nous influencer.

Effet de mode (« Wagon effect ») : dans le cas où nous n'avons pas d'opinion, nous avons tendance à nous ranger derrière l'opinion de la majorité (en tout cas notre vision de ce que pense la majorité). Là aussi ce biais s'applique parfaitement à des réseaux sociaux comme Twitter où il n'est pas possible de ne pas avoir d'avis. Et par ailleurs Twitter n'étant pas un réseau représentatif de ce que pense la population française par exemple, il façonne des opinions qui sont faussement majoritaires.

Plus d'informations sur nos biais cognitifs sur cet article.

Nos biais nous jouent des tours à deux niveaux

Le développeur rédige son programme en y intégrant des biais à la fois cognitifs et sociaux : sexistes, racistes, de classe sociale… C'est par exemple l'IA de reconnaissance faciale qui a du mal à reconnaître des personnes noires. Ou alors l'algorithme d'Apple Cards qui proposent des conditions bancaires moins avantageuses aux femmes. Les développeurs sont aujourd'hui très majoritairement des hommes blancs éduqués, anglophones, et ils introduisent de nombreux biais sociaux et cognitifs dans leurs programmes.

Ensuite, les utilisateurs utilisent ces programmes en y associant leurs propres biais, comme évoqué plus haut. Car comme le montre l'image ci-dessus, il y a trois niveaux de compréhension pour la machine :

• Les informations que l'on partage volontairement. Ici on peut contrôler nos biais car ces informations sont transmises de manière consciente et réfléchie. Par exemple je partage mes groupes de musique préférés sur Facebook pour renvoyer une certaine image de moi.
• Ce que notre comportement indique. Ici les choses se compliquent et les biais ressortent. J'ai beau avoir partagé à la machine que j'aime Chopin et David Bowie, elle enregistre néanmoins mon historique musical où les tubes du moment se succèdent. Maitre Gims, M Pokora et Aya Nakamura par exemple. Voilà ce que mon comportement dit de mes goûts musicaux à la machine. C'est le cas globalement de toutes mes interactions : recherches google, likes sur Facebook, RT sur Twitter, écoutes sur Spotify etc.
• Ce que la machine pense de nous. Une fois que la machine a assez de données sur nous : celles que l'on partage et celles qui sont générées par nos comportements, alors le ballet des algorithmes prend de la vitesse. La machine peut alors (tenter de) calculer notre QI, notre opinion politique, notre religion, nos attirances sexuelles, nos goûts musicaux, ce qui nous révulse ou qui nous excite, etc. Elle le fait en combinant et calculant des tonnes d'informations éparses, et en comparant ces informations avec d'autres profils similaires pour réaliser des prédictions. Si j'aime les mêmes musiques que tel autre profil, que j'aime les mêmes livres que lui, et que j'effectue les mêmes recherches, alors sans doute serais-je intéressé par les mêmes articles que lui sur Amazon.

Pour aller plus loin :

• 25 biais cognitifs qui nuisent à la pensée rationnelle
• Algorithmes : biais, discrimination et équité
• Des chercheurs américains s'alarment du manque du régulation autour de l'intelligence artificielle

Enjeu 2 : Le numérique se nourrit de l'économie de l'attention

Le concept de l'économie de l'attention est récent, mais tout comme les biais cognitifs, son existence n'est pas liée au numérique. L'économie de l'attention repose sur le fait que notre attention est de plus en plus sollicitée (par la publicité par exemple) et qu'elle devient une « ressource rare ».

Le numérique et le monde moderne en général ont considérablement amplifié les phénomènes de captation de l'attention. Nous sommes littéralement mitraillés par des supports toujours plus variés : affichages traditionnels, écrans divers et variés, stimulus sonores, olfactifs, voire gustatifs.

Nombre d'entreprises, devenues géants du numérique, ont bâti leur modèle économique sur cette fameuse économie de l'attention. Gratuites pour les utilisateurs, elles n'en font pas moins payer des annonceurs qui veulent vous afficher des publicités toujours plus personnalisées. Pour augmenter leurs revenus, ces entreprises souhaitent ardemment vous retenir... le plus longtemps possible sur leur plateforme. Pour pouvoir toujours mieux vous cibler, elles veulent que vous interagissiez, que vous livriez des données (des j'aime par ci, des partages par là).

Le problème est que les entreprises les plus avancées font maintenant appel aux sciences cognitives et aux neurosciences pour influencer leurs utilisateurs et les inciter à utiliser leur application, au travers d'un usage extrême des techniques « d'UX design », ou expérience utilisateur.

Quelques exemples :

• La lecture automatique à la fin d'une vidéo Youtube ou Netflix, qui vous incite à voir un épisode de plus. Le dernier, promis !
• Les notifications multiples qui créent de l'attente, de l'excitation temporaire. Est-ce que ma dernière publication a été likée ?
• Le scrolling infini qui fait que vous pouvez passer des heures sur un fil d'actualité Facebook ou Twitter

De plus en plus de designers prennent du recul sur ce qu'ils considèrent être une dérive de leurs pratiques. Des collectifs se créent pour réclamer plus d'éthique. Car comme le déclare Tristan Harris, ancien designer chez Google : « absolument tout le monde, sans exception, est influencé par des ressorts qu'il ne voit pas ».

Pour aller plus loin :

• L’économie de l’attention : Nouvel horizon du capitalisme ?
• How Technology is Hijacking Your Mind — from a Magician and Google Design Ethicist
• L’école et l’économie de l’attention

Enjeu 3 : Le numérique a plusieurs vitesses

Aujourd'hui, les acteurs de terrain qui travaillent sur l'accès au numérique s'accordent pour dire que la fracture numérique à proprement parler... n'existe pas. Pourquoi ?

Parce qu'il n'y a pas deux camps clairement identifiés, celui des inclus et celui des exclus. Bien sûr, il y a des différences d'équipement, des différences d'accès. Mais il y a surtout une très grande diversité d'usages et de niveau de compréhension du numérique.

Les études de Dominique Pasquier ont parfaitement montré que les classes populaires s'étaient tout à fait appropriées certains usages du numérique, notamment pour s'informer et communiquer. On sait aussi maintenant que les pratiques intragénérationnelles sont très hétérogènes, et il a bien fallu mettre fin au mythe du digital natif, ce jeune né avec le numérique qui en maitriserait tous les usages et tous les enjeux.

Il semblerait néanmoins que le numérique et notamment le web, pourtant pensé contre un système étatique centralisé et pour favoriser le partage, la publication et l'accès à la connaissance se confronte lui aussi... aux réalités de ses utilisateurs. Tout le monde peut s’exprimer grâce au web, et c'est une révolution… pour le meilleur et pour le pire. Car toutes les formes de publication (vidéo, image, texte), et tous les niveaux de qualité sont possibles. Les règles sont encore largement tacites, souvent méconnues des non initiés, l’autocontrôle est fort et la loi de la jungle règne, comme la récente affaire Mila l'a tristement rappelé.

Au final, les usages « savants » et « populaires » se côtoient mais se mélangent peu. Comme dans la vraie vie ? Le numérique se développe donc à plusieurs vitesses : au niveau de l'équipement (nombre d'appareil, niveau de gamme, niveau de personnalisation) et au niveau des usages quantitatifs (le temps passé) et qualitatifs (les activités réalisées). Il prolonge ainsi des inégalités socio-économiques déjà étudiées, et il les renforce.

Pour aller plus loin :

• Capital numérique : Pouvoir d’agir des habitants des quartiers prioritaires
• Non, il ne faut pas combattre la «fracture numérique»
• Plongée sans misérabilisme dans l'univers numérique des classes populaires
• « Il existe deux Internets : celui des « précurseurs » et celui des classes populaires »
• Internet, cette révolution qui n’en était pas une : les désillusions de l’activisme numérique
• Le français est à nous ! - Chapitre 11 : révolution numérique et défis (plus ou moins !) nouveaux

Enjeu 4 : Le numérique révolutionne notre rapport aux traces

Sur cet enjeu, je vous invite à lire mon article dédié au sujet : Culture numérique : les photos et les traces.

Je reviens sur une vidéo où Louise Merzeau aborde le sujet des traces et de l'impact du numérique sur ces traces. Pour faire très court, pendant très longtemps l'oubli était la règle et garder des traces demandait des efforts, une volonté politique, des techniques et de l'argent. Aujourd'hui, laisser des traces est devenu automatique avec les objets numériques.

Ou comment nous sommes passés d'une quête de traces à une quête de l'oubli.

Enjeu 5 : Le numérique doit (re)devenir un sujet politique

Le numérique est un phénomène pervasif (D. Boullier), c'est-à-dire qu'il irrigue tous les pans de notre société : notre vie sociale, notre consommation (l'exemple de Yuka est par exemple exceptionnel), notre travail, notre relation à l'information et à nos proches. Mais le numérique concerne aussi l'économie, l'armée, la géopolitique, la gestion énergétique, etc.

C'est assez simple, aujourd'hui tout fonctionne avec de la technologie numérique, y compris le réseau électrique qui fait fonctionner le numérique. La boucle est bouclée, et en cas de coupure, nous aurions de sérieux problèmes.

Paradoxalement, il me semble que le numérique est un sujet très peu politisé. Dans le sens où il n'est pas investi par les citoyens, et de fait : le numérique est rarement débattu sérieusement. À l'exception notable des quelques associations spécialisées, les lois qui concernent le numérique font assez peu l'objet de contestations, de discussions, de pétitions. Sans doute du fait de ce désintérêt palpable, le numérique fait rarement partie des programmes politiques lors d'élections où l'on pourrait pourtant imaginer sa place, puisqu'il est bien question de sécurité, d'emplois, de transition écologique.

Plus globalement, le numérique fait partie de ces technologies qui poursuivent une « fuite en avant » sans contrôle démocratique réel. Aujourd'hui, où se déroulent les débats pour réfléchir à la nécessité de la 5G ? Et où se déroulent les débats pour discuter des enjeux des sujets suivants : lois de surveillance, reconnaissance faciale, dématérialisation du service public, aide financière à la French Tech.

Je disais plus haut qu'il n'y avait pas de réelle fracture numérique. Ceci dit, si l'on considérait que l'exclusion numérique concerne les citoyens insuffisamment informés pour se saisir des enjeux du numérique, alors je dirais que la quasi-totalité des français est en situation d'exclusion numérique. Influenceurs, grands décideurs et dirigeants politiques inclus. Et c'est un assez gros problème.

Pour aller plus loin :

• Reconnaissance faciale, 5G : les choix technologiques ne doivent plus échapper aux citoyens
• Quel numérique voulons-nous ? Une démarche collective impulsée par la Fing
• Hugues Ferreboeuf et Jean-Marc Jancovici : « La 5G est-elle vraiment utile ? »
• Quelle régulation ? - Enjeux socio-politiques du numérique

Conclusion : le rôle de l'éducation

Les enjeux du numérique sont nombreux, et ils sont à tous les niveaux de la société. Des plus banals, comme utiliser un moteur de recherche, aux plus complexes, comme la stratégie énergétique du pays. Il est impératif que les citoyens reprennent le pouvoir sur le numérique.

L’exercice de la démocratie suppose des choix informés, de l’esprit critique et de la curiosité. Comprendre les enjeux du numérique est donc essentiel pour que la politique puisse reprendre le contrôle, et cela implique donc une réelle éducation à la culture numérique.

Les parents n'étant pas égaux dans la capacité à réaliser seuls cette transmission, l'école de la République et les structures d'éducation populaire ont un rôle immense à jouer. Plus que jamais, il semblerait que la mission de l’école et du système éducatif soit d'atténuer les écarts sociaux entre enfants, car le numérique amplifie des différences socio-économiques et culturelles déjà existantes.

Pour conclure, j'aimerais citer cette jolie citation de Benjamin Bayart : « L'imprimerie a permis au peuple de lire. Internet va lui permettre d’écrire ».

Qu'en pensez-vous ? Échangeons dans les commentaires !

Merci à Irénée Régnauld et à Yaël Benayoun pour leur relecture avisée. Cet article a été initialement publié sur mon site personnel : louisderrac.com.

Photo à la une de Randy Colas on Unsplash