Depuis ce matin on entend beaucoup parler d’IA, de calcul, d’algorithmes et la question qui se pose derrière toutes ces questions dans quel écosystème, dans quel environnement ces IA s’insèrent-elles ?

Il se trouve que le PDG de Open AI Sam Altman » il y a deux semaines a twitté une phrase je pense que bien avant d’être capable d’une intelligence surhumaine, l’IA sera capable de persuasion surhumaine ». A mon sens la question de la persuasion, de la liberté est centrale et pour discuter de ces questions on va aborder ces questions avec :  Mehdi Khamassi, Directeur de recherche au CNRS, Directeur du Master de sciences cognitives, Célia Zolynski professeur agrégée de droit privé à l’école de droit à la Sorbonne, codirige le département de recherches en droit, et est membre du comité national pilote d’éthique et numérique.

Vous avez tous deux travaillé cette année à un ouvrage qui plaide pour une nouvelle culture de l’attention et vous êtes spécialistes chacun dans votre domaine de manière transdisciplinaire de cette question :  comment l’IA va nous affecter. 

Pouvez-vous réagir à cette phrase de Sam Altman ? l’IA ce n’est pas tant l’intelligence mais peut être la persuasion »

Celia Zolynski

…Qu’est devenue petite Poucette. Comment accompagner cette réflexion qui doit être transdisciplinaire autour de l ‘économie de l’attention et de l’IA, j’entends cette phrase de Sam Altman comme une interpellation, un point d’alerte sur la multiplication de ces «  deep fakes » qui vont être générées par ces IA ;  Avec une  problématique qui est majeure : on va avoir un grand nombre d’élections dans des états démocratiques dans les mois qui viennent et on a une préoccupation politique majeure autour de cette orientation du débat publique avec cette génération potentielle d’un grand nombre de contenus faux à des fins volontaires de désinformation… Ceci est certainement au cœur de cette annonce de Sam Altman…

Au-delà de cela, on va avoir des atteintes potentielles à la dignité au travers de la multiplication de ces « deep fake « : scènes pornographiques, adultes, adolescents. Au-delà dans ces thématiques de persuasion on peut aussi interpréter la phrase de Sam Altman en envisageant la possibilité de persuasion des algorithmes qui viennent orienter, manipuler notre attention sur tel ou tel contenu…On va avoir un rétrécissement de la consommation des contenus et une passivité à scroller … de contenus en contenus avec des algorithmes type Tik Tok, contenus pour capter l’attention, pour fabriquer et maintenir l’engagement, …

Mehdi Khamassi

Pour promouvoir une liberté il faut déjà comprendre quels sont ces degrés de liberté…il faut pouvoir réfléchir car il y a plein de belles utilisations de l’IA, ce peut être un potentiel  de nous éclairer sur le monde, comment utiliser ces technologies pour prendre des décisions plus éclairées pour augmenter notre capacité de réflexivité, notre attention, notre liberté … l’attention d’un point de vue psychologique est une faculté cognitive  à sélectionner les infos pour les traiter, nous ne pouvons pas traiter toutes les informations auxquelles nous sommes exposés, c’est peut être aussi exogène mais aussi endogène .. Il y a aussi une dimension collective, conjointe …

Dans le droit il y aussi une définition de l’attention ? 

Celia Zolynski

Non on devrait plutôt adresser directement l’ensemble des éléments qui viennent manipuler notre attention, mettre en pouvoir d’agir l’utilisateur … ne pas sur-responsabiliser l’individu, on préconise aussi un droit au divertissement, de regarder des vidéos d’actualité, d’avoir le choix… protéger l’individu tout comme les données … l’attention on la voit appréhendée dans certains cadres idéologiques …

Dans votre livre vous parlez des Dark Patterns, c’est quoi exactement ?

Il y a autour de ces mécaniques de manipulations, un certain nombre de design. Design de site Internet : Tout ce design est conçu pour maintenir l’engagement de l’utilisateur… avec un déploiement d’équipes de cognitivistes, de marketeurs, de designers qui vont étudier nos biais pour nous inciter à consulter et à nous engager et pour analyser à des fins de profilage…SSA et DMA Quelle est l’interface qui va vous inciter à rester connecté ? Le droit aujourd’hui vient se saisir de ces problématiques, vise à interdire ces interfaces manipulatrices. Tout l’enjeu est de savoir si cela va être mis en œuvre correctement, contrôlé par le régulateur …

De manière assez schématique lorsque l’on parle IA et législation j’ai en tête les conditions générales d’utilisation, les cookies …l’utilisateur doit faire des choix qui ne le font pas réfléchir …

N’y a-t-il pas une autonomisation à cultiver des individus pour qu’ils lisent vraiment ce qu’ils sont en train de faire ?

Mehdi Khamassi

Quels sont ces degrés de liberté ? Comment augmenter l’autonomie décisionnelle ? … on est totalement libre… quel est mon but ? … on perd en liberté lorsque l’on est dans l’automatisme. Il faut pouvoir réfléchir sur ces propres automatismes.

Il y a ceux aussi une autre option ceux qui vont promouvoir l’internet déconnecté. Installer linux, apprendre à coder.  Moi je dois faire ces sessions, on se met un peu à part de la société. On risque de se couper des plaisirs que peut apporter cette technologie.

Celia Zolynski

Oui c’est pour cela que l’on ne vise pas à en sortir … plutôt légiférer pour que ces interfaces favorisent la réflexivité plutôt qu’elles nous enferment dans l’automatisme. Il faudrait pouvoir déterminer ses propres choix. Une des propositions que l’on formule c’est de consacrer un droit au paramétrage, l’idée serait de paramétrer selon ses propres choix. Le droit au paramétrage serait de conférer un nouveau droit à l’individu. Pas besoin de retourner dans la caverne c’est la plateforme qui nous offrirait le choix de déterminer l’outil technique conformément à nos intérêts…Mais comment bien concevoir ce choix ?  … Plus il y a de choix moins on en réalise.

Pour réaliser des choix il faut déjà être en capacité de le faire ...Aujourd’hui notre liberté est rognée de partout. Est-ce que cela ne redéfinit pas la liberté ?

Mehdi Khamassi

Non cela ne redéfinit pas la liberté, cela oblige à la penser… Il faut se reconnecter aux autres et réfléchir et avancer ensemble... Il faut se sentir agent, et mettre la personne en capacité d’agir. Ne pas retomber dans une posture de passivité. Cela contribue à augmenter la liberté.  Il faut mettre la personne en capacité d’agir et de choisir son but.

Celia Zolynski

On a essayé de proposer dans notre ouvrage de joindre deux visions proposées soit la promotion de l’attention jointe, soit collective …Contrôler que nos propres choix soient bien respectés. Stefana Brodben a beaucoup travaillé sur les plateformes collaboratives dont certaines ont un succès impressionnant tels Wikipedia, elle décrit fort bien comment dans le design il faut aussi mettre en lumière auprès des différents contributeurs, leur choix et leur participation collective et comment s’en saisir à 360°… Au niveau de l’encadrement juridique mettre en visibilité ces différentes possibilités de choix et de les promouvoir et de les encourager, cela passera par un encadrement juridique par les politiques publiques.

D’où l’aspect transdisciplinaire !

J’ai pris connaissance dans l’ouvrage de Michel Serres sur le tiers instruit qu’il appelait déjà de ces vœux dans petite Poucette. On essaie de promouvoir cette transdisciplinarité au sein de mon Université de Panthéon la Sorbonne pour permettre aux étudiants de réfléchir à l’outil numérique… échanger avec des collègues dont c’est l’expertise… D’où l’association pour mener cette réflexion qui a été permise par cette réunion autour de Daniel Andler.

L’objectif est finalement à travers le juridique, la technique, le design, d’associer croiser et dialoguer et arriver à des propositions communes…

Accès à la vidéo

https://youtu.be/ZVlq_-H6K0k?si=3vC4O3I5-f5UYpNa

Trancription pour Educavox : Sylvie Le Queinnec