L’ intelligence artificielle est le grand mythe de notre temps.
L’un annonce la destruction en masse de nos emplois, un autre l’émergence apocalyptique d’une conscience robotique hostile, un troisième la ruine d’une Europe écrasée par la concurrence. D’autres encore nourrissent plutôt le rêve d’un monde sur mesure, d’un nouvel Âge d’or d’où toute tâche ingrate ou répétitive serait bannie et déléguée à des machines ; un Eden où des outils infaillibles auraient éradiqué la maladie et le crime, voire le conflit politique, en un mot aboli le mal. Sous ses avatars tour à tour fascinants ou inquiétants, solaires ou chtoniens, l’intelligence artificielle dit sans doute plus de nos phantasmes et de nos angoisses que de ce que sera notre monde demain. À considérer l’attrait de ce type de discours eschatologiques en Europe, on en vient à penser que la technique cristallise aussi une puissance de projection dans l’avenir qui fait parfois défaut à nos imaginaires politiques.
Désamorcer ces présentations sensationnalistes des nouvelles technologies est une chose. Cela ne signifie pas pour autant que l’on ignore que l’irruption dans nos vies quotidiennes de ces assistants ou outils d’un nouveau type génère des bouleversements multiples et des défis nouveaux que nous devons relever.
Préservation de l’autonomie de la décision humaine face à des machines parfois perçues comme infaillibles, détection de discriminations générées involontairement par des systèmes mouvants, sauvegarde de logiques collectives parfois érodées par la puissance de personnalisation du numérique, etc. : les enjeux ne manquent pas, aux implications déjà tangibles. Ils questionnent certains des grands pactes et des équilibres sur lesquels repose notre vie collective.
Établir de façon claire et lucide ces enjeux est le premier devoir de la puissance publique, la condition pour pouvoir proposer des réponses adaptées, pour intégrer l’innovation technologique à la construction d’une vision déterminée de notre avenir.
C’était le sens de la création de la mission de réflexion sur les enjeux éthiques soulevés par les technologies numériques que la Loi pour une République numérique a confiée à la CNIL.
Comment appréhender aujourd’hui une telle mission ? Beaucoup se sont interrogés, voire ont ques tionné cette responsabilité nouvelle de la Commission. Comment exprimer l’éthique sur des sujets hautement complexes et évolutifs, à quel titre, selon quelles modalités ? Réflexion sur les principes fondamentaux de conduite de la vie des hommes et des sociétés, définition d’un pacte social partagé sur un sujet complexe à un moment donné, l’éthique constitue un objet éminemment collectif, pluriel. Dans le domaine bien particulier des sciences de la vie et de la santé, la composition et la collégialité du travail du Comité Consultatif National d’Éthique répondent à cet impératif de pluralité.
Garante de principes éthiques fixés par le législateur il y a quarante ans, la CNIL a certes toute légitimité pour être le point focal de cette réflexion éthique, à l’heure où des possibilités techniques nouvelles soulèvent de nouveaux enjeux ou questionnent les équilibres antérieurs. En revanche, il est apparu impensable qu’elle puisse se prévaloir d’un quelconque monopole sur la réflexion éthique du numérique. Sur un sujet aussi vaste et transversal, cette dernière ne saurait se concevoir en vase clos. Le numérique n’est pas un secteur, que l’on pourrait confier aux soins d’un comité d’éthique restreint à quelques membres, aussi compétents soient-ils. Il fallait innover.
C’est dans cet esprit que la CNIL a suscité une démarche collective, en animant avec l’aide de parte naires de multiples secteurs un débat public pendant plusieurs mois.
L’éthique est à cet égard autant un processus d’élaboration que le résultat du processus lui-même. Nous avons ainsi fait le choix de partir des usages, des interrogations existantes et des pistes de solutions évoqués par les acteurs du débat. Plus de quarante manifestations organisées à Paris et en régions ont permis de recueillir les éléments qui ont alimenté le présent rapport et les recommandations dont il est porteur.
Un effort d’innovation était également nécessaire pour faire droit à la nécessité d’associer davantage le citoyen à l’élaboration de la réflexion publique sur un univers complexe qui modèle de plus en plus son existence et implique des choix de société fondamentaux. Un univers dont il doit être de plus en plus un co-acteur.
La CNIL a ainsi organisé une journée de concertation citoyenne, à Montpellier, le 14 octobre dernier, qui a permis de joindre la voix d’une quarantaine de volontaires à la polyphonie du débat public.
Le premier bénéfice de cette démarche ouverte et décentralisée est d’avoir fait respirer le débat le plus largement possible et d’avoir participé à la montée en compétence de la société française vis-à-vis des questions soulevées par les algorithmes et par l’IA. Face à des systèmes socio-techniques de plus en plus complexes et compartimentés, face aux impacts parfois difficilement prévisibles d’artefacts en évolution constante, cloisonner le débat à quelques cercles d’initiés, c’est prendre le risque de susciter méfiance et défiance. Faire de l’ensemble de nos concitoyens des utilisateurs éclairés et critiques des technologies est au contraire un impératif tout à la fois éthique, démocratique et pragmatique. C’est aussi, pour la CNIL, prolonger l’œuvre d’accompagnement de la rencontre de la société française avec le numérique qu’elle accomplit depuis 40 ans.
À l’heure même où se définit la position française – et bientôt européenne – en matière d’intelligence artificielle, le rapport issu de ces mois de débat public contribue à poser les jalons d’un questionnement commun.
Il propose un panorama des enjeux et formule un certain nombre de principes et de recommandations.
Celles-ci ont un objectif commun : permettre à la personne humaine de ne pas « perdre la main ».
À l’heure de la dématérialisation généralisée, ceci paraitra peut-être décalé. Il nous semble au contraire que c’est là que réside notre défi collectif majeur. Faire en sorte que ces nouveaux outils soient à la main humaine, à son service, dans un rapport de transparence et de responsabilité. Puissent ces réflexions alimenter celles en cours au sein des pouvoirs publics, dont celle de la mission Villani, mais aussi des différentes composantes de la société civile. Puissent-elles ainsi participer à l’élaboration d’un modèle français de gouvernance éthique de l’intelligence artificielle.
Isabelle Falque-Pierrotin
Accès au rapport
Dernière modification le mercredi, 28 septembre 2022https://www.cnil.fr/sites/default/files/atoms/files/cnil_rapport_garder_la_main_web.pdf
