Eric Sadin, écrivain et philosophe Français, est principalement connu pour ses ouvrages critiques des nouvelles technologies.

Il est l’auteur, notamment, de Surveillance Globale : Enquête sur les nouvelles formes de contrôle, (2009) et La silicolonisation du monde : L’irrésistible expansion du libéralisme numérique (2016).

Dans son dernier ouvrage, L’Intelligence Artificielle ou l’enjeu du siècle, paru en 2018, Eric Sadin s’attache à ce qu’il qualifie d’ « obsession de l’époque » : l’Intelligence Artificielle.

L’auteur définit l’intelligence artificielle, à l’opposé d’une réplique, même partielle, de notre intelligence, comme « un mode de rationalité, fondé sur des schémas descriptifs, et visant à satisfaire toutes sortes d’intérêts » (notamment et surtout économiques).

Pour l’auteur, bien au-delà des critiques classiquement faites à l’Intelligence Artificielle, celle-ci doit être appréhendée comme une technologie qui vise à nous déposséder des compétences essentielles qui font notre humanité : expertiser le réel, énoncer la vérité, dicter les conduites humaines. Elle prend alors la forme d’un « techne logos, une entité artéfactuelle, douée du pouvoir de dire, toujours plus précisément et sans délai, l’état supposé exact des choses. » (p.13). L’auteur montre que cette logique d’énonciation de la vérité par la technique s’applique à toutes les sphères de la vie et impose ses lois aux affaires humaines de manières croissantes.

L’intelligence artificielle est ainsi parée d’un « pouvoir injonctif », dépossédant l’humanité de « sa faculté de jugement et d’action » et les sociétés humaines des principes politiques et juridiques qui les fondent. L’humanité se doterait ainsi, sans même s’en rendre compte, « d’un organe de dessaisissement d’elle-même, de son droit de décider, en conscience et en responsabilité, des choix qui la regarde » (p. 16).

Pour l’auteur, l’alliance entre la technique et l’économique organise alors la fin du politique, la fin de la capacité de l’homme à réfléchir sur lui-même, en mettant en œuvre « une gouvernance automatisée, dynamique, et sans faille humaine ».

Dans un même temps, les cadences sans fin de succession des innovations technologiques empêchent toute réflexion politique et technique sur ces évolutions, elles « annihilent le temps humain de la compréhension et de la réflexion ».

S’opposer à cette « offensive anti-humaniste » apparaît alors pour Eric Sadin comme un « enjeu politique majeur » qui doit permettre « de faire valoir, contre une rationalité normative promettant la perfection supposée en toute chose, des formes de rationalités fondées sur la pluralité des êtres et l’incertitude inhérente à la vie ».

Le tournant injonctif de la technique

Pour Eric Sadin, les développements de l’Intelligence Artificielle et les discours qui l’accompagnent annoncent un changement de statut de la technique : celle-ci n’a plus pour fonction principale de nous assister dans nos tâches physiques et cognitives, nous la parons d’une nouvelle fonction : énoncer la vérité et nous dire comment agir, nous proposer « une gestion sans défaut de la quasi-totalité des secteurs de la société ».

Ainsi, la charge du numérique ne consiste plus uniquement à stocker, indexer, manipuler de l’information, mais à « divulguer, de façon automatisée, la teneur de situation de tous ordres » : me donner le meilleur itinéraire lors de déplacements, le correcteur automatique sur un téléphone ou encore le référencement des sites internet, donnant un classement des “meilleurs” résultats selon une recherche. Grâce au confort et à la fluidité des dispositifs, l’appareil s’impose à nous de manière à orienter nos prises de décisions.

“Dorénavant, une technologie revêt un “pouvoir injonctif”, le libre exercice de notre faculté de jugement et d’action se trouve substitué par des protocoles destinés à infléchir chacun de nos actes ou chaque impulsion du réel en vue de leur insuffler, presque de leur “souffler”, la bonne trajectoire à suivre.” (p16).

La multiplication des outils de recueil de données, sur nos applications, à notre domicile, via l’internet et les algorithmes « intelligents » qui traitent ces données, ont alors pour objectifs de nous donner leur vision du réel, rationnellement analysée, et de nous inciter à agir à partir de cet état des lieux.

Le machine-learning ou la technique qui s’autonomise

Sadin évoque le concept de “machine learning”, cela correspond au fait que la machine a la capacité de se perfectionner elle-même, grâce à des algorithmes. Cette dernière serait alors apte à assimiler de nouveaux éléments et d’enrichir sa capacité d’expertise, et ainsi s’autonomiser. L’Intelligence Artificielle peut désormais, pour l’auteur, progresser indépendamment de l’humain et se distinguer insensiblement de son apprentissage. Cette dernière devient progressivement une entité étrangère à l’humanité.

Le pouvoir d'énoncer la vérité

Aujourd’hui l’Intelligence Artificielle est en mesure de prendre des décisions autrefois confiées à l’Homme. L’IA n’est pas une assistante de l’humain, elle dicte à l’homme sa vérité et donc la marche à suivre. On lui donne ainsi la capacité d’énoncer des vérités, « sa » vision de la réalité.

La vérité ou l'aletheia algorithmique

Un régime de post-vérité s’est instauré à partir des années 2010 avec l’avènement des fake news, d’images et d’écrits déformant la réalité, de l’habitude de chacun à commenter les sujets d’actualité.

Cette énonciation de la vérité par l’IA se rapporte à l'alètheia algorithmique développée par Sadin. Rappelons ici, que l’alètheia signifie la vérité. L’alètheia algorithmique est donc la vérité énoncée par l’IA à l’homme. Cette vérité est normative, c’est à dire qu’elle n’est pas dictée par une subjectivité propre à l’Homme, mais par des algorithmes, des règles techniques prédéfinies. C’est le danger que dénonce Sadin.

Son pouvoir de révélation promet d’exercer son emprise dans les moindres détails de notre existence comme nul autre ne l’avait fait jusque-là.

Le pouvoir d’énoncer la vérité est omniprésent

Éric Sadin décline plusieurs exemples afin d’illustrer le fait que cette alètheia se retrouve dans toutes les sphères de la société.

On retrouve cités notamment la justice, la médecine ou encore l’armée. L’Intelligence Artificielle assiste aujourd’hui la justice dans sa prise de décision. Cette dernière est robotisée, apportant une baisse des coûts et une meilleure efficacité pour une justice aujourd’hui débordée par les affaires. Sadin critique la normativité induite par les algorithmes dans le monde de la justice, il y a une remise en cause du pouvoir décisionnel de l’humain au profit de la normativité des systèmes à définir la vérité. Par exemple, aux USA, des juges utilisent des protocoles destinés à estimer les risques de récidive d’un accusé. De plus, sur plusieurs continents sont déjà testés des logiciels conçus pour suppléer, voir remplacer les juges dans les affaires dites ordinaires. Ces dispositifs sont présentés comme une aide pour l’Homme, mais l’IA impose ses décisions et sa vérité algorithmique, pour toujours plus d’efficacité.

Pour l’auteur ce n’est pas l’actuel dispositif qui inquiète mais bien les possibilités d’évolution de ce dernier.

Il reprend cet argumentaire pour l’armée. La nouvelle génération de drones est un parfait exemple de la robotisation de l’armée. Leur capacité de vol et de vision leur permet de détecter les cibles par interception des signaux émis par les téléphones portables et par les systèmes de reconnaissance de formes et visages. Ces machines deviennent alors autonomes dans la prise de décisions par ces nouvelles capacités qui leur sont conférées. Les drones sont télécommandés à distance par des pilotes d’un nouveau genre, qui en fonction des informations rapportées par la machine sur place, doivent décider en quelques secondes d'éventuelles frappes.

Par ces différents exemples, il ne s’agit pas de connaître les critères ou les biais du fonctionnement de l’IA qui a désormais pris le contrôle par ses aptitudes la rendant plus efficace que l’Homme.

Le véritable combat à mener est de faire barrage à des mécanismes qui imposent un ordre unilatéral et infondé des choses, c’est à dire sans subjectivité et dénué de toute humanité. Sadin ne critique pas la vérité algorithmique aujourd’hui imposée par l’IA mais il rend responsable l’Homme de l’avoir laissée prendre le dessus.

La main invisible automatisée

Pour l’auteur, l’Intelligence Artificielle est indissociable du système libéral. Toute analyse, toute vérité énoncée, débouchant sur une action, généralement marchande. Ainsi un miroir connecté collectera des données sur votre visage et votre corps pour vous proposer des produits ou des services adéquats.

Se développe alors ce que Sadin appelle la « main invisible automatisée », l’Homme devenant une marionnette dont tous les faits et gestes sont guidées par l’IA

L’auteur reprend la métaphore du golem (créature de pierre contrôlé par une force invisible). Si à l’origine c’est bien nos innovations technologiques qui apparaissaient comme des golems créés par l’homme, aujourd’hui avec l’IA, c’est l’humain qui devient le golem : « parce qu’il est soumis à une puissance qui, depuis son savoir toujours plus omniscient, nous enjoint les actions à entreprendre » (p.88).

Le nouveau règne du comparatif

Pour l’auteur, un des symboles forts de cette omniprésence du système techno-libéral est le nouveau règne du comparatif. Ce dernier vise à tout soumettre à un examen afin d’avoir toujours l’option la plus avantageuse.

L’auteur dénonce la violence symbolique qui se cache derrière ces pratiques comparatives favorisées par l’IA : « le comparatif engage l’estime de soi et la dignité humaine et pourtant nous nous sentons obligés de tout comparer » : « dorénavant nous éprouvons le sentiment de notre utilité au moment où nous sommes choisis après avoir été comparés, et nous sentons vivre qu’au moment où nous même comparons avant de choisir » (p.164)

Une économie libérale automatisée

L’Intelligence Artificielle a alors amené une société de contrat, de concurrence, libérale et automatisée.

Aujourd’hui, tout bien ou service peut faire partie du monde automatisé (amené par l’IA), et se trouve alors mis en concurrence avec tous les autres. Son stade ultime est représenté par le bitcoin, une monnaie en code numérique qui peut transiter entre chacun sans dépendre de banque centrale, une économie horizontale (soit une économie qui s’étend sans dépendre d’un leadership, sans gouvernance supérieure, telle que peut l’être une banque centrale de nos jours). Pour Éric Sadin, le monde immatériel du bitcoin illustre parfaitement l’emprise de l’IA sur notre société, « nous entrons dans l’ère du comparatif et de la mise en relation intégrale au sein de laquelle tout ne cesse de s’ajuster et de se synchroniser indépendamment d’une instance central » (p.175).

La fin du politique

Cette main invisible automatisée, pour l’auteur, concourt à « organiser la fin du politique, entendu comme l’expression de la volonté générale d’arrêter des décisions, dans la contradiction et la délibération, en vue de répondre au mieux à l’intérêt commun ».

C’est alors que le politique n’a plus d’utilité « ou si, seulement celle, provisoire, de soutenir le mouvement » (p.175). A l’image de la smart city, la société évoluera de façon autorégulée par une Intelligence Artificielle. Les nations seront des « nations start-up », une société qui se trouverait continuellement apte à répondre aux circonstances.

L’alliance de la technique et de l’économie va, pour Éric Sadin, mener vers une société innovante basée en réalité sur un contrôle des populations par l’IA.

Le paradis artificiel

Le paradis artificiel, pour Sadin, est une fabrication qui amène la société à accepter une innovation. Cela est souvent présenté comme une avancée sociale, technologique ou politique qui se transforme finalement en renforçant le contrôle de l’IA sur l’Homme.

Le paradis artificiel selon Sadin correspond à “[un] projet [qui] prévoit d’unifier le plus grand volume d’informations possible d’ici à 2020 au sein d’une base de données centralisée devant se rapporter à terme à l’ensemble de la population et à tous les secteurs de la société dans l’objectif d’instaurer une “culture d’honnêteté et d’intégrité”. (p192). Au sein de ce paradis artificiel, la société tend à devenir une contrôlocratie. Selon lui, la surveillance (permise par l’IA) permet non seulement de collecter des informations de manière abusive mais surtout d’influencer les comportements.

Le crédit social en Chine comme exemple d’une vie de contrôle présentée comme le paradis

Sadin illustre ce procédé par différents exemples, le premier est un système qui s’appelle le « crédit social » mis en place en Chine. Il dote chaque citoyen « d’un volume initial de mille points appelé à évoluer négativement ou positivement au fur et à mesure de leurs agissements. » (p.190-191). Par exemple, un retard de paiement ou une incivilité dans un lieu public peut entraîner une perte de crédit, qui devra être récupéré dans un acte volontaire comme donner son sang. Un bon crédit social à des avantages pour l’accès aux soins mais un mauvais crédit peut entraîner certaines impossibilités comme prendre l’avion.

Pour l’auteur, s’opère alors avec les paradis artificiels, une modification du réel, les individus ont une perception différente de ce qui les entourent. Cette perception des personnes sous forme de score représente des “filtres” qui, placé entre eux et leur environnement, augmentent l’isolement et l’individualisme. Les individus sont concentrés à regarder le solde de chacun et à se noter entre eux plutôt qu'à développer du lien social et à réellement interagir. Ainsi, toutes aspirations divergentes sont rendues illusoires et insensées pour créer un paradis contrôlé.

La conquête du comportement par l’IA sous la forme d’une réponse aux désirs des Hommes

Sadin aborde ensuite l’exemple du “pouvoir kairos”, c’est un nouveau type de pouvoir procédant de « l’omniscience et de l’omniprésence ». L’émergence de ce pouvoir est dû à la nouvelle conquête de notre temps : la conquête du comportement.

Kairos veut dire l’occasion, le pouvoir kairos est donc l’anticipation du besoin. L’art du kairos est la capacité à répondre aux besoins des Hommes. Dans une société idéale promue par l’IA et ses innovations, l’industrie du numérique promet de prévoir les besoins de chacun avant même que cela ne traverse nos esprits. Des plateformes voient le jour, elles permettent de mettre en relation l’annonceur avec un client (exemple de Amazon, du Marketplace de Facebook). Ainsi, l’offre répond à toutes les circonstances et s’adapte, à peine la demande émise elle propose une multitude de choix classée par pertinence selon des critères échappant à l’utilisateur. Ainsi, le consommateur devient dépendant à cette satisfaction (permise par l’IA) d’avoir toujours une réponse à ses besoins.

Manifeste pour l’action

Parallèlement à ces constats implacables sur les méfaits du développement de l’IA sur nos sociétés et plus largement sur le développement anthropologique de l’homme, propose des moyens d’agir pour refuser l’omniprésence de l’IA dans toutes les sphères de la société. Son idée est claire :

« C’est en nous décidant d’être actif tout au long de nos expériences vécues que peut se manifester le souffle premier d’une auto-institution de la société […] qui engage chacun d’entre nous à peser autant qu’il le peut sur les règles qui président à notre vie quotidienne » (p.253).

Pour l’auteur, une prise de conscience est nécessaire pour que l’Homme comprenne le conflit de rationalité qui s’instaure.

L’auteur présente les valeurs qu’il faut combattre et celles qui faut garder. En s’opposant à toutes les valeurs que l’on peut rattacher aux machines qui tendent à une productivité maximale. Elles n’ont pour temporalité que l’action alors que l’auteur voudrait que l’on revienne à des choses plus simples, plus proche de la nature. Contre la vérité il prône la « paresia », le fait d’avoir cette liberté de s’exprimer et de témoigner. Sadin n'accable pas l’IA, les dangers du numérique aujourd’hui sont en grande partie dû au laisser faire des hommes. C’est pour cela qu’en résumé, sa solution est que ce dernier reprenne en main toutes ses facultés et sa liberté.

L’auteur explique qu’avec l’IA nous avons laissé de côté la volonté d’être auteur de nos actes, et donc, le seul moyen de ne pas se laisser gouverner par cette dernière est de reprendre l’entier contrôle de nous-même et de nos actions. Il propose alors ses solutions : « assurer collectivement la défense de notre vie et de notre travail […] il serait temps que les syndicats ne se préoccupe plus seulement des salaires, mais des dispositifs qui bafouent la dignité humaine », « offrir les moyens de se construire en tant qu’être autonome » (p.257).

En résumé, c’est à chaque citoyen, peu importe la sphère de la société ou le milieu dans lequel il se trouve, de s'opposer à l’IA, d’être autonome, averti et créatif.

« Cultiver nos capacités, seules à même de nous rendre pleinement maîtres de nos destins, de favoriser l’éclosion d’une infinité de possibles, n’empiétant sur les droits de personne et donnant voix au chant polymorphique et ininterrompu des divergences » (p.272).

Conclusion

L’auteur renouvelle ici le discours critique autour des technologies numériques en général et de l’intelligence artificielle en particulier. Il propose de remettre en cause le pouvoir de la technique bien au-delà des problématiques liées à la protection des données personnelles ou à la défense de la vie privée. Pour lui « ces postures se restreignent au seul souci de préserver l’intérêt particulier » et occultent d’autres enjeux décisifs : l’orientation des vies individuelles et collectives par des systèmes techniques toujours plus performants et automatisés.

La lecture de ce livre nous a beaucoup intéressé et nous a amené à nous questionner concernant certains sujets tels que la justice, l’éducation, la santé et l’impact de l’IA aujourd’hui sur l’Homme… Les propos alarmistes de l’auteur ont donné une nouvelle perspective à notre vision de la société actuelle et de l’intelligence artificielle dans sa globalité.

Dans l’épilogue de son livre, nous n’avons pas clairement identifié ce que voulait dire l’auteur mais nous avons une hypothèse. Ce dernier est un peu déroutant, car Eric Sadin se met dans le peau d’un poulpe, libre et usant de tous ses sens au quotidien. L’auteur met en opposition l’intelligence artificielle avec le sensoriel du poulpe. Selon lui, l’Homme devrait garder son adaptabilité, être protéiforme plutôt que de tendre vers une « rationalité calculante ».

Thibaut Arassus, Marie Chappaz, Sarah Chauffrais, Hicham Karzazi

Journées coordonnées par Aurélie Laborde, maître de conférences, ISIC – Université Bordeaux Montaigne ; Delphine Dupré, ATER ISIC et doctorante au MICA, et Laurent-Pierre Gilliard, UNITEC Bordeaux.