La publication vise à influencer la conversation sur l’IA pour que celle-ci porte moins sur ce que nous savons déjà que sur ce qui échappe à notre regard : les angles morts de l’IA. Les articles présentés traversent les frontières disciplinaires et géographiques en plus d’inclure différentes perspectives, incluant celles d’universitaires, de membres de la société civile et d’innovateurs et innovatrices…. Les sujets abordés sont donc variés et incluent notamment la perspective du droit international et des droits des peuples autochtones, les audits des systèmes d’IA, l’alignement de ces technologies avec les objectifs de développement durable des Nations Unies et la centralisation du pouvoir décisionnel que permet cette technologie de rupture. Unesco

Angles morts de la gouvernance de l’IA est disponible en ligne. En voici les chapitres et quelques mots au sujet de chacun d’entre-eux pour orienter votre lecture, suivi d’un court compte-rendu de la conversation entre Yoshua Bengio, directeur scientifique du Mila, et la chercheuse principale de Microsoft Research, Kate Crawford [ii] deux des plus grands leaders mondiaux en IA qui ont discuté de la question : à quel point est-il urgent pour la société civile internationale de se doter d’outils de gouvernance adaptés à l’IA ?

Les chapitres de l’ouvrage

Changement de l'extérieur : vers des audits de tierce partie fiables en matière d'IA, page 5

Lorsque des systèmes d’intelligence artificielle (IA) causent des préjudices, il est important d’établir les parties prenantes en cause et de les tenir responsables. Les audits en matière d’IA sont un mécanisme de responsabilisation …

Le secteur de l'IA du point de vue de l'éthique, page 31

Dans cet article, nous tentons de faire la lumière sur la manière dont le secteur traite l’éthique en IA, soulignant les failles qui ont permis l’émergence d’iniquités et explorant des voies possibles pour l’avenir… Puisque les modèles d’IA jouent un rôle de plus en plus important dans nos vies, changer la façon dont ils fonctionnent deviendra de plus en plus difficile…

L’attention partiale dans le developpement de l'IA : Menaces et mesures correctives, page 57

Une majorité de chercheurs, de chercheuses, d’ingénieurs et d’ingénieures, soutenus par les médias et les sources de financement, investissent toutes leurs énergies et leur attention sur la poursuite de l’intelligence artificielle générale (IAG) et l’étude des préjudices qui découlent des avancées faites dans cette poursuite. Cette « attention partiale » dans le domaine de l’IA entraîne de réelles menaces sociétales et socio-économiques et nous empêche de tirer parti de l’IA pour résoudre plusieurs problèmes pressants auxquels fait face l’humanité, …

L’IA tend à centraliser la prise de décisions et le pouvoir, et c'est un problème, page 71

…les systèmes d’intelligence artificielle (IA)  ont considérablement gagné en ampleur et en puissance. Ils ont maintenant le potentiel de centraliser la prise de décisions de manière substantielle. Centraliser la prise de décisions peut certes s’avérer efficace, mais peut également mener à une concentration de la richesse et du pouvoir…

Les dilemmes dans l'angle mort du développement responsable de l'intelligence artificielle en temps de pandémie, page 95

 … Guidées par les dix principes éthiques de la Déclaration de Montréal pour un développement responsable de l’IA, nous présentons dans ce texte deux exemples de dilemmes clés qui émergent de l’usage de l’IA pour contrer la COVID-19 soit …

 Données, page 117

Ce chapitre explore la manière dont les données constituent le fondement essentiel des systèmes d’IA. Il expose les politiques sous-jacentes, les questions éthiques, les limites épistémologiques et l’éventail des préjudices qui découlent des logiques d’extraction et d’accumulation des données dans l’industrie de l’IA…

Écostèmes d'innovation pour une IA bénéfique sur le plan social, page 141

Le potentiel perturbateur que confère la technologie de l’intelligence artificielle (IA) préoccupe les gouvernements, ces derniers souhaitant maximiser la création de croissance économique ou minimiser le risque de violations des droits… ces approches ne permettent pas d’accorder suffisamment d’attention à la manière dont l’IA peut contribuer à des découvertes bénéfiques sur le plan social dans des domaines aussi cruciaux que la découverte de médicaments, la lutte aux changements climatiques et l’éducation…

Un manifeste en faveur de l'intelligence artificielle pour le suivi du développement durable : l'angle mort entre les ODD, les investissements et la confiance, page 157

L’atteinte des objectifs de développement durable (ODD) des Nations Unies suscite un très grand intérêt…  sans moyens fiables et objectifs pour évaluer les progrès, cet élan pourrait bien s’essouffler…Nous pouvons déjà nous appuyer sur des exemples montrant la façon dont des résultats clairement définis et mesurables peuvent débloquer des investissements pour réaliser les ODD … 

L'IA au service des ODD - Et après ? Vers une culture humaine de l'IA pour le développement et la démocratie, page 169

L’intelligence artificielle (IA) peut contribuer aux objectifs de développement durable (ODD) et au Programme de développement durable à horizon 2030  … l’utilisation de l’IA au service du progrès humain et des ODD exige des changements … Les principaux écueils et le potentiel de l’IA ne sont pas technologiques, mais bien politiques et culturels… Notre chapitre évalue de manière critique les principes et les lacunes clés du narratif et des initiatives « d’IA au service des ODD » …

L’influence du parlement de westminster sur la stratégie du Royaume-Uni en matière d'IA, page 203

Au Royaume-Uni (R.-U.), les assises appropriées sont en place pour accueillir une stratégie et un cadre de gouvernance en matière d’intelligence artificielle (IA)… une série d’initiatives stratégiques réunissant un certain nombre d’organisations clés, notamment l’Office for AI, le Centre for Data Ethics and Innovation, l’AI Council et l’Alan Turing Institute. La tâche consiste maintenant à coordonner les efforts des nombreuses parties prenantes …afin de convenir d’une approche fondée sur le risque quant à la gouvernance de l’IA…

Intelligence artificielle et droits des peuples autochtones, page 223

Considérant que l’IA sera de plus en plus utilisée dans tous les secteurs et deviendra omniprésente dans la société, il est urgent de discuter de la manière dont elle peut être exploitée au profit de différents groupes sociaux… Ce chapitre part de la prémisse que les technologies sont loin d’être neutres et continuent de comporter des risques et des bénéfices pour les communautés. Le but poursuivi c’est de mettre en lumière certains de ces enjeux, et d’encourager la poursuite des discussions et la recherche en la matière…

Nouvel éclairage plutôt que rétrospective : voir, reconnaitre, prendre en considération et inscrire les peronnes LGBTI dans le cycle de vie de l'intelligence artificielle, page 243

Le potentiel qu’a l’intelligence artificielle (IA) de perpétuer des préjugés et d’exacerber la discrimination est au premier plan des discussions mondiales sur les politiques grâce à l’intérêt renouvelé que suscite actuellement l’IA… Pour les groupes de population historiquement marginalisés, comme les personnes lesbiennes, gaies, bisexuelles, transgenres, intersexes, queers ou non binaires (LGBTI), ces préoccupations sont importantes … notre réponse à ces préoccupations devrait être de créer une IA responsable d’une manière qui est pratique, multidimensionnelle et à l’écoute des besoins des personnes LGBTI et autres…  

Innovation inclusive en matière d'intelligence artificielle : de la fragmentation à l'unité, page 263

L’intelligence artificielle (IA) façonne l’avenir de l’humanité. Mais qu’arrive-t-il quand seulement une partie de la société est présente à la table autour de laquelle cet avenir se définit ? … Dans ce chapitre, nous examinons le rôle que jouent, au moment de définir des politiques en matière d’IA et de susciter la mobilisation de parties prenantes, le fossé numérique, le manque de diversité et de représentation dans le domaine de l’IA …Nous envisageons les conséquences qu’il y a à travailler en vase clos …Nous soutenons qu’il faut changer notre conception de l’innovation …

Paradoxes de la participation dans la gouvernance inclusive de l'IA : quatre approches clés quant au discours du sud et de la société civile, page 289

Ce chapitre présente une approche méthodique en vue d’aborder ces enjeux  fondamentaux ( enjeux d’une importance particulière pour les pays du Sud), approche que peuvent adopter ceux et celles qui s’emploient à rendre réellement inclusive la gouvernance de l’IA ainsi que des domaines connexes tels que la législation du commerce mondial, la propriété intellectuelle, les normes techniques et la certification, et les droits humains. Il contient  quatre recommandations pour parvenir à une gouvernance mondiale de l’IA qui soit inclusive et efficace …

Démocratiser l'élaboration de politiques en matière d'IA, page 317

La mise en œuvre et la croissance des systèmes d’IA s’accompagnent de menaces aux droits humains, et soulèvent des questions et des dilemmes fondés sur des valeurs…  Dans l’élaboration de politiques en matière d’IA, il importe d’adopter une approche multipartite participative faisant intervenir un large éventail de parties prenantes telles que des responsables des politiques, des figures de la société civile, des citoyens et citoyennes, des universitaires, ainsi que la communauté technique et le secteur privé…

Propriété et gestion de l'information sur le comportement d'apprentissage en IAED, page 339

L’intelligence artificielle en éducation (IAED) concerne les outils, les techniques et les méthodologies fondés sur l’intelligence artificielle (IA) que nous utilisons pour automatiser des processus que doivent mener des ordinateurs dans un environnement d’apprentissage amélioré par la technologie. Les « données sur les apprenants et apprenantes » sont devenues une commodité indispensable dans le développement de systèmes d’IAED… Ce chapitre présente des informations sur la manière dont le développement des systèmes IAED dépend des données, explique pourquoi les données sur l’éducation devraient être considérées comme un  patrimoine commun de l’humanité et propose la nécessité et la structure d’un commun pour gérer ce patrimoine … 

Armes autonomes et hypertrucages : les risques de l'actuelle militarisation de l'IA et l'urgent besoin de réglementation, page 365

Les dangers réels associés à la militarisation de telles technologies restent malgré tout exclus des discussions qui se tiennent à un niveau national et international relativement aux usages éthiques et responsables de l’IA. Quand le sujet est abordé dans des forums sur le contrôle des armes et le désarmement, certaines parties prenantes semblent plus intéressées à acquérir de telles armes qu’à encadrer ou bannir leur usage… Un nombre croissant de chercheurs et chercheuses, d’analystes stratégiques et de membres de la société civile sont soucieux d’élaborer et de promouvoir des mesures qui mèneront à une réglementation efficace,… Quelles sont les priorités ? ….

Éthique du care et intelligence artificielle : la necessité d'intégrer une approche normative féministe, page 377

Il s’agira donc dans cet article de bouleverser ce que nous appelons « la saturation éthique de l’IA » en faisant appel à une théorie réellement alternative à savoir l’éthique du care  en tant qu’elle nous invite à changer de regard et à adopter de nouvelles perspectives critiques sur l’IA. Les éthiques du care marquent une rupture nette en posant comme critère de moralité de l’action le soin apporté à autrui, la considération de l’interdépendance du vivant et la prise en charge de la vulnérabilité comme caractère inhérent à l’espèce humaine (Brugère, 2011)… Nous nous poserons les questions suivantes : comment expliquer, …  que les éthiques du care constituent un véritable angle mort des réflexions en éthique de l’IA ? …

Une conversation

Pour souligner cet évènement, Mila a invité Yoshua Bengio, directeur scientifique du Mila, et la chercheuse principale de Microsoft Research, Kate Crawford  à discuter de la question : à quel point est-il urgent pour la société civile internationale de se doter d’outils de gouvernance adaptés à l’IA ? Valérie Pisano, Présidente et Chef de la direction de Mila s’est entretenu avec eux.

Voici quelques uns de leurs propos que j’ai adapté en français.

• Lorsqu’on s’intéresse à l’intelligence artificielle on pense habituellement aux algorithmes et aux données.  On oublie l’impact de la matérialité de l’intelligence artificielle tant sur certains groupes humains que sur l’environnement en général. [iii] Chaque interaction avec une intelligence artificielle nécessite un vaste réseau planétaire, alimenté par l'extraction de matériaux, de main-d'œuvre et de données non renouvelables.

• Dans nos relations avec l’intelligence artificielle nous sommes un consommateur, une ressource, un travailleur et un produit. L’appareil acheté fait de nous un consommateur.  Mais nous sommes aussi une ressource, car les données produites par nos usages de l’appareil sont collectées, analysées et conservées dans le but de constituer un corpus toujours plus large de données utilisables pour une plus grande efficacité de l’intelligence artificielle. Nous fournissons du travail, car nous contribuons aux mécanismes de rétroaction concernant l'exactitude, l'utilité et la qualité globale des systèmes.  Nous aidons essentiellement à former les réseaux neuronaux, gratuitement.  Et c’est nous qui payons l’appareil et notre fournisseur internet pour ce service que nous offrons.

• Qu’en est-il des créations protégées par les droits d’auteurs utilisées pour les productions d’art et de textes génératifs par l’intelligence artificielle dont ChatGPT est un exemple.  Comme ces produits utilisent des œuvres protégées par les droits d’auteurs, une partie des revenus générés devraient être redistribués sous forme de fond commun au bénéfice de tous les créateurs dont les oeuvres ont été utilisées.

• Le modèle de l’Agence internationale de l’énergie atomique - AIEA [iv] la principale instance intergouvernementale au monde pour la coopération scientifique et technique dans le domaine nucléaire qui s’emploie à promouvoir les utilisations sûres, sécurisées et pacifiques de la science et de la technologie nucléaires a été considéré.  Les systèmes d’intelligence artificielle sont de plus en plus puissants, mais toutefois ce sont des systèmes opaques.  C’est un défi scientifique de réguler ce qu’on ne voit pas.  Les inspections et régulations seraient alors à la charge des entreprises propriétaires. Ne devraient-elles pas être plutôt sous la responsabilité d’un tiers parti indépendant ?  Cette considération mène au point suivant ….

• Les recherches qui ont mené à la création des technologies numériques et en particulier de l’intelligence artificielle ont été subventionnées par les états, c’est-à-dire les citoyens, de diverses façons : bourses d’études, de recherches aux étudiants et aux universités, déductions d’impôts aux entreprises et à leurs investisseurs.  Ces technologies ne devraient-elles pas être la propriété de la société ?

• Le numérique et l’intelligence artificielle provoquent dans nos sociétés l’apparition d’un nouvel ordre mondial. L’intelligence artificielle par son omniprésence est une richesse, une question, un problème collectifs. Les états nations sont-ils encore adaptés, représentatifs de ce monde nouveau, l’ère non plus du numérique mais maintenant l’ère de l’intelligence artificielle ? Existe-t-il d’autres modèles économiques/politiques pour remplacer le modèle actuel?  Il importe d’investir dans les recherches sur d’autres options sociales où sociologues, philosophes et humanistes repensent nos modèles sociaux.  Telles sont les questions auxquelles le fulgurant développement de ces outils de plus en plus puissants nous imposent de répondre rapidement mais avec sagesse et intelligence.

• La Proposition de règlement de la Commission européenne dite « Al act », d’avril 2021 et le Projet de Loi C-27, Loi sur l'intelligence artificielle et les données (LIAD) du Canada sont présentement les plus avancés. La vitesse de développement des technologies, de l’intelligence artificielle dépasse cependant de beaucoup la lenteur nécessaire à la création de normes juridiques.  Ces dernières ont trop de retard sur les capacités des systèmes qu’ils cherchent à réguler.   Il faut savoir créer une réglementation adaptative, mais surtout une réglementation dotée d'un pouvoir coercitif suffisant pour faire respecter les règles et les sanctions en cas de non-conformité.

Michel Bonsaint, le représentant du gouvernement du Québec au sein de la Délégation permanente du Canada auprès de l’UNESCO et Taoufik Jelassi, sous-directeur général pour la communication et l'information de l’Unesco ont offert leurs félicitations et remerciements aux auteurs et éditeurs du livre Angles morts de la gouvernance de l’IA. Madame Carole Jabet, directrice scientifique au Fonds de recherche du Québec en santé (FRQ-S) a rappelé les importants débats éthiques soulevés par Dolly, brebis célèbre pour être le premier mammifère cloné de l’histoire et plus récemment la technologie, l'éditeur de gènes CRISPR. Les avancées scientifiques exigent des sociétés de mettre en place des règles et le cas de l’IA n’y échappe pas.  

 Ninon Louise LePage 

Mila https://mila.quebec/

[i] Kate Crawford https://en.wikipedia.org/wiki/Kate_Crawford
https://www.katecrawford.net/
https://www.microsoft.com/en-us/research/people/kate/

[ii] Kate Crawford and Vladan Joler, “Anatomy of an AI System: The Amazon Echo As An Anatomical Map of Human Labor, Data and Planetary Resources,” AI Now Institute and Share Lab, (September 7, 2018) https://anatomyof.ai

[iii] L’Agence internationale de l’énergie atomique, AIEA -   https://www.iaea.org/fr/laiea/apercu-general