Le Canada et la France souhaitent faire la promotion d’une vision de l’Intelligence artificielle axée sur le respect de la personne, l’inclusion, la diversité, l’innovation et la croissance économique.  Sérieux défi!

La Déclaration de Montréal https://www.declarationmontreal-iaresponsable.com vise à assurer que le développement de l’IA se fera au service du bien-être collectif et individuel.  La déclaration préliminaire s’appuie sur des principes éthiques qui s’articulent autour des valeurs fondamentales suivantes : l’autonomie, la justice, le bien-être, la vie privée, la démocratie, la connaissance et la responsabilité.

Les activités de co-construction poursuivent deux objectifs principaux :

affiner les principes proposés lors de la déclaration préliminaire, mais surtout élaborer des balises pour encadrer la recherche en IA et son développement technologique et industriel.

Au Québec, des dizaines d’évènements furent organisés afin d’engager la participation citoyenne autour des enjeux sociaux de l’IA. Plus de 500 citoyens de tout horizon ont participé à ces délibérations.

Lors de cette première étape, les discussions ont été concentrées sur cinq secteurs : éducation, santé, travail, ville intelligente, police prédictive.

Lors de l’exercice de co-constructiion à Paris se sont ajoutés de nouveaux thèmes jugés essentiels à la réflexion sur le développement de l’IA et les impacts sociaux de ces avancées technologiques : Environnement, Démocratie et propagande des médias, Sécurité et intégrité des systèmes.

Vous pouvez lire ici la version préliminaire de la Déclaration https://www.declarationmontreal-iaresponsable.com

Pourquoi croit-on essentiel d’encadrer le développement de l’Intelligence artificielle. Où en sommes-nous?  Il y a-t-il péril en la demeure ?

Parfois la vie nous offre de beaux cadeaux et j’ai eu la grande chance d’assister à la conférence de pointe de Yoshua Bengio, Le visage de la médecine à l’ère de l’intelligence artificielle (IA), Intelligence artificielle et apprentissage profond dans le cadre du 90ème Congrès de médecine de Médecins francophones du Canada, http://www.medecinsfrancophones.ca/association/en-bref/notre-action.fr.html une association datant de 1902 dont l’action porte sur de nombreux secteurs, dont la formation continue de ses membres.

Yoshua Bengio

Yoshua Bengio est l’informaticien le plus cité au monde. Ce chercheur canadien est professeur au Département d'informatique et de recherche opérationnelle de l'Université de Montréal. Il est le fondateur et directeur de l'Institut des algorithmes d'apprentissage de Montréal (MILA) et titulaire de deux chaires de recherche dont la Chaire de recherche du Canada en algorithmes d'apprentissage statistique de l'Université de Montréal dont il est le directeur depuis 2005. Il est directeur scientifique de l’Institut de valorisation des données (IVADO),  nous dit Wiképédia à son sujet.

Et lui, que dit-il au sujet le l’IA dont il est indéniablement une sommité.

C’est avec beaucoup de calme que cet homme tout simple a présenté à l’audience suspendue à ses lèvres ce qu’est l’IA ainsi que des exemples des principaux changements prévisibles dans l’exercice de la profession médicale suite aux avancées technologiques en IA. 

L’intelligence artificielle

Il définit l’intelligence humaine comme la capacité à comprendre et à prendre de bonnes décisions. Le cerveau humain est la plus belle machine à apprendre au monde. 

L’intelligence artificielle se développe en partie par imitation du fonctionnement de l’intelligence humaine, les réseaux de neurones par exemple. Cependant ce n’est pas en imitant le cerveau humain que se développe l’intelligence artificielle.  Il faut comprendre les principes par lesquels le cerveau apprend. Le travail de Yoshua Bengio consiste à chercher à comprendre les principes mathématiques sous-jacents à l’intelligence, que ce soit la nôtre, celle des animaux ou celle qu’il construit, c’est-à-dire l’intelligence artificielle.

Il présente l’analogie avec l’Avion III que Clément Ader a conçu entre 1891 et 1897. Il s’agit d’un mono-plane reproduisant des ailes de chauve-souris géante. Cet appareil est considéré comme «le premier aérodyne motorisé plus lourd que l'air a se soulever d'un terrain plat par la seule puissance de son moteur»  selon l’Histoire de l’aviation.  Par contre, le véritable précurseur de l’aéronautique est George Cayley qui a compris que le poids et la trainée sont les deux forces qu’il faut vaincre et qu’il est inutile de tenter de reproduire le vol des oiseaux.  Il a établi les bases de l’aviation.  

Il en est de même pour l’IA.  Nous sommes encore loin de comprendre les principes de l’intelligence.  Cependant les progrès sont très rapides.  Les recherches sont poursuivies grâce au financement gouvernemental de la recherche exploratoire.

Au début des recherches, les chercheurs tentaient de transmettre directement nos connaissances à l’ordinateur : règles, faits et procédures. Ces premières recherches se sont soldées par des échecs.  Beaucoup de nos connaissances sont intuitives, incommunicables.  C’est alors que l’apprentissage automatique est apparu comme la solution.

L’apprentissage profond qui résulte de recherches sur les réseaux de neurones, inspirés du cerveau,  a toutefois mené à d’importantes percées en IA, des avancées majeures dans la capacité de l’ordinateur à percevoir, planifier, utiliser et comprendre le langage, raisonner, etc,

L’apprentissage automatique requiert d’immenses quantités de données qui sont à la fois représentatives et indiqueront à l’ordinateur les bonnes réponses.  Le problème de l’apprentissage automatique complexe est que nous ne pouvons pas identifier et comprendre les facteurs qui ont mené l’ordinateur à la solution qu’il propose. 

Un médecin, préfère-t-il un diagnostique précis qui sauvera la vie du patient même si nous sommes incapables d’expliquer ou comprendre la solution proposée par l’ordinateur?

Prévisions d’usage dans le domaine de la médecine

Gérer l’historique médical du patient et gérer les rapports médicaux.
Actuellement, les applications sont principalement en imagerie médicale.  L’IA peut analyser de grandes quantités de rapports visuels avec plus de précision que l’oeil humain : scanners du cerveau ou vidéos de l’intérieur des intestins par exemple.
Prédire la progression de l’état physique du patient ou estimer la probabilité d’un évènement futur, possibilité de rémission d’un cancer par exemple.
Utilisation de robots chirurgicaux.
Prédire les propriétés des molécules pour la recherche pharmaceutique.
Créer des molécules pour de nouveaux médicaments aux propriétés désirées.

Les inquiétudes

Cette technologie qui offre des merveilles soulève aussi de sérieuses inquiétudes. 

Le prévisible impact sur les emplois demande aux états de faire face au coût social de la transition, de prévoir offrir aux citoyens un meilleur filet social, de préférence un revenu minimal garanti.

Big brother et le contrôle des populations

Manipulation des populations par la publicité ciblée, non seulement la publicité commerciale mais particulièrement la publicité de nature politique ou philosophique.  Imposer graduellement certaines idées, d’insinueuses propagandes de mieux en mieux ciblées.

Renforcement des discriminations et des biais sociaux si les données fournies à l’ordinateur sont polluées.  Il est possible de former l’ordinateur à contrôler les biais, si celui qui contrôle l’ordinateur le désire.

Les robots tueurs, qui ne ressentent pas d’émotion et n’ont pas le potentiel d’avoir le jugement ou le doute d’un être humain face aux erreurs possibles.  Déjà en Chine, une multitude de capteurs vidéos observe les visages des passants pour détecter les éventuels criminels.  Que se passe-t-il quand il y a erreur sur la personne?

Nous savons comment par le passé, les hommes ont appliqué leurs découvertes sans discernement.  Le scandale actuel du plastique n’est qu’un exemple parmi d’autres.

L’IA est ce nouveau génie que l’intelligence humaine a sorti de son cerveau.  Il importe de veiller à qui ce génie offre ses services. Ces inquiétudes sont suffisamment troublantes pour sensibiliser les populations, mais principalement les gouvernants de l’importance de réglementer au niveau international le développement et l’application de ces formidables technologies.

Comme nous avons créé le Conseil de sécurité des Nations Unis au moment de la prolifération des armes nucléaires lors de la guerre froide, il serait opportun de créer un Conseil international de gestion du développement de l’Intelligence artificielle.

La Déclaration de Montréal de IA responsable est un pas vers une meilleure sensibilisation des dirigeants internationaux à la nécessité d’une réglementation du développement et de l’application de ces technologies.

Vous pouvez lire ici la version préliminaire de la Déclaration https://www.declarationmontreal-iaresponsable.com

Déjà au siècle des Lumières, Rabelais ce sceptique disait pourtant :

Science sans conscience n’est que ruine de l’âme.

Aujourd’hui, on pourrait ajouter  : Science sans conscience est ruine de notre maison, la Terre, de nos sociétés, de nos santés et qui sait peut-être même de notre humanité.

 Ninon Louise lepage