Cette conférence animée par Nicolas Arpagian, journaliste expert en cyber sécurité, visait à décrypter les enjeux, les risques et les progrès associés à ces ensembles d’algorithmes désormais omniprésents dans les entreprises et les institutions.

La problématique était ainsi présentée :

" Levier technologique voué à transformer radicalement nos modes de pensées et à irriguer tous les processus de production, l’IA représente évidemment un enjeu sur le plan international, annonçant une course à la connaissance sans précédent entre différents pays, des États-Unis à la Chine, en passant dorénavant par la France. Au-delà des images de science-fiction, cette conférence permettra de cerner les réalités à connaître pour mieux appréhender cet environnement en constante mutation et de balayer de nombreuses idées reçues (disparition de l’emploi, révolte des machines, etc.)."

Le 29 mars 2018, au cours du sommet « AI for Humanity », Cédric Villani avait remis le rapport commandé par le gouvernement français, Donner un sens à l’Intelligence Artificielle : pour une stratégie nationale et européenne. Abordant l’avenir de cette technologie sous différents angles allant de la recherche à l’approche environnementale, de l’éducation, à la défense, de nombreuses pistes étaient proposées : créer un réseau d’Instituts interdisciplinaires d’intelligence artificielle, mettre en place un supercalculateur conçu spécifiquement pour les applications d’IA, ou encore rendre plus attractives les carrières dans la recherche publique afin d’éviter la fuite des cerveaux vers les géants américains.

Les récents progrès de l’IA reposent sur un ensemble d’algorithmes permettant aux machines d’imiter l’intelligence humaine sur un ensemble de domaines. De nombreux secteurs tels que la santé, la cybersécurité, les transports, l’éducation, la culture ont déjà profité de son développement et son évolution offre des perspectives d’avenir. Devenue inévitable pour les entreprises et les institutions, l’IA noue de façon intrinsèque l’Homme, la Data et les algorithmes pour remettre en question le monde tel que nous le concevions.

Qu’est-ce que l’intelligence artificielle : un buzz word, une arme secrète ou une science incontournable ?

Pour Amal El Fallah Seghrouchni, l’IA est une réalité, une rupture technologique qui dépasse largement les révolutions industrielles du passé. Elle est partout, apportant une disruption en termes d'usages et de technologie : il sera de ce fait nécessaire de se doter de garde-fous sérieux pour que cette révolution soit acceptée et fasse évoluer la société dans le bon sens. Il s’agit d’un phénomène pervasif et diffus. Elle interpelle nos sens, notre vision, notre parole en transformant la parole en texte et vice-versa. Elle affecte des fonctions très intimes de l'être humain et interpelle le sens des choses en balayant toute la pyramide cognitive. Les senseurs donnent des signaux qu'on assemble pour créer des données et au-dessus il y a l'IA qui va bien au-delà de la technologie.

Cédric Villani décrit un phénomène multiforme identifié dès 1956, moment où on s’est posé la question de son nom. Les chercheurs n’aiment pas utiliser cette expression car « elle est tellement vague et évocatrice de fantasmes que c’est gênant pour un scientifique ». L’IA se déploie en trois temps :  d’abord à travers des systèmes experts, via la sémantique pour fabriquer un algorithme ; la deuxième approche consiste à utiliser des données pour forcer un algorithme a les gérer, avant de systématiser le processus dans un troisième temps.

Les enjeux industriels se trouvent sur l'assemblage de montagnes de données pour en faire la corrélation. Et cela va très loin : par exemple les traducteurs algorithmiques ont fait mieux que les experts en premier jet de traduction. Le développement s'est fait de manière inattendue. Ce qui est frappant est l'orgie de giga bases de données, l’énorme puissance de calcul qu’il faut avoir, puis les cerveaux humains prêts à faire ces expériences : la compétition internationale se fait sur les bases de données, les calculs et les cerveaux. Il s’agit d’une guerre économique géopolitique au cours de laquelle s’affrontement les USA et la Chine : c’est comme une nouvelle guerre froide. Le retard est considérable entre l’Europe et ces deux puissances, alors que les USA cherchent à débaucher les meilleurs experts. Comment faire en sorte qu'ils ne se retrouvent pas tous aspirés vers l'étranger ?

Que faut-il attendre de l’explosion de l’intelligence artificielle ?

Amal El Fallah Seghrouchni explique l’ampleur prise par la data avec l'arrivée des GAFA, surtout par l’action de Google et de Facebook. L'intelligence n'est pas dans la data, elle est dans le symbolique : un jour avec les neurosciences le symbolique va faire quelque chose d'intelligent. Elle plaide pour une approche hybride avec des garde-fous exprimés avec des contraintes intelligibles par l'humain : il faut du calcul et de législation. Il faut aller vers une IA  acceptable et accessible.

Cédric Villani s’interroge pour sa part sur la manière dont la famille européenne peut avancer. Comment la France peut-elle revenir dans la course ? Il s’agit d’une affaire complexe, car les GAFA ont acquis un énorme volume de données. Les algorithmes qu'on croyait inefficaces sont devenus spectaculaires avec les réseaux de neurones. Yann Le Cun[1] a fait sa thèse (1987) sur ce sujet alors que personne n'y croyait.

On avait sous-estimé la complexité algorithmique des réseaux de neurones qui ont donné des résultats surprenants. Les GAFA avaient tout pour déployer la partition. Le dernier acte consiste à aller chercher la ressource auprès des universités et à créer des laboratoires. Porté par la Commission Européenne, le plan EuroHPC (High Performance Computing) se déploie. Pour rattraper notre retard auprès des chercheurs, il faut leur offrir des emplois attractifs, près de l'entreprise. En Europe, le modèle est davantage basé sur la puissance publique, car personne n'accepterait que ces données soient contrôlées par le privé. Il va falloir avoir la capacité d’utiliser des données sectorielles de santé, de transport, d’environnement qui se trouvent dans les institutions. Mais aussi donner plus de moyens à des centres de recherche en termes d’équipements et en même temps relever un défi technique en termes de vitesse et de sécurité. Tout repose sur la confiance afin que les acteurs acceptent de partager leurs données.

En effet, souligne Amal El Fallah Seghrouchni, ouvrir les algorithmes aux développeurs leur permet de récupérer les données et en développant d’entraîner les algorithmes. Dans la qualité de l'algorithmique, le nombre est un atout majeur. On voit aujourd'hui avec Google traductions que les usagers aident l'algorithme à s'améliorer. Cédric Villani rappelle opportunément à ce propos l’adage désormais bien connu : « Si c'est gratuit c'est toi le produit ».

La stratégie européenne présente une situation disparate.

Il existe une expertise ancienne du côté britannique avec l’Institut Turing. On va mettre en œuvre un institut de ce type en France aussi. En termes de cybersécurité et de cyber intelligence ils sont les meilleurs et ils sont prêts à partager. La France s'est réveillée après. On n'avait pas conscience que des vedettes de l'IA étaient françaises. Le premier rapport en France sur le sujet a été commandé en 2016 par Axelle Lemaire[2], puis il y a eu le rapport coordonné par Cédric Villani avec une équipe d’experts en sciences et en sciences humaines.

La principale inconnue est la façon dont l'humain s'empare du sujet. L'Allemagne arrive sur ce sujet et a annoncé sa stratégie qui reste très allemande, à cheval sur la recherche partagée et l’industrie qui, elle, reste très nationale. L'intention est là avec un projet de laboratoire d'intelligence artificielle franco-allemand dans le programme des sociaux-démocrates. Les pays d’Europe du Nord sont très proactifs et innovants, mais le partage de données est difficile avec l'Allemagne. Les pays d’Europe de l'Est ont des réserves de gens bien formés, ils sont leaders aux olympiades internationales d'informatique. Stratégie de l'union européenne. Des sujets de calcul vont se mutualiser tout au niveau communautaire : une agence pourra prêter de la puissance de calcul.

Amal El Fallah Seghrouchni rappelle l’existence de nombreux programmes européens de recherche, programmes Erasmus+, Horizon 2020 (Programme européen de recherche et d’innovation) qui s’appuient sur d’excellents réseaux d’échanges avec l’Allemagne, les Pays-Bas, la Roumanie, la Pologne. Il s’agit de travailler aussi sur l’IA responsable, l’IA éthique et de mettre en place des plateformes de partage.

En ce qui concerne l’éthique, il faudrait penser à un « Serment d'Hippocrate » de l'IA pour identifier des valeurs communes. Mais il comprendrait plus de 20 principes semblables aux trois lois d’Asimov pour la robotique. L'IA évolue vite et il est long d'auditer les algorithmes. Il serait tout de même possible de vérifier certains algorithmes à l'instant T en testant les résultats, sans obligatoirement tester tout l’algorithme. « On teste bien les humains dont on ne connaît pas le code » affirme Cédric Villani. La validation serait utopique, car très chère, mais s'il n'y a pas une fonction de police, cela ne sert à rien d'auditer.

Ethiquement, les pratiques inquiétantes viennent de l’extérieur de l'Europe. Les américains tels que Cathy O’Neil[3] ont décrit des usages très dangereux. On ne peut pas se lancer dans une guerre avec les GAFAM, mais plutôt faciliter la coopération entre université et privé, agir pour une structuration en réseaux de chercheurs européens. C’est le sens du projet ELLIS[4] porté par les chercheurs européens et de l’initiative CLAIRE[5] visant à fédérer les chercheurs autour des variantes de l’IA.

Répondant aux questions de la salle, Amal El Fallah Seghrouchni fait remarquer qu’il manque 10.000 ingénieurs par an en France : et si les effectifs d’étudiants doublent ce n’est pas le cas du nombre d’enseignants. Pour pallier ce déficit, elle pense à la création d’un permis d'Internet (initiative comparable à Class code), et rappelle que les Chinois remplacent les olympiades mathématiques par les olympiades algorithmiques. Il est indispensable de développer la formation continue pour la reconversion des citoyens, de sensibiliser le grand public à l'IA, ainsi que les enfants à l'IA et aux risques de l'IA.

L'IA a aussi sa place dans la communication en réalisant des évaluations d'impacts, en détectant des conflits, en analysant des textes pour mesurer l'agressivité, en analysant des tendances, en mesurant l’objectivité de l'information. L’IA est donc aussi utile pour résoudre des tensions géopolitiques et aider les gouvernants à gouverner.

Pour Cédric Villani, la Déclaration des Droits de l'Homme doit passer à travers toutes les révolutions technologiques. L’un des principes fondamentaux de l’Europe est le droit à la vie privée : il faut donc interdire certaines pratiques à la technologie comme le profilage. Par ailleurs, « en France le grand drame est la pénurie de professeurs de mathématiques », alors que le système de formation initiale de l’Enseignement primaire n'est pas à niveau pour former les enseignants en mathématiques. On remarque les résultats des élèves de Singapour qui sont numéro 1 aux tests PISA, mais il faut savoir que les professeurs y reçoivent 5 fois plus de formation d’équipe qu’en France. De leur côté, les Anglais ont augmenté le salaire des professeurs de mathématiques. Dans tous les cas, s’il faut travailler sur la manière de captiver les élèves, il faut avoir soi-même déjà compris le sujet avant de l'enseigner. Et en outre on n'a pas les réseaux locaux d'experts pour accompagner et contrôler les professeurs : il faut que les académies identifient les experts. Nous avons obtenu un arbitrage pour l'enseignement de l'informatique dès le plus jeune âge, notamment en travaillant sur l’algorithmique débranchée.

L’IA peut-elle surpasser les mathématiciens ? Des théorèmes ont été développés avec l'algorithmique, par exemple le théorème des quatre couleurs : on ne sait pas les démontrer sans IA, mais on n’a pas encore en mathématiques une seule découverte liée à l'IA. La simulation numérique est fondamentale en mathématiques appliquées. Pour quatre emplois détruits, la numérisation en recrée un : le numérique est un destructeur d'emplois. Le but sera que tout le monde ait un emploi, mais cela ne se fera pas tout seul.

Peut-on être optimiste sur la montée en puissance de l'IA dans nos existences ?

Amal El Fallah Seghrouchni répond par l’affirmative, tout en soulignant qu’il existe un risque de manipulation psychologique par l'IA, notamment sur Internet où la théorie de la persuasion est bien connue. Et de citer l’exemple de l’influence de Facebook sur les élections américaines. Chez nous des générations d'enfants sont en train d'être manipulées. On pourrait interdire certains algorithmes pour certaines populations, certaines personnes vulnérables, car certains sont conçus pour persuader les gens. Le problème est qu'avec les réseaux sociaux on ne contrôle plus rien. Pourquoi ne pas brider les algorithmes comme on le fait avec les moteurs de voitures ? On peut créer des émeutes avec des Fake News.

Il faut protéger l'IA de l'humain pour protéger l'humain de l'IA.

Quelle est la prochaine étape ? Ce sera la consumérisation de l'IA avec l’arrivée des bots qui travaillent avec sérendipité, empathie et rapidité. Ce qui va se généraliser ce sont les agents assistants virtuels capables de prendre des rendez-vous, d’aller à la banque, d’avoir accès à tous les services en étant médiés par des agents qui dialogueront avec votre agent virtuel. L’IA va se généraliser, mais pour cela il faut travailler sur la robustesse et sur la sécurité avec des traitements très cryptés. Les agents n'ont pas besoin de décrypter pour traiter les données et répondre à votre demande. On va vers des systèmes avec plusieurs entités intelligentes : intelligence collective, intelligence émotionnelle, des systèmes où l'humain collabore avec l'algorithme, comme dans la cobotique. En remettant de l’humain dans le jeu, on combine l'intuition de l'humain avec l'intelligence de la machine. 

Michel Pérez

[3] Yann Le Cun est un chercheur en intelligence artificielle et vision artificielle (robotique). Il est considéré comme l’un des inventeurs de l’apprentissage profond (deep learning). Il travaille aujourd’hui comme ingénieur en chef de l’IA chez Facebook.

[4]  Le Conseil général de l’économie (CGE) a remis le 15 décembre 2016 à Axelle Lemaire, secrétaire d’Etat chargée du Numérique et de l’Innovation, le rapport « Réguler les algorithmes » qui émet cinq recommandations qui ont été reprises dans la loi pour une République numérique (7 octobre 2016)

[5] Catherine Helen O'Neil est une mathématicienne, data scientist et militante américaine, vivant à New-York. Elle est militante au sein du mouvement citoyen Occupy Wall Street. Elle met en garde contre les dangers et les impacts des algorithmes dans le domaine la justice, l’éducation, l’accès à l’emploi ou au crédit. Wikipedia.

[6] ELLIS est l’acronyme de European Lab for Learning and Intelligent Systems projet d’institut d'IA qui disposerait de grands centres dans certains de pays européens, chacun employant des centaines d'ingénieurs en informatique, mathématiciens et autres scientifiques dans le but de maintenir l'Europe à la pointe de la recherche sur l'IA.

[7] CLAIRE est une initiative portée par la communauté Européenne en IA dans le but de renforcer l’excellence Européenne dans la recherche et l’innovation en IA. Dans cette optique, CLAIRE propose la fondation d’une Confédération Européenne de Laboratoires de Recherche en Intelligence Artificielle qui permettrait d’obtenir une “image de marque” similaire à celle du CERN.