Il a également été invité, lors de ces journées, à débattre de cette question : Comment l'IA peut changer le monde ? Et dans quel sens ?
" Enthousiaste sur le nouvel accès au savoir et la mise en question des autorités dont la révolution numérique était porteuse, Michel Serres avait peu à peu pris la mesure des menaces dont elle était porteuse, des fake-news au complotisme. Comment penser l’invention à l’heure de l’IA ? Qu’est-ce qu’une écriture – et une pensée ? – automatisée comme celle de ChatGPT ? Gilles Dowek nous apprend à nous émerveiller, et pas seulement à nous inquiéter, face aux machines intelligentes que nous inventons."
Quelques sketchs pleins d’humour et d’auto-dérision préparés par des lycéens sur l’usage du téléphone portable(CF/Vidéo)
Gilles Dowek répond ensuite à Clara Degiovanni, journaliste à Philosophie magazine.
Clara Degiovanni : " Est-ce que vous vous sentez déjà petite Poucette ? "
Hélas non, j’aurais bien aimé avoir un portable pour entrer en 6ème mais j’ai eu un seul bout de ficelle et même pas 2 morceaux de bois. Ce qui m’a frappé c’est cette question autour d’un portable, ce conflit de génération, en retirant cette question d’âge et temporelle, on pourrait peut-être retirer ces clichés d’âge et arriver aux vraies questions que ces préjugés masquent.
« En parlant de vraie question, parfois on a l’impression que les technologies, notre portable tout ce monde qui nous entoure crée des besoins artificiels, des besoins qu’on n’avait pas. Peut être qu’avant d’avoir untéléphone je n’avais pas besoin de regarder 100 fois, 200 fois par jour mon écran pour voir que tout va bien …
" Est-ce que vous avez l’impression que les technologies créent des besoins artificiels qui deviennent bizarrement après coup impérieux ? "
C’est une question très difficile et très importante, on peut se poser du coup la même question pour la pomme de terre.
Vous savez qu’il n’y avait pas de pommes de terre au Moyen Age même en Pologne même en Irlande et la pomme de terre est un végétal découvert aux Amériques, on l’a cultivé en Europe au 18ème siècle. Et l’on peut se dire est ce que Parmentier a créé un besoin artificiel de pomme de terre ? Est-ce qu’il aurait comblé un besoin ? On ne peut pas regretter un objet auquel on n’a pas encore pensé. On sait au moyen âge que les gens écrivent qu’ils mourraient de faim, au 18ème siècle, il y en a moins en particulier car ils mangent des pommes de terre ...on peut dire que la pomme de terre était un besoin au moyen âge, même si les personnes n’avaient pas la faculté d’exprimer ce besoin.
Si on vient aux outils numériques peut-on se poser la même question ?
Est-ce que à l’époque où il n’y avait pas de téléphone portable, il n’y avait personne qui disait c’est dommage il n’y a pas de téléphone portable. Encore que, une fois je me suis perdu, j’ai cherché une cabine téléphonique pour appeler le téléphone fixe des amis et je me suis dit ce serait bien d’avoir une boite à chaussures avec un tél dedans, j’imaginais un tél fixe dans cette boite et voilà j’ai inventé le tél portable... :) Je ne savais pas que ça s’appelait un tél portable. Ce n’est pas parce qu’on n’a pas exprimé ce besoin que le besoin n’existait pas…
Si on se replace dans l’histoire un peu longue et de savoir d’abord si ces objets comme le portable, le téléphone fixe, le télégramme et télégraphe, c’était peut-être un signe que l’on avait besoin que le téléphone …est ce qu’il fait partie d’un mouvement de fond ? ou est-ce que c’est une invention?
C’est un mouvement de fond. Michel Serres disait Il y a qu’il y a trois révolutions dans l’histoire de la communication : l‘écriture, l’imprimerie et l’ordinateur ou le réseau.
J’ai essayé de le convaincre qu’il y avait quatre révolutions avec l’alphabet. Il m’a dit oui mais a continué à dire qu’il y avait trois révolutions. Il y a 3 ou 4 révolutions si vous voulez. Il faut se poser la question si lors de la révolution de 89 on n’a pas quelque chose de non abouti… On a dû en faire une deuxième en 1830 puis une troisième en 1848.
Qu’est ce qui n’a pas marché dans la révolution de l’imprimerie ?
Cela a posé un certain nombre de problèmes et pour les résoudre, on a inventé l’ordinateur Chat GPT, internet etc. Les libraires comptent la taille des livres en mètres, vous en centimètres, les bibliothèques en Kms L’imprimerie nous a permis d’avoir 14 millions de volumes à la BNF. Lorsque vous rentrez en librairie et que vous êtes en train d’écrire un livre lorsque vous voyez des centaines de mètre de livres, vous vous dites quelle importance que j’ajoute un centimètre ou non... Bien sûr ce sera important de l’écrire pour ce qu’il apportera... En bibliothèque, on peut effectuer des recherches il y a des classifications … L’imprimerie a créé une avalanche d’informations que l’on ne peut traiter avec le cerveau, et il faut des outils qui viennent pour traiter cette masse d’informations.
" J’aime bien cette approche, vous historicisez et cela permet de démystifier les choses. En quoi est-ce important pour vous d’ancrer les choses un peu à l’instar de Michel Serres, est ce que ça fait moins peur lorsque l’on sait d’où ça vient ? ... "
En cherchant à replacer les événements dans une chronologie, je ne peux que reconnaitre ma dette à l’égard de Michel Serres, quand on se pose des questions sur la 5G il faut commencer par essayer de comprendre comment l’Iliade et l’Odyssée nous ont été transmises; j’essaie juste de comprendre le monde dans lequel nous vivons et il n’est pas possible de comprendre ce monde si l’on se pose la question si c’est bien ou si c’est mal. Cette question va venir à un moment mais après avoir compris comment ça fonctionne…
Lors d’un rdv tél avec un journaliste et là le téléphone sonne et là le journaliste nous dit « Les algorithmes c’est épouvantable, on va d’abord dire bonjour, ensuite expliquer et voir si merveilleux ou épouvantable ». Si on commence comme ça on masque les vraies questions. On se place dans un cadre très commun. En Europe une situation n'est intéressante que lorsqu’elle est conflictuelle. Si tu es pour les algorithmes, Chatgpt assieds-toi là ... Choisis ton camp Camarade. Manière absurde de voir le monde. La chose à faire est de partir découvrir le monde et bien sûr il y a des questions éthiques qui se posent on ne peut pas évacuer la question du bien ou du mal.
Sur les objets techniques il y a un biais dans leur analyse, exemple si vous marchez sur un chemin de randonnée … il se peut que vous trouviez un caillou sur le bord d’un chemin… qu’est-ce que je peux en faire … par exemple pour allumer du feu, pour taper sur la tête d’une personne ... Avec un objet technique ce n’est pas possible ..., c’est une personne qui l’a fabriqué et elle s’est posé la question d’abord quel était le manque, besoin, l’utilité absente qui a fait que la personne a créé cet objet ?
Une fois que les objets existent ils ne sont pas uniquement utilisés pour leur but initial, ils sont à la fois dévoyés et aussi dont on a fait beaucoup de choses après, exemple l’ordinateur…Mr Watson James Président d’IBM après-guerre avait fabriqué trois ordinateurs et a décidé que le Monde avait besoin d’un quatrième ordi, c’est une décision difficile mais on est certain que le monde n’a pas besoin d’un 5ème ? Pour Watson l’ordinateur avait un usage particulier et Il n’avait pas pensé qu’un jour on en aurait un par personne chez soi... On a inventé pour décoder des codes secrets et puis on s’est rendu compte qu’il pouvait servir à autre chose.
Pourquoi est-ce que les gens ont inventé ça ? On ne comprend pas tant que l’on ne se met pas à leur place et l’on ne peut pas comprendre la nature de ces objets. Si vous vous dites comment est-ce que Chatgpt a transformé le monde et si vous vous ne vous demandez pas pourquoi il y a des gens qui ont inventé Chatgpt alors vous risquez de ne pas trouver la réponse à la 1ère question. Il faut se poser les deux questions à la fois.
" Maintenant si l’on se sert de CHTGPT pour à, peu près tout et n’importe quoi, est ce que l’IA est conçue pour dire la vérité ? "
Il faudrait d’abord se poser la question : Qu’est-ce que la vérité ?
Chatgpt n’a rien à voir avec la notion de vérité, n'a pas été prévu pour un critère de vérité analytique ou synthétique, en aucun cas Chatgpt est prévu pour dire des choses statistiquement cohérentes avec un corpus … si vous avez un début de phrase le ciel est… la question que vous cherchez à résoudre quel est le mot le plus probable après …. Statistiquement le plus probable est bleu. Je vais dire mais les nuages sont roses, si dans cotre corpus il y a souvent le mot rose, le mot le plus statiquement probable va construire des choses fausses. Cela n’a rien à voir avec la vérité mais cohérent avec la base d’apprentissage. On l’a conçu pour répondre des mensonges.
".. Est-ce que l’on peut imaginer qu’à un moment donné L’IA va produire des informations que l’on ne pourra pas vérifier et à nous donner des directives ?"
… Michel Serres ici nous aurait répondu faites attention, la question que vous posez n’a aucune nouveauté. C’est-à-dire il y a des mensonges proférés par des IA mais aussi par des intelligences naturelles.
La question de choses non vérifiables fait partie de notre humanité, on ne peut pas espérer que nous devenions des animaux à tout le temps dire la vérité…On a toujours dit des choses fausses et des choses invérifiables… On a longtemps pensé que ce que l’on entendait était susceptible d’être faux, en revanche avec les images paraissaient plus vraies. Ceci était valable au 20e siècle mais il faut arrêter de penser comme ça aujourd’hui… faire une image fausse demandait un peu de technique. Aujourd’hui faire des images fausses c’est à la portée de tout le monde.
Il faut se poser la question de savoir sur quel point la vérité est importante, et sur quels points on peut raconter des histoires...Le droit à la mauvaise foi ou à l’exagération est aujourd’hui difficile avec les téléphones ... Car la multiplication des sources est possible, il est possible de vérifier. Les images n’ont pas plus de crédibilité que les mots. L’autre élément d’hygiène sur le rapport à la vérité, il faut vérifier les sources, vous ne pouvez pas croire une seule source, il faut vous poser la question de la collusion possible entre ces sources. Vous ne pouvez pas croire une seule source.
"Cette hygiène de vérification demande beaucoup de travail, est ce que l’on n’a pas créé un outil qui va nous donner une masse de travail inattendu avec cette idée de remplacement. "
C’est une question paradoxale. L’IA détruit des emplois mais non l‘IA crée beaucoup d’emplois.
Nous avons perdu peut-être un rapport naïf et gratuit à la vérité et oui, la vérification demande du travail. On ne pourra pas tout le temps le faire donc qu’est-ce que nous devons vérifier ? Oui lorsque l’information est essentielle il faut passer du temps et donner de sa personne pour vérifier les infos. Mais ici aussi il faut en rendant hommage à Michel Serres, se départir de l’idée que c’était mieux avant et qu’avant c’était plus facile de vérifier les infos. Avant l’accès à l’information était plus difficile ... malgré les nombreux dictionnaires notamment de citations, qui pouvaient être cités sans aucune source et pouvaient être faux.…
Accès à la vidéo :
https://youtu.be/Bx4KR50TTXo?si=WNxGWjBCfm3PDksC
Transcription : Sylvie Le Queinnec
Dernière modification le mardi, 05 décembre 2023