Sans ressasser les débats éculés sur le hasard et la nécessité, ni pérorer sur les modélisations très légitimes et pertinentes qu’étudient les spécialistes des catastrophes, ou sur les calculs de risque dont les compagnies d’assurances sont devenues les champions toutes catégories, ni rappeler les vertiges intellectuels sur la complexité de l’Intitut de Santa Fe, je donnerai plus d’attention au « mur de la singularité ». « Mur du futur », mur de la singularity (l’anglais d’origine de ce mot lui donne sans doute plus de crédibilité), nous voilà depuis bientôt quinze ans à la veille du grand basculement du monde.
L’idée remonte aux années 1950, sans doute due à John von Neumann, dont le nom même annonce la prophétie ! On cite souvent la description qu’en donne Irving John Good en 1965, dont le nom, quant à lui, est rassurant. Il invoque le développement, pour ne pas dire l’explosion de l’intelligence artificielle : « Mettons qu’une machine supra-intelligente soit une machine capable dans tous les domaines d’activités intellectuelles de grandement surpasser un humain, aussi brillant soit-il.
Comme la conception de telles machines est l’une de ces activités intellectuelles, une machine supra-intelligente pourrait concevoir des machines encore meilleures ; il y aurait alors sans conteste une « explosion d’intelligence », et l’intelligence humaine serait très vite dépassée. Ainsi, l’invention de la première machine supra-intelligente est la dernière invention que l’Homme ait besoin de réaliser. » Après, c’est la machine intelligence qui prend en charge l’évolution de l’homme – ou plutôt sa disparition pour inutilité.
On nous en reparle sans cesse aujourd’hui. Cela hante les esprits prospectivistes comme un incontournable. Car, au-delà de ce "mur", aucune visibilité. Nous perdons l’entendement et le contrôle avec nos petits cerveaux humains.
C’est la fin de l’homme que nous connaissons, c’est la fin de la nature et du carbone : nous allons entrer dans le nouvel âge du silicium et de l’artifice mur à mur. Cette grande divergence, radicale qu’on nous prophétise, a même donné lieu en 2008 à la fondation d’une Université de la Singularité, bien sûr en Californie, financée par des déesses du cybermonde et de la finance : Google (deuxième capitalisation financière mondiale en 2014), Nokia, Cisco, Autodesk et la NASA. Plus rien ne sera comme avant, l’intelligence artificielle prenant le contrôle de notre espèce, nous soumettra à des algorithmes de la sagesse et de la raison ; l’innovation dominera sans cesse et partout nos activités. On imprimera des hommes nouveaux avec la nouvelle imprimante 3D.
Lorsqu’on entend parler de cette "singularité", ce n’est pas sans un malin plaisir qu’on peut remettre les choses à plat. La science-fiction a cultivé ce concept de singularité pour désigner le mur du futur, au-delà duquel s’opérera un changement radical que nous sommes incapables de penser.
Voilà le grand déversoir de nos esprits futuristes les plus audacieux. Mais il faudra bien l’admettre lorsqu’on atteindra l’âge de la réalisation de cette Divergence de notre évolution : ce mur opaque et sans retour recule sans cesse devant nos pas comme l’arc-en-ciel. L’ingénuité positiviste de Ray Kurzweil l’a déduite de la loi de Moore qui double tous les dix-huit mois la capacité de nos ordinateurs. Sa date, évidemment prochaine, a d’abord été prévue pour 20025, puis pour 2050, lorsque notre prophète a pris conscience que l’évolution est moins précipitée que le progrès de nos ordinateurs. D’ici qu’on y arrive, il faudra qu’il comprenne aussi que la singularité n’est qu’un mot-écran désignant notre incapacité à penser rationnellement la peur ou la rédemption dont nous colorons notre futur.
En termes de mathématiques, ce concept de singularité désigne depuis plus d’un demi-siècle une limite de nos arabesques programmatiques, au-delà de laquelle Alan Turing, Irving John Good ou Carl Sagan jugeaient devoir rendre les armes, tant les complexités des calculs de plus en plus abstraits les dépassaient et aboutissaient hors de toute préhension réelle.
Du point de vue métaphysique – car ce concept en relève évidemment - la singularité n’est qu’un fantasme sur lequel on peut prophétiser sans restriction, ou un simple lieu-commun qui s’énonce clairement comme suit : nous sommes incapables de penser le futur au-delà des limites de nos connaissances. Par définition même, la « singularité » ne peut se penser.
La divergence ne peut se programmer. Lorsqu’on lit attentivement le programme des activités de l’University of Singularity, on s’étonne de n’y trouver en fait que des annonces de laboratoires et de séminaires d’experts reconnus en médecine, en économie ou en urbanisme, qui font certainement preuve d’excellence et d’esprit d’innovation, mais qui ne sauraient diverger des modes de pensée actuels. Ils développent des déductions linéaires audacieuses, osent des non-sens, mais qui ne sont pas des sens nouveaux. On ne peut qu’être déçus, mais on ne devrait pas être étonnés finalement par la banalité des pensées et des recherches prospectives considérées.
Le nom même d’University of Singularity est peut-être une trouvaille promotionnelle, mais c’est un concept contradictoire. Si je prends à la lettre le concept de Singularity, ce devrait être une université pensée et animée seulement par des robots combinant des intelligences artificielles que le cerveau humain serait incapable de partager. Ce constat de modestie marque les limites de nos déductions et de nos prévisions. Et on observe, comme dans les films de science-fiction, que notre imaginaire futuriste s’épanche le plus souvent dans l’archaïsme. Les figures des cyborgs évoquent Hercule et les Titans.
Le Bien et le Mal se partagent un univers élémentaire. Toutes ces innovations techniques sortent d’un sac à surprises pour enfants. Des serpentins, des bonbons, des lanceurs de bulles de savon, des baguettes magiques, des des pierres à feu, des confettis, des paillettes et des étoiles de toutes les couleurs. Tout sauf une divergence. Et il n’est pas sûr qu’au-delà du mur de la singularité ce soit la fête.
Publié par Hervé Fischer
