les algorithmes se sont infiltrés dans notre vie quotidienne sans notre consentement et modulent notre rapport au monde sans que nous soyons vraiment au courant de leur existence, de l’ampleur de leur action, de leur pouvoir et des critères qu’ils utilisent pour décider de nos existences à notre place. Sans que nous ayons non plus beaucoup de possibilités pour réfuter ou intervenir sur ces critères. "Trop souvent, c’est l’ordinateur qui décide !"
Comprendre comment fonctionnent les algorithmes qui nous gouvernent n’est pourtant pas du recours des seuls spécialistes, estime le journaliste Frank Swain (@SciencePunk). Dans l’un des derniers billets de son blog Future Exchange sur Medium, il revient très concrètement sur la façon dont les algorithmes nous gouvernent, en montrant, comment, nous pouvons essayer de comprendre les traitements dont nous sommes l’objet.
Frank voyage dans le monde entier... Et autant le dire, l’algorithme chargé de surveiller les mouvements de son compte en banque n’aime pas trop cela. Sa carte de retrait a encore été refusée. Il ne sait pas pourquoi... et il ne peut pas savoir pourquoi. Tout le problème est là !
Danser avec les algorithmes silencieux
A chaque fois qu’on retire de l’argent, l’automate de la banque doit décider si ce retrait est autorisé, s’il est "normal". Il doit décider si c’est vraiment nous qui retirons de l’argent. Notre carte, notre code bancaire ne sont que des talismans pour en appeler à un complexe cerveau électronique résidant quelque part dans un datacenter climatisé. C’est lui le véritable gérant du guichet et c’est lui qui doit approuver ma transaction pour qu’elle soit autorisée. En fait, notre carte et notre code ne sont pas si importants que cela pour ce cerveau électronique. "Ce qu’il consulte avant tout c’est une vaste base de données d’enregistrements qui inclue ma localisation présumée, mes transactions récentes, le type de transaction que je demande, le temps qui s’est écoulé depuis ma précédente transaction, le montant que je demande, la date de cette transaction et quelques dizaines d’autres mesures dont je n’ai pas conscience. Il soupèse chacun de ces facteurs et décide si je suis vraiment celui que je prétends être. Il les soupèse et décide de me donner ou pas mon argent." En fait, ces enregistrements, aussi factuels et minimaux soient-ils, par leur accumulation, dessinent une base de données de comportements, basée sur l’analyse de ces enregistrements. L’activité est une alternative à l’identité.
Le problème est que quand l’algorithme refuse la transaction, la machine ne nous dit jamais pourquoi."Cela signifie que nous sommes constamment engagés dans une sorte de danse avec l’algorithme, une danse où je ne peux entendre la musique et où la seule réaction que je reçois est quand je marche sur les pieds de mon partenaire." Nous ne connaissons ni les règles des algorithmes ni quand elles sont modifiées... Notre seul repère consiste à observer par essai/erreur, afin d’apprendre ce qui ne lui convient pas. Nous apprenons en dansant !
Et Frank Swain de faire référence aux travaux de Timo Arnall (notamment via le monde visible par des robots) et James Bridle (voir sa présentation à Lift sur comment nous écrivons avec les machines) nous expliquant combien nos vies sont désormais influencées par les technologies, non seulement par les objets que nous utilisons tous les jours, mais également par les systèmes invisibles qui nous entourent et ces architectures qui façonnent nos modes de nos vies. "Nous vivons à l’intérieur de systèmes invisibles aussi courants que des formulaires d’assurance, des demandes de prêts, d’emplois, de rencontres... et nous tentons de nous y ajuster consciemment en fournissant les informations que nous pensons être les plus appropriées ou les moins mal interprétées par ces systèmes." Mais les machines ne comprennent pas très bien la normalité, au-delà d’une courbe statistique à laquelle mon comportement doit se conformer. Notre travail consiste donc à deviner la forme de cette courbe, estime Frank Swain. Les algorithmes bancaires sont conçus pour détecter les transactions frauduleuses et ils ne partagent pas les secrets de leurs alarmes de peur qu’on puisse les contourner. Pourtant, les criminels, finalement, n’en savent-ils pas beaucoup plus sur ces algorithmes que le public ? Ne savent-ils pas mieux naviguer que nous dans le cerveau de ces machines pour vider nos comptes en banque ?
Frank Swain a ainsi découvert qu’il avait annulé une transaction sur un distributeur à Barcelone, alors que sa banque l’avait accepté, ce qui explique que ses retraits ultérieurs aient été refusés... Visiblement, ce comportement-là semble répréhensible pour la machine. Ce n’est certes pas beaucoup, mais Frank a appris un pas de danse de plus avec l’algorithme. Certes, ce pas de danse est bien incertain et montre peut-être aussi les limites de cette technique par essai-erreur. A-t-on pris en compte le bon paramètre ? Est-ce vraiment cette suite logique que la machine a détecté ? En faisant ces rapports de manière solitaire et isolé, il n’est pas sûr que nous parvenions à circonvenir les algorithmes, mais allez savoir, peut-être qu’en s’y mettant à plusieurs...
L’ingénierie inversée
Force est de constater que nous ne sommes peut-être pas si démunis que cela pour comprendre les algorithmes...
Pour poursuivre la lecture de cet article sur Internet Actu blog le Monde : ACCES
Image : Dancing in the street par John Henderson.
