Si les algorithmes suscitent une attention médiatique de plus en plus grande, ils sont pourtant encore mal connus des Français. Selon un récent sondage effectué par l'institut IFOP pour la CNIL, 83 % des individus interrogés ont déjà entendu parler des algorithmes mais ils ne sont que 31 % à savoir précisément de quoi il s'agit. Leurs représentations sont globalement négatives : ils sont 53 % à penser qu'ils sont davantage une source d'erreur que de fiabilité et 64 % qu'ils représentent plutôt des menaces que des opportunités.

 

Plusieurs essais portant sur ce sujet ont récemment été publiés, dont celui des informaticiens Serge Abiteboul et Gilles Dowek, intitulé Le Temps des Algorithmes (Le Pommier, 2017), qui brosse de façon très didactique et équilibrée les enjeux du changement de paradigme que nous vivons. Ils reviennent aussi sur le concept d'algorithme qui n'est pas circonscrit à l'informatique puisqu’il s’agit d’un procédé qui permet de « résoudre un problème sans avoir besoin d'inventer une solution à chaque fois ». Par exemple, un théorème de mathématiques ou une recette de cuisine sont des algorithmes. En informatique, c'est une procédure automatisée conçue par des ingénieurs. Les algorithmes suivent une procédure définie par des humains, ils n'ont pas libre-arbitre ou de capacité d'interprétation.

 

Sur le moteur de recherche Google, il est assez facile de déceler certains biais. Il suffit de regarder les images qui sont associées au terme « beauté » pour se rendre compte que ce concept est quasi-uniquement incarné par des jeunes femmes blanches et minces... On a pu observer le même biais lors du Beauty.AI 2016, un concours de beauté en ligne dont les prix ne sont pas décernés par un vote du public ou de spécialistes mais par des algorithmes. Les résultats ont déconcerté tant les participants que les organisateurs car ce sont des individus blancs qui ont quasi-systématiquement été récompensés, alors que les hommes et femmes qui s’y étaient inscrits provenaient du monde entier.