Un projet séduisant en apparence.

Le texte impose aux services en ligne de détecter et de signaler le matériel pédocriminel. Mais il inclut aussi les messageries chiffrées via l’« analyse côté client » : chaque message privé serait scanné avant d’être envoyé. Derrière l’intention affichée de protéger les enfants, c’est la hashtag#confidentialité de tous qui est compromise.

Avec des risques majeurs.

- Atteinte au chiffrement : casser la sécurité de bout en bout fragilise tout l’écosystème numérique.
- Surveillance indiscriminée : la CJUE a déjà jugé illégales les obligations de contrôle généralisé
- Effet boule de neige : aujourd’hui le CSAM, demain la surveillance d’opposants ou de contenus protégés ?
- Fiabilité inexistante : l’hashtag#IA produit trop de faux positifs, saturant les autorités et stigmatisant des innocents.

Bon, le bilan est clair : une atteinte massive aux droits fondamentaux, une efficacité douteuse, un coût économique certain.

Tout faux et très risqué. Fermez les yeux et imaginez ce type de techno dans les mains d'un pouvoir autocratique ou même idéologique. Vous le ressentez le frisson version 1984 ?

Des alternatives existent pourtant, éprouvées et largement diffusées par les revues scientifiques.

- Concentrer la détection sur l’espace public et l’hébergement, via des outils robustes comme le hachage perceptuel
- Mener des enquêtes ciblées sous contrôle judiciaire, plutôt que des scans de masse.
- Renforcer la chaîne signalement–retrait–poursuites, en dotant le futur Centre européen de moyens réels plutôt que d’algorithmes intrusifs.
- Développer des outils volontaires côté utilisateur, transparents et vérifiables.
- Investir dans la prévention, la coopération internationale et les brigades spécialisées.

La solution promue par la European Commission ne peut dès lors que questionner... Et se demander ce qui anime ce choix (le diable est toujours dans le détail et n'oublions jamais que l'histoire montre qu'une fois déployée, une technologie n'est jamais abandonnée par la force publique).

Pour conclure, protéger les enfants sans sacrifier les libertés est non seulement possible, mais indispensable. L’Europe doit choisir la lucidité plutôt que l’illusion technocratique. Restons vigilants. Eriger une société de surveillance au nom des plus vulnérables, c’est leur promettre un avenir encore plus menaçant.

 Thierry TABOY, co fondateur Educavox, membre du CA Impact AI

On en parle ?