Confier nos décisions à des algorithmes a deux effets majeurs. Le premier est celui de la précision et de l’efficience, incontestable car l’analyse d’une quantité de données extrêmement importante reste sans erreur. Le second, c’est effectivement de nous conformer dans un « moule » prédéfini et de ne pouvoir en sortir, ceci en utilisant allègrement vos données personnelles, bien entendu.
Les États-Unis, s’ils fustigent l’espionnage Russe qui ressemble, il est vrai, à un film des années 70, ne sont pas en reste en ce qui concerne ce même espionnage. Pendant 6 ans, à la Nouvelle Orléans, l’entreprise Palantir a mis à la disposition des services de police de la ville son logiciel de prédiction des crimes. Nous sommes presque dans Minority Report avec Tom Cruise et le logiciel « Precrim » ! Ici, cela s’est fait en secret, sans que les habitants ne soient au courant de l’exploitation de leurs données. Une pratique dénoncée par un élu qui a découvert le pot aux roses.
Dans cette vilaine histoire, on pourrait se dire « et si cela fait baisser la délinquance et la violence… pourquoi pas ». Oui, mais. Le mais c’est tout de même la liberté de chacun mais c’est aussi le résultat qui laisse pantois. D’abord la criminalité n’a pas baissé mais les personnes qui ont été identifiées par le logiciel ont été plus souvent arrêtées lorsque se produisaient des incidents près de chez eux. Le « délit de faciès » ou tout ce que vous voulez a donc prédominé, montrant une nouvelle fois, si cela était encore nécessaire, que le profilage sur des données personnelles est une bêtise qui peut aussi nous amener doucement au totalitarisme.
Imaginez un système de santé qui analyse vos comportements et gère vos soins en fonction de ceux-ci. Vous allez dans votre restaurant préféré et payez en carte bancaire. Le système détecte que vous avez mangé trop riche et bu de l’alcool et vous prive de remboursements de santé pendant un mois. Un scénario tout à fait possible qui fait froid dans le dos. Cette restriction analytique a deux effets : elle ne laisse aucune place à la liberté, à la différence et elle propose un mode de société totalitaire. Un mot trop fort ? Pas certain lorsque l’on évoque la santé, les décisions de justice, les banques et bien d’autres domaines encore qui deviendraient gérés par des algorithmes….
Il n’est pas trop tard… Mais presque !
« L’homme a la possibilité non seulement de penser, mais encore de savoir qu’il pense ! C’est ce qui le distinguera toujours du robot le plus perfectionné. »
Jean Delumeau
