Les technologies numériques impliquent quasi systématiquement la collecte et l’exploitation des données personnelles des individus. Nos sociétés modernes n’ont pour l’heure pas encore abordé sérieusement ces pratiques, ni n’ont réellement anticipé les changements à venir qu’elles induisent. De manière générale, la tendance est plutôt à l’enthousiasme béat dès lors qu’une innovation a lieu dans le numérique. S’il ne faut pas sombrer dans la technophobie, il est important de conserver un regard critique sur les technologies de manière générale. Le monde est rarement tout noir ou tout blanc.
Les signaux actuels nous enseignent comment la collecte et l’exploitation des données personnelles des individus vont bouleverser l’organisation de la société. La fin de l’ascenseur social est programmé. Du moins, si aucune réflexion éthique intervient au niveau politique. La protection des données actuelle ne suffira pas à l’éviter. Le corollaire de cette exploitation des informations concernant les individus est une forte tendance à la catégorisation. L’algorithme du fil d’actualité de Facebook en est un parfait exemple. Il favorise de façon exagéré les contenus qui correspondent à la vision du monde de l’utilisateur. Il l’enferme dans une bulle de filtres pour lui éviter la frustration de tomber sur des publications avec lesquelles il ne serait absolument pas d’accord.
La journaliste française Judith Duportail a montré dans son livre L’amour sous algorithme comment l’application de rencontres Tinder classifie les individus d’après leurs données personnelles de telle façon à leur proposer des personnes qui leur correspondent. Adieu la magie des opposés qui s’attirent. Pour déjouer l’algorithme, Tinder propose à ses utilisateurs… de payer. Ainsi, leurs profils seront «boostés» et visibles par des personnes qui ne font pas partie des mêmes «catégories» arbitraires fixées par l’application.
Le développement continu de l’intelligence artificielle, alimentée par les données massives (big data), va accélérer encore ce phénomène de classification, de fichage des individus. De façon intéressée, entreprises et gouvernements vont programmer leurs algorithmes de façon à favoriser les comportements attendus. L’industrie des technologies n’a de cesse d’investir dans la recherche de la psychologie et des neurosciences pour pouvoir comprendre et prédire les comportements des individus. Il ne s’agit pas d’un épisode de la série d’anticipation «Black Mirror». C’est la réalité. Bien sûr, les entreprises ont toujours cherché des méthodes pour influencer les comportements des gens afin de les pousser à l’achat. Sauf que cela se limitait à des théories générales. Aujourd’hui, ces millions d’informations qui circulent sur les individus permettent de personnaliser ces méthodes d’influence de façon beaucoup plus précise… et perverse.
Si rien n’est fait pour encadrer, voire interdire cette collecte et cette exploitation sans précédent des données personnelles des individus, nous nous dirigeons vers une société à deux vitesses, où la majorité des individus devra subir des choix dont elle n’a pas forcément conscience et sur lesquels elle n’a aucun pouvoir, tandis qu’une minorité qui détient le capital et le savoir technologiques pourra bénéficier très largement de cette matière première qu’est l’exploitation des données personnelles. Le tout sera saupoudré d’une illusion de liberté, quand tout sera mis en œuvre pour modifier en profondeur les comportements, et pousser les gens à faire des choix qu’ils n’auraient pas fait dans des conditions différentes.
Les générations qui vont suivre naîtront peut-être dans un monde où, une fois leur niveau social et intellectuel évalué, ils ne pourront plus espérer s’extraire de la catégorie qu’on leur a attribué. Seuls ceux qui sauront comment battre les algorithmes à leur propre jeu pourront éventuellement s’en défaire. Un scénario qui rappelle étrangement le film de science-fiction «Bienvenue à Gattaca» sorti en… 1997. Mais tout cela n’est pas une fatalité, puisque nous pouvons encore agir!