Les moutons ne rêvent pas
Une montre qui compte nos pas, BeReal qui sonne : comment le pouvoir algorithmique se privatise en silence, et ce qu’il fait de nos démocraties.
À l’heure qu’il est, celle des algorithmes, une montre ne sert plus à donner l’heure mais à prendre la mesure non plus du temps qui s’écoule mais de notre temps interne, celui de notre biologie.
Elle mesure dorénavant nos pas, vibre si nous restons trop longtemps assis, nous pousse à bouger plus avec un objectif calorique à atteindre.
Nous subissons les injonctions d’une IA qui prend des notes sur notre activité physique pour nous donner un bon point en fin de semaine.
On est passé à l’ère de la gamification dans la gestion de notre temps privé : on gagne un badge si on a atteint tel objectif n fois de suite, si notre temps de sommeil est idéal, et bientôt (si ce n’est déjà le cas), notre banque nous informera si on peut emprunter ou non, en fonction de notre rythme cardiaque. Et cela uniquement avec une montre.
Les algorithmes prennent insidieusement le pouvoir. Ils décident du prix de nos billets, les feux tricolores sont gérés par une IA, les sites de streaming « choisissent » nos films quand nos GPS choisissent le « meilleur » chemin.
Bref, on laisse au fur et à mesure le soin à numericus de choisir notre best life.
Mais qui écrit ce code qui régente ce monde numérique ?
On croit que l’IA est neutre, mais elle est façonnée par les biais de ceux qui la programment, et ces biais sont bien humains.
L’IA ne discrimine pas par elle-même. Elle répète ce qu’on lui donne, ce qu’on lui montre, ce qu’on lui autorise.
Et au-delà des programmeurs, qui décide vraiment ? Qui fixe les priorités, les objectifs, les seuils d’alerte, les règles implicites ?
Des entreprises privées, dirigées par des personnes que nous n’avons pas élues.
Nous utilisons un outil technologique que nous ne contrôlons plus, conçu par des intérêts que nous ne maîtrisons pas, intégré dans des logiques dont personne ne débat publiquement.
C’est peut-être la pire menace pour nos démocraties : le pouvoir algorithmique se privatise en silence. Nous glissons doucement d’un régime démocratique vers une technocratie algorithmique, dans laquelle les décisions collectives sont déléguées à des machines, elles-mêmes pilotées par des logiques commerciales.
Le politique cède la place à l’ingénieur. Et l’ingénieur au capitaliste. L’éthique se dissout dans la performance. Et nous, citoyens, sommes remplacés par des profils utilisateurs.
Le code a pris le pouvoir pour que l’humain rentre bien dans toutes les cases, et qu’il traverse sans s’écarter des lignes blanches.
Ainsi l’application BeReal propose son ahurissante expérience. En réaction à la cloche de BeReal, comme de bons toutous, nous attrapons dans un réflexe pavlovien notre smartphone pour faire un selfie et photographions le vide abyssal de nos existences.
Ce geste, déguisé en spontanéité, illustre une nouvelle forme de conformisme numérique : l’injonction par une alerte « push » à être authentique.
Quelle ironie.
La preuve que les moutons ne rêvent pas !