Transparence numérique et totalitarisme algorithmique : l’aliénation des masses en question
Tyrannie et transparence numérique : une nouvelle servitude volontaire
L’aliénation des masses dans une société transparente et gérée par un système totalitaire algorithmique est en cours… Jusqu’à quel point sera-t-il possible de limiter la casse ?
Le sujet de la collecte et du traitement des données commence à faire débat au point que les instances politiques s’en sont emparées. Un débat vite bouclé, puisque le Règlement général sur la protection des données (RGPD) qui arrive est censé rassurer les foules hypnotisées par leurs vies numériques… qu’elles offrent sans compter (et pourraient bientôt vendre). Les entreprises de traitement des big data poussent comme des champignons : le traitement des données par machine learning est devenu le nouveau pétrole du XXIè siècle. L’aliénation des masses dans une société transparente et gérée par un système totalitaire algorithmique est en cours… Jusqu’à quel point sera-t-il possible de limiter la casse ? La gouvernance algorithmique et le totalitarisme qui en découle ont été analysés depuis plusieurs années sur Reflets :
Le nouvel âge de l'algopolitique… et ses outils
Sous le règne de la gouvernance algorithmique
France 2016 : bienvenue en algocrature ?
La République des lettres et la République des nombres
Société technologique : vie impérative et artifice de liberté
Nous vous scrutons, bien que ce ne soit pas vous la cible
Mais en 2018, ces sujets prennent une autre tournure puisqu’ils commencent enfin à être mis (un peu) en avant et dénoncés pour ce qu’ils sont, et ce, dans la presse généraliste : un danger pour la société dans son ensemble, une véritable transformation des individus passant du statut de « citoyens éclairés et responsables » à celui de « valeurs statistiques sous influence » : de simples éléments consentants de la fabrique d’opinion et de la consommation de masse.
La transparence, notre « nouvelle servitude volontaire »
Le livre de Denis Olivennes et Matthieu Chichportich, « Mortelle transparence » — qui vient d’être publié aux éditions Albin Michel aborde donc (enfin) la problématique de la collecte et du traitement algorithmique des données personnelles, des nouveaux usages numériques de masse de façon large et ample, au delà du seul sujet emblématique de « la vie privée » et de leur utilisation par les entreprises ou par l’Etat, avec ou sans consentement.
Hurler au loup en 2018, comme en 2017 sur la collecte de données personnelles et vilipender les GAFA, la NSA, les services de renseignement sur les méthodes de profilage numérique ne sert plus à grand chose : l’affaire est entendue depuis de nombreuses années, les pratiques sont ancrées, améliorées, légalisées, et surtout, ne trouvent le plus souvent aucun écho contestataire dans la population. Hormis quelques « gus et gonzesses » dans deux ou trois garages, il n’y a quasiment personne dans la population pour se préoccuper de la surveillance numérique et du traitement des données personnelles. Sauf que désormais, le véritable enjeu n’est plus la seule collecte des données en tant que telle, mais surtout leur traitement, et en amont, leur inflation exponentielle.
« La transparence, notre nouvelle servitude volontaire » est le titre de l’article de l’Obs traitant de l’ouvrage d’ Olivennes et Chichportich sous-titré : « jusqu’où ira la dictature de la vertu ? ». De quoi parle-t-on avec ce titre ? Pas simplement de la diffusion permanente de rumeurs, délations, opinions injurieuses sur les réseaux sociaux, ces « nouveaux tribunaux populaires », mais aussi — et surtout — de l’obligation sociale et économique de tous, à « fournir de la donnée ».
La tyrannie est douce, s’opère sans violence ni contrainte, mais amène chaque individu à insérer sa vie dans le grand système des données numériques. Vouloir prendre un taxi parisien par smartphone oblige à fournir un nombre impressionnant d’informations. Réserver une table de restaurant par Internet n’est pas anodin et fournit de nombreuses informations pour qui sait en tirer profit : l’algorithme de traitement statistique. Un programme informatique de machine learning, vendu comme intelligence artificielle par la pléthore de boites « spécialisées en big data et intelligence artificielle ». Mais point besoin de chercher très loin une volonté de « piller » le fonctionnement quotidien des individus sur le réseau, puisqu’ils se chargent eux-mêmes de donner à qui mieux-mieux toute leur existence en données numériques : la transparence devient la règle, chacun exposant à tous, de façon publique la quasi totalité de sa vie privée. Ce qui permet la création d’outils informatiques extraordinaires de précision et de pertinence, mais nous menant tout droit… vers un autre monde.
La vertu de chacun pour la fabrique d’une société truquée et d’abolition du hasard
L’addiction aux réseaux sociaux et autres "apps" communicantes s'est amplifiée au point de devenir la norme pour une part très importante de la population. Smartphones, tablettes, comptes Facebook, Twitter, Instagram, Snapchat, applis de rencontres, de suivi corporel, d’aide à la décision, de gestion du temps, assistants « intelligents » domestiques : le temps passé le nez rivé aux écrans ou en interaction avec une machine devient majoritaire, au point de marginaliser les interactions physiques humaines classiques.
Mais que font donc tous ces gens autant de temps connectés à leurs « apps » ? Il se mettent en scène. Ils mettent en avant leurs qualités, exposent leur vie — forcément vertueuse — fabriquent une société entièrement truquée. A travers les entreprises — majoritairement californiennes — du réseau, pensées par le neuro-marketing, la foule des adolescents accrocs aux flammes de Snapchat — et le reste de la population aux posts Facebook ou aux tweets et autres photos Instagram — nourrit de façon continue et massive l’ogre hyper-capitaliste 2.0. Un ogre qui ne se maintient à ce niveau de puissance que parce qu’il peut négocier en permanence cette manne d’informations.
Donner ses goûts, ses envies, ses préférences, ses agacements, opinions est une nécessité économique et politique que la sphère 2.0 incite à pratiquer : c’est avec toutes ces informations qu’il est possibles de faire du traitement statistique et pouvoir optimiser, pour qui la chasse aux fraudeurs, aux délinquants / criminels / dissidents, pour qui la vente de services ou d’objets, d’informations orientées… Les possibilités sont infinies et ne font que se généraliser à tous les étages de la vie quotidienne. Cette nouvelle vie — numérique, hyper-connectée — est l’apogée de la société du divertissement, car que font-ils, tous ces ultra-connectés, si ce n’est donner du temps de cerveau disponible à la machine ? Pourquoi le font-ils si ce n’est pour s’occuper, se divertir, s’occuper et au final nourrir les algorithmes de traitement statistique qui leur renvoient la bonne option, le bon chemin, objet, commentaire, partenaire sexuel ?
Cette mise en scène de chacun, cette préoccupation de tous les instants des « moments numériques », par le réseau, est aussi une nouvelle façon d’exercer une forme de gestion active — totalement fabriquée — de sa propre existence. La maîtrise de son temps, de sa santé, de ses relations, de sa communication, de ses divertissements, de sa sexualité, de toutes ses activités finissent par passer par un unique canal — sur écran — en traitement algorithmique, et amènent chaque individu à une vie « optimisée ». Parfaitement régentée. Sans hasard. La machine choisit au mieux pour chacun. L’expérience de l’entropie, des changements de destin par la rencontre hasardeuse, les contraires qui se rejoignent, disparaissent au profit d'une vie optimisée et préférentielle. Et c’est cette conjonction entre aliénation personnelle, aliénation collective, gestion des individus par les algorithmes, traitement statistique global politique, économique et social et abolition du hasard qui dévoile la société en cours de constitution : totalitaire, algorithmique et aliénée.
Tous ensemble dans la machine : il n'y a pas d’issue
Les auteurs de « Mortelle transparence » se gardent bien de remettre en question les outils numériques de l’aliénation : ils stipulent qu’ils ne sont pas anti-technologie, et qu’il n’y aura pas — selon eux — de retour en arrière. La population utilisera donc de plus en plus les smartphones, tablettes (ou nouveaux supports en réalité virtuelle, holographiques, etc, qui ne tarderont pas à émerger), et leurs apps, et personne — toujours selon les auteurs — ne décrochera ou ne jettera l’objet de son addiction à la poubelle pour reprendre une vie « analogique », celle qui a prévalu quelques milliers d’années depuis l’apparition des civilisations humaines.
L’objectif de Denis Olivennes et Matthieu Chichportich est donc « d’alerter » et de créer un débat, pour — selon leurs dires — « amener les acteurs du monde numérique, dont les GAFAM, à changer leurs pratiques ». A faire prendre aussi conscience aux utilisateurs des limites de leurs pratiques. C’est honorable. Mais le neuro-marketing, au cœur des activités des firmes de la Silicon Valley étant le poison qui se distille dans les veines des consommateurs numériques, peut-on imaginer un instant qu’il pourrait être abandonné par mesure éthique ? Les données aspirées par ces firmes sont le carburant de leur modèle économique, sans ces données point d’issue : les firmes s’écroulent. Peut-on imaginer qu’elles abandonnent le traitement de ces données ? La nécessité que nous soyons tous dans la machine, que nous soyons tous en interaction permanente sur le réseau est nécessaire à la gouvernance tyrannique algorithmique en place. La pertinence même des algorithmes, leur capacité à rendre « service », à officier de façon correcte est dépendant de la capacité des firmes à les nourrir en données… Et chacun veut des algorithmes de plus en plus performants. Au point de leur donner toute notre intimité, s'il le faut ?
Pendant que certains s’inquiètent de la place que prennent les écrans chez les enfants, les politiques généralisent l’usage des tablettes et du numérique à l'école. Microsoft, partenaire des collèges et lycées publics français « offre » son écosystème « en nuage » pour que toutes les données scolaires soient partagées chez lui.
La machine a besoin des populations et les populations ont décidé… d’avoir besoin de la machine.
Il n’y a pas d’issue. A part si le nouveau modèle humain assisté par IA et personnalisé devient une pathologie que la majorité finit par rejeter. Ce qui n'est pas certain. Puisque la normalité n’est au fond rien d’autre que la tyrannie de la majorité. Les « normaux » d’hier s’il deviennent minoritaires pourraient bien être les « anormaux » de demain, sous la domination de la majorité "normale" : les psychopathes numériques.