An 1 de l’algocrature française : état des lieux
Bienvenue dans l'algocrature (plus ou moins douce) en Marche !
Le président Macron élu sur son projet de startup-nation continue de mettre en place la société du « nouveau monde » à laquelle il aspire, à grands coups d’ordonnances, de rapports, de déclarations péremptoires et de réformes. Derrière le discours pragmatique du "There is no choice" et de la "disruption par l'innovation", apparaît en réalité un choix idéologique très clair, celui de la mise en place d’une "algocrature". Explications.
L’algocrature n’est pas un fantasme d’informaticien techno-critique paranoïaque qui aurait trop lu les auteurs d’anticipation du XXème siècle. Non : l’algocrature est une réalité politique qui s’installe et se forme silencieusement, masquée par de nombreux outils de communication médiatique, mais qui trace son sillon très rapidement. Pour rappel et pour ne pas redéfinir ce concept — débuté il y a quelques années — véritablement devenu « idéologie politique active » avec Macron, le plus simple est de relire cet article de Reflets de 2016, en forme de question… à l'époque :
> Article : France 2016 : bienvenue en algocrature ?
« L’algopolitique en "démocrature" donne une "algocrature". L'administration, en algocrature, agit donc algorithmiquement dans la majorités des domaines qu'elle doit traiter. Pour contrôler et encadrer les citoyens et les rassurer dans le même temps sur ses "bonnes intentions »."
Outils de contrôle et automatisation sociale
Les logiciels de statistique d'apprentissage automatique [et autres algorithmes décisionnels et d'analyse], vendus comme "IA" la plupart du temps par une pléthore d'entreprises [qui ont bien compris que le nouvel or noir est celui du traitement des big ou small data], sont en train d'envahir toutes les sphères de la société. Personne ou presque ne peut les voir ou même connaître leur existence la plupart du temps, mais les résultats qu'ils sont capables de donner — plus ou moins précis, foireux ou orientés —, eux, servent de caution à des décisions qui sont elles parfaitement concrètes.
#ParcourSup est un bon exemple de l'automatisation sociale par des algorithmes informatiques : le dossier du lycéen se voit mouliné par un logiciel qui va déterminer son orientation universitaire, et donc décider de son avenir socio-professionnel. Un contrôle social automatisé où l'humain est, au moins partiellement, remplacé par la machine — forcément plus "neutre", "objective" et certainement plus rapide que ne le sont les vieux traitements manuels du vieux monde. Le résultat final après le bac sera certainement plus "performant" en nombre d'orientations et le gouvernement algocratique en place s'en félicite déjà comme l'a fait ce matin Blanquer, le ministre de l'Education nationale sur sur France Culture :
"L'année dernière à la même date, vous savez le nombre de lycéens qui avaient une réponse pour la suite ? Ce chiffre est très simple, c'est zéro" Jean-Michel Blanquer, ministre de l'Éducation nationale, France Culture, le 30/05/2018
Quand à la qualité des choix retenus par les machines génératrices d'anxiété chez tous les jeunes gens en attente de savoir s'ils auront ou non le droit d'aller étudier là où ils le souhaitent — avec obligation d'aller se connecter tous les jours pour vérifier le couperet numérique — personne en Macronie ne semble s'en soucier. La performance seule des dispositifs compte. Et si sur cet autel technico- politico-scientiste, des parcours étudiants sont sacrifiés, ce ne sera au fond que la froide rigueur mathématique de ParcourSup, l'omniscient logiciel qui trie, écarte et assemble les données de nos "chères têtes blondes" qui sera en cause : mais qui pourra lui en vouloir ? L'algorithme ParcourSup est tellement plus intelligent et efficace que ces tas de fonctionnaires paresseux de l'ancien monde ou que le logiciel "socialiste" de tirage au sort du précédent gouvernement…
Quand l'erreur humaine disparaît, c'est le début de la tyrannie [algorithmique]
Le but du gouvernement algo-technocratique en place est simple : gérer la société au plus près des intérêts économiques de ceux qui détiennent les outils de production et donc le "capital" : quelques centaines de capitaines d'industrie et d'ultra riches, poussés par une poignée de quelques dizaines de milliers de plus ou moins jeunes entrepreneurs avides de monter et/ou revendre leurs "startups". Pour parvenir à cette gestion optimale, quelques règles simples et déjà bien rôdées dans des pays comme le Royaume-Uni doivent être mises en place. Les principales sont les suivantes : baisse des dépenses publiques pour parvenir à l'obligation de substitution des services d'Etat par des entreprises privées (ou financement du privé par des aides publiques), gel des salaires et abaissement des cotisations sociales pour améliorer les profits des entreprises, automatisation des tâches administratives du maximum de services régaliens (police, renseignement, santé, éducation, organismes paritaires de prestations sociales, etc) afin de :
- Economiser sur les dépenses publiques sans avoir à améliorer les recettes ;
- Offrir le plus de marges de manœuvre possibles aux actionnaires d'entreprise ;
- Encadrer et contrôler au plus près la population ;
- Mettre en place une prédiction algorithmique politique, sociale et économique ;
- Prévenir et désactiver toute contestation politique ou sociale.
La nouvelle ère qui s'est ouverte et qui est celle du renseignement de l'activité et de sa modélisation, implique le remplacement de l'identité par l'activité pour la prédiction, basée sur l'automatisation du traitement des activités.
L'IA et ses avatars sont donc les instruments les plus adaptés à la constitution de cette nouvelle République des nombres, l'algocrature française rêvée par Emmanuel Macron.
> Article : La République des lettres et la République des nombres
Une République des nombres est un espace démocratique, au sens du "respect" (apparent au moins) des libertés individuelles, mais géré par des machines (…) La réalité de la République des nombres, que nous vivons aujourd'hui, est celle d'une gestion sociale, politique et économique par des machines. Les politiques, élus ou nommés, sont des êtres humains "mécaniques" dans leurs discours et soumis dans leurs décisions aux résultats des machines. Aux nombres que ces machines recrachent. Aux prédictions qu'elles génèrent.
La tyrannie par les nombres est bien plus difficile à combattre que celle des idées : sous l'apparente rationalité des résultats chiffrés — auxquels il est toujours possible de faire dire ce que l'on veut — se cache en réalité l'impossibilité de toute contestation. Si l'on peut contester une idée, il est difficile de contester une statistique. La dernière manipulation en date effectuée pour appuyer la politique d'augmentation du prix des cigarettes et du paquet neutre est symptomatique : un millions de cigarettes vendues en moins en un an est interprété comme une baisse du nombre de fumeurs (au prorata de ce chiffre) sur cette période…
Le logiciel au détriment de l'humain, mais pour le bien de tous…
La liste des outils de contrôle algorithmique au service de l'algocrature — et ceux qui vont apparaître pour compléter l'arsenal déjà mis en place — est longue et encore provisoire, mais nécessite d'être fournie, même partiellement. Les plus spectaculaires sont bien entendu les logiciels de reconnaissance faciale : la police française est équipée du logiciel MVI (Morpho Vidéo Investigator) depuis 2016 :
MVI (Morpho Vidéo Investigator) a été vendu en 2016 à la police nationale française. C'est un "détecteur de suspects", un enquêteur et investigateur numérique. Une IA flic. Cette intelligence logicielle qui se connecte aux caméras de surveillance, aux réseaux sociaux, à Google images, etc., est donc capable de repérer des personnes suspectés d'actes criminels dans une foule, d'établir des correspondances d'identification à travers tout type de fichiers publics ou non, et de suivre ces personnes à la trace.
> Article : Morpho-Safran : la société algopolitique dystopique du futur a débuté
Malgré des résultats pas toujours très probants (Article abc.net.au : "The comments follow revelations a London police trial of facial recognition technology generated 104 "alerts", of which 102 were false), cette surveillance, ce traitement des visages humains par des machines, est devenue très vite un business mondial que les géants du Net monnayent au plus offrant via des services cloud : chacun peut ainsi désormais, s'il en a les moyens, louer les IA de reconnaissance faciale d'Amazon ou Microsoft. Au point que le Financial Times s'en émeuve dans un article intitulé "Companies are the cops in our modern-day dystopia" :
"Last week, the American Civil Liberties Union and several other rights groups called on Amazon to stop selling its Orwellian-sounding Rekognition image processing system to law enforcement officials, saying it was “primed for abuse in the hands of government”.
Ces procédés, basés sur l'analyse et la prédiction — du crime, de la fraude sociale, de la recherche d'emploi, de l'orientation sexuelle, de la croyance religieuse, de l'engagement politique, des émotions, etc. — changent radicalement la perception et l'activité des acteurs des domaines concernés, comme le souligne — toujours dans le Financial Times — une universitaire qui a travaillé sur l'utilisation des modèles prédictifs de Palantir au département de police de Los Angeles :
"Sarah Brayne, an academic at the University of Texas, recently studied the use of big data within the Los Angeles Police Department, which has worked with Palantir to build predictive models of where crime might occur. She found that big data had fundamentally changed the nature of policing, making it less about reacting to crime and more about mass surveillance and predicting where crime might happen."
En algocrature, le logiciel remplace l'humain pour traquer toute déviance, de la plus petite à la plus criminelle : les citoyens ne sont plus que des paquets de données soumis à des traitements plus ou moins massifs afin de déterminer leurs futurs actions et prévenir ainsi toute tentative subversive. La DGSI (Direction des services de renseignement intérieur français) s'en vante d'ailleurs par le biais de son directeur, tout content d'expliquer l'avancée des modèles prédictifs que le logiciel de la CIA Palantir lui permet d'effectuer :
(…) Il peut s’agir de traductions d’écoutes, ou encore de la mise en forme de données de connexion sous forme de graphiques ou de cartographies. Nous développons beaucoup d’outils d’analyse de données hétérogènes, car c’est un énorme enjeu que de traiter simultanément, plus vite et plus précisément des volumes de plus en plus importants de données dans des formats variés.
Si nous ne sommes qu'au tout début de ce nouveau fonctionnement de société, Emmanuel Macron et ses troupes comptent bien accentuer le mouvement. La mairie de Marseille s'est lancée dans la police prédictive, aidée par l'entreprise Engie Ineo :
(…)La « vidéo-intelligente » vise à détecter automatiquement, sans intervention humaine, des événements comme un « seuil de densité » de personnes dans un lieu donné, des « objets abandonnés ». Dans une interview, Caroline Pozmentier précisait que le système pourrait faire appel à des « réseaux neuronaux » qui permettraient au système d'acquérir « une certaine forme d’intelligence lui permettant de savoir ce qui est normal et anormal ».
> Article : Marseille s'offre son Big Brother grâce à Engie Ineo
Le secteur de la santé publique et son manque de moyens humains illustre bien ce basculement. Alors que 30 milliards font défaut pour les hôpitaux, le gouvernement compte les soulager encore de 2 milliards par an. Il envisage d'investir 1,5 milliards dans l'IA "en même temps" et va créer une "blockchain santé" :
La blockchain pourrait notamment servir à la traçabilité des médicaments, à la sécurisation des données de santé, et à la gestion des données des patients.
Bien entendu, dans le cadre de la communication "algocraturique" d'adhésion par biais cognitif, une annonce vient d'être faite d'un financement de 1,5 milliards pour les EHPAD. Chacun sait que ces structures d'accueil des personnes âgées sont en crise totale par manque de moyens humains. Tout comme l'ensemble du secteur du secteur hospitalier. Sauf que le "financement des vieillards" annoncé est avant tout là pour activer "le circuit de la récompense des cerveaux des citoyens", très inquiets par l'état du service public hospitalier…
Remodeler les cerveaux et la perception de la majorité
Le sciences cognitives sont au cœur du projet d'algocrature, cette démocratie de façade par gouvernance algorithmique qui emprunte de nombreux procédés aux dictatures, tout en revendiquant en permanence son appartenance à la défense des droits universels de l'homme, de la démocratie. Comment effectivement parvenir mettre en place un système autoritaire, autocratique, policier et automatisé tout en empêchant la population de constater la réalité de ce système ?
Les grandes entreprises Internet travaillent en permanence avec les sciences cognitives pour conserver leurs utilisateurs, les accrocher et les inciter à toujours plus consommer. Leurs données personnelles valent de l'or et le modèle des plateformes est dépendant du nombre et de l'activité de ceux qui les utilisent. Les gouvernements appliquent eux aussi ces techniques en les camouflant sous le concept de nudge, les fameux « coup de pouce » "qui sont une une technique pour inciter des personnes ou une population ciblée à changer leurs comportements ou à faire certains choix sans être sous la contrainte et qui n'implique aucune sanction."
Les neuroscientifiques travaillant pour les firmes Internet ont compris qu'il était possible d'influencer directement le cerveau de l'utilisateur par des gratifications instantanées, aléatoires permettant la libération de dopamine : Les "j'aime" des amis Facebook, les retweets et favoris de ses abonnés Twitter, les "flammes" de ses correspondants Snapchat, etc, sont autant de redoutables activateurs du circuit de la récompense et libèrent donc de la dopamine dans les cerveaux des utilisateurs, et ce, quotidiennement. _Article TV5Monde, Plateformes numériques et économie de la donnée : comment nos cerveaux sont-ils influencés ? Le 13/05/2018
Désormais, les enfants sont le centre d'attention des sciences cognitives et des techniques d'influence. Tout comme le neuromarketing télévisuel et en ligne travaille activement à fabriquer des très jeunes clients captifs du monde de l'hyperconsommation, l'école française veut faire de même pour l'apprentissage. Le principe en cours de validation par le gouvernement est simple : si les enfants n'apprennent pas assez bien en France c'est que leur cerveau n'est pas correctement utilisé. Mieux : il faut leur apprendre à inhiber la part émotionnelle contenue dans leurs circuits cérébraux pour que la part algorithmique prenne le dessus afin d'opérer de façon plus performante :
Il y a des algorithmes dans notre cerveau et le problème c'est qu'il y aussi, dans notre cerveau, des émotions, des automatismes, ce sont des heuristiques (…) et pour moi l'intelligence c'est d'inhiber ces heuristiques(…)
Les enfants intelligents seront ceux à qui l'on apprendra à l'école à inhiber leurs émotions, selon Olivier Houdé, Professeur de psychologie du développement à l'Université Paris Descartes et Directeur du LaPsyDÉ (CNRS) , invité sur France Culture, ce 27 mai 2018 : tout un programme.
Bourrer les crânes : permettre à l'humain de devenir une machine [à opprimer] sans émotions…
L'algocrature est un vaste dispositif technico-politique mais aussi communicationnel et donc médiatique. L'objectif d'habituation au système de surveillance et de contrôle, d'acceptabilité des technologies et des ruptures sociétales passe donc par des méthodes de répétition dans le discours. La liste là encore est très longue, mais elle recouvre un concept politique qui peut se résumer à celui de censure, que le philosophe politique québécois Alain Denault développe depuis un certain temps :
La censure a cours de manière invasive à travers les mots. En remplaçant le terme d'usager par le terme de client en ce qui concerne la SNCF par exemple, on détruit dans l'esprit des gens la notion de service public. Alain Deneault
Façade de démocratie mais coulisses de dictature, le tout en mode prédictif et panoptique ? Les dernières actions policières envers les lycéens soulignent très bien cette pente qui permet aux nouveaux agents humains de l'algocrature de procéder avec les citoyens comme avec des objets :
Et puis en algocrature, sachez que vous êtes fiché de manière secrète mais très exhaustive, puisque ce qui motive les gouvernants n'est rien d'autre que la continuation — envers et contre tous — de leur "nouveau monde", celui où l'être humain sans émotions, parfaitement adapté aux rouages de l'économie accepte silencieusement sa gestion par des machines…