Journal d'investigation en ligne et d'information‑hacking
Reflets poursuivi par Altice : la liberté d'informer menacée

Le groupe de Patrick Drahi tente de contourner le droit de la presse. Altice a des milliards, nous avons un site Web. Aidez-nous à défendre la liberté de la presse.

par drapher

Singularité inversée : quand la stupidité artificielle esclavagise l’homme automate

Le nombre d’articles, d’émissions, d’essais, de débats, de conférences sur l’intelligence artificielle est en croissance exponentielle. Tout le monde veut donner son avis sur les IA ou savoir si elles deviendront "conscientes d’elles-mêmes", auront une "intelligence supérieure" à celle de l’homme, et si l’humanité — au final — pourrait être mise en danger, voire détruite par ces dernières.

Le nombre d’articles, d’émissions, d’essais, de débats, de conférences sur l’intelligence artificielle est en croissance exponentielle. Tout le monde veut donner son avis sur les IA ou savoir si elles deviendront "conscientes d’elles-mêmes", auront une "intelligence supérieure" à celle de l’homme, et si l’humanité — au final — pourrait être mise en danger, voire détruite par ces dernières. Ce qui est fantastique dans cet emballement autour des IA (et du concept de "singularité technologique"), avec les pro, les anti, les inquiets ou les optimistes, c’est que personne ou presque ne pose les bonnes questions. Ni ne veut regarder vraiment le concept de l’IA (forte ou non) pour ce qu’il est : une  "nouvelle" économie, continuation logique et incontournable de l’économie du numérique, et l’aboutissement des politiques hypercapitalistes des 30 dernières années. Avec, en toile de fond, un phénomène qui œuvre en faveur du développement des IA à tous les niveaux de la société : la transformation des individus des sociétés développées en "automates humains", producteurs-consommateurs inconscients de leur sort, à "l’intelligence" de plus en plus formatée et dont l’imaginaire, généré massivement par l’industrie, se rapproche de plus en plus de celui qu’on pourrait attribuer à une machine.

Capacités ultra-performantes de la stupidité artificielle (SA)

Ce qui est nommé intelligence artificielle n’est rien d’autre qu’une somme de programmes informatiques. Du code. Pas n’importe lequel, puisqu’il est généralement basé sur des systèmes de réseaux de neurones artificiels, et bénéficie des recherches débutés dans les années 80 autour du Machine Learning ou du Deep Learning, et permet de traiter des sommes de données très importantes avec un but unique : établir des statistiques les plus fines possibles, et permettre à ces programmes de s’enrichir de nouvelles fonctions, auto-améliorer leurs modèles, faire des tris et des choix les plus performants possibles. Cette description très triviale de l’intelligence artificielle l’est pour une raison importante : les algorithmes basés sur les réseaux de neurones artificiels ont beau être ultra performants, amener des résultats incroyables, ils n’en restent pas moins de grosses calculatrices statistiques. Evolutives, certes. Mais des calculatrices.

Pourquoi donc parler alors d’intelligence artificielle, lorsque l’on parle de ces systèmes informatiques apprenants ? Plusieurs raisons peuvent être invoquées. En premier lieu, il est fréquent de comparer les compétences ou les capacités humaines avec celles des machines et d'en tirer des conclusions. La défaite de Kasparov face à Deep Blue en 1998 est le départ de cette dérive vers la croyance en une "intelligence" (ou une supériorité intellectuelle) des machines. Alors qu’il n’en est rien. Big Blue comparait des dizaines de milliers d’ouvertures, de parties à des vitesses vertigineuses à chaque fois qu’il devait jouer un coup contre Kasparaov. Le joueur humain, lui, ne pouvait le faire. On ne sait d’ailleurs toujours pas ce qu’il se passe dans le cerveau d’un joueur d’échecs, et très certainement, aucun d’entre eux ne joue exactement de la même manière, avec les mêmes "organisations cérébrales". Il est probable, d’ailleurs, que n’importe quel jeu logique trouve sa limite pour un cerveau humain face à la machine, puisque la machine traite statistiquement toutes les possibilités envisageables, jusqu’à jouer de la façon la plus optimale. Un cerveau humain ne fonctionne pas comme cela, ne peut pas rivaliser dans cette catégorie de traitement logique et statistique. Ce qui ne définit en aucune manière une intelligence derrière ces capacités artificielles : que le résultat en sortie soit le fait de variables inconnues au départ et crées par le système lui-même in fine ne le rend pas pour autant "intelligent".

Le deuxième point important sur la croyance d’une "intelligence" des machines — en cours ou à venir — est celui de la méconnaissance et du détournement sémantique du mot intelligence. L’un des ténors du concept de l’IA, grand apôtre de l’apocalypse à venir, tout en vendant du digital et du génie génétique accompagné d’IA, est Laurent Alexandre. Cet individu fortement dévarié psychologiquement vient expliquer à grands coups de conférences, d’émissions, que l’IA est une chance et aussi, bien entendu, un danger. Son grand dada est l’éducation, et le QI des enfants. Parce que pour Alexandre, toute l’intelligence se situe dans le QI. La performance des individus est centrale pour Laurent Alexandre, qui ne voit d’élévation humaine que dans la capacité à traiter des domaines logiques et des interactions statistiques. L’homme n’est au fond rien d’autre qu’une machine pour ce businessman et c’est pourquoi il s’inquiète de l’émergence d’IA plus performantes. D’où son idée de mettre les IA au service de l’intelligence humaine, pour l’augmenter, la rendre plus performante :

« Il faut une trentaine d’années pour fabriquer un radiologue. (…) Il faudra bientôt seulement quelques heures pour fabriquer une IA plus forte que lui »

Laurent Alexandre

La stupidité artificielle a de beaux jours devant elle avec ce type de discours. Ce qui n’est pas sans poser de nombreuses questions.

De l’homme automate et de la société productiviste de pure consommation

La singularité est une pure escroquerie : il n'y aura pas de programme informatique qui "s'éveillera à la conscience" et "dépassera l'esprit humain en tous points". La raison principale est que le cerveau humain comporte trop d'inconnues pour être rendu compréhensible dans son ensemble à qui que ce soit ou à quoi que ce soit, et que l'idée même de comprendre scientifiquement ce qu'est l'esprit humain, la conscience, est une idée absurde. A moins que l'on ne réduise la conscience humaine à de simples capacités logiques et mécaniques du cerveau.

Laurent Alexandre, au Figaro : "On ne sauvera pas la démocratie si nous ne réduisons pas les écarts de QI. Des gens augmentés disposant de 180 de QI ne demanderont pas plus mon avis qu'il ne me viendrait à l'idée de donner le droit de vote aux chimpanzés. "

Ce qui est par contre certain, c'est que les programmes autonomes de réseaux de neurones artificiels en apprentissage non supervisé (lire l'article NextInpact sur les dernières avancées dans le domaine) vont se développer et devenir ultra performants. Cette avancée ne va pas sans poser des problèmes importants, mais des problèmes bien plus profonds que la "domination en toutes choses" des stupidités artificielles sur l'homme, ou encore "la fin du travail". Le fond du problème se situe, en réalité, dans la notion même de l'existence humaine et de sa place dans l'ensemble du monde vivant. Le concept de "singularité inversée" (inventé à l'occasion de cet article) définit un nouveau paradigme, qui pourrait se résumer de façon ironique à : "L'instant où l'être humain se considère non plus comme un être singulier et transcendant, mais comme une mécanique limitée par des lois physiques, une sorte d'automate aux fonctions logiques bridées par sa propre composition biologique."

Il va sans dire, qu'à partir de l'instant où la qualité de notre existence est conditionnée à nos performances intellectuelles ou physiques, à une somme de compétences, de capacités et d'actions normées donc quantifiables, nous ne devenons rien d'autres que des automates. Et c'est à partir de ce constat que l'arrivée des stupidités artificielles autonomes, apprenantes et évolutives devient un véritable problème, puisque l'automate humain ne peut pas rivaliser face à elles dans cette vision de l'existence.

Cette vision de l'être humain est directement reliée au système dans lequel les sociétés humaines se sont enfermées. Productivisme et consommation en sont les moteurs centraux et ils renvoient, pour les individus à des critères tels que : la performance individuelle basée sur la compétitivité, l'efficience, la prédictibilité, l'optimisation, l'organisation, l'économie, la gestion, l'amélioration, etc…

Une société qui ne se définit que par des notions d'efficience économique, industrielle, technique, est une société qui enlève son humanité à l'être humain pour le transformer en pur objet : de production et de consommation. C'est à cet instant précis où la Condition humaine devient elle-même une variable parmi tant d'autres, quantifiable et mesurable à l'aune des critères gestionnaires d'un ensemble de critères sociétaux bien définis.

Boite noire et débilité collective

Ce qui est inquiétant avec l'intelligence artificielle, ce n'est pas la conscience qui pourrait émerger des programmes leur permettant de s'autodéterminer, mais le fait qu'elles sont des boites noires. Les programmeurs d'origine n'ont aucune idée de ce que leur programme "fabrique" une fois qu'il s'est "entraîné", et qu'il se modifie. Jusqu'à s'inventer un mode de communication, ou bien parce que leur fiabilité n'est pas mesurable, comme dans le cas de l'IA de Facebook ?

Au lieu d'utiliser l'anglais correctement en utilisant des chiffres pour indiquer quel était le nombre d'objets souhaité, les robots ont créé des répétitions d'articles définis et pronoms personnels.

Il semble que ces boites noires, plus ou moins autonomes, ont vocation à se répandre dans des sociétés humaines de moins en moins humaines, et de plus en plus automatisées. Les individus des sociétés modernes pensent tous, à 90%, le monde avec les mêmes références issues des mêmes programmes industriels télévisuels couplés aux mêmes agrégations d'informations du net. L'imaginaire collectif est partagé massivement par le biais de productions cinématographiques archétypales diffusées en continu. Le travail humain est majoritairement encadré par des processus de contrôles automatisés, une organisation industrielle basée sur l'efficacité normative. N'importe quel stupidité artificielle sera capable sous peu d'effectuer ce travail, et ce, de façon bien plus efficace que n'importe quel être humain.

Il est donc temps de se poser la question non pas du danger que peut provoquer l'arrivée des intelligences artificielles dans les sociétés humaines, mais plutôt du danger de continuer dans cette voie débilitante et artificielle des sociétés humaines, qui, si elles ne remettent pas en question leur propre déshumanisation et leur propre automatisation, ne peuvent que finir par s'autodétruire.

Avec ou sans stupidité artificielle — supervisée ou non, forte ou non — la singularité inversée est au cœur du problème actuel. Et c'est celui, au fond, de la condition humaine…

0 Commentaires
Une info, un document ? Contactez-nous de façon sécurisée