IA, cheval de Troie du techno-fascisme : entretien avec Thibault P

En bref

- L’IA et ses prophètes : l’industrie de la tech bascule dans un discours messianique qui nous vend l’imminence d’une " IApocalypse "

- Techno-religion : ce discours est le paravent d’une quête de nature politique ; il s’agit pour les techno-oligarques d’accroître leur domination sans partage

- Risques politiques : la frange la plus réactionnaire de la tech entreprend déjà de " gangréner " la puissance publique

L’IApocalypse n’aura pas lieu. Ce que nous devons plutôt craindre, c’est une prise de pouvoir autoritaire par une poignée de ploutocrates de la tech, alerte le journaliste T. Prévost dans un essai saisissant : Les prophètes de l’IA. Pourquoi la Silicon Valley nous vend l’Apocalypse (LUX, 2024).

Nastasia : Commençons par poser le décor. Qui sont les prophètes de l’intelligence artificielle (IA) qui façonnent cette industrie que tu décris comme un quasi-culte ?

TB : Les techno-prophètes de l’intelligence artificielle sont issus de quatre sphères qui se croisent. Il y a d’abord les grands entrepreneurs médiatiques, Elon Musk, Sam Altman d’OpenAI, Satya Nadella de Microsoft et Sundar Pitchai de Google Alphabet. Ce sont eux qui sont à la tête des grands conglomérats industriels leaders du marché. Il y a ensuite les scientifiques médiatiques à l’instar de Geoffrey Hinton, prix Nobel de physique en 2024, Yann Le Cun qui dirige la recherche en IA pour Meta et Joshua Bengio de l’université de Montréal. Ces trois personnalités incarnent chacune l’autorité de la science mais aussi un discours de repenti, très médiatisé. Leur exposition produit en quelque sorte un effet Oppenheimer censé nous alerter sur les risques liés à la prolifération sans contrôle des IA.

Il y a ensuite les philosophes avec, en tête de pont, la figure de Nick Bostrom de l’université d’Oxford. C’est en quelque sorte le pape des techno-prophètes puisqu’il y a inventé de toutes pièces trois champs de recherche pseudo-scientifiques, dont l’étude des " risques existentiels " liés à l’IA, l’étude de l’ " alignement " ainsi que le champ de l’AI safety1. Dans son sillage, on trouve également les figures de William McAskill et Toby Orb qui ont oeuvré au sein de deux autres courants, l’altruisme efficace et le long termisme. Ce chapelet de disciplines récentes forme à mon sens un arc pseudo-scientifique qui alimente le discours apocalyptique sur les IA.

Enfin, n’oublions pas le rôle-clé des investisseurs comme les figures du capital-risque Peter Thiel et Marc Andreessen, dont les millions de dollars ont catalysé ce marché et dont l’agenda politique réactionnaire semble s’imposer à une partie de la tech.

L’IA est une entreprise de gangrène de la puissance publique

Nastasia : En quoi le déploiement actuel du secteur de l’IA incarne un croisement inquiétant entre techno-autoritarisme et ultra-capitalisme ?

TB  : L’IA est le paravent technique d’un phénomène de conquête agressive du politique. Une entreprise de gangrène de la puissance publique. Sous prétexte d’IA, ce que les techno-prophètes nous vendent, c’est l’arraisonnement et la subordination du corps social par la rationalité du marché. Celle qui s’incarne dans les Big Techs, ces entités transnationales monopolistiques ayant désormais des capacités de fonctionnement dignes d’un État.

Jusqu’à 2020, la Silicon Valley prétendait incarner une forme acceptable de progressisme social-libéral. Mais, en son sein, s’est depuis développé un tout autre discours. En particulier celui qui présente les garde-fous démocratiques comme des obstacles. Pour les géants de la tech, il ne doit précisément pas y avoir d’obstacles à la croissance, à l’extractivisme et à la recherche du monopole.

Ce discours est publiquement assumé. C’est par exemple le financier Peter Thiel qui déclare en 2016 que " capitalisme et démocratie ne sont pas compatibles ", sous-entendant préférer le premier à la seconde2. C’est le capital-risqueur Marc Andreessen qui, dans son manifeste techno-optimiste, cite Marinetti, le pape du futurisme italien qui s’est ensuite réclamé de Mussolini3. C’est aussi l’influence intellectuel de Curtis Yarvin, aka Mancius Moldbug, le penseur des " lumières noires " de la néoréaction4. Et c’est enfin Elon Musk qui, alors que le gouvernement bolivien s’apprête à nationaliser certaines de ses mines de lithium, déclare : " nous renverserons qui nous voudrons. "5

Le discours de ces milliardaires est clair : les contre-pouvoirs, on les écrase. Et c’est très inquiétant car les grands conglomérats du numérique sont devenus le système nerveux de nos sociétés. Ils ont la main sur l’infrastructure, les moyens de calcul et de prédiction. Ils ont su imposer les principes de la gouvernementalité algorithmique auprès des gouvernements néolibéraux. Pour ces derniers, on assiste donc à une perte massive de souveraineté.

L’IA c’est un coup environnemental hallucinant, une prolétarisation du travail et la reproduction de logiques coloniales dans la division des rapports de production

Nastasia : " On ne vend plus le futur mais la fin de l’histoire ", écrivez-vous au sujet de la prolifération des discours apocalyptiques sur l’IA. De quoi le discours sur l’intelligence artificielle " générale " (AGI) est-il censé nous distraire ?

TB : L’AGI est un outil conceptuel très pratique car il permet de fixer un cap. Ce cap n’est pas technique, il est social ; c’est le cap vers lequel tend l’humanité dans son ensemble.6

L’AGI est un concept mouvant, dont la définition n’a de cesse de fluctuer, avec une tendance nette toutefois : chaque modification réduit un peu plus le spectre de l’intelligence humaine. L’entreprise qui joue un rôle clé dans la conceptualisation de l’AGI c’est OpenAI. Dans leur dernière tentative, ils indiquent que l’objectif de l’AGI est d’imiter l’ensemble des activités humaines économiquement productives7. On voit le glissement s’effectuer sous nos yeux : ce n’est plus l’intelligence de la machine qui tend vers celle de l’humain, c’est l’humain qui est réduit à sa capacité productive. Or présenter l’intelligence humains comme une simple machine à calculer et à produire valeur, c’est à la fois très réducteur et très aligné avec le modèle du capitalisme algorithmique promu par cette entreprise.

Ce discours a une fonction très similaire à celle du discours global sur l’IA : il s’agit de nous distraire des limites de la technique, de son inefficacité qui a pourtant un coût économique, social et environnemental colossal. L’IA est un écocide, elle induit une prolétarisation du travail et amplifie les logiques coloniales Nord-Sud dans la division des rapports de production.

Nastasia : Quels sont les risques politiques liés à l’adoption sans critique d’un discours pro-IA, aux États-Unis comme ici en France ?

TB : Pour les citoyen·nes, le principal risque c’est la sidération et le fatalisme. Le fait d’accepter le déterminisme technique et politique que l’on nous vend, sans recul critique. Je m’alarme aussi de la tentation, pour le corps social, de naturaliser l’idée selon laquelle, qu’on le veuille ou non, le progrès va nous rouler dessus. C’est accepter sans broncher les logiques de surveillance carcérales, la pérennisation de la surveillance algorithmique, la reconnaissance faciale. C’est ne pas se soulever face au régime de gouvernementalité algorithmique à l’œuvre à la CAF, à France Travail ou aux impôts.8

L’IA est un outil de déresponsabilisation de la puissance publique. Ce qu’on laisse s’opérer devant nous, c’est la confiscation de notre autonomie politique.