Analyse

Même ceux qui n’ont pas lu Technopolitique d’Asma Mhalla[1] en ont entendu parler car en matière de numérique, peu d’ouvrages ont bénéficié d’une telle couverture médiatique. Pour comprendre les thèses et les arguments de l’auteur et établir leurs limites de validité, il faut sortir de l’effet de sidération du livre et de son style, marqué par l’hyperbole permanente et l’accumulation de faits issus de l’actualité foisonnante dans ce domaine.

On espérait une analyse, qui découpe, classe et oriente, on obtient une « symbiose » qu’on peut résumer par « tout est dans tout et réciproquement ».

Rhétorique de la pêche au gros

Admettons tout d’abord que nous apprenons beaucoup en lisant cet ouvrage : la capacité de l’auteur à accumuler les annonces, les citations, les données qui prolifèrent dans les médias et sur Twitter, permet sans doute au lecteur de procéder à une mise à jour utile sur un point ou un autre. Mais l’avalanche de faits fonctionne un peu comme les réseaux sociaux actuellement : on ne sait plus trier l’important du futile. Or c’est ce que l’on attend d’un tel ouvrage : nous proposer une grille d’analyse, de sélection, de hiérarchisation dans cette agitation permanente du secteur du numérique en général.

En lieu et place d’une grille d’analyse, le lecteur repart avec un stock de « gros mots », supposés montrer l’intrication de tout (politique, technique, économique, géopolitique, cognitif, etc.) débouchant sur une « technologie totale » « symbiotique ». L’inflation des termes hyperboliques est frappante : Big Tech (185 occurrences), Big State (109), Technologie totale (146), système (121) hyper (78 dont hypervitesse, hyperpouvoir, hyperguerre, hypermodernité, etc.), etc. Ils sont tous énoncés comme actes d’autorité terminologique valant conceptualisation à travers le procédé « ….que j’appelle … ».

Cette hyperbole, procédé rhétorique très puissant pour fasciner le lecteur voire pour le sidérer, a semble-t-il très bien fonctionné avec les médias, épatés par cet essai « fracassant ». Il faut dire que, dans ce livre, l’hyperbole finit par se dépasser en adynaton, figure de style qui exagère les faits décrits au point de rendre l’information inconcevable. On quitte alors le registre de l’essai à prétention scientifique pour celui de la prophétie, de la vision inspirée ou de l’oracle menaçant.

Il n’existe plus d’argumentation ordonnée, progressive et discutable mais une accumulation de faits fusionnant dans une montée en généralité soudaine, sans autre médiation, ni démonstration. Une citation, une anecdote, un chiffre, une connexion entre des entités d’échelles bien différentes et pour emballer le tout, un gros terme massif et général impressionnant par l’effet de dévoilement qu’il provoque, un effet apocalyptique, qui révèle ce qui était caché (ce qui nous rappelle un autre titre à succès dont j’ai fait la critique aussi).

Tout à coup, en fin d’ouvrage, nous voilà « soldats » de la guerre informationnelle, sans argumentation précise, sans discussion du terme, sans précaution d’usage et le choc provoqué exploite la méthode des buzz words, comme il se doit à l’ère des réseaux sociaux et de la propagation virale généralisée.

Complexité = confusion ?

Il est vrai que le réseau d’acteurs, d’enjeux, de domaines auquel se confronte Asma Mhalla est complexe. Mais face à cette complexité, on peut procéder par décomposition et sectorisation, par cartographie de toutes les connexions, par généalogie détaillée ou encore par modélisation abstraite. Le choix est fait ici de procéder par assemblage flou grâce à des opérateurs terminologiques toujours plus généraux et toujours situés à une échelle de description impossible à documenter systématiquement. Ce qui donne un ouvrage survitaminé, dopé à la grosse terminologie et à la dépêche de médias, qui évite l’analyse de données, les précisions techniques, la clarté conceptuelle.

Dans ces conditions, le lecteur ne peut en aucun cas espérer quelque proposition de solutions que ce soit et l’ouvrage s’en tire avec des « en même temps » sur tous les sujets, refusant de nommer des responsables, ou basculant soudain dans des solutions cognitives individuelles de l’ordre des bonnes intentions relevant en fait du chacun pour soi (mais sans culpabilité, attention !).

Voilà bien l’effet le plus dommageable de cette opération d’agrégation confuse labellisée « symbiose » : paralyser l’action, en rester aux effets de manche et à la sidération sans un mot pour tous ceux qui cherchent à inventer au présent des alternatives politiques à cette machine de guerre qui nous est lancée en pleine face (l’open source et l’IA explicable sont par exemple expédiés en quelques lignes).

La philosophie seule ne nous sauvera pas de la surveillance

Face à une telle tâche surhumaine, « structurer les enchevêtrements si nombreux de la technopolitique », la philosophie semble la voie de sortie par le haut la plus aisée, dans la lignée du maitre à penser de Asma Mhalla, Bernard Harcourt. Les premiers chapitres, sans doute les plus académiques, convoquent ce qu’il convient de Foucault et de Arendt, pour faire le tableau de cette société de surveillance généralisée, déjà largement annoncée dans les recherches comme dans les médias et surtout documentée avec précision par Shoshana Zuboff.

Marx est aussi souvent mentionné pour réviser sa vision des rapports superstructure/ infrastructure dans les termes d’un « Infrasystème » qui connecte directement le mode de production de l’information et les effets idéologiques. Idée présente dans les algorithmic studies notamment (non citées dans l’ouvrage) pour documenter précisément comment la production de ces algos encapsule une idéologie à travers des biais et des architectures choisies. Cet argument étant clé dans l’ouvrage, on attendrait une documentation précise de ces connexions qui techniquement transforment nos façons de penser au point de faire de nous des « soldats ». Mais cela semble impossible car il y manque deux approches, l’économie et la technologie, rien que ça, qui sont survolées alors qu’elles auraient aidé à définir ces maillons opérationnels dans la chaine de médiations pour faire tenir cette « technologie totale ». Et pourtant économie, technologie et idéologie sont supposées constituer le « Tryptique des Big Tech[2] ».

Les sciences cognitives et les travaux sur l’attention sont mentionnés de façon très allusive (merci Kahneman) et parfois en ratant le point essentiel : le rythme attentionnel qui est imposé par l’impératif de réactivité encodé dans les algorithmes des plateformes, comme je l’ai indiqué dans mes travaux. Les développements sur la désinformation restent alors très convenus tant qu’on ne rentre pas dans la mécanique de propagation virale qui est au cœur de la machine.

Des BigTech sans économie ?

Or, dès qu’on examine ce point, on ne peut éviter de faire référence aux modèles économiques de ces plateformes, pour lesquelles la publicité a joué un rôle déterminant dans leur valorisation. Et là Marx aurait dû inspirer un examen systématique de la chaine de production de valeur, financière et publicitaire, qui explique la « toute-puissance » de ces firmes : selon moi et bien d’autres, le point-clé reste la valorisation des marques auprès des investisseurs grâce à la publicité en ligne appuyée sur la traçabilité de l’attention et des réactions (l’engagement). Mais le mot publicité lui-même n’est utilisé que deux fois en tout et pour tout dans l’ouvrage. Comme du reste tout le lexique économique.

Ce refus de prendre en compte la dimension économique de ce Big System est étonnant et affaiblit tout l’ouvrage. Mais on peut le comprendre parce que d’une part, il faudrait alors argumenter avec des données précises et de plus valider les concepts qui sont utilisés pour parler de ce qui constitue ce « Big Tech » : ce sont en effet des firmes capitalistes (de quel capitalisme, comment le caractériser ?), ce sont des plateformes (et là toute une littérature existe pour bien montrer la spécificité de ce modèle économique, mais elle n’est jamais discutée et le concept est évacué) et elles sont globales (ce qui entraine une discussion nécessaire sur les questions de souveraineté) et non « multinationales ».

Mais capitalisme et classes sociales (évacués au profit des masses !?!) doivent être des gros mots de l’époque précédente et paraitre trop radicaux pour l’auteur. Tout cela rend le terme de Big Tech peu opérationnel puisque selon les chapitres, d’autres firmes s’y ajoutent comme Open AI, Anthropic ou encore Palantir, certes fameux pour son rôle dans les systèmes de surveillance mais d’un rapport totalement différent au public, au statut de plateformes et d’une puissance économique très inférieure.

L’histoire elle-même est écrasée puisque Microsoft et Apple qui datent de la fin des années 70 sont supposées apparaitre avec Google et Meta au début des années 2000, date de la « privatisation du web ». Or, la « privatisation du web » n’est pas enclenchée en 2000, elle l’est soit en 1996 lorsque le gouvernement américain confie la gestion d’internet (pas du web !) aux opérateurs de télécommunications, soit en 2008-2009 lorsque les réseaux sociaux (et donc pas tout le web) se monétisent par la publicité ( YouTube, Facebook et Twitter). C’est-à-dire deux formes de privatisation très différentes qui eurent des conséquences différentes aussi : la première orienta les choix d’architecture pour le commerce (et donc la vitesse à tout prix, voir Lessig, au détriment de la sécurité) alors que la seconde eut des conséquences plus radicales en termes de revenus générés par la publicité. Ce traitement approximatif de l’histoire affaiblit tout l’argument car sans généalogie précise, on se condamne aux généralités.

Le cas de Musk est certes compliqué à traiter car ses firmes ne font pas plateformes mais prennent des positions dans de nombreux secteurs clés en rebattant les cartes à chaque fois (automobile, espace, IA) comme le montre bien l’auteur. Mais malgré la focalisation permanente du livre sur Musk (tout-puissant au point de « disrupter Wall Street[3] » !), l’auteur ne parvient pas à nous faire comprendre sa stratégie dans Twitter et cela sans doute parce que ce n’est pas une stratégie, en tous cas, sans rapport avec les orientations des autres grandes plateformes connues comme GAFAM.

Se replier, comme le fait l’ouvrage, sur les choix idéologiques de Musk devient alors une solution de facilité car ses discours sont innombrables et contradictoires parfois. L’accent est en effet mis sur l’idéologie dans tous les chapitres, sur les discours, sur l’histoire des individus, sur leurs connexions (Thiel et Musk très souvent, Altman aussi). Mais, même sur ce plan, on ne parvient pas vraiment à sortir soit de l’anecdote, soit du portrait général du libertarianisme, malgré les mentions utiles mais sommaires de « l’effective altruism », du « long term thinking » et de World ID/ World Coin. Alors qu’on attendrait une analyse fine de la généalogie des idées et du réseau de relations, qui permettrait de comprendre cette saga qui a encore fait le buzz lors de la destitution annulée de Sam Altman en 2023 (Paul Jorion en fait une analyse plus fine même si très provocante).

Une technopolitique si peu technique

Cette faiblesse en matière économique se double d’un flou général en matière de technologie. L’auteur ne semble pas se déprendre des réflexes médiatiques parlant de « l’IA » au singulier, de l’IA générative en particulier, évoquant des choix nécessaires entre solutions sans jamais les présenter, ne traitant jamais précisément des modèles de publicité programmatique et des profilages qui y sont associés et ignorant toute la littérature du domaine. Cela permet de laisser croire à un suivi individualisé de chaque personne, ce qui renforce la conclusion anticipée sur la mobilisation des esprits comme « soldats ».

Alors que le profilage fonctionne avant tout sur des corrélations de traces de microcomportements (comme un temps passé sur une page, un like, etc.) dont le lien avec l’identité civile des personnes reste très secondaire (sinon il faudrait le montrer avec des cas précis). La technologie se trouve noyée dans la terminologie de « totale » qui permet de tout agréger sans avoir à démontrer le rôle de chaque maillon du « système ». Et cela n’est pas une bonne nouvelle pour l’idée de « technopolitique » qui supposait de réintroduire la politique dans la technique à condition d’accepter d’y entrer.

On mesure alors l’écart avec les STS (Science and Technology Studies) qui s’obligent à suivre avec précision tous les choix des experts du domaine dans le montage d’un système technique, ce qui pourrait les convaincre de leur responsabilité politique et morale dans chaque étape de leur travail technique. Je crains fort que, aux yeux des data scientists, l’approche des sciences humaines et sociales se retrouve disqualifiée par cet essai.

Un extrait permet de voir à l’œuvre la méthode des raccourcis percutants et surtout peu documentés techniquement : « L’industrialisation du microciblage des contenus et de l’information est intrinsèque à l’infrastructure technologique dopée à l’intelligence artificielle. En toute logique, l’architecture technique actuelle des infrastructures informationnelles systémiques poursuit le travail de dépolitisation qui se déploie sur la durée. Elle disloque de façon subreptice le modèle démocratique libéral. En particulier, elle favorise la militarisation des infrastructures civiles. Les réseaux sociaux ou les IA génératives détournés comme armes de guerre massives et ultra-personnalisées, voilà l’extension de la menace. ». Voilà d’ailleurs en résumé l’argument principal du livre, qui permet de mesurer l’ambition démesurée, mais le problème vient surtout du fait qu’il n’existe ensuite aucune argumentation précise pour justifier le lien entre tous ces processus.

Certes, il est rappelé sans cesse qu’il y a des humains derrière l’IA, principe salutaire, mais qui, où et comment, nous ne le saurons pas, et les travailleurs du clic qui entrainent les IA (Casilli) ne sont pas les humains qui comptent apparemment. Cela autorise alors des connexions vagues et vastes entre entités variées et pourtant toutes bien coordonnées : « La désinformation et la manipulation font partie d’une chaîne bien huilée, incluant des groupes étatiques, paraétatiques ou des cybermercenaires privés, essentiellement des start-up spécialisées dans le cyber. Une nébuleuse d’acteurs qui s’organise sur un continuum entre des pratiques de cyber-espionnage[4]. » Avec si peu d’exigence dans la description empirique, certains complotistes pourraient sans problème reprendre ce genre d’arguments « prouvant » l’existence d’une « mécanique bien huilée ».

BigState fiction

Alors, même si l’on ne se résout pas à cette indigence en matière d’économie et de technologie, on se dit que sur le plan des sciences politiques et de la géostratégie (notamment militaire), nous devrions trouver notre compte, puisque ce sont les points de vue préférentiels de l’auteur. Malheureusement, aucune précaution méthodologique ni aucune source académique solide ne parvient à calmer l’hyperbolisme frénétique de l’auteur dans ces domaines.

L’auteur reconnait d’emblée une certaine forme de désorientation : « Or l’État lui-même n’a pas de définition fixe. En fonction de l’époque (Hobbes, Rousseau, Hegel, Marx, Weber et les autres) et de l’angle (historique, juridique, sociologique, théorie politique, idéologique, psychologique, métaphysique), des centaines d’acceptions différentes cohabitent sous le même terme. » Plutôt que de nous guider dans cet imbroglio conceptuel, l’auteur préfère se jeter dans le vide de la labellisation hyperbolique en passant au « Big State », ce qui fait un choc médiatique sans doute mais qui nécessiterait un sérieux débat conceptuel et une robuste documentation empirique pour ne pas nous laisser nous écraser ou au contraire décoller sans lest.

Or, nous ne saurons jamais ce qu’il en est vraiment. Car cette entité « Big State » devient d’emblée hypostasiée, agissante au point d’avoir des intentions : « Le BigState a cela en commun avec les BigTech : il poursuit lui aussi, avec ses moyens et stratégies propres, le projet de Technologie Totale à des fins de pouvoir (intérieur) et de puissance (extérieure). » Ce ne sont pas DES Big States empiriquement descriptibles mais le concept lui-même qui a un projet, la « technologie totale ».

Le label s’applique d’ailleurs autant aux États-Unis qui servent d’étalon qu’à la Chine, mais l’auteur doit parfois nuancer leur statut car la similitude ne saute pas aux yeux : « Contrairement à une fusion techno-militaire chinoise plus intégrée, l’ambivalence des liens entre BigTech et BigState, entre coopération et concurrence, démontre, pour le moment, une structuration de la puissance étatsunienne qui n’a pas fini de sédimenter. » Finalement, le label semblerait nécessiter des nuances qui ne sont pourtant jamais traitées ni documentées précisément.

À tel point que les propriétés des (du ?) Big State sont quelque peu floues et ambivalentes : « Le BigState est un État hypertrophié sur certains aspects (ceux de la violence légitime prioritairement), hypotrophié sur d’autres. » « Le BigState est un État fort, qui ne rechigne pas à en faire la démonstration quitte à en faire trop, mais qui entretient avec les BigTech un rapport liquide, variable, lunatique, ambivalent[5]. » Voilà une grille d’analyse qui, n’en doutons pas, va aider les décideurs à mieux comprendre la complexité de la situation ! On comparera avec intérêt ce que produit un travail académique récent sur un sujet voisin[6]. En revanche, la référence à la distinction de Franck Pasquale entre « souveraineté fonctionnelle » et « souveraineté territoriale » fournit une piste intéressante à explorer pour distinguer les rôles du BigState et des BigTech mais elle n’est pas prolongée.

À l’étape suivante, quand on tente de penser les relations entre entités aussi vagues que BigState et BigTech, on comprend qu’on doive s’échapper du piège par une montée en généralité encore supérieure : « Nous assistons à l’émergence d’un Léviathan dédoublé. L’étrange créature apparaît sous forme d’un continuum fonctionnel entre BigTech et État, autrement dit le “BigState”. Les relations entre BigTech et BigState sont complexes, parfois compliquées, codépendantes, enchevêtrées, en miroir l’une de l’autre », « En somme, BigTech et BigState se définissent et se redéfinissent, évoluent et mutent en fonction l’un de l’autre. Ils ne s’hybrident pas, ils symbiotisent, ce n’est pas pareil. » La symbiose, même justifiée par la référence à Joël de Rosnay, est en effet la grande marmite qui permet de tout jeter à volonté sans avoir à doser les ingrédients, car ce qui compte c’est l’effet magique de la soupe qui en ressort.

De la guerre dans le brouillard

Pour corser le plat, il convient quand même d’y rajouter la dose de géostratégie qui pimente le tout, notamment dans sa version militaire. On trouve en effet dans le chapitre 8 (« Le spectre de l’hyperguerre ») quantité d’informations sur les développements militaires de ces technologies numériques dites « duales » mais on peine à chaque fois à en dégager des axes d’analyse, car l’objectif est surtout de faire grossir le système et de dramatiser l’époque.

Le procédé de labellisation foisonnante se substitue à l’analyse et plombe la lecture car en passant de hyperguerre, à cyberguerre, guerre hybride, ou guerre cyberhybride (sic) sans oublier guerre totale, on ne peut guère voir l’utilité de tous ces gros mots. Au même moment, la guerre en Ukraine montre que les formes conventionnelles de la guerre jouent de nouveau un rôle-clé, jusqu’aux tranchées qui deviennent vitales.

Un extrait donne une idée du principe de symbiose où toutes les catégories fondent : « Les combats cyber-hybrides donnent à voir de nouvelles formes de déstabilisation et de subversion, de nouvelles formes de pouvoir aussi. Elles épaississent le brouillard de la guerre. Les démocraties occidentales se trouvent désormais en permanence quelque part entre ces deux états hybrides, entre la guerre et la paix, deux états flous parfois dans leur intention, leur seuil, leurs cibles. Ce brouillage des frontières est alimenté par la superposition de la faune et de la flore qui s’épanouit dans le monde cyber. En plus des armées officielles, un grand nombre d’acteurs privés, paraétatiques ou paramilitaires, y pullulent[7]. »

Il se peut que le constat de ce brouillard soit juste mais à part prendre acte de cette désorientation complète, quelle est la contribution d’un tel livre et surtout quelle est la valeur ajoutée d’un brouillard conceptuel supplémentaire ? La tâche est sans doute complexe mais cela signifie qu’il faut prendre plus de temps, collecter plus de données de façon plus systématique et tester plus rigoureusement quelques hypothèses qui aideraient à dissiper ce brouillard.

Trop tard pour les propositions, chacun pour soi

On peut créditer l’auteur d’une volonté de conclure par des propositions. Malheureusement, les solutions les plus grosses semblent encore les meilleures, puisque c’est le « Big Citizen » (sic) qui se trouve convoqué pour participer à une co-gouvernance mondiale de toutes ces technologies. Sans que tout cela s’appuie un instant sur l’analyse précise de la gouvernance actuelle des systèmes informationnels mondiaux (comme l’UIT, l’ICANN, l’IETF, etc.) et des tentatives d’associations des citoyens (ex : SMSI), alors que la gouvernance des communautés du libre ou de Wikipédia pourrait donner des idées.

De même, il est fait allusion à la nécessité de « neutraliser une partie de la privatisation techno-idéologique de ces systèmes », ce qui pourrait alors se traduire par une « nationalisation » à l’échelle internationale : « Nous pourrions par exemple considérer le statut d’entreprises d’utilité publique pour les plateformes propriétaires d’infrastructures informationnelles critiques. » En les « internationalisant », on en prendrait la responsabilité collective sous un format mixte « public-privé » qui irait par définition au-delà de toute portée extraterritoriale puisqu’elle deviendrait « commune ».

Hélas, nous n’en saurons pas plus et nous ne pourrons guère être convaincu par une proposition alternative qui vient après un tableau « hypersombre » de « l’hyperpuissance » de toutes ces entités « symbiotisées ». Car c’est bien là le problème : tout le dispositif d’argumentation a tellement emmêlé tous ces fils et fait grossir la taille de ces entités qui produisent l’Infrasystème « invisible », qu’on se demande bien ce qui va nous aider à étayer une autre politique possible. L’effet de sidération que l’auteur prétend critiquer chez tous les critiques, tous dans l’erreur, fonctionne ici de façon radicale en disqualifiant tout espoir et toute tentative opérationnelle ou conceptuelle de sortir de cette symbiose.

Alors, on se contentera de nous réfugier dans nos propres capacités cognitives à filtrer la désinformation pour ne pas devenir des « soldats » de cette guerre informationnelle (terminologie qui est lancée sans réelle argumentation). Car c’est ce que propose l’auteur : « un ralentissement mais fondé sur un libre arbitre qui serait capable de différer la réaction à des posts provocants[8]. » Parmi d’autres mesures, je préconise en effet depuis des années et notamment dans mon livre, « Comment sortir de l’emprise des réseaux sociaux », de casser les chaines de contagion et la viralité mais en obligeant les plateformes à équiper les utilisateurs de dispositifs et d’interfaces pour piloter et réduire leur vitesse de réaction. Mais la proposition reste ici formulée à la manière des bonnes résolutions sans appui sur l’analyse précise du design des plateformes qui rend possible la captation de l’attention.

La lecture d’un tel ouvrage donne le vertige non pas tant en raison de l’effroi suscité par la situation décrite, mais devant la tentative de captation du public-lièvre dans les très gros phares des labels inquiétants. Procédé conforme aux exigences des univers médiatiques qui nous formatent actuellement mais plutôt déprimant pour tenter de reprendre la main sur nos vies numériques alors que ce sont pourtant les démocraties qui sont menacées, nous dit l’auteur.