Analyse

La crise du Covid-19 a révélé de manière aiguë deux tendances déjà latentes dans l’évolution des modes de gouvernance : la collection et le traitement des « big data » relatifs à des comportements individuels et la formation de prédictions sur la manière dont ces comportements peuvent être guidés par le design d’architectures de choix adaptées aux circonstances.

C’est le sens et la portée, ou plutôt l’absence actuelle de conceptualisation et d’anticipation des effets de la conjonction entre ces deux tendances que nous aimerions pointer. En soi, il ne s’agit que de techniques et nous ne réprouvons en rien l’usage de techniques, ni même nécessairement de ces techniques, tant que le sens et la portée en sont clarifiés, en vue d’améliorer les modes de gouvernance, que ce soit en temps de crise ou en temps normal. Mais une technique de gouvernance ne s’accorde pas a priori et sans plus de précaution théorique avec la légitimité d’un pouvoir institué et constitué sur des bases normatives – lesquelles doivent encadrer, limiter, et conférer une signification publiquement acceptable à sa nature et à son usage.

Comme nous venons de le dire, c’est la conjonction de ces deux techniques, le traitement de données massives associé au design d’architectures de choix, et leur renforcement mutuel, que nous visons plus particulièrement et dont nous pensons qu’elle atteint aux fondements normatifs de notre contrat social. Mais il vaut la peine de rappeler de quelle manière chacune, indépendamment, est devenue saillante au point de paraître former un recours évident dans la gestion de la crise sanitaire actuelle.

La première tendance concerne l’usage et la technique de la collecte des données massives, à l’image des enjeux apparus dans la gestion de la crise du Covid-19. La propagation du virus a provoqué des perturbations considérables dans tous les domaines de la vie, d’une explosion du travail à distance aux mesures de confinement généralisées, qui comprennent souvent des mesures de quarantaine ou de confinement. Un nombre significatif de pays a même adopté des mesures plus « offensives » pour lutter contre le Covid-19, notamment en utilisant des données individuelles pour suivre les citoyens infectés.

Il est rapidement devenu évident que l’une des plus grandes ressources du moment était les données personnelles et, en particulier, les données de localisation. Par exemple, Taïwan a institué une politique de suivi individuel particulièrement contraignante. Semblable à un bracelet de cheville, le téléphone transmet les données de localisation de l’utilisateur aux autorités locales et à la police. Si le téléphone sort de la zone autorisée ou cesse de transmettre, la police va vérifier sur place pour s’assurer que les règles de quarantaine sont respectées.

Dans l’UE, le règlement général sur la protection des données (« RGPD ») limite ce que les entreprises peuvent et ne peuvent pas faire avec les données de leurs utilisateurs. Il considère certaines caractéristiques comme des « données personnelles » telles que l’emplacement, les données démographiques, le nom, l’adresse… traduisant ainsi une préoccupation croissante en matière de confidentialité des métadonnées. Aux États-Unis, les préoccupations découlent de la façon dont les données personnelles sont traitées, mais il n’y a pas de législation unique et unifiée sur la protection des données. La jurisprudence et les lois des différents États constituent une mosaïque de règles qu’une application de suivi devrait respecter pour être applicable à l’échelle du pays.

Partout dans le monde, la question consiste à savoir dans quelle mesure les gens sont prêts à renoncer à une partie de la vie privée dont ils disposent sur leurs données personnelles afin de lutter efficacement contre le Covid-19 et, si oui, que se passe-t-il après que tout est terminé ?

Le problème que nous percevons dans ces manipulations plus ou moins innocentes tient surtout à l’absence de véritable réflexion normative sur leur usage.

La seconde tendance – popularisée sous le nom de « nudging » depuis le best-seller de Thaler et Sunstein (2009) – a progressivement pénétré certaines sphères gouvernementales[1] ainsi que la culture et les investissements scientifiques de certains experts en sciences comportementales et cognitives. Ces experts trouvent un débouché opportun et efficace dans la société de leur capacité à repérer expérimentalement des corrélations entre ce qu’ils savent du fonctionnement de l’esprit humain et des comportements observés dans des conditions expérimentales.

Le point principal que nous pouvons critiquer n’est pas celui de la validité externe de ces expériences et de ces corrélations. Certes, les environnements sociaux sont plus riches et complexes que les environnements de laboratoire, mais il n’est nullement interdit de penser qu’il y a des faits psychologiques et comportementaux robustes qui résistent à leur immersion dans la « vie réelle ». C’est d’ailleurs du fait de cette robustesse apparente que l’économie comportementale, à travers l’identification d’une liste de biais cognitifs et comportementaux, a acquis sa popularité.

Un temps, la mise à jour de ces biais a servi le but critique de déstabiliser le mythe de l’homo œconomicus (probablement un homme de paille) censément guidé par une rationalité et des capacités cognitives parfaites. Ce réalisme psychologique a trouvé un prolongement instrumental, mais quasi-paradoxal, dans l’idée de nudge. Car à présent il s’agit de « rationaliser » ces biais, d’en canaliser les effets au sein d’architecture de choix de sorte à les rendre bénéfiques pour celui qui les subit et finalement optimaux pour la société. Pétri de défauts cognitifs, de mauvaises anticipations de ce qui peut maximiser son utilité, l’individu peut tout de même prétendre au bien-être car une entité bienveillante sait a priori comment détourner pour le mieux ses défaillances.

Ce n’est pas tant le paternalisme inhérent à cette position, qui a été maintes fois souligné, que nous souhaitons discuter ici. Ce paternalisme « libéral », dit-on, n’aurait rien d’intrusif ou de compromettant pour la liberté individuelle, vu que c’est la disposition des options (leur architecture, le « design » de l’environnement de décision) et non la disponibilité des options elles-mêmes qui est expérimentalement manipulée. C’est l’exemple canonique, chez Thaler et Sunstein, de la cafétéria où les salades sont disposées sur les présentoirs de manière plus saillante que les macaronis au fromage. Le problème que nous percevons dans ces manipulations plus ou moins innocentes tient à leur généralisation, à leur association avec des techniques affinées de prédiction comportementale, et, surtout, à l’absence de véritable réflexion normative sur leur usage qui doit se hisser bien au-delà du jeu conceptuel de surface autour de l’oxymore « paternalisme libéral »[2].

Chez nos experts actuels des sciences comportementales, ce sont par exemple des techniques de communication pour inciter les gens à bien se laver les mains ou d’appréhension intuitive de la bonne distance physique à maintenir entre les individus. Quoi de plus innocent et utile, en effet, que de guider les individus vers ces comportements salutaires par des messages efficaces ? Il y a même, n’en doutons pas, de profondes connexions entre l’ancrage évolutionnaire et neurobiologique de notre sens de la pureté, voire du sacré, et la propension ou la réticence, selon les individus, à préserver une hygiène, une prophylaxie et une distanciation sociale biologiquement conservatrices.

Là encore on ne peut en principe que louer l’apport des sciences cognitives et comportementales à la compréhension des mécanismes psychologiques qui faciliteront ou feront obstacle à l’application de pratiques de santé publique en période de crise. La dimension qui est cependant oubliée, et qui n’a pas donné lieu à une réflexion spécifique depuis l’apparition et la popularisation des nudges, est celle de la place de ces pratiques dans l’espace public qui semble pourtant leur terrain de jeu privilégié.

Que signifient, pour les tenants de ces pratiques, l’espace « public », une politique « publique », la différence entre la sphère privée et la « sphère publique » et les principes fondamentaux qui régissent cette différence ? Dans le débat d’opinion, de fait, on s’inquiète largement de l’emprise des données massives sur la vie privée, mais qu’en est-il de celle des nudges sur la vie publique ? Et qu’en est-il quand nudge et big data travaillent de concert ?

Si l’on observe une amélioration grâce à l’agrégation de comportements corrigés, de quoi se plaindre ?

Les problèmes qui nous paraissent importants se posent à trois autres niveaux.

Le premier problème est ce que nous nommerons le règne du descriptif. Les données brutes ainsi que l’observation de corrélations entre environnement et comportement sont d’autant mieux accueillies qu’elles semblent dépourvues d’ancrage normatif et idéologique. Elles sont considérées comme des descriptions neutres et il n’y a donc pas lieu de s’en défier. Si l’on observe une amélioration comportementale et plus généralement sociale grâce à l’agrégation de comportements corrigés, parce que ces données ou ces corrélations ont été mises en usage, de quoi se plaindre ? Eh bien justement du contrepoint que ce privilège du fait, de la donnée et de la corrélation statistique suscite : la méfiance, en retour, envers ce qui ne se présenterait pas a priori comme « neutre ».

On observe une tendance, en économie comportementale, mais aussi en économie du développement, par exemple dans des travaux récompensés l’année dernière par le prix Nobel de la discipline, à évacuer la dimension politique et normative du travail de l’économiste. Des recettes expérimentales, sophistiquées et administrées de manière impressionnante et plutôt convaincante, basées sur le transfert, à l’échelle d’une région ou d’une nation, d’observations comportementales, peuvent contribuer à améliorer le bien-être d’une population. Le bien-être est pourtant une notion éminemment normative, mais ce qui compte dans ce contexte est que la base sur laquelle il est maximisé est indépendante d’une conception politique particulière.

Autrement dit, l’amélioration du bien-être d’une population par ces recettes est compatible avec n’importe quelle conception politique en vigueur qui déciderait que leur usage ne lui est pas incompatible. Ce qui compte est d’éliminer la pauvreté, l’illettrisme et d’écarter la maladie, pas d’envisager leur lien éventuel avec des modalités et des normes de gouvernance qui ont pu, par ailleurs, faciliter leur émergence. Une telle approche creuse un écart problématique entre les usages et les techniques mis au service de ce qu’il convient donc, dans les milieux gouvernementaux ou scientifiques faisant appel aux « nudges », d’appeler des « politiques publiques », et la politique elle-même – c’est-à-dire l’orientation absolument dénuée de neutralité des cadres sociaux, légaux et économiques de nos existences et de nos comportements.

Cet écart se poursuit à un niveau plus profond. En déléguant ponctuellement la rationalité individuelle, jugée déficiente, à un designer bienveillant des architectures de choix, ce n’est pas seulement le risque paternaliste inhérent à cette délégation et la déresponsabilisation individuelle partielle qui posent problème, mais aussi la dégradation de la relation consentie et dialogique entre l’individu et ce designer. Le deuxième problème est donc l’accentuation d’une asymétrie informationnelle entre la mise en œuvre de « politiques publiques », quand elles s’appuient sur des nudges, et l’absence de perception qu’a l’individu des modifications qui sont apportées à la nature et à la structure de ses opportunités, quand bien même ces modifications induiraient une amélioration de son bien-être, de sa santé, ou de ses perspectives personnelles.

Les nudges sont censés préserver les choix et l’état d’esprit de l’individu. C’est là leur vertu non-intrusive. Un nudge est ainsi généralement mis en place sans le signal qui accompagne l’annonce de sa mise en place. Le guidage des comportements doit se faire implicitement, si ce n’est insidieusement. Cette modification n’est donc pas l’objet d’un dialogue ni d’un consentement. Sa nécessité paraît inutile, puisque les choix initialement disponibles le sont toujours. Aucune violation de droits constitutionnels, telle qu’une entrave à la liberté individuelle, ne saurait ainsi être impliquée par ces pratiques minimalistes.

Mais l’extension de ces pratiques est aussi l’extension d’enclaves dans le domaine public dont la nature n’a pas été consentie, et a fortiori consentie sur une base éclairée et rationnelle, puisque l’absence de celle-ci est précisément le présupposé sur lequel ces pratiques se justifient. Ce n’est donc plus seulement la séparation, sous le prétexte de la neutralité, du descriptif et du normatif, de l’intervention efficace et du politique, dont il devient ici question, mais de la neutralisation de la capacité et de l’exigence démocratique des individus à contribuer à la discussion normative sur ce qui constitue le domaine de l’intervention publique. Cette neutralisation du domaine public par la conception sous-tendant certaines « politiques publiques » suggère le risque d’un amoindrissement du dialogue entre citoyens et puissance publique, qui se tient pourtant à la base du contrat social sous le régime duquel nous avons librement consenti de vivre.

Cette menace sur le contrat social est le troisième problème, le plus aigu. Son actualité tient à la conjonction nouvelle, dans la crise actuelle, des nudges et des big data, en absence d’une réflexion normative sur les risques pour la démocratie qui en accompagneraient la mise en œuvre. Les algorithmes d’aide à la décision fondés sur des données massives mettent en évidence des corrélations qui ne seraient pas observables par des techniques expérimentales classiques.

Le design d’architectures de choix qui en découlent diffèrent des nudges « statiques » popularisés par Thaler et Sunstein (tels que la disposition des salades). Les nudges basés sur l’analyse de données massives sont « designés » sur la base d’informations acquises en ligne, en réseau, et continuellement mises à jour. Ce sont des nudges dynamiques et pervasifs, qui, s’ils ne sont peut-être pas intrusifs au sens où il est toujours possible de choisir autre chose que ce qui est, de moins en moins implicitement, prescrit, dessinent des lignes comportementales à suivre, plutôt que des choix uniques et indépendants les uns des autres. Dans le cas de l’application StopCovid, la moralisation de son usage liée au fait de ne pas vouloir être jugé responsable de la contamination de son prochain, la demande de civisme, de sens des responsabilités, voire tout bonnement d’humanité, guident le comportement dans un style devenu véritablement prescriptif et paternaliste.

Au fur et à mesure que le voile se déchire, resterons-nous solidaires de la même façon si nous savons que certains courent des risques énormes, et d’autres pas ?

Le recours au nudge, avec StopCovid, s’opère en fait à deux niveaux. En amont, il s’agit d’inciter les citoyens, pour qui la vertu ne serait pas spontanée, à télécharger et utiliser cette application ; par exemple en associant son téléchargement à l’accès gratuit à des sites d’entertainment, etc. En aval, il s’agit d’analyser les données récoltées pour affiner les recommandations comportementales par le moyen de nouveaux nudges à élaborer.

L’usage de ces nudges massifs et itératifs, quand bien même ils doivent, du fait de l’acquisition d’informations privées, donner lieu à des avertissements individuels et être accompagnés de notices de consentement[3], a des implications troublantes non seulement pour la liberté, comme cela a naturellement été souligné, mais aussi pour l’égalité et la solidarité. Il nous paraît urgent de rétablir à leur endroit la prévalence d’un cadre normatif définissant et limitant leur usage. Et il faut le faire en osant contrecarrer l’argument culpabilisant qui consisterait à laisser croire que l’exigence d’un tel cadre, au mieux ralentirait, au pire s’opposerait à l’usage de techniques efficaces dans la lutte contre les fléaux qui affectent l’humanité.

Pour comprendre les défis auxquels nous allons devoir faire face, il faut revenir au passé et plus particulièrement à la question qui hantait le XIXème siècle : comment concevoir des systèmes de protection sociale qui ne remettaient pas en cause les principes libéraux hérités de la Révolution française ? La société issue de la Révolution, caractérisée notamment par le Code civil, est un monde de citoyens théoriquement libres et égaux, qui nouent entre eux des contrats où les parties engagent leur responsabilité individuelle. Dans cet univers, à chacun de se prémunir contre le risque (vieillesse, maladie, accident) par sa propre prévoyance ou par la mise en cause du fautif : l’ouvrier victime d’un accident du travail devra réussir à prouver la faute de l’employeur.

C’est précisément à l’occasion de la loi sur les accidents du travail, adoptée en 1898, que le concept d’assurance collective est utilisé pour la première fois à l’échelle de la nation. En plaçant l’accident sous le registre du hasard et des aléas du destin, on se donne les moyens de dépasser la notion de responsabilité individuelle. C’est sur cette nouvelle base que s’est organisé progressivement tout le système de protection sociale qui a marqué l’émergence de l’État providence au XXème siècle.

Dans la tradition contractualiste, John Rawls ajoutera dans sa Théorie de la Justice Sociale que les partenaires de la coopération ignorent tout de leur situation personnelle, actuelle ou future, dans la société : « Parmi les traits essentiels de cette situation, il y a le fait que personne ne connaît sa place dans la société, sa position de classe ou son statut social, pas plus que personne ne connaît le sort qui lui est réservé dans la répartition des capacités et des dons naturels, par exemple, l’intelligence, la force, etc. ». Les partenaires sont ainsi placés, selon la célèbre formule, derrière un voile d’ignorance, situation privilégiée pour déterminer les principes de justice en toute équité. Ce voile d’ignorance est fragile mais il l’est encore plus du fait de l’exploitation massive de données individuelles.

Même si on ne le conçoit pas immédiatement, la digitalisation de la société crée en réalité une crise « philosophique » du contrat social. Jusqu’ici, notre modèle était de type assuranciel. Contrairement à l’assistance, le mécanisme assurantiel crée une solidarité pour faire face à certains risques : les ruptures liées à la maladie, au chômage, à la retraite, aux accidents de la vie… La réponse du système assuranciel est fondée sur la « mutualisation des risques ». Pourquoi acceptons-nous le poids de cette solidarité ? Parce que nous avons conscience que chacun de nous court des risques, et que nous ne savons pas à l’avance qui seront les victimes des accidents ou des ruptures. C’est cette incertitude sur notre avenir, ce voile d’ignorance, qui fonde la redistribution. Or, aujourd’hui, ce voile se déchire.

La société devient plus transparente et moins homogène du fait de la collecte de données individuelles et d’analyses comportementales et « prédictives » toujours plus sophistiquées dans tous les domaines. L’actualité dans le domaine de la santé doit nous faire prendre conscience de la nécessité de repenser les liens qui nous unissent dans le cadre du contrat social. Au fur et à mesure que le voile se déchire, resterons-nous solidaires de la même façon si nous savons que certains courent des risques énormes, et d’autres pas ? De même, le fait que, pour beaucoup, le chômage et la précarité ne constituent plus des risques accidentels, mais plutôt un état permanent, ne change-t-il pas fondamentalement la nature de leur prise en charge ?

L’« accompagnement » numérique de nos existences tend inéluctablement à restreindre le champ des possibles en termes de capacités d’action individuelle en encadrant nos choix lorsque les nudges rencontrent l’analyse prédictive fondée sur la collecte de données massives. Face à ces nouveaux défis, la solidarité est une valeur à l’épreuve. Elle est confrontée à la promesse de solutions de plus en plus individualisées pour répondre aux risques sociaux et ce à travers le développement d’outils qui accompagnent la promesse faite à chacun de se prémunir au plus juste prix.

Dans un tel environnement, on comprend que les logiques de solidarités collectives sont en danger alors même qu’elles n’ont peut-être jamais été aussi essentielles pour préserver le contrat social. La solution ne réside pas dans le cadre d’un paternalisme bienveillant et libertaire, mais plutôt du côté d’une interférence non-arbitraire avec nos libertés individuelles. Les « politiques publiques » basées sur l’usage des données massives et des nudges omettent, dans les circonstances actuelles, de réfléchir suffisamment profondément à ce qui constitue « une intervention non-arbitraire ».

Cela est encore plus vrai des nudges que des données massives, dans la mesure où ils paraissent spontanément neutres et non-intrusifs. En réalité ils tendent à modifier et à occulter les normes qui sous-tendent notre conception de la sphère publique, et d’autant plus fortement qu’ils sont associés à la collecte d’informations privées. Il nous paraît donc urgent de refonder le contrat social pour éviter que, à la faveur de la crise actuelle, le prédictif ne devienne définitivement prescriptif.