Société

Notes sur les sociétés du profilage (1/2)

Philosophe

La sortie mondiale cette semaine des mémoires d’Edward Snowden vient notamment rappeler ce fait simple : si une instance centrale en a le désir, elle peut simultanément explorer les contenus des ordinateurs et même de la vie privée de tous les citoyens. Tout se passe donc comme si nous étions, de fait, logés dans ces fameuses cellules circulairement disposées et toujours à portée d’œil du Panopticon étudié par Michel Foucault. Bienvenue dans nos sociétés du profilage.

Dans Surveiller et punir (1975) Michel Foucault étudiait l’émergence d’une forme de gouvernement centrée sur la production de figures collectives qui régissent l’existence des individus, selon un continuum d’institutions allant de l’école à l’usine et de l’hôpital à la prison. Il baptisait ce régime de pouvoir les « sociétés de la discipline ». « Discipline » nommait alors indissociablement une technique de dressage du corps et d’inspection de l’esprit qui provenait de formes monastiques de subjectivation et allait, selon l’analyse foucaldienne, susciter des structures de pouvoir corrélées au type de savoir que les sciences humaines naissantes commencèrent au XIXe siècle à instituer.

publicité

Dans un texte célèbre de 1990, Gilles Deleuze a parlé de « sociétés de contrôle » comme les héritières des sociétés disciplinaires, la nouvelle forme de subjectivation/gouvernement émergeant vers la fin du 20ème siècle avec le capitalisme de surproduction : « Ce qu’il veut vendre, c’est des services, et ce qu’il veut acheter, ce sont des actions. Ce n’est plus un capitalisme pour la production, mais pour le produit, c’est-à-dire pour la vente ou pour le marché. Aussi est-il essentiellement dispersif, et l’usine  [qui était l’un des paradigmes de la discipline, avec l’école, l’armée et la prison, quatre instances pour Foucault homogénéisées par le régime disciplinaire] a cédé la place à l’entreprise » [1]. Et Deleuze de décliner, dans ce texte lapidaire mais saisissant, le contraste avec la discipline selon Foucault « la famille, l’école, l’armée, l’usine ne sont plus des milieux analogiques distincts qui convergent vers un propriétaire, État ou puissance privée, mais les figures chiffrées, déformables et transformables, d’une même entreprise qui n’a plus que des gestionnaires. (…) Le contrôle est à court terme et à rotation rapide, mais aussi continu et illimité, tandis que la discipline était de longue durée, infinie et discontinue. »

Je souhaite ici esquisser le régime de connaissance et de gouvernement des individus qui émerge depuis quelques années au confluent de ce qu’on appelle avec facilité la révolution numérique, des avancées des STIC (sciences et technologies de l’information et de la cognition) et de récentes inflexions politiques. J’appelle les sociétés d’un tel régime « sociétés du profilage », en entendant par « profil » la matrice selon laquelle elles instituent les individus en items lisibles, classifiables, et cibles potentielles d’interventions d’ordres divers. Aucun des éléments de mon argument ne prétend à la nouveauté radicale, mais le diagnostic d’ensemble, lui, soutient que nous vivons un glissement remarquable vers un au-delà des sociétés de contrôle caractérisé et nommé ici pour la première fois.

Sans davantage proposer d’évaluation morale ou politique de cette nouveauté que ne le faisait Foucault, je soutiendrai que ce nouveau régime émerge par la conjonction de quatre moments plus ou moins indépendants: moments technique, économique, épistémique, puis proprement politique

La traçabilité, Le Tigre et les activistes du Net

Le premier constat d’ampleur est le suivant : dans la plupart des sociétés modernes, les gens laissent sans cesse des traces d’eux-mêmes, archivées ou archivables sur un mode numérique. Cette traçabilité généralisée des individus est neuve ; elle porte à l’extrême ce que Deleuze anticipait avec sa notion de sociétés de contrôle. Il écrivait : « il n’y a pas besoin de science-fiction pour concevoir un mécanisme de contrôle qui donne à chaque instant la position d’un élément en milieu ouvert, animal dans une réserve, homme dans une entreprise (collier électronique). Félix Guattari imaginait une ville où chacun pouvait quitter son appartement, sa rue, son quartier, grâce à sa carte électronique (individuelle) qui faisait lever telle ou telle barrière ; mais aussi bien la carte pouvait être recrachée tel jour, ou entre telles heures ; ce qui compte n’est pas la barrière, mais l’ordinateur qui repère la position de chacun, licite ou illicite, et opère une modulation universelle ». Et de fait, aujourd’hui, du berceau à la tombe, toutes nos trajectoires sont contrôlées, « monitorées » pour reprendre le terme anglais qui ici est le plus précis, par plusieurs instances.

Imaginons un instant comment faire pour ne pas laisser de trace et sortir du jeu : ne jamais utiliser d’ordinateur connecté à Internet, du moins via un navigateur usuel, ne pas avoir de carte de crédit, ni carte de transport en commun, décliner la Sécurité Sociale, et bien évidemment ne pas avoir de téléphone portable, puisque la localisation de tous les appels ainsi que le numéro des correspondants et la durée de l’appel sont toujours mémorisés par les serveurs [2]. L’effort pour passer sous les radars serait immense. Comment, de cette société du contrôle exacerbé – société du monitoring, si l’on veut –, qu’imaginait Deleuze, est-on passé à ce que je nomme la société du profilage ? Le passage se fait précisément par cet objet que je nomme le profil, objet indissociablement individuant et collectivant, descriptif et prédictif.

L’usage d’ordinateurs personnels connectés à Internet est évidemment un lieu majeur de traçabilité. Les individus ont  toujours laissé des traces, mais aujourd’hui le numérique est le support principiel de l’archivage immédiat des traces (vouloir y échapper, en configurant son navigateur, ses réseaux, etc., est une tache exténuante et quasi-vaine). Toutes les traces que nous laissons sans cesse à notre insu sont de nature digitale et donc stockées dans des bases de données numérisées. Ainsi, ordinateur, et surtout Internet en tant que réseau universel mettant en communication l’ensemble des archivages jouent un rôle crucial dans le nouveau régime de traces.

De nombreux activistes militent aujourd’hui pour que l’on prenne conscience des enjeux et risques associés à l’ usage généralisé de l’internet, en particulier pour ce qui concerne le maintien de la vie privée [3]. L’usager moyen ignore généralement  que son ordinateur est par principe comme un appartement aux fenêtres sans rideau et largement ouvertes : n’importe qui peut, en passant à proximité, pénétrer dans le wi-fi du propriétaire, via par exemple Aircrack-NG ; et le contenu d’un ordinateur est facilement exploitable via le logiciel Metasploit, en accès libre, lequel permet non seulement de consulter et modifier à volonté le contenu de l’ordinateur, mais aussi d’écouter ou de voir (via les micros et la webcam) tout ce qui se passe à l’intérieur de la pièce où se trouve la machine…

On est proche des univers dystopiques de 1984 ou de Brazil (le film de Terry Gilliam), mais surtout le lecteur de Foucault pense immédiatement à une sorte de version digitale et universelle du Panopticon de Bentham : si une instance centrale en avait le désir – comme les alertes de Snowden avec la NSA nous en ont révélé la probabilité –, elle pourrait simultanément explorer les contenus des ordinateurs et même de la vie privée de tous les citoyens, comme si ceux-ci étaient, de fait, logés dans ces fameuses cellules circulairement disposées et toujours à portée d’œil du Panopticon.

Mieux (ou pire) encore, la plupart des utilisateurs d’Internet se fichent de ces problèmes, et produisent par eux-mêmes la disparition programmée de ce qu’il était convenu d’appeler la vie privée. Il y a 10 ans, le magazine Le Tigre avait fait scandale en ciblant au hasard un individu présent sur les réseaux sociaux Facebook et Flicker, pour reconstituer sa vie quotidienne sur plusieurs années, en retrouvant son adresse, son numéro de téléphone et les noms de ses relations [4]. Les milliers de photos et de contenus déposées sur les réseaux par l’internaute permettaient en effet très facilement de fouiller et d’exposer intégralement son existence.

Si la vie quotidienne est devenue traçable, si l’usage d’Internet rend nos vies totalement poreuses à un possible regard externe, la plupart des utilisateurs semblent n’en avoir cure puisqu’eux-mêmes déposent sur Facebook, Whatsapp, Pinterest ou Instagram les contenus qui  les exposent en puissance aux yeux de tous jusque dans leurs aspects les plus intimes. Dans et hors Internet, dans d’immenses bases de données numériques, les individus de tous les continents déposent donc, volontairement ou non, à leur insu ou non, des traces de leurs existences, de leurs choix, de leurs envies. Ces traces sont potentiellement exploitables – mais qui les exploiterait, et comment ? Et surtout, que signifie « les exploiter »? Au-delà du contrôle, ces traces transforment les individus en « profils », or ces profils permettent des « prédictions » et sont par ailleurs le vecteur de modifications délibérées des individus par les instances contemporaines de gouvernement.

Genèse et structure des sociétés du profilage

Nature et usages des profils.

Quiconque s’est déjà inscrit sur un réseau social, un forum, un site participatif comme Airbnb ou même un site marchand, sait qu’il faut fournir une esquisse de profil en ligne, laquelle peut rester simple (email et pays), ou bien devenir très riche et inclure par exemple des goûts, des destinations préférées, etc. Quoiqu’il en soit ce profil s’étoffera très vite grâce à l’activité en ligne de l’agent : ainsi, le client Amazon ou l’utilisateur de Spotify va acheter des biens ou écouter des musiques, et au fur et à mesure va constituer sur lui-même, pour le site, un profil beaucoup plus riche qui représentera ses préférences de consommateur ou de mélomane. Le profil effectif de l’individu est donc indirectement composé par l’individu lui-même et son activité sur le serveur. Pareil profil constitue l’élément de base de ce que j’appelle une société du profilage, en nommant ainsi une pratique généralisée de monitoring, prédiction, et modification des populations.

Bien entendu, ce profil autorise des inférences puissantes qu’opèrent les algorithmes. C’est ainsi que régulièrement des sites de voyage vous enverront des emails proposant des voyages dégriffés pour les destinations où vous vous êtes rendu, ou bien dont vous avez envisagé sur un site d’aller y passer vos vacances avant d’être découragé par les tarifs. L’étendue de ces inférences sur la base du profil individuel est d’ailleurs en cours d’amplification. Dans le système Viv, dont les prototypes sont en cours de test, et qui serait une sorte de Siri (l’assistant vocal de l’iPhone) puissance mille, l’algorithme, sous forme d’application dans votre téléphone portable, a, sur la base de tous vos appels téléphoniques, mails, consultations de site, accès à l’ensemble de votre vie sociale et économique. À partir de là, il propose un « assistant personnel » qui pourrait répondre à toutes vos demandes formulées même de manière très générale.

À « je veux partir en vacances », le système répondrait en scannant toutes vos vacances passées et recherches de voyages inabouties sur le Net, tous les prix d’avion, votre emploi du temps, ceux de vos proches, etc., et proposerait deux ou trois voyages qui sont exactement ce que vous souhaiteriez, en adéquation avec vos moyens au temps en question. Prédire ce qui maximisera votre utilité à un instant donné, alors même que vous-même ne pourriez que faire un choix suboptimal, telle est la performance de l’algorithme qui exploite votre profil dans cette application iPhone. Bien entendu, il pourrait même vous proposer des voyages avant que vous ne le demandiez, sur la base du rythme de vos vacances, de vos calendriers professionnels, de la météo et, pourquoi pas, de l’état de vos relations amoureuses ou familiales tel qu’il s’exprime au travers de vos mails, vos posts Instagram, vos statuts Facebook, et j’en passe.

Des exemples de ces prédictions surpuissantes sont déjà disponibles au quotidien dans de nombreux registres. Ainsi, par défaut, nos navigateurs et moteurs de recherche enregistrent nos données de recherche et de contact, lisent les posts Facebook, stockent les « like », et parfois même, scannent les emails.  Il en résulte ces publicités ciblées – dont vous ne pouvez vous débarrasser qu’en modifiant laborieusement les réglages par défauts de vos appareils –, continuellement visibles autour de vos mails ou sur vos page Facebook, qui vous proposent de tester votre ascendance judaïque par l’ADN, ou telle méthode révolutionnaire pour perdre du poids, ou telle offre promotionnelle sur votre marque de savonnette préférée. En 2013, une étude a utilisé les Likes sur Facebook pour prédire « une large gamme d’attributs personnels que les gens estiment typiquement relever de la sphère privée. » [5]

Sans doute plus spectaculaire est l’usage fait par l’industrie musicale de ces données stockées en ligne. Bien entendu, les achats sur iTunes ou bien les streaming sur Spotify ou Deezer donnent des indications sur les goûts du public ; si l’on en reste là, rien de plus au fond que dans les traditionnels box office. Mais le profil, au sens utilisé plus haut, permet de détecter les affinités entre tel et tel musicien dans les goûts du public. Si l’on sait que la probabilité qu’un amateur d’acid jazz aime des musiciens comme Drake ou Nas est beaucoup plus élevée que la moyenne, on ciblera plus aisément une campagne pour vendre la musique de ces derniers.

Plus généralement, on obtient là une partition fine du public des consommateurs de musique en groupes beaucoup mieux individués que les rubriques des bacs de disquaires. La célèbre application Shazam [6], elle, permet d’identifier en quelques notes une musique qu’on entend autour de soi, simplement en cliquant sur son téléphone – c’est sans doute le rêve de beaucoup de générations de mélomanes toujours frustrés à l’écoute impromptue d’une musique qui leur plaît mais pour laquelle ils sont incapables de trouver quelqu’un alentour qui répondrait à la question: « mais c’est quoi ça ? ». Pour le producteur de musiques Shazam est néanmoins aussi un très bon indicateur de la force d’accroche de cette musique. Les chercheurs en data-mining pour les majors de la musique disent que si, une fois son écoute lancée, un morceau n’est pas « Shazamé » au bout des 10 premières mesures, il a peu de chance d’être un grand succès [7].

Les données récoltées par Shazam identifient les musiques qui « accrochent » le plus les auditeurs ; elles permettent aussi d’identifier les traits communs entre toutes musiques qui captent l’oreille, et à partir de là, de produire ensuite des musiques nouvelles qui maximiseraient leur potentiel de séduction. Bien entendu, en croisant ces données avec les autres données des téléphones des utilisateurs, donc leurs profils, on peut affiner l’analyse, et identifier des profils très généraux susceptibles d’aimer telle combinaison de rythmique, de grain de la voix, d’orchestration et de réverbération ou saturation… On n’est plus loin du rêve d’une musique composée purement par ordinateur en traitant de telles données générées au sujet des formes musicales les plus séduisantes pour l’oreille humaine, ou même des musiques adaptées différentiellement aux divers grands groupes d’oreilles humaines…

Dans ce régime, les individus, par leur existence même (en particulier sur Internet) produisent leurs profils plus ou moins à leur insu ; ces profils sont exploitables pour construire des prédictions incommensurablement plus puissantes que ce qui était possible à l’époque du stockage disséminé et analogique de traces ; et enfin, ces prédictions permettront de fournir des publicités, des services ou des biens de consommation maximalement ajustés aux préférences individuelles.

Les sociétés de la discipline selon Foucault opéraient selon deux axes : discriminer le normal et l’anormal (le fou, le malade, le délinquant), et individualiser la masse des anormaux via des techniques de surveillance – soit le rêve panoptique de Bentham, prosaïquement approché par la généralisation des relevés journaliers à l’hôpital, les évaluations notées à l’école, etc. [8]… C’est la superposition du « partage constant du normal et de l’anormal » et de « tout un ensemble de techniques qui se donnent pour tache de mesurer, de contrôler et de corriger les anormaux. » (Surveiller et punir, p. 201).

Les sociétés de contrôle ont dépassé le partage au profit d’un continuum de positions continuellement tracées – les individus sont des parcours pris dans le contrôle continu à l’école, la formation permanente en entreprise, au pire le suivi du bracelet électronique lorsqu’on a dérapé. Il en résulte qu’il s’agit moins de corriger des comportements (et Foucault insista longuement sur l’héritage des « maisons de correction » au sein de la « discipline ») que de suivre et infléchir des trajectoires. Les sociétés du profilage, elles, au lieu de suivre les trajectoires individuelles, les prédisent sur la base de ces objets, les profils – produits par la conjonction des gens eux-mêmes et de certaines technologies – pour lesquels tout individu est déjà une petite communauté. A chaque fois, les modes de domination et de gouvernement doivent donc changer. Voyons-y de plus près.

Le “profil”, au croisement des pratiques individuelles et des nouvelles habitudes sociales

Un des effets souvent remarqués de l’Internet est d’avoir rendu visibles des communautés qui sinon n’existeraient pas, du fait que ses membres se croient seuls et isolés les uns des autres. Aujourd’hui sur le Web existent ces fans de romans dont les héros sont des vedettes de chanson ou de cinéma dont ils sont les fans, et ils constituent une microsociété. On y trouve aussi une communauté des amateurs de suspension en l’air de leurs corps sur des clous de boucher.

On peut dénicher une communauté d’otherkins, soit d’individus qui, à la manière des transgenres, se pensent comme étant en réalité membres d’une autre espèce animale : un tel est en vérité un gnou, ce gnou même qu’il se ressent être au profond de lui-même, tandis que tel autre est une chauve-souris ou un pingouin. On pourrait parier que ces communautés n’existeraient pas dans la vraie vie et que ces affects ne se seraient peut-être même pas exprimés si la possibilité de se mettre en relation et d’en discuter n’avait pas été donnée par le Web.

Parmi ces communautés, l’une m’intéresse ici, celle des adeptes du « Soi quantifié » (Quantified Self, en général). Le Soi quantifié signifie l’attention à l’enregistrement régulier des valeurs de différentes variables caractérisant l’existence d’un sujet : pouls, température, nombre de pas, temps mis à faire telle ou telle chose, quantité de types d’aliments ingurgités, etc. Ce “self-tracking“, comme on l’appelle [9], produit une masse de données que le sujet peut garder – pour tenter de se conformer à un certain idéal de forme physique ou de diététique – ou bien partager avec d’autres dotés des mêmes intérêts et objectifs.

Généralement les outils qui recueillent ces informations (montres connectées, GPS utilisés pour courir, applications de gestion de la nutrition et des activités sportives, etc.) stockent les données sur un serveur où elles sont au moins en principe (et généralement en fait) partageables. Le self-tracking intéresse évidement la médecine : un monitoring continu d’habitudes alimentaires couplé à l’enregistrement de la survenue de pathologies diverses est un excellent moyen d’étudier les effets de divers régimes, surtout si, comme c’est le cas au moins en principe, ces données sont croisées avec un déchiffrage du génome des individus. Le National Human Genome Research Institute à Bethesda (là où fut décodé le génome humain en 2000), a d’ailleurs lancé un programme de recherche d’ampleur basé sur ce monitoring génétique et environnemental des individus à grande échelle. On obtient ici des profils tels que j’en parlais : ceux qui marchent plus de 20 000 pas par jour et qui se réveillent tôt, par exemple, pourraient avoir des caractéristiques en moyenne différentes des autres ; et sur ceux-là, on pourrait mesurer l’incidence de certaines pathologies et les comparer avec d’autres classes d’individus.

Mais la communauté des self-trackers permet aussi des comparaisons entre “selves”, des émulations, des défis, des affinités et des sous-clubs. Le fait de présenter tel ou tel profil est donc à la fois constitutif d’un savoir sur certaines corrélations – exemplairement, entre santé (ou maladies) et pratiques et habitus quantifiés – et un vecteur de certaines transformations possibles via l’appartenance à une communauté qui se donnerait des défis (ne pas manger plus de tant de calories, marcher tant de pas par jour, etc.). Ces usagers du self-tracking et la communauté du Quantified Self nous fournissent alors un utile paradigme de ce que serait un monde du profilage.

Deux moments fondateurs de la société du profilage: les conditions technique et économique

Les sociétés du profilage me semblent au croisement de quatre logiques, ou en tout cas, de quatre moments d’ordres différents, dont voici les deux premiers.

Le premier moment est d’ordre technologique. Une caractéristique du Web est sa structure si complexe, dense et ramifiée, que pour l’instant aucun modèle complet existant ne peut nous donner la cartographie de l’internet de la même manière que nous avons des planisphères. À partir de là, naviguer ou surfer dans cette structure requiert un moteur de recherche. On a beaucoup commenté l’algorithme Page Rank de Google [10], qui produit des résultats ordonnés en fonction de l’importance citationnelle ou richesse en liens hypertexte de chaque page. Mais quoi qu’il en soit de cet algorithme, le propre de la recherche d’information via Google est que le consommateur d’information est aussi un producteur.

Si je cherche « AOC fromage Jura », j’apprendrai beaucoup de choses sur le Comté ou le Bleu de Gex, mais j’informerai aussi Google qu’il existe un individu intéressé à ces fromages. Mieux, Google pourra facilement comparer cette requête avec toutes celles concernant des mots voisins, et savoir quelque chose de la popularité différentielle des différents fromages. Cette popularité, analysée d’abord synchroniquement, sera aussi suivie quant à sa variation jour après jour ou mois après mois.

L’information sur les fromages, à laquelle je contribue par ma recherche, sera en outre distribuée géographiquement : la localisation des requêtes permettra à Google de savoir quelles régions de France ou d’ailleurs s’intéressent principalement au bleu de Gex, et si cet intérêt croit ou décroit avec le temps. Enfin, pour une même adresse IP, donc, en gros un même utilisateur, Google établira la liste de toutes les requêtes, saura donc que outre mon intérêt pour le bleu de Gex, mon usage du moteur de recherche indique une curiosité soutenue pour le rugby à 13 ou une chanteuse islandaise. Ces éléments constituent mon profil, et les informations que mon comportement d’internaute produit permettent d’analyser ses variations diachroniques.

De fait, des outils sophistiqués ont récemment été mis au point sur la base de cette information concédée par l’utilisateur : en particulier, la localisation et l’évolution spatiale et temporelle des recherches Google pour les maladies « comme grippe », ou « gastroentérite » rendent possibles des analyses beaucoup plus fines et rapides de la trajectoire des épidémies, du simple fait que les internautes recherchant  en masse le mot-clé « grippe » se déclarent beaucoup plus vite que ne se déclare la grippe elle-même. On assiste même à des tentatives d’élaborer des outils de détection des séismes à partir des recherches Google sur des mots clés relatifs aux tremblements de terre.La logique propre à l’internet, c’est donc la réversibilité de l’explorateur et de l’espace exploré.

Mais cette réversibilité fondamentale, porteuse d’un nouveau régime d’information, ne serait rien sans le second moment, économique, lequel concerne le coût de la donnée. Aller pour la première fois sur Internet, en particulier pour ceux qui ne sont pas nés avec, enveloppe une sorte de magie, celle de la gratuité apparente de tout. Une gratuité en argent comme en temps. « Avant », si je voulais lire un article classique d’écologie des communautés, tout savoir sur les moeurs maritales du gnou, ou revenir à un de ces derniers poèmes ou de ces derniers quatuors de Hölderlin ou de Beethoven que je me rappelle mal, il me fallait aller dans une bibliothèque ou une discothèque, ou débourser une certaine somme dans une librairie généralement un peu éloignée.

Aujourd’hui, tous ces documents sont instantanément et gratuitement accessibles en ligne, audibles ou lisibles en plusieurs versions, éventuellement pourvues d’un appareil critique savant. Nul n’a vraiment calculé l’économie de temps et d’argent que représente la facilité d’information offerte par l’Internet, mais elle est incontestablement massive, et il faut des esprits réellement retors ou chagrins pour proposer une comptabilité dans laquelle le temps gagné serait compensé ou dépassé par le temps perdu en mails inutiles ou en consultation de sites absurdes.

Dans l’ensemble, bien évidemment, on gagne de l’argent et du temps, et même des informations qu’on n’aurait jamais glanées dans l’ancienne culture. On pourrait aussi suggérer que cette gratuité en réalité reconduit une inégalité plus profonde – par exemple, la majeure partie des articles scientifiques sont accessibles gratuitement, mais il en existe encore certains, généralement les plus récents, auxquels seuls accèdent les membres d’une riche communauté de recherche, les autres devant se fier aux généreux hackers qui montent des sites pirates sans cesse traqués et défaits par les oligopoles de l’édition. Mais cela n’altère pas ici mon propos : sans cette gratuité, les moteurs de recherche – par lesquels nous devenons indissociablement consommateurs et producteurs d’information – ne serviraient pas à grand chose, si bien qu’elle conditionne leur usage massif.

Cependant, et conformément à ce que répètent en boucle depuis une décennie tous les auteurs critiques au sujet du Net, cette gratuité est illusoire : nous payons précisément avec nos données, celles que nous fournissons à chaque fois que nous nous inscrivons à un service, que nous consultons un site qui récupère notre adresse IP et éventuellement davantage d’informations. Nous payons en aidant Google à constituer ce profil dont je parlais, ou plutôt, en laissant de nombreuses instances le constituer de façon souterraine. Quelles instances ? C’est là l’aspect opaque du net – on parle des GAFA, évidemment, mais ces données sur nous-mêmes, qu’un règlement récent (le RGPD) a tenté en Europe de rendre un peu plus transparentes ou inoffensives, transitent entre tellement d’instances partenaires ou rivales qu’il est bien difficile d’en faire exactement le compte.

Tel est le second moment constitutif des sociétés du profilage dont je parle : là où pour payer un service je n’ai rien donné de ce que j’ai, c’est ce que je suis celui qui en réalité constitue le prix payé.

Dans la suite j’analyserai les deux moments qui complètent ces deux précédents et achèveront de nous faire entrer dans la société du profilage.

 


[1] Gilles Deleuze, « Post-Scriptum sur les sociétés de contrôle », in Pourparlers, Paris: Minuit, 1994, originellement publié dans L’autre journal, 1, mai 1990

[2] Et bientôt, du fait de la mise en service de logiciels de reconnaissance faciale aujourd’hui bien réels et même effectifs dans certains districts de la république populaire de Chine, il faudra aussi porter en continu une large écharpe, un chapeau et des lunettes noires dès que l’on sort.

[3] Par exemple Heidi Boghosian, Spying on democracy.  San-Francisco, Citylights, 2013.

[4]« Marc L », Le Tigre, 7-01-2009. L’article s’ouvrait par un mémorable : « Bon annniversaire, Marc. Le 5 décembre 2008, tu fêteras tes vingt-neuf ans. Tu permets qu’on se tutoie, Marc ? Tu ne me connais pas, c’est vrai. Mais moi, je te connais très bien. »

[5] Michal Kosinski, David Stillwell, Thore Graepel. « Digital records of behavior expose personal traits. » Proceedings of the National Academy of Sciences, 2013, 110 (15) 5802-5805.

[6] Pour une introduction à l’algorithme de Shazam voir : https://www.lesnumeriques.com/audio/magie-shazam-dans-entrailles-algorithme-a2375.html

[8] « L’asile psychiatrique, le pénitencier, la maison de correction, l’établissement d’éducation surveillée, et pour une part les hôpitaux, d’une façon générale toutes ses instances de contrôle individuel fonctionnent sur un double mode : celui du partage binaire et du marquage (fou- non fou; dangereux – inoffensif ; normal – anormal); et celui de l’assimilation coercitive, de la répartition différentielle (qui il est; où il doit être ; par quoi le caractériser, comment le reconnaître..) » (Surveiller et punir, p. 201)

[9] De manière générale sur le Self-tracking lire Neff, Gina et Nafus, Dawn, Self-Tracking, MIT Press, Cambridge, 2016.

[10] Pour une analyse fine de ce ranking et de manière générale du monde de l’évaluation sur internet, voir Dominique Cardon, À quoi rêvent les algorithmes, nos vies à l’heure des big data,  Paris, Seuil, 2015; pour une belle analyse originale du Page Rank, qui fait écho à des analyses de transformations contemporaines de divers champs indépendants comme le vin ou le football,  voir Alessandro Barrico, Les barbares, tr. fr. Gallimard, 2016.

Philippe Huneman

Philosophe, Directeur de recherche à l’IHPST (CNRS/Paris-I)

Notes

[1] Gilles Deleuze, « Post-Scriptum sur les sociétés de contrôle », in Pourparlers, Paris: Minuit, 1994, originellement publié dans L’autre journal, 1, mai 1990

[2] Et bientôt, du fait de la mise en service de logiciels de reconnaissance faciale aujourd’hui bien réels et même effectifs dans certains districts de la république populaire de Chine, il faudra aussi porter en continu une large écharpe, un chapeau et des lunettes noires dès que l’on sort.

[3] Par exemple Heidi Boghosian, Spying on democracy.  San-Francisco, Citylights, 2013.

[4]« Marc L », Le Tigre, 7-01-2009. L’article s’ouvrait par un mémorable : « Bon annniversaire, Marc. Le 5 décembre 2008, tu fêteras tes vingt-neuf ans. Tu permets qu’on se tutoie, Marc ? Tu ne me connais pas, c’est vrai. Mais moi, je te connais très bien. »

[5] Michal Kosinski, David Stillwell, Thore Graepel. « Digital records of behavior expose personal traits. » Proceedings of the National Academy of Sciences, 2013, 110 (15) 5802-5805.

[6] Pour une introduction à l’algorithme de Shazam voir : https://www.lesnumeriques.com/audio/magie-shazam-dans-entrailles-algorithme-a2375.html

[8] « L’asile psychiatrique, le pénitencier, la maison de correction, l’établissement d’éducation surveillée, et pour une part les hôpitaux, d’une façon générale toutes ses instances de contrôle individuel fonctionnent sur un double mode : celui du partage binaire et du marquage (fou- non fou; dangereux – inoffensif ; normal – anormal); et celui de l’assimilation coercitive, de la répartition différentielle (qui il est; où il doit être ; par quoi le caractériser, comment le reconnaître..) » (Surveiller et punir, p. 201)

[9] De manière générale sur le Self-tracking lire Neff, Gina et Nafus, Dawn, Self-Tracking, MIT Press, Cambridge, 2016.

[10] Pour une analyse fine de ce ranking et de manière générale du monde de l’évaluation sur internet, voir Dominique Cardon, À quoi rêvent les algorithmes, nos vies à l’heure des big data,  Paris, Seuil, 2015; pour une belle analyse originale du Page Rank, qui fait écho à des analyses de transformations contemporaines de divers champs indépendants comme le vin ou le football,  voir Alessandro Barrico, Les barbares, tr. fr. Gallimard, 2016.