Numérique

L’idéologie du « Big Data », une catastrophe annoncée pour l’éthique de la connaissance et de l’action

Philosophe

Les promoteurs de l’IA et des Big Data entendent se passer des causalités et se contenter des corrélations. Se détournant des principes et des concepts fondamentaux de la connaissance, leur idéologie s’avère extraordinairement dangereuse au plan éthique.

L’intelligence artificielle (ci-après IA) est devenue un sujet d’actualité au même titre que la guerre en Ukraine ou la révolte des paysans français. Les plus savants la font remonter à une date récente, 2018 par exemple. Ayant travaillé de nombreuses années à une histoire philosophique des sciences cognitives, de la cybernétique à l’IA[1], je la fais remontrer quant à moi à l’année 1943, quand un neuropsychiatre nommé Warren McCulloch et un mathématicien de génie, Walter Pitts, inventèrent le concept de réseau de neurones formels. Ils démontrèrent à son sujet des propriétés remarquables qui pouvaient faire espérer l’avènement d’une science matérialiste et logico-mathématique de l’esprit humain.

publicité

Les quelques quatre-vingts ans qui nous séparent de cet acte inaugural ont évidemment vu des évolutions spectaculaires. Grâce en particulier aux travaux du Français Yann Le Cun et du Britannique Geoffrey Hinton, le modèle initial est devenu un système capable d’apprendre par lui-même au moyen d’une hiérarchie enchevêtrée de couches de neurones formels – d’où l’expression « apprentissage profond », deep learning en anglais –, et cela en se confrontant aux données du monde réel.

C’est ici qu’intervient la mise à la disposition de ces machines auto-apprenantes de quantités gigantesques de données, et cela dans tous les domaines. « Une IA », comme on dit aujourd’hui, en désignant un type de machine intelligente et non plus une discipline particulière, apprend toute seule à naviguer dans un monde résumé à des données, tout en en engendrant de nouvelles – c’est ce qu’on appelle le Big Data.

Ce que les médias désignent par « IA » est un ensemble encore plus restreint de telles machines : les grands modèles de langage (connus comme LLM, de l’anglais Large Language Models) dont le plus connu à ce jour est le « Chat GPT » de la société Open AI. Même s’il ne fait que prévoir le signe le plus probable qui prolonge un corpus déjà donné ou construit, ses performances peuvent êtr


[1] Jean-Pierre Dupuy, On the Origin of Cognitive Science. The Mechanization of the Mind, The MIT Press, 2000.

[2] Bach en a composé 24, un pour chacune des 12 gammes chromatiques, en majeur et en mineur.

[3] On peut rappeler que l’informatique est née en partie du génie d’un John von Neumann, lequel se trouvait confronté à la tâche humainement impossible d’avoir à résoudre le système d’équations formalisant la dynamique explosive de la bombe à hydrogène.

[4] « La fin de la théorie : le déluge des données rend obsolète la méthode scientifique »

[5] Où l’on voit que le mot latin datum, supin du verbe do, signifiant ce qui est donné, est parfaitement inapproprié. « Fait », de facere, est le mot qui convient. Tous les faits sont construits.

[6] Chris Anderson, « The End of Theory », loc. cit.

[7] Kenneth Cukier & Viktor Mayer-Schoenberger, « The Rise of Big Data. How It’s Changing the Way We Think About the World », Foreign Affairs, mai-juin 2013.

[8] Mes connaissances dans le domaine de ces IA génératives sont pour l’essentiel le résultat de ma lecture des travaux d’Alexei Grinbaum, et tout spécialement de son dernier livre, l’excellent Parole de machines. Dialoguer avec une IA, Éditions humenSciences, 2023.

[9] Christine Korsgaard, The Sources of Normativity, Cambridge University Press, 1996.

[10] Une proposition conditionnelle du type « si, alors » peut être indicative [« S’il pleut demain, je n’irai pas travailler »] ou bien contrefactuelle [« Si j’étais plus riche, je m’achèterais une Lamborghini »]. Le terme « contrefactuel » se réfère à la présence d’un antécédent [« Si j’étais plus riche »] qui est contraire aux faits (hélas, je ne suis pas plus riche que je ne le suis). Le comportement de ces deux types de conditionnels dans nos raisonnements varie du tout au tout. Pour prendre un exemple classique, la proposition « Si Shakespeare n’a pas écrit Hamlet, quelqu’un d’autre l’a fait » est sans aucun doute vraie puisque la pièce existe et qu’elle a nécessairement u

Jean-Pierre Dupuy

Philosophe, Professeur à Stanford University

Mots-clés

IA

Notes

[1] Jean-Pierre Dupuy, On the Origin of Cognitive Science. The Mechanization of the Mind, The MIT Press, 2000.

[2] Bach en a composé 24, un pour chacune des 12 gammes chromatiques, en majeur et en mineur.

[3] On peut rappeler que l’informatique est née en partie du génie d’un John von Neumann, lequel se trouvait confronté à la tâche humainement impossible d’avoir à résoudre le système d’équations formalisant la dynamique explosive de la bombe à hydrogène.

[4] « La fin de la théorie : le déluge des données rend obsolète la méthode scientifique »

[5] Où l’on voit que le mot latin datum, supin du verbe do, signifiant ce qui est donné, est parfaitement inapproprié. « Fait », de facere, est le mot qui convient. Tous les faits sont construits.

[6] Chris Anderson, « The End of Theory », loc. cit.

[7] Kenneth Cukier & Viktor Mayer-Schoenberger, « The Rise of Big Data. How It’s Changing the Way We Think About the World », Foreign Affairs, mai-juin 2013.

[8] Mes connaissances dans le domaine de ces IA génératives sont pour l’essentiel le résultat de ma lecture des travaux d’Alexei Grinbaum, et tout spécialement de son dernier livre, l’excellent Parole de machines. Dialoguer avec une IA, Éditions humenSciences, 2023.

[9] Christine Korsgaard, The Sources of Normativity, Cambridge University Press, 1996.

[10] Une proposition conditionnelle du type « si, alors » peut être indicative [« S’il pleut demain, je n’irai pas travailler »] ou bien contrefactuelle [« Si j’étais plus riche, je m’achèterais une Lamborghini »]. Le terme « contrefactuel » se réfère à la présence d’un antécédent [« Si j’étais plus riche »] qui est contraire aux faits (hélas, je ne suis pas plus riche que je ne le suis). Le comportement de ces deux types de conditionnels dans nos raisonnements varie du tout au tout. Pour prendre un exemple classique, la proposition « Si Shakespeare n’a pas écrit Hamlet, quelqu’un d’autre l’a fait » est sans aucun doute vraie puisque la pièce existe et qu’elle a nécessairement u