Numérique

Le monde selon GPT (2/2) Mais de quoi donc parle-t-il ?

Philosophe

Loin des sens, des émotions et sans référents, quel langage ChatGPT parle-t-il au juste ? Comment évaluer son niveau de compréhension et de communication ? Pensée selon un schéma de prédiction basé sur les archives textuelles humaines, la machine semble encore se trouver à des années lumières du langage parlé. GPT retient, mais sait-il pour autant ?

Résultat d’une longue histoire, et présupposant quelques thèses philosophiques majeures, GPT, les grands modèles de langage dont il est le représentant le plus fameux, et les intelligences artificielles génératives en général, habitent un grand hyperespace des intelligences possibles, où elles résident à une grande distance de l’intelligence qui est la nôtre.

publicité

Ceci étant, nous communiquons : GPT nous parle ; mais s’il ne pense pas comme nous, si même il est discutable qu’il pense, de quoi peut-il bien nous parler ? Pour répondre à cette question, nous devrons passer par la théorie dite des mondes possibles, initiée il y a plusieurs siècles par Leibniz mais élaborée au vingtième siècle, qui fit ses preuves pour rendre compte de ce qu’est le référent d’un énoncé. Je défendrai dans ce qui suit une thèse sur le référent des phrases de GPT, qui éclairera certains des paradoxes auxquels cette machine aujourd’hui nous confronte.

Le langage, le monde et les mondes

L’idée d’une étanchéité entre intelligences, supposément conséquence de cette multiplicité d’intelligences, ne va en réalité pas de soi. Nous communiquons avec les chiens, parfois même avec les poulpes, et nous parlons aux IA avec des phrases. Que signifie cette possibilité d’échange, hormis le simple fait que la convolution entre humains et IA, comme la coévolution entre humains et loups, permet en effet une sorte de « langue commune » ?

Dans Investigation Philosophique (1990), Wittgenstein écrivait, en une formule frappante : « Si un lion pouvait parler, nous ne pourrions pas le comprendre. » Il signifiait par là que la compréhension d’un discours, d’une langue même, suppose une communauté de forme de vie. Mêmes traduites en « humain », les phrases du lion ne feraient pas sens pour nous puisqu’elles ne se rapporteraient à rien qui fait « notre » monde.

Il semble que nous comprenons GPT et les IA génératives en général. Il s’ensuivrait que nous partageons avec elles quelque chose comme une forme de vie,


[1] C’était là l’idée initiale d’une célèbre IA commercialisée sous le nom de Replika, avant qu’elle devienne essentiellement un jouet (auto)érotique.

[2] Le livre fondateur de Kripke a lancé ces débats. (Kripke S., Naming and Necessity, Harvard University Press, 1980). Pour une vision plus large voir Soames S., Philosophy of language, Princeton, University Press, 2010.

[3] Bender E.-M., Gebru T., McMillan-Major A.,Shmitchell S., « On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? » in Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency (FAccT ’21), New York, Association for Computing Machinery : 610–623, 2021.

[4] Pour une analyse originale des algorithmes de recommandation voir Reigeluth T., « Recommender systems as techniques of the self ? », Le foucaldien, 3, 1, 2017 : 1-25, ainsi que le livre à paraître de Broadbent S., Forestier F., Khamassi M., Zolynski C. ; Jacob O., Pour une nouvelle culture de l’attention, 2023.

[5] Friston K., Kiebel S., « Predictive coding under the free-energy principle », Philos Trans R Soc Lond B Biol Sci., 364(1521), 1211-21, 2009.

[6] Dans La société du profilage. Évaluer, optimiser, prédire, Payot, 2023, j’ai proposé une approche philosophie très générale d’un glissement épistémique d’une science axée sur la causalité vers la généralisation de prédictions robustes fondées sur des corrélations innombrables saturant l’ensemble de la réalité.

[7] Pour les philosophes professionnels, le texte séminal concernant acte et puissance est le livre Theta de la Métaphysique d’Aristote; mais ici c’est sans importance.

[8] Lewis D., On the plurality of worlds. Princeton UP, 1990 ; De la pluralité des mondes (tr. Commetti), L’Eclat, 2007.

[9] Pour ces auteurs, voir Noë A., Action in Perception. MIT Press, 2005 ; O’Regan, Kevin J. & Noë A., « A sensorimotor account of vision and visual consciousness », In Behavioral and Brain Sciences 24 (5):883-917, 2001 ; Steinbock, Anthony J., Home and Beyond

Philippe Huneman

Philosophe, Directeur de recherche à l’IHPST (CNRS/Paris-I)

Notes

[1] C’était là l’idée initiale d’une célèbre IA commercialisée sous le nom de Replika, avant qu’elle devienne essentiellement un jouet (auto)érotique.

[2] Le livre fondateur de Kripke a lancé ces débats. (Kripke S., Naming and Necessity, Harvard University Press, 1980). Pour une vision plus large voir Soames S., Philosophy of language, Princeton, University Press, 2010.

[3] Bender E.-M., Gebru T., McMillan-Major A.,Shmitchell S., « On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? » in Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency (FAccT ’21), New York, Association for Computing Machinery : 610–623, 2021.

[4] Pour une analyse originale des algorithmes de recommandation voir Reigeluth T., « Recommender systems as techniques of the self ? », Le foucaldien, 3, 1, 2017 : 1-25, ainsi que le livre à paraître de Broadbent S., Forestier F., Khamassi M., Zolynski C. ; Jacob O., Pour une nouvelle culture de l’attention, 2023.

[5] Friston K., Kiebel S., « Predictive coding under the free-energy principle », Philos Trans R Soc Lond B Biol Sci., 364(1521), 1211-21, 2009.

[6] Dans La société du profilage. Évaluer, optimiser, prédire, Payot, 2023, j’ai proposé une approche philosophie très générale d’un glissement épistémique d’une science axée sur la causalité vers la généralisation de prédictions robustes fondées sur des corrélations innombrables saturant l’ensemble de la réalité.

[7] Pour les philosophes professionnels, le texte séminal concernant acte et puissance est le livre Theta de la Métaphysique d’Aristote; mais ici c’est sans importance.

[8] Lewis D., On the plurality of worlds. Princeton UP, 1990 ; De la pluralité des mondes (tr. Commetti), L’Eclat, 2007.

[9] Pour ces auteurs, voir Noë A., Action in Perception. MIT Press, 2005 ; O’Regan, Kevin J. & Noë A., « A sensorimotor account of vision and visual consciousness », In Behavioral and Brain Sciences 24 (5):883-917, 2001 ; Steinbock, Anthony J., Home and Beyond