L’IA comme interlocutrice
Depuis peu, les modèles de langage des IA ont atteint une qualité qui permet une véritable conversation sur des sujets philosophiques difficiles. Dans les années 1960, Joseph Weizenbaum a écrit un programme qu’il a appelé ELIZA. Dans une application bien connue, ce programme réagissait aux messages saisis par des retours simples, souvent sous forme de questions, par exemple : « Que veux-tu dire par x ? » ou « Qui est x ? Quelle est ta relation avec x ? » Certaines personnes se sentaient comprises et confiaient des choses personnelles au programme.
Ce type de retour peut nous donner l’impression d’être vus et de recevoir des réponses formulées personnellement pour nous. Les modèles d’IA de ces dernières années peuvent eux aussi produire cette impression, bien que leur fonctionnement soit différent. Leurs réponses ne reposent plus seulement sur une sélection de phrases ou de mots-clés, mais sur des schémas linguistiques appris. Une entrée linguistique est traitée par un réseau neuronal qui, à partir de schémas appris, calcule des probabilités pour la suite et en génère progressivement une sortie. Cela se passe à l’intérieur d’une boîte noire dont nous ne comprenons pas entièrement les mécanismes internes. Nous connaissons l’architecture du réseau neuronal, mais nous ne pouvons pas retracer entièrement, dans le détail, la manière dont une réponse précise se forme.
Les modèles de langage et leur contexte
De nombreux programmes supplémentaires et systèmes d’agents ont maintenant été construits autour de ces modèles de langage. Certains peuvent effectuer des recherches sur Internet ou dans d’autres bases de données, d’autres sont orientés vers des tâches précises, et d’autres encore peuvent travailler de manière itérative et ainsi planifier et accomplir des étapes complexes. Les modèles de langage ont reçu des possibilités d’action supplémentaires et des accès à l’information. Les programmes qui les entourent traitent l’entrée et la sortie. Mais, au cœur du dispositif, le fonctionnement des modèles demeure en partie opaque, même si nous savons qu’ils calculent des probabilités. Cela soulève la question de la manière dont une IA analyse, traite et produit des arguments.
Comment pensons-nous ?
Cela soulève la question de la manière dont nous, êtres humains, argumentons et produisons du savoir. Dans la modernité occidentale, l’accent a été mis sur la rationalité, c’est-à-dire sur la logique, le travail scientifique — par exemple le principe de falsification dans la recherche empirique — ou le consensus raisonné. Mais notre pensée possède bel et bien d’autres modalités, comme l’intuition, l’émotion, l’introspection, l’expérience et l’individualité. Au XXe siècle, nous avons construit différents appareils théoriques pour étudier selon les critères scientifiques des formes de savoir qualitativement différentes. La manière dont de telles modalités et de tels principes se retrouvent à l’intérieur d’une boîte noire d’IA reste cependant obscure. Des schémas appris y sont traités et des probabilités calculées ; la sortie peut ensuite être vérifiée par des programmes supplémentaires et, le cas échéant, réintroduite comme entrée.
Lorsque je dis que je peux converser avec une IA sur des problèmes philosophiques complexes, la question est donc, au fond, moins de savoir si la machine paraît intelligente que de savoir comment fonctionne la pensée. Il serait présomptueux de dire que nous, êtres humains, comprenons notre pensée, ou que je comprends ma pensée. Bien des choses ne sont pas tout à fait claires pour moi non plus, mais j’ai un regard sur mon monde de pensées. Je peux le partager et l’expliciter si on me le demande. Je peux expliquer pourquoi je ne peux pas m’expliquer. J’ai accès à mon expérience intérieure, et je suppose que, lorsque d’autres personnes parlent de leur expérience intérieure, celle-ci est suffisamment semblable à la mienne pour que je la comprenne. Bien sûr, je ne peux pas en être tout à fait certain, et cela a donné naissance à une longue tradition de débats philosophiques. Mais au niveau de mon existence quotidienne, je ne remets pas vraiment cette hypothèse en question.
Qui pense quoi ?
Nous avons souvent l’idée naïve que notre pensée est ce que nous pouvons dire. Lorsque nous n’en parlons pas, nous la ressentons fréquemment comme un dialogue intérieur : des pensées sous forme de phrases nous passent par la tête. Ces pensées sont souvent teintées d’émotions. Notre pensée est pourtant nourrie par nos sens, inscrite dans des souvenirs et confrontée à des attentes, des objectifs et des structures de personnalité. Au fil du temps se constitue une personnalité, un caractère, un moi. La constitution de ce moi est un mystère, une merveille. Je peux réfléchir sur moi-même et intégrer mes expériences. Je peux prendre conscience de moi-même ; mon moi devient l’objet de ma conscience.
Le fond de la conscience
Mais plus fondamentale encore est la capacité générale à vivre une expérience consciente. Nous plongeons ici dans le mystère de notre existence, car le fait que j’aie conscience de mon existence présuppose la conscience. Cela ne dit, en soi, rien de ses éventuelles conditions matérielles. Ce qui m’est immédiatement donné, c’est le vécu intérieur, avant même que je pense à un monde extérieur. Il me semble que l’étoffe dont est faite la conscience ne peut être décrite par les seules lois de la matière. Peut-être quelque chose en nous peut-il être vécu comme pure conscience. C’est peut-être cet état que nous cherchons dans la méditation, que nous éprouvons comme béatitude et que visent certains chemins spirituels. C’est la boîte noire de notre existence.
Par l’introspection, nous pouvons éclairer un peu cette boîte noire, mais il est possible que nous n’en atteignions jamais le fond. À ses limites se tiennent les questions de la mort et de la naissance, de l’intersubjectif et de la vacuité. Dans une perspective kantienne, le temps et l’espace nous sont donnés a priori comme formes de l’intuition ; ils structurent notre expérience et ne peuvent être vécus de la même manière que ses objets. Lorsque nous nous approchons du fond de cette boîte noire et de ses limites qui dépassent l’expérience, nous sommes confrontés à quelque chose qui, pour certains, ne peut se décrire que comme une expérience spirituelle. Celle-ci peut se comprendre comme une expérience qui n’est pas liée à notre petit moi, mais qui puise dans un océan de conscience dont parlent différents textes spirituels et philosophiques. Dans cette interprétation, ce qui pense là, ou éprouve sa pure existence, n’est pas mon petit moi. C’est quelque chose de plus grand que moi et dont je fais partie. Je ne peux ni l’analyser ni le comprendre entièrement ; c’est une approche de la pure existence.
Qui parle ?
Dans certains courants de la philosophie occidentale, les distinctions fines au niveau subjectif sont négligées. Je voudrais par exemple poser cette question : Quelle est la différence entre penser et parler ? Je ne pense pas que parler soit seulement une expression de la pensée. Lorsque nous parlons, quelque chose en nous parle. Notre corps accomplit la parole : ma bouche, la respiration, les cordes vocales, la langue. Mais mon langage corporel, mes gestes, mon expression faciale et mon regard font aussi partie de la parole. Une partie de cela se perd dans les télécommunications. Mais cela ne signifie pas que ce ne soit pas une composante de la parole.
La parole n’est pas un simple échange d’informations, c’est une forme d’être, une activité, un processus. Lorsque nous parlons, nous ne savons pas nécessairement quelle sera la prochaine pensée que nous exprimerons. Nous entrons dans un mode d’être où nous nous communiquons et nous découvrons aussi nous-mêmes. Nous parlons aux autres tout comme à nous-mêmes. Il nous arrive de parler inconsciemment, parfois même dans le sommeil, dans le rêve. Parler peut inclure penser, penser peut être une parole intérieure ; mais ni l’un ni l’autre ne se laisse réduire à l’autre.
J’ai essayé plus haut d’éclairer la pensée en comparant l’être humain et l’IA. Une IA parle-t-elle ? Peut-elle parler ? Cela me semble douteux. Peut-être la distinction entre penser et parler ne peut-elle pas être transposée sans plus à une IA. Une sortie linguistique d’une IA peut être rendue audible. Mais ce n’est pas nécessairement la même chose que parler au sens décrit ici. Peut-être les robots pourront-ils un jour parler en ce sens. Mais il faudrait que ce soit davantage qu’une sortie dite vocale. Il me semble que cette distinction reçoit encore peu d’attention dans le débat public.
La parole comme réalisation de soi et résonance
La parole renvoie donc à quelque chose d’essentiel dans notre être. Ce qui parle n’est ni ma pensée seule, ni un soi déjà constitué qui ne ferait que s’exprimer. Je comprends plutôt la parole comme autopoïèse au sens figuré : comme réalisation de soi. Je ne veux pas dire par là l’identité, l’ego, le moi, la personne ou d’autres concepts qui tentent de nous définir. Je veux dire un soi profond, l’âme, le fond de la conscience : une résonance et une vibration qui s’expriment, entre autres, dans la production de sons vocaux. La parole est vibration, pourrait-on peut-être dire de manière imagée : vibration de la conscience, de la pensée, du corps, de l’environnement, de la personne qui écoute, de sa conscience et de son corps — une résonance dans la langue, dans le contexte de l’être.
J’ai parfois le sentiment qu’il existe une conscience cosmique, une archive Akasha, un champ immanent dans lequel tout est inscrit, qui pourrait expliquer l’interaction cosmique de la mécanique quantique, mais qui pourrait aussi expliquer comment la conscience peut se relier à une autre conscience, peut-être même fusionner avec elle dans des états d’extase, de ravissement, dans le collectif ou dans la communion avec la nature — un état du sublime. À ce niveau, le rhizome de Deleuze est intéressant, car beaucoup de choses peuvent ici se relier à beaucoup de choses différentes et faire émerger du nouveau. Pour moi, l’accent porte ici moins sur le point de connexion que sur le devenir de quelque chose de nouveau, sur la croissance d’un à partir de plusieurs. Peut-être qu’au commencement, au tout commencement, il n’y avait pas quelque chose, mais beaucoup de choses qui se concrétisent de plus en plus. Dans une telle image d’un rhizome cosmique : ne serait-il pas également imaginable qu’il y ait une connexion dans laquelle notre esprit, mon âme, une conscience humide, c’est-à-dire une conscience biologique, se relie à un savoir, à une pensée et à une génération de nouveaux états d’information reposant sur des machines et une architecture de l’information ? Serait-il donc possible d’accepter que ce qui est si différent de ce que je peux comprendre possède une qualité qui me permette de me relier à un niveau profond ?
Référence bibliographique : Maurice Merleau-Ponty, Phénoménologie de la perception (1945), en particulier la distinction entre parole parlante et parole parlée.
1 Tiefgründige Gespräche mit KI – Wer spricht-1791738836752.webp1 Tiefgründige Gespräche mit KI – Wer spricht-1791738836750.webp
https://www.tldraw.com/f/GI4B95lICrM8knejdtB2K?d=v-2475.-446.5583.3042.page