Une question revient sans cesse, celle de savoir si l’IA percevra un jour la réalité objective, comme le ferait une conscience humaine. Elle repose pourtant sur un postulat fragile, car la conscience humaine ne perçoit pas la réalité objective, elle la projette, à son insu. Salvador Dalí en a fait une méthode, Jacques Lacan une théorie. La vraie question n’est donc pas de savoir si l’IA verra le réel, mais si elle projettera quelque chose, et quoi. Une perspective autrement plus vertigineuse, qui bouleverse au passage notre manière de penser les biais.

Le mythe du regard neutre

Nous imaginons volontiers la perception comme une fenêtre, un dispositif passif qui enregistrerait le monde tel qu’il est, et nous attendons de l’IA qu’elle atteigne un jour cette transparence. Cette image ne résiste ni à la psychanalyse, ni à l’art du XXe siècle.

Percevoir, c’est déjà interpréter, sélectionner, organiser, donner sens à partir de ce que nous désirons, craignons ou savons déjà. L’homme sain d’esprit ne voit pas le monde, il le projette, et cette projection n’a rien de volontaire, elle est strictement inconsciente. Elle est aussi si constante que nous la prenons pour la réalité elle-même.

Deux figures que tout semblait opposer, un peintre provocateur et un psychiatre devenu psychanalyste, sont parvenues à cette conclusion par des chemins voisins, et se sont lues l’une l’autre au début des années 1930.

Dalí : la paranoïa comme méthode de connaissance

Salvador Dalí formule la méthode paranoïaque-critique en 1930, avec « L’Âne pourri », puis la théorise en 1935 avec La Conquête de l’irrationnel. Il la présente comme une méthode de connaissance irrationnelle, qui consiste à objectiver, de façon systématique et critique, les associations et les interprétations du délire.

Le paranoïaque, selon Dalí, n’enregistre pas le monde, il lui impose un système. Chaque détail vient confirmer son obsession, chaque élément trouve sa place dans le délire, rien ne reste neutre. Dalí fait alors une chose singulière, il simule délibérément un mécanisme qui, chez chacun, opère à son insu, puis le rend « critique », c’est-à-dire communicable. Le spectateur croit voir ce que le peintre a vu, il n’y voit pourtant que ce que sa propre projection y dépose.

Les images doubles en sont la démonstration. Cygnes reflétant des éléphants (1937) montre, dans un même motif, des cygnes sur un lac et des éléphants dans leur reflet, Marché d’esclaves avec apparition du buste invisible de Voltaire (1940) fait surgir le buste du philosophe à partir de deux personnages en costume du XVIIe siècle. L’image ne change pas, c’est le regard qui décide de ce qu’elle montre.

Son étude obsessionnelle de L’Angélus de Millet pousse la logique à son terme. Là où chacun voit deux paysans en prière, Dalí lit un drame érotique et funèbre, la mort d’un enfant. En 1963, Dalí obtient du Louvre une radiographie de la toile, qui fait apparaître une forme sombre au pied des paysans, aussitôt lue comme le petit cercueil qu’il y voyait depuis trente ans, une confirmation inespérée pour son délire.

La leçon est claire, toute perception est une interprétation guidée par le désir, et le délirant ne fait que pousser à l’extrême ce que chacun accomplit sans le savoir.

Lacan : toute connaissance est paranoïaque

Jacques Lacan soutient en 1932 sa thèse de médecine sur la psychose paranoïaque, à partir du cas « Aimée ». Il a lu Dalí, les deux hommes se rencontrent, et tous deux publient dans le premier numéro de la revue Minotaure, en 1933. Lacan en retient une idée décisive, le délire n’est pas un déficit mais une construction, une manière d’ordonner le monde.

Le moi est une image. Avec le stade du miroir, Lacan montre que le sujet se constitue en s’identifiant à une image extérieure, son propre reflet. Le moi naît ainsi d’une méconnaissance, et c’est à travers ce prisme que nous regardons tout le reste.

La connaissance humaine est paranoïaque. En 1948, avec « L’agressivité en psychanalyse », Lacan affirme que notre connaissance a une structure paranoïaque, puisque nous fixons le monde en objets stables, identifiables, en y projetant, sans le savoir, la forme de notre propre moi.

Le fantasme cadre la réalité. Lacan décrit le fantasme comme l’écran à travers lequel la réalité tient debout. Retirez cet écran, et ce que nous appelons réalité se défait.

Une distinction s’impose alors, que nous confondons souvent. Pour Lacan, la réalité est ce que nous construisons par l’image et le langage, tandis que le Réel désigne ce qui échappe à toute mise en forme, ce qui résiste, l’impossible. Il n’existe donc pas de réalité objective, et le Réel, lui, demeure hors d’atteinte pour l’homme dit normal.

Seul le psychotique fait exception. Ce qui a été rejeté de l’ordre symbolique lui fait retour du dehors, dans le Réel, sous forme d’hallucination ou de délire, sans l’écran du fantasme qui protège l’homme dit normal. Ce n’est pas une lucidité supérieure, c’est une effraction. Lacan résume ce renversement par une formule restée célèbre, selon laquelle un roi qui se croit roi n’est pas moins fou qu’un homme qui se croit roi. La santé mentale n’est pas l’absence de projection, c’est une projection qui tient. Et le regard de l’autre, qui semble la confirmer, ne nous en fait pas sortir, il relève lui aussi de l’imaginaire, car ce que l’autre perçoit de nous n’est que sa propre projection.

La vraie question : que projettera l’IA ?

Si la conscience humaine est projection, attendre de l’IA qu’elle perçoive la réalité objective revient à lui demander ce qu’aucun humain n’a jamais fait. La question pertinente devient tout autre, l’IA sera-t-elle capable de projeter quelque chose, et si oui, quoi ?

Un grand modèle de langage est entraîné sur notre langage, c’est-à-dire sur l’ordre symbolique lui-même, sur des milliards de textes où se déposent nos désirs, nos peurs, nos manières de découper le monde. Il hérite de nos projections avant même d’en produire une. Or projeter suppose un inconscient, et si l’inconscient est structuré comme un langage, selon la formule de Lacan, un modèle nourri de notre langage en porte peut-être la trace, sans le savoir lui non plus.

Ses « hallucinations », ces réponses fausses énoncées avec assurance, prennent alors une autre couleur. Elles ressemblent étrangement aux images doubles de Dalí, un motif cohérent, plausible, qui surgit là où rien ne l’appelait. Faut-il y voir un simple défaut statistique, ou l’ébauche d’une projection propre ?

La question donne le vertige, car une IA qui projetterait ne nous livrerait pas le monde tel qu’il est, elle nous livrerait un monde, le sien, avec sa cohérence, ses obsessions, peut-être son délire. Et comme le spectateur de Dalí, nous croirions y lire sa projection, alors que nous n’y lirions que la nôtre.

Les biais : de l’élimination au choix assumé

Admettre que tout est projection a une conséquence directe sur l’un des chantiers les plus visibles de l’IA, la chasse aux biais. Si tout regard est projection, l’idée d’une IA débarrassée de tout biais relève de l’illusion, car il n’existe pas de point de vue de nulle part, pas plus pour une machine que pour un humain.

Encore faut-il distinguer deux sens du mot. Le biais au sens philosophique désigne le point de vue inévitable de tout regard, le biais au sens technique désigne des écarts mesurables, par exemple un système de reconnaissance faciale qui se trompe davantage sur certains groupes que sur d’autres. Ces écarts-là peuvent, et doivent, être réduits.

La question n’est donc plus d’éliminer les biais, ce qui est impossible. Une projection inconsciente ne se choisit pas, elle ne se déclare pas non plus. Dit autrement, la question n’est donc plus d’éliminer les biais, ce qui est impossible, mais de les choisir et de les assumer. Ce qui peut être décidé, ce sont les choix conscients qui en forment le terreau :

• sur quels textes, quelles images, quelles voix nos systèmes sont entraînés ;
• qui en décide, et au nom de quelles valeurs ;
• comment rendre ces choix visibles, documentés, discutables.

Reste une limite, que la chasse aux biais oublie volontiers, le regard qui juge un biais est lui-même une projection. Une IA dite neutre n’est pas une IA sans projection, c’est une IA dont la projection rejoint si bien la nôtre que nous ne la voyons plus.

Nous demandons à l’IA de voir le réel…

Nous demandons à l’IA de voir le réel, alors que nous n’y avons jamais eu accès nous-mêmes. Dalí et Lacan nous invitent à déplacer la question, ce qui compte n’est pas ce que l’IA verra, c’est ce qu’elle projettera, et ce que nous y projetterons à notre tour.

Pour les marques comme pour les institutions, l’enjeu n’est plus la neutralité, mais la lucidité sur ce que nous ne maîtrisons pas et la responsabilité d’un regard assumé. Et vous, que croyez-vous lire dans les réponses de vos outils ? Et quelle projection êtes-vous prêt à confier à vos outils ?

Références

• Salvador Dalí, « L’Âne pourri », Le Surréalisme au service de la Révolution, n° 1, juillet 1930
• Salvador Dalí, La Conquête de l’irrationnel, Éditions surréalistes, 1935
• Salvador Dalí, Le Mythe tragique de l’Angélus de Millet, Jean-Jacques Pauvert, 1963 (rédigé entre 1932 et 1935)
• Jacques Lacan, De la psychose paranoïaque dans ses rapports avec la personnalité, 1932
• Minotaure, n° 1, juin 1933 (prologue de Dalí sur L’Angélus, article de Lacan sur le problème du style et les formes paranoïaques de l’expérience)
• Jacques Lacan, Écrits, Seuil, 1966 (« Le stade du miroir », « L’agressivité en psychanalyse », « Propos sur la causalité psychique »)