Rêve et intelligence artificielle

L'autre matin, je reçois ce message : "J'ai fait un rêve curieux. Et dans ce rêve, il y avait une icône supposée être copte, avec Jésus qui portait le voile de Marie sur sa tête…"

J'ai souri.

C'est bien typique de la structure des rêves que d'assembler par juxtaposition des éléments disparates, mais ayant néanmoins des liens entre eux, et de tenter d'en faire un récit suffisamment cohérent pour que le rêveur puisse s'y sentir dans une sorte de familiarité.

Parfois, au moment du réveil, l'impression de réalité du rêve peut perdurer, et ce n'est que peu à peu que les incohérence du récit nous apparaissent, nous amenant à en rejeter l'authenticité pour le sortir de la catégorie "souvenir" et le ranger dans le groupe "rêve bizarre".

Ce qui m'a frappé, c'est que ce processus de composition d'un discours correspond précisément à ce que produisent les algorithmes d'Intelligence Artificielle, type ChatGPT. Puisant dans une base d'information considérable, ils en extraient des résultats "par proximité", sans avoir les moyens de vérifier[1] si l'information fournie est juste, ou même seulement plausible.

A titre d'exemple, j'ai demandé à ChatGPT ce qu'il savait du "vieux Léon" dont parle Georges Brassens dans la chanson éponyme ?

La réponse de l'IA est un modèle du genre, dans la mesure où elle est totalement plausible :

"La chanson "Le vieux Léon" est une chanson de Georges Brassens, présente dans son album intitulé "Le temps ne fait rien à l'affaire" sorti en 1954."

Elle raconte l'histoire d'un homme nommé Léon, un personnage fictif créé par Brassens.

Dans la chanson, Brassens décrit Léon comme un homme âgé, vivant dans une maison de retraite. Léon est présenté comme un homme solitaire, qui passe ses journées à fumer sa pipe et à se remémorer le passé. Il est décrit comme un personnage plein de sagesse et d'expérience, ayant traversé de nombreux événements de la vie.

Georges Brassens utilise le personnage de Léon pour aborder des thèmes universels tels que le passage du temps, la nostalgie, la solitude et la réflexion sur la vie. La chanson évoque la fin de vie, le regard sur le passé et la philosophie de vie de Léon.

Il est important de noter que le personnage de "vieux Léon" est une création artistique de Brassens et n'est pas basé sur une personne réelle."

Elle est plausible, mais tout, absolument tout est faux : le titre de l'album, l'année de sortie, et la description du personnage.

S'il est aisé de vérifier que la chanson est parue dans l'album "le pornographe" sorti en 1958, les informations concernant la personne du "Vieux Léon" sont moins aisées à dénicher. Toutefois, lors d'une entrevue sur Europe N°1 le 9 février 1974, Brassens racontait :

"Le vieux Léon", évidemment, c'est l'histoire d'un type qui jouait de l'accordéon dans la rue de Vanves dans le XIVe arrondissement de Paris et dont, nous autres, nous nous moquions un petit peu, quoi. Parce que nous n'aimions pas l'accordéon. Et puis, il est mort et alors là, on s'est aperçu qu'on aimait l'accordéon et qu'on l'aimait, lui. C'est une déclaration d'amour "le vieux Léon", malheureusement qui arrive trop tard puisque celui à qui elle s'adresse ne peut l'entendre."

Or, si en faisant une petite recherche sur internet j'ai pu avoir accès à ces informations, ChatGPT pouvait aussi la connaître. Mais n'ayant pas les moyens de faire le tri dans sa masse phénoménale d'informations, l'IA a composé "une réponse" même incohérente.

Et au final, ce sont probablement ces incohérences qu, comme pour les rêves,i sont le meilleurs indices de ce qu'un texte est composé par une IA…

La petite note :

[1] Ainsi que ChatGPT me l'a répondu : " Je n'ai pas de mécanisme intégré pour évaluer ma propre pertinence"