Pourquoi ChatGPT a l'air d'halluciner dans un long chat

Deux problèmes qui se ressemblent

Vous échangez depuis un moment, et maintenant il invente. Il cite un détail que vous ne lui avez jamais donné. Il affirme comme un fait quelque chose de faux. Il « se souvient » d'une décision que vous n'avez jamais prise.

Quelque chose cloche, vous avez raison. Mais deux problèmes différents se ressemblent à s'y méprendre vus de l'extérieur, et ils n'appellent pas le même geste.

Ce qu'est une hallucination

L'hallucination est réelle et bien connue : une IA peut affirmer quelque chose de faux avec une parfaite assurance, comme une source qui n'existe pas, un chiffre erroné, un fait qui n'en est pas un. Ça peut arriver dans un chat tout neuf, dès la première réponse. Aucun outil ne la supprime. Quand c'est important, vérifiez les faits auprès d'une source fiable.

Pourquoi un long chat se met à combler les trous

L'autre problème vient du chat lui-même. ChatGPT ne peut prendre en compte qu'une certaine quantité de chat à la fois. À mesure que le chat grandit, les parties les plus anciennes reçoivent moins d'attention ou sortent de son champ, et ce sont souvent les détails posés au départ : votre objectif, vos faits, les règles de base.

Quand il ne les voit plus, il comble le vide avec sa meilleure supposition pour continuer. Une supposition affirmée avec assurance sur quelque chose qu'il ne voit plus ressemble exactement à une invention.

Comment les distinguer.

Des faits faux dès le début, même dans un nouveau chat ? On est plus près de l'hallucination : vérifiez les faits. Des erreurs qui n'apparaissent qu'après un long chat, surtout sur vos propres détails du début ? Le chat n'a plus de place, et un nouveau chat qui contient vos faits aide.

Pourquoi le corriger empire les choses

Le réflexe, c'est de le reprendre : « Non, c'est faux, voilà ce qu'on avait dit. » C'est légitime, mais chaque correction ajoute du texte à un chat plein et pousse encore plus de votre contexte de départ hors de vue. Un chat plein ne devient pas plus exact parce qu'on y ajoute du texte.

Un nouveau chat, avec vos vrais faits

Ouvrez un nouveau chat et apportez seulement ce qui compte, en quelques lignes, pour lui laisser moins de trous à deviner :

• Votre objectif : ce que vous cherchez à faire.
• Ce qui est décidé : pour qu'il ne puisse pas s'en « souvenir de travers ».
• Les faits et les règles que vous répétiez : les détails qu'il perdait sans cesse.
• Où vous en êtes : l'état actuel, et la prochaine étape.

Je reprends à partir d'un autre chat. Utilise seulement les faits ci-dessous, et dis-moi quand tu n'es pas sûr au lieu de deviner :
- Ce sur quoi je travaille : [votre objectif]
- Déjà décidé : [liste]
- Faits et règles clés : [les détails qui se perdaient]
- Où j'en suis : [état actuel]

Maintenant, j'ai besoin d'aide pour : [prochaine étape]

Le nouveau chat n'arrêtera pas complètement d'halluciner : aucun chat ne le fait. Mais il a votre vrai contexte sous les yeux, au lieu de trous.

Plus rapide : laissez Uncook l'écrire

Remonter un long chat pour en sortir les vrais faits, c'est la partie lente. Le Handoff d'Uncook s'en charge. Sur la page de ChatGPT, cliquez sur l'icône Uncook et choisissez Handoff. Vous obtenez un prompt avec votre objectif, ce qui est décidé, vos règles et où vous en êtes, repris du chat. Relisez-le, vérifiez les faits, puis copiez-le dans un nouveau chat ou cliquez sur Continuer dans ChatGPT pour ouvrir un nouveau chat, avec le prompt dedans sur les sites où vous avez autorisé Uncook, ou copié pour que vous le colliez. Cela fonctionne de la même façon avec un chat Claude ou Gemini.