Porque é que o ChatGPT parece alucinar numa conversa longa

Duas coisas que parecem iguais

Já há algum tempo que a conversa vai e vem, e agora ele inventa coisas. Refere um pormenor que nunca lhe deu. Afirma como facto uma coisa que não é verdade. «Lembra-se» de uma decisão que nunca foi tomada.

Há alguma coisa errada, e tem razão nisso. Mas dois problemas diferentes parecem idênticos vistos de fora, e não pedem a mesma resposta.

O que é a alucinação

A alucinação existe e é bem conhecida: uma IA pode dizer uma coisa falsa com total confiança, como uma fonte que não existe, um número errado, um facto que não é verdade. Pode acontecer num chat acabado de abrir, logo na primeira resposta. Nenhuma ferramenta a elimina. Quando importa, confirme os factos importantes numa fonte em que confia.

Porque é que uma conversa longa começa a preencher lacunas

O outro problema vem da própria conversa. O ChatGPT só consegue ter em conta uma certa parte da conversa de cada vez. À medida que a conversa cresce, as partes mais antigas recebem menos atenção ou saem de vista, e são muitas vezes os pormenores que definiu no início: o seu objetivo, os seus factos, as regras de base.

Quando já não os consegue ver, preenche a lacuna com o seu melhor palpite, para poder continuar. Um palpite confiante sobre algo que já não vê parece exatamente alguém a inventar.

Como os distinguir.

Factos errados desde o início, mesmo num novo chat? Isso está mais perto da alucinação: confirme os factos. Erros que só aparecem depois de uma conversa longa, quase sempre sobre os pormenores que deu no início? A conversa ficou sem espaço, e um novo chat com os seus factos ajuda.

Porque é que corrigir piora as coisas

O instinto é pô-lo na ordem: «Não, isso está errado, o que dissemos foi isto.» É justo, mas cada correção acrescenta texto a uma conversa cheia e empurra mais do seu contexto inicial para fora de vista. Uma conversa cheia não fica mais precisa por se lhe acrescentar mais texto.

Um novo chat, com os seus factos reais

Abra um novo chat e leve só o que importa, em poucas linhas, para que tenha menos lacunas a adivinhar:

• O seu objetivo: o que está a tentar fazer.
• O que está decidido: para que não o «recorde mal».
• Os factos e as regras que estava sempre a repetir: os pormenores que ele estava sempre a perder.
• Onde está: o estado atual, e o passo seguinte.

Estou a continuar a partir de outra conversa. Use só os factos abaixo e, quando não tiver a certeza, diga-o em vez de adivinhar:
- Em que estou a trabalhar: [o seu objetivo]
- Já decidido: [lista]
- Factos e regras importantes: [os pormenores que se estavam sempre a perder]
- Onde estou: [estado atual]

A seguir, preciso de ajuda com: [passo seguinte]

O novo chat não vai deixar de alucinar de vez: nenhum chat deixa. Mas tem à frente o seu contexto real, em vez de lacunas.

A forma mais rápida: deixe o Uncook escrevê-lo

Voltar atrás numa conversa longa para separar os factos reais é a parte lenta. O Handoff do Uncook faz isso. Na página do ChatGPT, clique no ícone do Uncook e escolha Handoff. Recebe o seu objetivo, o que está decidido, as suas regras e onde está, tirados da conversa. Leia-o, confirme os factos e depois copie-o para um novo chat. Funciona da mesma forma com uma conversa do Claude ou do Gemini.