Porque é que as conversas longas com IA pioram: o context rot, explicado

O que é o context rot

Uma IA não se lembra da sua conversa como uma pessoa se lembra. A cada resposta, trabalha a partir do que consegue ter em conta da conversa: as suas mensagens, as respostas dela, tudo o que colou. Esse espaço chama-se janela de contexto, e tem um tamanho fixo.

O context rot (algo como «contexto a degradar-se») é o que se vê quando esse espaço enche: as respostas pioram, e não é pouco. No início, a IA trata do que lhe pede sem esforço. À medida que a conversa cresce, a atenção dela dispersa-se por uma parede de texto, e o que lhe importa, a sua última decisão ou aquela regra, fica soterrado.

Porque acontece

Somam-se duas coisas:

• Diluição. Quanto mais texto há, menos peso tende a ter cada instrução. O «seja breve» que definiu no início disputa agora espaço com uma parede de outro texto.
• O mais recente ganha. Os modelos apoiam-se no que é mais recente. O que definiu cedo, as coisas que dá por arrumadas, é precisamente o que tem mais probabilidade de se desvanecer.

Com as duas juntas, quanto mais uma conversa se prolonga, mais provável é que perca as decisões que tomou no início e nunca repetiu.

Como o detetar na sua conversa

Normalmente sente-o antes de lhe conseguir dar nome:

• Esquece regras que definiu há muitas mensagens.
• Dá por si a repetir: a mesma regra duas ou três vezes.
• Repete-se, com respostas parecidas com as que já recebeu.
• Desfaz decisões que tinha arrumado.
• Descamba: as respostas ficam mais vagas e menos ligadas ao que está a fazer.

O teste rápido: é o modelo ou a conversa?

Antes de culpar o modelo, experimente isto. Abra um chat totalmente novo e faça a pergunta em que ficou preso. Se o novo chat acerta e a conversa antiga continua a tropeçar, quem se desgastou foi a conversa, não o modelo. Se o novo chat também tem dificuldades, o pedido em si é difícil, ou o modelo mudou, e recomeçar não vai ajudar. Esta verificação poupa-lhe uma tarde inteira a lutar contra o problema errado.

Uma conversa degradada não tem volta.

Nenhum botão faz uma conversa cheia esquecer a própria confusão. Apagar mensagens raramente ajuda: a IA continua a trabalhar com o que sobrou, e o seu contexto inicial já se perdeu no meio do ruído. O que resulta é levar o trabalho para um novo chat, que começa limpo.

O que fazer

Não fique a tratar de uma conversa desgastada: passe-a para outra. Dê a um novo chat um handoff curto com o objetivo, o que decidiu, as regras que ela estava sempre a deixar cair (liste-as, são as primeiras a desaparecer) e onde parou. Um chat limpo que começa daí tem espaço para pensar, e não reabre o que já arrumou.

A forma mais rápida: deixe o Uncook escrevê-lo

Escrever esse handoff à mão resulta, mas é aborrecido, e as regras que mais se cansou de repetir são as que vai esquecer. O Handoff do Uncook preenche essa lacuna. Abra a conversa no ChatGPT, no Claude, no Gemini ou noutro site compatível com o Uncook, clique no ícone do Uncook e escolha Handoff. Recebe o objetivo, o que está decidido e as regras que a IA estava sempre a deixar cair. Copie-o para um novo chat.