Por qué los chats largos con IA empeoran: el context rot, explicado

Qué es el context rot

Una IA no recuerda tu chat como lo recuerda una persona. Para cada respuesta, trabaja con lo que puede abarcar del chat: tus mensajes, sus respuestas, todo lo que pegaste. Ese espacio se llama ventana de contexto, y tiene un tamaño fijo.

El context rot (algo así como «el contexto que se echa a perder») es lo que se nota a medida que ese espacio se llena: las respuestas empeoran, y no de a poco. Al principio, la IA resuelve lo que le pides sin problema. Conforme el chat crece, su atención se reparte sobre un muro de texto, y lo que a ti te importa, tu última decisión o esa regla en particular, queda enterrado.

Por qué pasa

Se suman dos cosas:

• La dilución. Cuanto más texto hay, menos peso suele tener cada instrucción. El «que sea corto» que pusiste al principio ahora compite con un muro de texto.
• Lo reciente gana. Los modelos se apoyan en lo más reciente. Lo que fijaste al principio, lo que tú das por resuelto, es justo lo que tiene más probabilidades de desvanecerse.

Juntas, hacen que cuanto más dura un chat, más fácil sea que pierda las decisiones que tomaste al principio y no volviste a repetir.

Cómo notarlo en tu chat

Casi siempre lo sientes antes de poder ponerle nombre:

• Olvida reglas que pusiste hace muchos mensajes.
• Tienes que repetirte: la misma regla dos o tres veces.
• Se repite, con respuestas parecidas a otras que ya te dio.
• Deshace decisiones que ya estaban resueltas.
• Se desvía: las respuestas se vuelven más vagas y menos conectadas con lo que estás haciendo.

La prueba rápida: ¿es el modelo o es el chat?

Antes de culpar al modelo, prueba esto. Abre un chat completamente nuevo y haz la pregunta en la que te trabaste. Si el chat nuevo la responde bien y el anterior sigue fallando, el que se desgastó es el chat, no el modelo. Si el chat nuevo también tiene problemas, lo que pides en sí es difícil, o el modelo cambió, y empezar de nuevo no va a ayudar. Esta sola prueba te ahorra una tarde peleando contra el problema equivocado.

Un chat echado a perder no tiene arreglo.

No hay botón que haga que un chat lleno olvide su propio desorden. Borrar mensajes casi nunca sirve: la IA sigue trabajando con lo que queda, y tu contexto del principio ya se perdió entre el ruido. Lo que funciona es llevar el trabajo a un chat nuevo que empiece limpio.

Qué hacer

No sigas cuidando un chat desgastado: pásale el relevo a uno nuevo. Dale a un chat nuevo un relevo corto (en inglés, handoff) con el objetivo, lo que decidiste, las reglas que se le seguían olvidando (enuméralas, son las primeras en perderse) y dónde te quedaste. Un chat limpio que arranca desde ahí tiene espacio para pensar, y no va a reabrir lo que ya resolviste.

La forma rápida: que Uncook lo escriba

Escribir ese relevo a mano funciona, pero es tedioso, y las reglas que más te cansaste de repetir son justo las que se te van a olvidar. Handoff, de Uncook, cubre ese hueco. Abre el chat en ChatGPT, Claude, Gemini u otra de las IA compatibles que lee Uncook, haz clic en el ícono de Uncook y elige Handoff. Obtienes el objetivo, lo decidido y las reglas que la IA se seguía saltando. Cópialo en un chat nuevo.