Por qué parece que ChatGPT alucina en un chat largo

Dos cosas que parecen lo mismo

Llevas un buen rato de ida y vuelta, y ahora inventa cosas. Menciona un detalle que nunca le diste. Afirma como un hecho algo que no es cierto. «Recuerda» una decisión que nunca tomaste.

Algo anda mal, en eso tienes razón. Pero hay dos problemas distintos que desde afuera se ven iguales, y no se resuelven de la misma manera.

Qué es una alucinación

La alucinación es real y conocida: una IA puede decir algo falso con total seguridad, como una fuente que no existe, una cifra equivocada o un hecho que no es así. Puede pasar en un chat recién abierto, en la primera respuesta. Ninguna herramienta la elimina. Cuando importa, verifica los datos importantes con una fuente confiable.

Por qué un chat largo empieza a rellenar huecos

El otro problema viene del chat mismo. ChatGPT solo puede abarcar una parte del chat a la vez. A medida que el chat crece, las partes más antiguas reciben menos atención o quedan fuera de la vista, y muchas veces son los detalles que fijaste al principio: tu objetivo, tus datos, las reglas del juego.

Cuando ya no los ve, rellena el hueco con su mejor suposición para poder seguir. Una suposición dicha con seguridad sobre algo que ya no ve se parece muchísimo a inventar.

Cómo distinguirlas.

¿Datos falsos desde el principio, incluso en un chat nuevo? Eso se parece más a una alucinación: verifica los datos. ¿Errores que aparecen solo después de un chat largo, sobre todo con tus propios datos del principio? El chat se quedó sin espacio, y un chat nuevo con tus datos adentro ayuda.

Por qué corregirlo lo empeora

Lo primero que uno hace es corregirlo: «No, eso está mal, esto es lo que dijimos». Tiene sentido, pero cada corrección agrega texto a un chat que ya está lleno, y deja fuera de la vista más de tu contexto inicial. Un chat lleno no se vuelve más preciso porque le agregues más.

Un chat nuevo, con tus datos reales

Abre un chat nuevo y llévate solo lo que importa, en unas pocas líneas, para que tenga menos huecos que adivinar:

• Tu objetivo: lo que estás intentando hacer.
• Lo decidido: para que no pueda «recordarlo mal».
• Los datos y las reglas que repetías: los detalles que se le escapaban.
• Dónde estás: cómo va todo y el siguiente paso.

Vengo de otro chat. Usa solo los datos de abajo, y avísame cuando no estés seguro en lugar de suponer:
- En qué estoy trabajando: [tu objetivo]
- Ya decidido: [lista]
- Datos y reglas clave: [los detalles que se le escapaban]
- Dónde estoy: [cómo va todo]

Ahora necesito ayuda con: [siguiente paso]

El chat nuevo no va a dejar de alucinar por completo: ningún chat lo hace. Pero tiene enfrente tu contexto real, en lugar de huecos.

La forma rápida: que Uncook lo escriba

Recorrer un chat largo para sacar los datos reales es la parte lenta. Handoff, de Uncook, lo hace por ti. En la página de ChatGPT, haz clic en el ícono de Uncook y elige Handoff. Obtienes tu objetivo, lo decidido, tus reglas y dónde estás, tomados del chat. Léelo, verifica los datos y cópialo en un chat nuevo. Funciona igual con un chat de Claude o de Gemini.