Perché sembra che ChatGPT abbia le allucinazioni in una chat lunga

Due cose che sembrano uguali

Va avanti da un po' il botta e risposta, e adesso si inventa le cose. Cita un dettaglio che non gli hai mai dato. Dà per certo qualcosa che non è vero. «Si ricorda» una decisione che non hai mai preso.

Qualcosa non va, su questo hai ragione. Ma da fuori due problemi diversi sembrano identici, e non si risolvono allo stesso modo.

Che cos'è un'allucinazione

L'allucinazione esiste ed è nota: un'IA può dire una cosa falsa con totale sicurezza, come una fonte che non esiste, un dato sbagliato, un fatto inesatto. Può succedere anche in una chat nuovissima, alla prima risposta. Nessuno strumento la elimina. Quando conta, verifica i fatti importanti su una fonte di cui ti fidi.

Perché una chat lunga comincia a riempire i vuoti

L'altro problema nasce dalla chat stessa. ChatGPT riesce a tenere presente solo una parte limitata di una chat alla volta. Man mano che la chat cresce, le parti più vecchie ricevono meno attenzione o escono dalla vista, e spesso sono proprio i dettagli che avevi fissato all'inizio: il tuo obiettivo, i tuoi fatti, le regole di base.

Quando non li vede più, riempie il vuoto con l'ipotesi più probabile, per andare avanti. Un'ipotesi detta con sicurezza su qualcosa che non vede più assomiglia in tutto e per tutto a un'invenzione.

Come distinguerle.

Fatti sbagliati fin dall'inizio, anche in una chat nuova? È più vicino all'allucinazione: verifica i fatti. Errori che compaiono solo dopo una chat lunga, soprattutto sui dettagli che gli avevi dato tu? La chat ha finito lo spazio, e una chat nuova con i tuoi fatti aiuta.

Perché correggerlo peggiora le cose

L'istinto è rimetterlo in riga: «No, è sbagliato, ecco cosa avevamo detto.» Comprensibile, ma ogni correzione aggiunge testo a una chat già piena, e spinge fuori dalla vista un'altra parte del contesto iniziale. Una chat piena non diventa più precisa aggiungendoci altro.

Una chat nuova, con i tuoi fatti veri

Apri una nuova chat e porta solo quello che conta, in poche righe, così ha meno vuoti da riempire a intuito:

• Il tuo obiettivo: cosa stai cercando di fare.
• Cosa è deciso: così non può «ricordarlo male».
• I fatti e le regole che continuavi a ripetere: i dettagli che continuava a perdere.
• A che punto sei: la situazione attuale e il prossimo passo.

Sto continuando da un'altra chat. Usa solo i fatti qui sotto, e dimmi quando non sei sicuro invece di tirare a indovinare:
- Su cosa sto lavorando: [il tuo obiettivo]
- Già deciso: [elenco]
- Fatti e regole chiave: [i dettagli che continuavano a perdersi]
- A che punto sono: [situazione attuale]

Adesso mi serve aiuto su: [prossimo passo]

La nuova chat non smetterà del tutto di avere allucinazioni: nessuna chat ci riesce. Ma ha davanti il tuo contesto vero, invece dei vuoti.

Il modo più rapido: lascia che lo scriva Uncook

Ripercorrere una chat lunga per tirarne fuori i fatti veri è la parte lenta. Handoff di Uncook lo fa al posto tuo. Sulla pagina di ChatGPT, clicca sull'icona di Uncook e scegli Handoff. Ottieni il tuo obiettivo, cosa è deciso, le tue regole e il punto in cui sei, presi dalla chat. Rileggilo, controlla i fatti, poi copialo in una nuova chat. Funziona allo stesso modo con una chat di Claude o di Gemini.