Cos'è la finestra di contesto? Perché la tua chat con l'IA peggiora

L'idea di fondo: uno spazio fisso, usato a ogni risposta

Ogni chat con l'IA ha un limite alla quantità di testo che il modello può prendere in considerazione in una volta. Quel limite è la finestra di contesto. Non è una memoria che cresce all'infinito. È uno spazio fisso.

Il modello non ricorda la tua chat come farebbe una persona. Ogni volta che mandi un messaggio, lavora con quello che entra in quello spazio: le sue istruzioni, i tuoi messaggi, le sue risposte e gli eventuali file che hai aggiunto. Tutto torna dentro, a ogni turno. Non c'è un secondo spazio, e non si allarga man mano che la chat cresce.

In breve.

La finestra di contesto è la quantità di testo che un modello può guardare in un turno. Tutta la tua chat si contende quello spazio. Quando la chat diventa più grande dello spazio, qualcosa deve cedere.

Perché le chat lunghe peggiorano

All'inizio entra tutto. Il modello vede il tuo obiettivo, le tue regole, ogni decisione. Sembra preciso perché ha il quadro completo.

Man mano che la chat cresce, lo spazio si riempie. A quel punto lo strumento deve fare posto, eliminando o comprimendo quello che in quel momento sembra meno rilevante. Spesso è la parte più vecchia: il tuo primo messaggio, quello in cui hai fissato il vero obiettivo e le regole che contano di più. E anche prima che lo spazio sia pieno, una chat molto lunga disperde l'attenzione del modello.

Quindi quello che noti non è casuale:

• Dimentica le decisioni prese prima. Il turno in cui avevi deciso qualcosa non è più in vista.
• Ti richiede cose a cui hai già risposto.
• Si contraddice. Può ragionare solo su quello che è ancora in vista.
• Si allontana dal tuo obiettivo. I messaggi recenti pesano più dell'inizio.

C'è chi la chiama context rot: il lento calo di qualità di una chat che è diventata più grande del suo spazio. Non si è rotto niente. Lo spazio si è riempito.

Perché chiedere gentilmente non basta

L'istinto è scrivere «ricordati quello che avevamo deciso prima». Ma se quella decisione non è più in vista, non c'è niente da ricordare. E ogni nuovo messaggio spinge fuori un altro pezzetto dell'inizio, il che peggiora le cose.

Per lo stesso motivo rispiegare tutto nella stessa chat raramente funziona: anche la spiegazione occupa spazio, e la causa resta lì.

Una nuova chat, con un passaggio di consegne

Una nuova chat parte con spazio in abbondanza, e tutto quello che ci metti riceve piena attenzione. Il trucco è portarci solo quello che conta, in un messaggio breve chiamato passaggio di consegne (in inglese handoff):

1. L'obiettivo: una o due frasi su quello che stai facendo.
2. Cosa è deciso: quello che è stabilito e non va riaperto.
3. Le regole: quelle che ti sei ritrovato a ripetere.
4. A che punto sei: cosa è fatto, cosa è in corso e il prossimo passo.

Tienilo stringato. Lo scopo è usare il meno possibile del nuovo spazio, dando al modello quello che gli serve. Un passaggio breve funziona meglio di una trascrizione enorme.

Il modo più rapido: lascia che lo scriva Uncook

Rileggere una chat lunga per ritrovare l'obiettivo e le decisioni è la parte noiosa. Handoff di Uncook lo fa al posto tuo, per le chat di tutte le IA compatibili che legge. Apri la chat, clicca sull'icona di Uncook e scegli Handoff. Ottieni l'obiettivo, cosa è deciso, le regole e il punto in cui sei. Copialo in una nuova chat.