Qu'est-ce qu'une fenêtre de contexte ? Pourquoi votre chat IA se dégrade

L'idée clé : un espace fixe, utilisé à chaque tour

Chaque chat IA a une limite à la quantité de texte que le modèle peut prendre en compte d'un coup. Cette limite, c'est la fenêtre de contexte. Ce n'est pas une mémoire qui grandit sans fin. C'est un espace fixe.

Le modèle ne se souvient pas de votre chat comme une personne. Chaque fois que vous envoyez un message, il travaille à partir de ce qui tient dans cet espace : ses instructions, vos messages, ses réponses, et les fichiers que vous avez ajoutés. Tout y repasse, à chaque tour. Il n'y a pas de deuxième espace, et il ne s'agrandit pas quand votre chat grandit.

La version courte.

La fenêtre de contexte, c'est la quantité de texte qu'un modèle peut regarder en un tour. Tout votre chat se dispute cet espace. Quand le chat devient plus gros que l'espace, quelque chose doit céder.

Pourquoi les longs chats se dégradent

Au début, tout tient. Le modèle voit votre objectif, vos règles, chaque décision. Il paraît vif parce qu'il a toute l'image.

À mesure que le chat grandit, l'espace se remplit. L'outil doit alors faire de la place, en laissant tomber ou en compressant ce qui semble le moins utile sur le moment. C'est souvent la partie la plus ancienne : votre premier message, celui où vous avez posé le vrai objectif et les règles qui comptent le plus. Et même avant que l'espace soit plein, un très long chat disperse l'attention du modèle.

Ce que vous remarquez n'a donc rien d'aléatoire :

• Il oublie des décisions antérieures. Le tour où vous avez réglé quelque chose est hors de vue.
• Il redemande des choses auxquelles vous avez déjà répondu.
• Il se contredit. Il ne peut raisonner que sur ce qui est encore en vue.
• Il s'éloigne de votre objectif. Les messages récents pèsent plus que le début.

On appelle ça le context rot, la dégradation du contexte : la baisse lente de qualité d'un chat devenu trop grand pour son espace. Rien n'est cassé. L'espace s'est rempli.

Pourquoi demander gentiment ne règle rien

Le réflexe, c'est de taper « souviens-toi s'il te plaît de ce qu'on a convenu plus tôt ». Mais si cet accord est hors de vue, il n'y a rien dont se souvenir. Et chaque nouveau message pousse encore un peu plus le début dehors, ce qui aggrave les choses.

C'est aussi pour ça que réexpliquer dans le même chat tient rarement : l'explication prend de la place elle aussi, et la cause est toujours là.

Un nouveau chat, avec un prompt de reprise

Un nouveau chat démarre avec de la marge, et tout ce que vous y mettez reçoit toute son attention. L'astuce est de n'emporter que ce qui compte, dans un court message qu'on appelle un prompt de reprise :

1. L'objectif : une ou deux phrases sur ce que vous faites.
2. Ce qui est décidé : ce qui est réglé et ne doit pas être rouvert.
3. Les règles : celles que vous vous êtes surpris à répéter.
4. Où vous en êtes : ce qui est fait, ce qui est en cours, et la prochaine étape.

Restez concis. Le but est d'utiliser le moins possible du nouvel espace tout en donnant au modèle ce qu'il lui faut. Un prompt de reprise court fait mieux qu'une transcription géante.

Plus rapide : laissez Uncook l'écrire

Relire un long chat pour retrouver l'objectif et les décisions, c'est la partie fastidieuse. Le Handoff d'Uncook le fait pour vous, pour les chats de n'importe laquelle des 8 IA qu'il lit. Ouvrez le chat, cliquez sur l'icône Uncook et choisissez Handoff. Vous obtenez un prompt avec l'objectif, ce qui est décidé, les règles et où vous en êtes. Copiez-le dans un nouveau chat, ou cliquez sur Continuer dans votre IA pour ouvrir un nouveau chat, avec le prompt dedans sur les sites où vous avez autorisé Uncook, ou copié pour que vous le colliez.