Fenêtre de contexte (Context Window)
Definition
Une fenêtre de contexte est la quantité maximale de texte, mesurée en tokens plutôt qu'en mots, qu'un modèle peut prendre en compte à un instant donné pour générer une réponse. Elle inclut le prompt de l'utilisateur, les échanges précédents de la conversation, et les documents ou passages récupérés que le système injecte pour ancrer sa réponse.
Les fenêtres de contexte ont considérablement grandi, passant de quelques milliers de tokens dans les premiers modèles à plusieurs centaines de milliers ou plus aujourd'hui, ce qui permet à un modèle de prendre en compte des documents plus longs, des conversations plus longues, et davantage de sources récupérées à la fois avant de générer une réponse.
Pour le GEO, la fenêtre de contexte explique pourquoi un contenu concis et bien structuré est récupéré et cité plus fiablement que des pages longues et peu ciblées : même avec une grande fenêtre de contexte, un système de récupération sélectionne généralement seulement les passages les plus pertinents à inclure, donc la clarté au niveau du passage reste importante.
C'est aussi pourquoi llms.txt est conçu comme un résumé compact et organisé plutôt qu'un déversement complet du site : il respecte les limites pratiques de ce qu'un modèle peut traiter utilement en une seule fois, même si les fenêtres de contexte continuent de s'agrandir.
Foire aux questions
Une fenêtre de contexte plus grande est-elle toujours meilleure ?
Pas nécessairement. Une fenêtre plus grande permet à un modèle de prendre en compte davantage d'informations, mais les systèmes de récupération continuent de privilégier les passages les plus pertinents, donc un contenu clair et bien structuré compte quelle que soit la taille de la fenêtre.
Qu'est-ce qui compte dans une fenêtre de contexte ?
Le prompt de l'utilisateur, l'historique de la conversation, et tout document ou passage récupéré et injecté par le système pour aider à ancrer la réponse.
Comment la taille de la fenêtre de contexte affecte-t-elle la recherche IA ?
Elle détermine la quantité de contenu récupéré qu'un modèle peut prendre en compte avant de répondre, ce qui explique pourquoi des passages concis et clairement structurés ont tendance à être cités plus fiablement que des pages longues et peu ciblées.
Tous les modèles IA ont-ils la même taille de fenêtre de contexte ?
Non, la taille des fenêtres de contexte varie fortement selon les modèles et les fournisseurs, et tend à augmenter à chaque nouvelle génération de modèle.
