Du prompt engineering au context engineering
Depuis la sortie de ChatGPT fin 2022 jusqu'au début 2024, le secteur de l'IA n'a eu qu'une idée en tête : le prompt engineering. Des formations entières, des certifications et des intitulés de poste se sont construits autour de l'art de rédiger l'instruction parfaite pour un grand modèle de langage. Mais vers 2024, quelque chose a fondamentalement changé. Le secteur est allé au-delà du prompt pour entrer dans une nouvelle discipline : le context engineering.
Ce basculement n'avait rien d'arbitraire. Il a été porté par une expansion spectaculaire des capacités des modèles sous-jacents. À mesure que les grands modèles de langage ont étendu leurs fenêtres de contexte au-delà de 200 000 tokens, la donne a totalement changé. Avec un tel espace, vous pouviez faire tenir un roman entier, une base de code complète, un ensemble d'articles de recherche ou des workflows longs dans une seule fenêtre de contexte. Le goulot d'étranglement n'était plus ce qu'il fallait dire au modèle, mais ce qu'il fallait lui montrer.
La différence entre un prompt et un contexte
Le prompt engineering consiste à instruire le LLM pour qu'il se comporte d'une certaine façon. Vous lui dites d'agir comme un avocat, d'être concis, d'éviter les spéculations. Le context engineering est fondamentalement différent. Il s'agit de fournir au modèle les bonnes informations sur lesquelles raisonner. L'instruction peut être parfaite, mais si le contexte est erroné, le résultat le sera aussi.
Voyez les choses ainsi : un prompt bien écrit avec un contexte médiocre donne un résultat médiocre. Un prompt moyen avec un excellent contexte donne souvent un bon résultat. Le contexte est la matière première. Le prompt n'est que le volant.
En IA juridique, cette distinction est essentielle. Un avocat peut rédiger le prompt parfait, mais si le système alimente le modèle avec de la jurisprudence obsolète, des documents non pertinents ou des instructions contradictoires, le résultat sera peu fiable, quelle que soit l'élégance du prompt.
Ce que représentent réellement 200 000 tokens
Une fenêtre de contexte de 200 000 tokens est colossale. Pour donner une échelle, un roman moyen compte environ 80 000 mots, soit environ 100 000 tokens. Cela signifie que les derniers modèles peuvent contenir l'équivalent de deux romans complets d'informations dans une seule conversation. Pour le travail juridique, cela veut dire que vous pouvez charger simultanément des dossiers entiers, des cadres réglementaires, des notes internes et tout l'historique de la conversation.
Mais cette capacité s'accompagne d'un nouveau problème : la gestion du contexte. Ce n'est pas parce que vous pouvez tout faire tenir que vous devez le faire. La qualité du raisonnement de l'IA se dégrade quand le contexte est mal organisé, et trois modes de défaillance spécifiques sont apparus.
Trois défaillances du contexte que tout avocat devrait connaître
L'empoisonnement du contexte
L'empoisonnement du contexte se produit quand des informations obsolètes, incorrectes ou dépassées entrent dans la fenêtre de contexte. Tout comme se remplir la tête d'informations erronées mène à de mauvaises décisions, alimenter un modèle d'IA avec de la jurisprudence périmée ou des interprétations réglementaires incorrectes le fait raisonner sur une base viciée. Le modèle ne sait pas que l'information est obsolète : il traite tout ce qui figure dans son contexte comme également valide.
La distraction du contexte
La distraction du contexte survient quand trop d'informations non pertinentes se mélangent dans la fenêtre de contexte. Contrairement à l'empoisonnement, l'information n'est pas nécessairement fausse : c'est simplement du bruit. Le modèle doit filtrer ce qui compte de ce qui ne compte pas, et ce filtrage est imparfait. Le résultat est une performance affaiblie, une sortie moins ciblée, et un risque accru d'hallucination à mesure que le modèle peine à distinguer le signal du bruit.
Le conflit de contexte
Le conflit de contexte se produit quand des informations ou des instructions du contexte se contredisent entre elles. Si une partie du contexte dit « soyez concis » et une autre dit « couvrez chaque détail », le modèle doit résoudre cette contradiction seul, et il le fait souvent de manière incohérente. Dans le travail juridique, cela peut se traduire par des conseils contradictoires, des projets de contrat internement incohérents, ou une analyse dont le ton et la profondeur varient de façon imprévisible.
Les techniques de context engineering qui fonctionnent
La discipline du context engineering a produit plusieurs techniques éprouvées pour gérer ces écueils. Elles ne sont pas théoriques : ce sont les méthodes utilisées par les meilleures plateformes d'IA juridique pour garantir une sortie fiable et ancrée dans les faits.
Essayer HAQQ AI gratuitement
Découvrez la rédaction et la recherche juridique par IA
RAG : la génération augmentée par récupération
Le RAG est la technique de context engineering la plus largement adoptée. Plutôt que d'entasser toute la bibliothèque documentaire dans la fenêtre de contexte, le RAG récupère sélectivement uniquement les documents et passages pertinents pour la requête en cours. C'est une forme de contexte sélectif : vous n'intégrez que ce qui compte et laissez de côté le reste. Le résultat est une fenêtre de contexte plus propre, un risque de distraction réduit, et un raisonnement de l'IA plus ciblé.
La compression du contexte
Une autre technique puissante consiste à compresser le contexte existant en le résumant ou en l'élaguant. Les longs historiques de conversation, les documents verbeux et les informations redondantes peuvent être condensés sans perdre le contenu essentiel. C'est particulièrement important pour les workflows juridiques, où les conversations peuvent s'étendre sur des dizaines d'échanges et les documents sur des centaines de pages.
La stratification et la priorisation du contexte
Les systèmes avancés utilisent la stratification du contexte : organiser la fenêtre de contexte en niveaux hiérarchisés. Les instructions système occupent le niveau de priorité le plus élevé, suivies des documents les plus pertinents, puis du contexte de soutien, et enfin de l'historique de conversation. Cela garantit que le modèle accorde son attention aux informations les plus critiques, même quand la fenêtre de contexte est vaste.
Pourquoi cela compte pour l'IA juridique
Pour les avocats, le context engineering n'est pas un concept abstrait. C'est la différence entre un outil d'IA qui produit des citations de jurisprudence hallucinées et un autre qui produit une analyse fiable et ancrée dans des sources réelles. C'est la différence entre une revue de contrat qui manque des risques clés parce que l'IA a été distraite par des clauses non pertinentes, et une revue qui fait ressortir exactement les problèmes qui comptent.
Chez HAQQ, le context engineering est intégré au cœur de l'architecture. Le moteur Justinian utilise le RAG pour extraire les documents pertinents, compresse et stratifie le contexte de manière intelligente, et maintient des fenêtres de contexte propres et structurées tout au long des conversations juridiques à échanges multiples. C'est pourquoi les résultats de HAQQ restent constamment ancrés dans les documents réels et les règles juridictionnelles applicables, et non dans les données générales d'entraînement du modèle.
L'ère où le prompt était tout est révolue. L'ère où le contexte détermine la qualité a commencé. Les avocats qui comprennent ce basculement utiliseront l'IA plus efficacement que ceux qui optimisent encore leurs prompts.
