Dal Prompt Engineering al Context Engineering
Da quando ChatGPT è stato rilasciato, alla fine del 2022, fino ai primi mesi del 2024, l'industria dell'IA è stata dominata da un'unica idea: il prompt engineering. Interi corsi, certificazioni e ruoli professionali sono nati attorno all'abilità di scrivere l'istruzione perfetta per un modello linguistico di grandi dimensioni. Ma intorno al 2024 qualcosa è cambiato in profondità. Il settore ha superato la logica del prompt per approdare a una nuova disciplina: il context engineering.
Questo cambiamento non è stato casuale. È stato determinato da un'espansione drastica delle capacità dei modelli sottostanti. Man mano che le finestre di contesto dei modelli linguistici di grandi dimensioni hanno superato i 200.000 token, il gioco è cambiato del tutto. Con uno spazio di questa portata si può inserire in un'unica finestra di contesto un intero romanzo, una base di codice completa, una raccolta di paper di ricerca o flussi di lavoro estesi nel tempo. Il collo di bottiglia non era più cosa dire al modello, ma cosa mostrargli.
La differenza tra un prompt e un contesto
Il prompt engineering riguarda l'istruzione data all'LLM su come comportarsi. Gli si chiede di agire come un avvocato, di essere conciso, di evitare speculazioni. Il context engineering è fondamentalmente diverso. Riguarda la fornitura delle informazioni giuste su cui il modello deve ragionare. L'istruzione può essere perfetta, ma se il contesto è sbagliato, anche il risultato lo sarà.
Si può pensarla così: un prompt scritto bene ma con un contesto scadente porta a un risultato scadente. Un prompt mediocre con un contesto eccellente porta spesso a un buon risultato. Il contesto è la materia prima. Il prompt è solo il volante.
Nell'IA legale questa distinzione è determinante. Un avvocato può scrivere il prompt perfetto, ma se il sistema fornisce al modello giurisprudenza superata, documenti irrilevanti o istruzioni contraddittorie, il risultato sarà inaffidabile, per quanto elegante sia il prompt.
Cosa significa davvero 200.000 token
Una finestra di contesto da 200.000 token è enorme. Per dare un'idea, un romanzo medio conta circa 80.000 parole, che corrispondono a incirca 100.000 token. Questo significa che i modelli più recenti possono contenere l'equivalente di due romanzi interi in un'unica conversazione. Per il lavoro legale, questo significa poter caricare simultaneamente interi fascicoli, quadri normativi, memo interni e cronologia della conversazione.
Ma a questa capacità si accompagna un nuovo problema: la gestione del contesto. Il fatto di poter inserire tutto non significa che lo si debba fare. La qualità del ragionamento dell'IA peggiora quando il contesto è organizzato male, e sono emerse tre modalità di fallimento specifiche.
Tre fallimenti del contesto che ogni avvocato dovrebbe conoscere
Avvelenamento del contesto
L'avvelenamento del contesto (context poisoning) si verifica quando informazioni superate, errate o non più valide entrano nella finestra di contesto. Proprio come riempirsi la testa di informazioni sbagliate porta a decisioni sbagliate, alimentare un modello di IA con giurisprudenza non aggiornata o interpretazioni normative errate lo induce a ragionare su una base viziata. Il modello non sa che l'informazione è superata: tratta tutto ciò che si trova nel suo contesto come ugualmente valido.
Distrazione del contesto
La distrazione del contesto (context distraction) si verifica quando nella finestra di contesto viene mescolata troppa informazione irrilevante. A differenza dell'avvelenamento, l'informazione non è necessariamente sbagliata: è semplicemente rumore. Il modello deve filtrare ciò che è rilevante da ciò che non lo è, e questo filtraggio è imperfetto. Il risultato è una prestazione più debole, un output meno focalizzato e un rischio maggiore di allucinazione, perché il modello fatica a distinguere il segnale dal rumore.
Conflitto del contesto
Il conflitto del contesto (context clashing) si verifica quando informazioni o istruzioni presenti nel contesto si contraddicono a vicenda. Se una parte del contesto dice "sii conciso" e un'altra dice "copri ogni dettaglio", il modello deve risolvere da solo quella contraddizione, e spesso lo fa in modo incoerente. Nel lavoro legale, questo può tradursi in pareri contraddittori, bozze contrattuali internamente incoerenti o analisi che cambiano tono e profondità in modo imprevedibile.
Le tecniche di context engineering che funzionano
La disciplina del context engineering ha prodotto diverse tecniche collaudate per gestire queste criticità. Non sono teoriche: sono i metodi usati dalle migliori piattaforme di IA legale per garantire un output affidabile e ancorato ai fatti.
Prova HAQQ AI gratis
Sperimenta la redazione e ricerca legale con IA
RAG: Retrieval-Augmented Generation
Il RAG (Retrieval-Augmented Generation, generazione aumentata dal recupero) è la tecnica di context engineering più diffusa. Invece di stipare l'intera libreria documentale nella finestra di contesto, il RAG recupera in modo selettivo solo i documenti e i passaggi rilevanti per la query in corso. È una forma di contesto selettivo: si include ciò che conta e si esclude ciò che non conta. Il risultato è una finestra di contesto più pulita, un rischio ridotto di distrazione e un ragionamento dell'IA più focalizzato.
Compressione del contesto
Un'altra tecnica efficace è la compressione del contesto esistente attraverso la sintesi o il taglio dei contenuti superflui. Cronologie di conversazione lunghe, documenti prolissi e informazioni ridondanti possono essere condensati senza perdere i contenuti critici. Questo è particolarmente importante per i flussi di lavoro legali, dove le conversazioni possono estendersi per decine di scambi e i documenti possono raggiungere centinaia di pagine.
Stratificazione e priorità del contesto
I sistemi più avanzati usano la stratificazione del contesto, organizzando la finestra di contesto in livelli con priorità diverse. Le istruzioni di sistema occupano il livello di priorità più alto, seguite dai documenti più rilevanti, poi dal contesto di supporto e infine dalla cronologia della conversazione. Questo garantisce che il modello presti attenzione alle informazioni più critiche anche quando la finestra di contesto è molto ampia.
Perché questo conta per l'IA legale
Per un avvocato, il context engineering non è un concetto astratto. È la differenza tra uno strumento di IA che produce citazioni giurisprudenziali allucinate e uno che produce un'analisi affidabile e ancorata alle fonti. È la differenza tra una revisione contrattuale che perde di vista rischi chiave perché l'IA è stata distratta da clausole irrilevanti, e una che fa emergere esattamente i problemi che contano.
In HAQQ, il context engineering è integrato nell'architettura fin dalle fondamenta. Il motore Justinian usa il RAG per recuperare i documenti rilevanti, comprime e stratifica il contesto in modo intelligente e mantiene finestre di contesto pulite e strutturate lungo l'intera conversazione legale, anche su più turni. È per questo che gli output di HAQQ sono costantemente ancorati ai documenti reali e alle regole giurisdizionali effettive, e non ai dati generali su cui il modello è stato addestrato.
L'era dell'IA in cui il prompt era tutto è finita. È iniziata l'era in cui è il contesto a determinare la qualità. Gli avvocati che comprendono questo cambiamento useranno l'IA in modo più efficace di chi sta ancora ottimizzando i propri prompt.
