Le Context-Engineering, brique indispensable de l’entreprise IA agentique de demain

Dans cet article, nous explorons la notion de contexte et comment celui-ci peut éclairer différemment les données et les modèles, en délivrant des informations uniques et parfaitement ciblées. En rendant opérationnelle cette notion à travers le context engineering, l’entreprise peut ainsi espérer exploiter de bout en bout son patrimoine data et fluidifier les opérations et la prise de décision.

Qu’est-ce qu’un « contexte de données » ?

Pour comprendre ce qu’est le context engineering, il faut d’abord s’interroger sur ce que signifie la notion de contexte dans une perspective Data. 

Prenons un joggeur après 40 minutes de course. Sur son application de sport habituelle s’affichent ses données de performance, de rythme cardiaque, de calories, etc. Mais sur l’application d’électrocardiogramme (ECG) de sa montre connectée, il découvre une alerte : son rythme cardiaque serait trop élevé, l’appli l’invite à consulter un médecin sans tarder.

Le constat est clair : ces applications ne communiquent pas entre elles. Et l’appli ECG n’est pas sensibilisée au contexte particulier du joggeur qui vient d’effectuer un effort physique important. Cet exemple peut faire sourire mais, appliqué à des situations à plus fort enjeu, il n’est pas sans conséquence. 

Prenons maintenant le secteur des services financiers. Que penser des situations suivantes ?

• Un modèle de conformité qui identifie des transactions inhabituelles mais qui ne distingue pas s’il s’agit d’un simple rééquilibrage de portefeuille ou d’un délit d’initié.
• Un modèle de risques qui dégrade la note d’un client à la suite d’un événement de liquidités sans tenir compte de l’historique de fiabilité de ce client ni de ses garanties.
• Un refus de crédit opéré uniquement sur la base de la situation étudiée et non sur la base des données d’historique (probablement stockées dans des systèmes legacy).

Ces exemples le montrent : lorsque la data n’est pas contextualisée, le processus de décision se trouve rallongé pour recouper les informations, et la confiance dans l’automatisation peut en sortir altérée. L’enjeu de ces prochaines années réside donc dans la capacité de l’entreprise à capturer ce contexte (ou plutôt ces différents contextes) dans tous les recoins de l’entreprise, et à le rendre opérationnel pour le traitement des données et les applicatifs IA.

Le context engineering

C’est cet objectif que compte remplir le context engineering : proposer un cadre de travail réunissant les données et métadonnées mais aussi des informations sur les intentions, les éléments de langage et les relations entre les équipes pour faire comprendre à l’intelligence artificielle le « sous-jacent » des questions auxquelles elle est censée répondre.

Contrairement au prompt engineering qui visait à concevoir la meilleure question possible pour l’IA, le context engineering se concentre sur l’alimentation du modèle avec toutes les informations nécessaires : les prompts des utilisateurs, les instructions systèmes (comme la définition des personas et des fonctions de chacun), l’historique des interactions, les préférences des utilisateurs, les règles internes à l’entreprise, le patrimoine scientifique et culturel des équipes et les données transactionnelles.

Tous ces contenus doivent pouvoir être mobilisés directement par le LLM dans sa fenêtre de contexte et être présentés de façon à garantir une réponse pertinente du modèle – une approche qui permet également de dépasser les limites habituelles des LLM (manque de mémoire, dépendance aux données tierces, taille limitée de la fenêtre de contexte) à travers la continuité de l’information et l’orchestration des interactions.

Contexte statique vs contexte dynamique

Deux typologies de données contextuelles peuvent alors être identifiées :

• Les données issues d’un contexte dit « statique » : il s’agit ici d’éléments relativement immuables comme les types de fonctions au sein de l’entreprise, les règles internes, les processus de travail et les limitations. Par exemple, un agent IA de détection des fraudes pourrait être programmé pour signaler des jeux de transactions particulièrement complexes et volumineux à travers des informations comme la devise, les montants, le pays d’origine, le type de compte bancaire, etc. mais aussi en appliquant des règles de conformité spécifiques à l’entreprise. L’échelle de réponses à appliquer serait alors indexée sur les procédures internes.
• Les données issues d’un contexte dit « dynamique » : il s’agit des facteurs variables soumis à une rapide évolutivité, comme les demandes clients ou les données opérationnelles en temps réel. Par exemple, si un client appelle un assureur pour mettre à jour l’adresse de son parking, un agent IA peut considérer cette information comme une opportunité commerciale et créer une entrée CRM indiquant ainsi au service commercial de reprendre le dossier. Autre exemple : dans l’industrie, le context engineering permet aux agents IA de mobiliser les données des capteurs, les actualités météo et les commentaires des opérateurs pour ajuster les plannings de production et d’expédition et éviter ainsi les à-coups logistiques.

Mieux cibler l’IA, valoriser l’ADN de l’entreprise

Le context engineering permet donc de combler le fossé qui existe entre les promesses de l’intelligence artificielle et ses utilisations encore trop timides et non ciblées par l’entreprise : désormais l’IA est pleinement connectée à la réalité opérationnelle des équipes et peut être exécutée dans les processus.

Mais ce n’est pas le seul apport du context engineering. Car, en agrégeant les données patrimoniales de l’entreprise (la mémoire de ce qui est, de ce qui aurait dû être, de ce qui fonctionne, de ce qui n’a pas marché, des solutions trouvées, des échecs surmontés, etc…), le context engineering donne une matérialité à la sagesse collective de l’organisation et infuse cette connaissance unique et inédite dans les processus. Ce n’est plus seulement un savoir-faire transmis aléatoirement mais un ADN mis à disposition de toutes les équipes dans une perspective d’apprentissage continu et de développement. Dans cette perspective, le context engineering est la discipline qui fait basculer l'IA d'un outil générique à un atout stratégique pour amplifier les éléments différenciants de l’entreprise.

Construire des pipelines de contexte

Reste cependant à répondre à l’enjeu d’implémentation car la conception de solutions agentiques appuyées sur une ingénierie de contexte robuste ne se fait pas en un claquement de doigt : une telle transformation nécessite une gouvernance continue, des itérations et un engagement à conserver en permanence la pertinence des données de contexte. Si la dernière décennie s’était attelée à la constitution de pipelines de données robustes et précis, les années qui s’ouvrent seront probablement orientées vers le développement et la gouvernance de pipelines de contexte : les « fabriques à contexte ». Il s’agit en effet de construire ce tissu intermédiaire entre la donnée et les process, en intégrant les systèmes transactionnels, les métadonnées et les raisonnements métiers.

Nous décrivons ici quelques étapes permettant de construire cette fabrique à contexte dans la perspective de services financiers :

La feuille de route de cette « fabrique à contexte » reste cependant encore à construire, au regard des spécificités de l’entreprise. Chez Cognizant, nous proposons une approche en continu : d’abord cartographier les données de contexte (à la fois statique et dynamique) puis déployer rapidement en production avant d’analyser les feedbacks utilisateurs pour un raffinement progressif du modèle.

6 principes-clés pour le déploiement du context engineering

Nous appliquons également des principes-clés pour garantir la qualité de ce context engineering :

1. Traiter le contexte comme le nouveau plan de contrôle de l’IA. En effet, le contexte définit comment les données, les autorisations et les règles de gouvernance sont ingérées par le modèle, ce qui permet de garantir à la fois la traçabilité, la conformité et l’auditabilité du modèle. Par exemple, un assistant bancaire qui recommande des produits d’investissements doit d’abord prendre en compte des informations comme les règles prudentielles, le profil de l’investisseur et les objectifs du portefeuille pour s’assurer de la pertinence de ses recommandations quelle que soit la situation considérée.
2. Pousser la réflexion sur le RAG. Les processus de Retrieval-Augmented-Generation (RAG) ne doivent pas être considérés comme des plug-in mais bien comme des architectures à part entière. Appliquer des modèles de requêtage appuyés sur le contexte (context-aware retrieval) nécessite de mettre en place des standards de qualité sur la curation, la pertinence et le niveau de fraîcheur des sources. En l’absence de tels standards, la probabilité d’hallucinations ou d’incohérences du modèle risque d’augmenter. Par exemple, un agent de reporting réglementaire au sein d’une institution financière devrait récupérer les règles de conformité et l’arborescence de données les plus récentes pour générer un résumé dans le cadre des obligations d’information de la banque ; il éviterait ainsi à l’établissement de nombreuses erreurs assorties d’amendes potentielles.
3. Coordonner l’identification de l’utilisateur et les autorisations d’accès avec le contexte opérationnel. Chaque requête doit respecter les droits d'accès et le contexte particulier de l'utilisateur. Pour cette raison, le contrôle d’accès doit se baser à la fois sur la fonction et sur les attributs de l’utilisateur directement au sein des mécanismes de requêtage – l’intégration de cette information permettant ensuite de délivrer des résultats personnalisés et sécurisés. Par exemple, un responsable clientèle et un gestionnaire de risques peuvent accéder au même jeu de données de risque crédit mais les analyser sous des angles totalement différents en raison de leurs fonctions : l’historique client versus le seuil de conformité. La connaissance du contexte de chacun permet de leur présenter sans couture ces deux perspectives, avec les informations principales mises en avant pour chacun.
4. Concevoir une évaluation continue au sein du cycle de vie : Les systèmes d’IA se dégradent silencieusement au fil du temps, à mesure que les données intégrées et les sources contextuelles deviennent obsolètes. Pour éviter ce phénomène, il est nécessaire d’intégrer des pipelines de surveillance qui évaluent la réponse de l’IA en fonction de la fraîcheur des données, du degré de respect des règles et de la précision des requêtages. Ces pipelines doivent mener des audits en continu, notamment des tests sur la fiabilité, la traçabilité et la latence pour maintenir une pertinence constante au cours du temps. Par exemple, dans le cadre des opérations de lutte contre la fraude, des tests périodiques permettent d'identifier les moments où les modèles contextuels ne parviennent plus à détecter les nouveaux schémas de fraude, ce qui nécessite un réentraînement immédiat pour éviter toute exposition au risque.
5. Établir une gouvernance de contexte, au même titre que la gouvernance des données. Au travers de cadres réglementaires comme l’AI Act en Union Européenne et le NIST’s AI Risk Profile aux États-Unis, les autorités réclament désormais une transparence accrue dans les processus de prise de décision assistés par l’IA. Dans cette perspective, la cartographie de facteurs contextuels comme l’arborescence des sources, les journaux de requêtes et d’embeddings et les règles de gouvernance permet d’améliorer l’auditabilité, la transparence et la responsabilité du modèle. À titre d’illustration, si une décision automatisée d’attribution de prêt est remise en question, le système peut facilement identifier les sources de données, les règles business et les paramètres contextuels qui ont influencé la décision, ce qui permet de réduire la durée d’investigation de plusieurs jours à plusieurs minutes.
6. Démarrer petit : faire un pilote « contexte » avant de passer à l’échelle. Il s’agit de commencer par des usages à fort enjeu et centrés sur un petit périmètre comme des FAQs réglementaires, des copilotes de politique crédit ou des assistants d’analyse de risques. Une fois que la précision et la bonne gouvernance des requêtages sont démontrés, le cadre contextuel global peut être élargi pour s’intégrer dans les tâches d’agents IA exerçant à l’échelle de l’entreprise. Par exemple, un bot de FAQ réglementaire enrichi des dernières actualités de l’Autorité des Marchés Financiers et de la SEC américaine pourrait devenir un copilote de conformité capable de conseiller les équipes en temps réel avec, à la clé, une réduction drastique des cycles de veille juridique.

La feuille de route du context engineering s’annonce donc progressive, s’appuyant d’abord sur la compréhension détaillée de la signification de chaque donnée avant d’évoluer vers l’implémentation opérationnelle d’une intelligence en laquelle les acteurs peuvent avoir confiance. D’ici à 2030 les dirigeants ne se demanderont donc plus « avons-nous suffisamment de données ? » mais bien « avons-nous suffisamment de visibilité sur le contexte qui permet d’éclairer nos décisions ? ».

Dans le secteur des services financiers

Dans le secteur financier particulièrement, le contexte est appelé à jouer un rôle majeur sur la prise de décision et sur la robustesse réglementaire.

Ses apports seront multiples :

• Renforcer la transparence sur les risques, en transformant la conformité d’un reporting réactif à une intelligence de risques prédictive.
• Augmenter l’engagement des clients, en basculant d’une segmentation statique à une personnalisation en temps réel appuyée sur le contexte de chacun, qu’il s’agisse de comportement d’achat ou de préférences.
• Fluidifier les opérations, en mettant en œuvre des processus de travail automatisés et évolutifs qui réduisent le risque de latence, d’erreurs ou d’intervention manuelle.
• Accélérer l’adoption IA, en intégrant la gouvernance, le sens et la traçabilité directement dans les pipelines de modélisation.
• Augmenter l’agilité dans toute l’entreprise, en encourageant la collaboration entre les équipes et les outils IA à travers une compréhension commune et validée des données.

Vers l’entreprise data-driven grâce au context-engineering

Parce qu’il redéfinit le concept de « data-driven », le context engineering ne s’impose donc pas seulement comme une avancée technique mais bien comme une nécessité stratégique. Désormais les entreprises ne chercheront plus à acquérir de plus gros volumes de données mais plutôt à enrichir et éclairer celles-ci au mieux pour renforcer la pertinence du modèle et, in fine, de la prise de décision. À l’heure où les déterminants du succès s’appellent confiance et rapidité d’exécution, le contexte s’impose donc comme le nouveau levier de compétitivité pour les entreprises en quête de performance IA.