Architecture d’applications LLM
Votre outil est écrit pour un modèle précis, et changer de fournisseur demanderait de le réécrire. Vos coûts d’appel augmentent sans que vous sachiez quelle fonction les provoque. Un modèle répond à côté et vous n’avez aucune trace pour comprendre pourquoi. Votre juridique demande où passent les données envoyées au modèle, et personne ne peut répondre précisément.
Une application qui interroge un modèle de langage.
La façon dont une application appelle un modèle de langage, lui fournit vos données et exploite sa réponse. Le modèle n’est qu’un composant, remplaçable. Autour de lui vivent les parties qui vous appartiennent : le prompt, l’accès à vos documents, les contrôles sur la sortie, la trace de ce qui a été demandé et répondu.
Nous isolons l’appel au modèle derrière une interface unique, pour que le changement de fournisseur reste un changement de configuration. Nous gardons les prompts dans votre dépôt, versionnés et relisibles comme du code. Quand l’outil doit répondre sur vos documents, nous construisons la recherche documentaire et nous citons les sources dans la réponse, pour que vos équipes vérifient. Nous journalisons les appels, leur coût et leurs erreurs. Vous obtenez une architecture documentée, portable d’un modèle à l’autre, et les mesures qui permettent de l’exploiter.
Étape de construction, en même temps que le développement des outils. Ces choix d’architecture portent l’indépendance vis-à-vis des modèles que vous conservez à la fin du sprint.
Transformation IA →À lire sur le sujet
Découvrez nos analyses...
Cas clients et analyses sur la Data et l’IA, une fois par mois dans votre boîte mail.
Un projet à partager avec nous ?
Nous serions ravis d’en discuter pour vous conseiller sur les premières orientations.