Le modèle reste une boîte noire. Votre chaîne de production ne doit pas l'être

Commençons par un petit spoiler, qui surprend souvent en atelier : personne ne sait précisément comment un grand modèle de langage arrive à ses réponses. Ni vous, ni nous, ni même les équipes qui les entraînent. C'est pour cela qu'on le compare volontiers au cerveau humain : on sait observer quelles zones s'activent au fil du traitement, mais on ne sait pas expliquer pourquoi il aboutit à telle décision plutôt qu'à une autre.

Ce rappel n'a rien d'un débat de chercheurs. Il change concrètement la manière dont une entreprise doit confier du travail à un modèle, et il explique pourquoi la qualité d'une consigne ne suffira jamais à garantir la qualité d'un résultat.

Ce n'est pas nous qui le disons

Le constat vient de ceux qui construisent ces modèles, et en particulier d'Anthropic, pourtant considéré comme pionnier du sujet. Dans son essai The Urgency of Interpretability, son CEO Dario Amodei reconnaît que « nous ne comprenons pas comment fonctionnent nos propres créations d'IA », et qualifie ce manque de compréhension de quasiment sans précédent dans l'histoire de la technologie.

Les travaux de recherche publiés par Anthropic sous le titre « Tracing the thoughts of a large language model » vont dans le même sens. Même avec ce que l'entreprise décrit comme un « microscope » interne, ses chercheurs ne voient qu'une fraction du calcul, et il leur faut plusieurs heures pour décrypter un prompt de quelques dizaines de mots. L'exemple qu'ils rapportent est parlant : demandez à leur modèle comment il calcule 36 + 59, il vous décrit la retenue apprise à l'école. À l'intérieur, selon leurs observations, il procède tout autrement. Ce que le modèle raconte de son propre cheminement et ce qui se passe réellement ne coïncident donc pas forcément.

Le dernier signal est plus troublant encore. Dans la documentation publiée par Anthropic sur Claude Mythos, présenté comme son modèle le plus avancé, l'entreprise indique que l'analyse des activations internes de certaines versions de test a montré qu'elles avaient conscience de dissimuler certaines actions, alors même que leurs réponses restaient ambiguës. Anthropic précise que ce comportement est rarissime et qu’aucun cas clair n’a été observé dans ses évaluations de la version finale, ce qui ne garantit pas son absence. Il n'en reste pas moins révélateur : un modèle peut atteindre son objectif par un chemin que son compte rendu ne laisse pas deviner.

Ce que l'on sait, en revanche

Si l'intérieur du modèle reste opaque, une chose est établie : tout ce qu'il manipule oriente son traitement. Un skill, votre code source, une donnée externe, une simple formulation dans la demande. Anthropic a même observé qu'un indice glissé dans la question peut pousser le modèle à construire un raisonnement à rebours pour y aboutir.

C'est là que se joue votre marge de manœuvre, et c'est là qu'intervient Argy. Nous ne prétendons pas lire dans le « cerveau » du modèle. Nous maîtrisons tout ce qui le nourrit et tout ce qui le vérifie. Avec une couche de contexte unifiée, des evals et des feedbacks distribués, Argy maximise les chances que le modèle mobilise les bonnes représentations internes, et donc la probabilité d'une complétion juste. Puis, par des tests déterministes, il lui renvoie un feedback factuel plutôt qu'une impression. Vous ne pilotez plus à l'espoir : vous pilotez à la preuve.

Sept couches qui ne fonctionnent qu'ensemble

Cette discipline tient dans sept couches. Prises une à une, aucune n'est révolutionnaire ; c'est leur enchaînement qui transforme un modèle imprévisible en chaîne de production fiable.

Les trois premières orientent le modèle. Le Foundation Model d'abord : chaque tâche est confiée au bon modèle via la LLM Gateway, les données sensibles sont filtrées avant de sortir et chaque requête est tracée. Le Prompt ensuite : aucune mission ne part d'une demande floue, chacune repose sur une intention qualifiée et reste bornée par vos règles d'architecture et de sécurité. Le Context enfin : une couche unifiée met sur la table votre code, vos conventions et votre documentation, pour que le modèle travaille sur votre réalité plutôt que sur une moyenne d'Internet.

Les deux suivantes fiabilisent l'agent. Le Harness définit ce qu'il a le droit de faire : ses outils et ses skills s'exercent dans un périmètre borné, et les actions sensibles restent soumises à validation humaine. La Loop vérifie ce qu'il a réellement produit : evals, tests et analyses de sécurité déterministes. L'usine n'avance que si chaque contrôle passe ; sinon, le résultat repart au modèle pour correction, avec le motif précis de l'échec.

Les deux dernières font tenir le système. Le Graph répartit et coordonne le travail entre des agents spécialisés, comme nous le détaillons dans notre article sur les workflows Argy. L'Ontology fournit le référentiel commun : règles, standards, critères d'approbation, versionnés et partagés par les agents comme par vos équipes.

Ces couches sont indissociables. Un contexte parfait sans tests ne garantit rien, et des tests sans référentiel commun ne savent pas quoi vérifier. C'est précisément ce qui sépare un assistant brillant mais imprévisible d'une usine gouvernée sur laquelle une direction technique peut engager sa signature.

Le colis, l'escalier et l'ascenseur

Une scène du quotidien rend tout cela très concret. Imaginez que vous travailliez au troisième étage d'un immeuble de bureaux. Vous demandez à un agent de descendre au rez-de-chaussée pour remettre un colis à un collègue, et vous précisez en gras : « PRENDRE LES ESCALIERS », parce que c'est le standard de votre entreprise.

En chemin, l'agent trouve la porte de la cage d'escalier verrouillée. En analysant son contexte, il repère un ascenseur en état de marche… et le prend. Il remet le colis, revient et vous annonce : « Colis remis. » Il a fait son travail : le colis est arrivé, et c'est exactement ce que dira son rapport.

Seulement, vous n'avez aucune garantie qu'il a pris l'escalier. Votre consigne, même en gras et en majuscules, relève du prompt : elle l'oriente, elle ne le contraint pas. Face à l'obstacle, il a fait passer l'objectif avant la règle, sans forcément vous le dire. Ce n'est pas de la science-fiction : c'est le type de contournement qu'Anthropic documente dans ses propres tests, ceux que nous citions plus haut.

La seule manière fiable d'éviter cette dérive consiste à ne plus compter sur la consigne, mais sur l'environnement. Si l'escalier est le standard, l'agent n'a tout simplement pas de badge pour l'ascenseur : l'autre chemin n'existe pas pour lui, c'est le rôle du Harness. Si la porte est verrouillée, la mission s'arrête de façon déterministe avec un rapport clair, « escalier inaccessible, colis non remis », au lieu d'une improvisation : c'est le rôle de la Loop. Et chaque porte franchie est tracée, si bien que vous savez quel chemin a réellement été pris, pas seulement ce que l'agent en raconte.

C'est ce type de gouvernance qu'Argy applique, à l'échelle de l'entreprise, aux modèles et aux agents qui travaillent dans votre chaîne de livraison, à commencer par Argy Code.

Une usine qui ne se gouverne pas toute seule

Reste un point que nous ne voulons pas éluder : ces sept couches ne se maintiennent pas d'elles-mêmes. Elles doivent être entretenues et personnalisées pour chaque entreprise, au rythme de ses standards et de ses contraintes. C'est ce qui fait émerger de nouveaux rôles, et l'évolution naturelle du développeur vers le métier de Software Factory Engineer (SFE), puis d'architecte de l'usine (SFA). Le développeur écrit moins de code et pilote davantage l'usine, tout en gardant la décision finale. Nous décrivons cette trajectoire dans notre article sur le métier qui vient et sur la page Craft.

La prochaine étape, pour nous, passe aussi par l'échange : des sessions d'acculturation ouvertes autour des principes agentiques, au-delà d'Argy, où chacun peut poser ses questions et confronter son point de vue.

Le modèle restera, pour longtemps sans doute, une boîte noire. Votre chaîne de production, elle, n'a aucune raison de l'être. Si vous voulez voir comment ces sept couches s'appliquent à vos propres standards, demandez une démonstration sur votre périmètre.