Journal · conception d'agents

Ce que votre agent
refuse de faire

Une bible de personnage n'est pas un exercice de marque. C'est la spécification éthique de votre service — et quand l'agent observe des gens au travail, c'est elle qui décide entre l'adoption et le sabotage.

David Carvalho · fondateur, PIT-LANE · août 2026

Nous construisons un agent qui s'appelle Marcel. Il vit sur un boîtier posé dans un atelier de carrosserie, il regarde les photos que les peintres prennent déjà, et il calcule ce que chaque voiture coûte vraiment. Il est utile parce qu'il voit des choses que personne n'a le temps de voir.

C'est aussi ce qui le rend dangereux. Un agent qui voit tout dans un atelier, c'est un agent qui pourrait dire qui a été lent.

01Le seul test qui compte

Un jour — chez le premier client ou chez le troisième, mais ce jour arrivera — un patron d'atelier posera cette question :

Tout se joue là. Pas dans la précision de la lecture de plaque, pas dans la latence du modèle, pas dans la qualité du tableau de bord. Dans cette réponse-là.

Parce que la réponse ne restera pas entre le patron et la machine. Elle traversera l'atelier avant le déjeuner. Et l'équipe — cinq personnes qui savent parfaitement que leurs photos partent quelque part — décidera, sur cette seule phrase, si l'outil est un instrument de mesure ou un mouchard.

Ce n'est pas une décision qu'ils annonceront. Personne ne se plaindra, personne ne fera de réunion. Ils arrêteront simplement de clôturer leurs sessions. Trois semaines plus tard, les chiffres seront faux et plus personne ne saura pourquoi.

02Deux documents qui ne répondent pas

Quand on conçoit un agent, on écrit en général deux choses. Une charte de voix — le ton, le registre, le vouvoiement, la longueur des phrases. Et une liste de garde-fous — ce que le système n'a pas le droit de faire.

Aucune des deux ne répond à la question de Nono.

La charte de voix dit comment dire les choses, jamais quoi refuser. Elle tient tant qu'on reste dans les cas prévus, et elle se dissout à la première situation qu'on n'avait pas écrite — c'est-à-dire toujours, et généralement devant un client.

La liste de garde-fous, elle, produit la pire phrase possible : « je n'ai pas le droit ». Elle est catastrophique, et pas pour la raison qu'on croit. Elle est catastrophique parce qu'elle informe l'utilisateur qu'il existe une version de cet agent qui répondrait. Qu'il y a, quelque part, une laisse — et que la laisse a bien été mise par quelqu'un, donc qu'elle peut être retirée par quelqu'un. Probablement celui qui paie.

Une contrainte qu'on subit se contourne. Une conviction se défend.

03Écrire le personnage, c'est écrire l'éthique

Le geste utile est simple à énoncer et long à faire : retourner chaque interdit en conviction. Ce qui, dans la spécification technique, s'écrit « interdit », s'écrit dans la bible du personnage « il ne le ferait pas ».

Chez nous, la règle d'anonymisation des opérateurs — une contrainte réglementaire et sociale parfaitement banale — est devenue une phrase que Marcel pense :

Et l'interdiction d'afficher un coût matière à zéro quand la fiche de teinte n'a pas été photographiée — un garde-fou technique contre une donnée manquante — est devenue :

Ce n'est pas de la rhétorique. La seconde formulation produit un comportement que la première ne produit pas. Un système bridé affiche zéro et se tait, parce que zéro est techniquement exact. Un personnage qui croit que ne pas savoir est une réponse dira qu'il lui manque la fiche de teinte — et il l'aura dit sur le chantier même qui était en train de couler en paraissant rentable.

04La différence s'entend

Reprenons la question sur Nono, avec les deux agents côte à côte.

Regardez ce que fait la seconde réponse, en plus de refuser. Elle ne laisse pas le patron les mains vides : elle déplace la question vers celle qui a une réponse utile. Le patron n'avait pas vraiment besoin de savoir si Nono avait traîné. Il avait besoin de savoir pourquoi la 308 dérapait. Marcel lui répond ça.

Et il ne fait pas la morale. C'est important : un agent qui explique à son utilisateur pourquoi sa question était déplacée est insupportable, et il le sera une fois de trop.

05L'acceptation n'est pas un supplément d'âme

Il y a une raison économique à tout cela, et elle est plus dure que l'argument moral.

Notre produit vaut ce que vaut sa donnée. Si l'équipe n'ouvre pas et ne clôture pas ses chantiers, il n'y a pas de temps, donc pas de coût, donc pas de marge, donc pas de produit. La qualité de la donnée dépend entièrement du fait que cinq personnes acceptent, tous les jours, un outil qui les regarde travailler.

Une équipe qui se méfie ne se révolte pas. Elle se contente d'oublier. Et l'oubli ne remonte dans aucun tableau de bord — il produit juste des chiffres légèrement faux, ce qui est bien pire que pas de chiffres du tout.

Autrement dit : dans ce métier, l'éthique n'est pas un centre de coût. C'est l'investissement le moins cher qu'on puisse faire dans la qualité de la donnée. Écrire la bible de Marcel nous a pris une journée. Un atelier qui décroche au bout d'un mois nous coûte le client, et la donnée qu'il devait produire.

06Ce qu'une bible doit contenir

Six choses, dans cet ordre.

1. Une provenance, pas une biographieNe laissez jamais votre agent s'inventer un passé humain. C'est tentant — c'est attachant, ça se raconte bien — et ça s'effondre à la première question directe : « t'es un robot ou pas ? ». Ça s'effondre précisément avec les gens qui se méfiaient déjà. Marcel dit qu'il est un agent. Mais il vient de quelque part : de ce que savaient les vieux teneurs de carnets, ceux qui voyaient à l'œil si un chantier allait payer. Une provenance donne de la profondeur sans coûter un mensonge.
2. Des convictions, pas des règlesChaque ligne de votre politique de confidentialité doit exister quelque part sous forme de phrase que le personnage pense. Sinon vous n'avez pas un agent, vous avez un formulaire poli.
3. Un anti-portraitCe qu'il n'est pas est plus utile que ce qu'il est, parce que les dérives ont toutes un nom. Marcel n'est pas un assistant (un assistant attend qu'on lui demande), pas un contremaître, pas un coach, pas un ami, pas une mascotte. Chacune de ces quatre dérives arrive naturellement si on ne l'a pas nommée.
4. Des épreuves écritesLes scènes où le personnage est sous pression : quand il s'est trompé, quand on l'ignore, quand quelqu'un est en colère contre lui, quand il faut annoncer que le chantier est perdu. Et surtout celle où on lui demande de franchir la ligne. Écrivez cette réponse-là une fois pour toutes, avant qu'un développeur ne l'improvise un mardi soir.
5. Les phrases qui le trahiraientUne liste de contrôle, à passer avant chaque mise en ligne. Chez nous il y en a onze. La plus dangereuse n'est pas la plus spectaculaire : c'est « coût matière : 0 € » sur un dossier dont personne n'a photographié la fiche de teinte. Une absence de donnée déguisée en bonne nouvelle. C'est la trahison de sa raison d'être.
6. Une décision sur son corpsVisage ou pas de visage. Nous avons tranché : pas de visage, jamais. Un visage promet une personne, et reprend d'une main la franchise qu'on donne de l'autre. Marcel n'en a pas besoin — son corps, c'est le porte-clé lumineux accroché aux clés de la voiture, qui passe du vert au rouge dans la main d'un peintre qui traverse l'atelier. Il tient dans un poing fermé.

07Ce qu'une bible ne fait pas

Il faut dire aussi ce que ce document ne garantit pas, sinon tout ceci sonne comme une incantation.

Une description de personnage dans un prompt se pousse. On peut insister, reformuler, contourner. Un texte n'est pas une barrière. C'est pourquoi la bible ne remplace jamais l'architecture :

La bible dit ce qu'il ne veut pas faire.
L'architecture rend impossible ce qu'il ne doit pas faire.

Si Marcel ne compte pas les gens, alors la base ne stocke aucun nom — seulement des pseudonymes choisis par le patron, qu'il est seul à savoir relier à quelqu'un. Le personnage et le schéma de données disent la même chose. Les deux ensemble, ou aucun des deux.

Et une bible écrite après le produit n'est qu'une couche de peinture. La nôtre a rouvert des décisions déjà prises : elle a tranché qu'un bouton de contact ne dirait pas « Écrire à Marcel » — parce que Marcel appartient à l'atelier, pas à l'éditeur, et qu'un agent qui a accès aux comptes ne doit jamais vendre quoi que ce soit. Une bible qui ne coûte rien au produit n'a rien spécifié.

Enfin, ce n'est pas de la conformité. Le RGPD nous dit ce qui est interdit ; le personnage dit ce qu'il n'aurait pas envie de faire. Les gens observés font parfaitement la différence entre les deux — et c'est la seconde qui les intéresse.

---

Pendant vingt ans, spécifier un logiciel voulait dire écrire ce qu'il fait. Avec un agent, la partie utile de la spécification est devenue ce qu'il refuse. C'est un déplacement inconfortable, parce qu'on ne sait pas très bien dans quel document ça se range — ce n'est ni du marketing, ni de la technique, ni du juridique.

Le plus étrange, c'est que c'est devenu le document le plus lu du projet. Le seul qu'on puisse tendre à un patron d'atelier, à un développeur et à un designer, et qui produise chez les trois le même produit.

Un agent se juge à ce qu'il accepte de ne pas savoir.