Donner des outils à un agent IA : pourquoi je pose la limite hors du prompt

Quand je donne des outils à un agent, je le traite comme une dépendance tierce: je ne lui fais pas confiance, je l'encadre.

La règle qui compte: la contrainte se pose au lancement du processus, pas dans le prompt. Un prompt, c'est une demande. Le modèle peut l'ignorer, ou se faire retourner par un texte malveillant glissé dans ce qu'il lit.

Sur un agent que j'ai construit, la liste des outils est fermée à l'avance: douze outils de lecture autorisés, quinze outils d'écriture refusés. Il ne peut ni écrire un fichier ni envoyer un message, même s'il essaie.

Pourquoi ce choix plutôt que « un bon prompt »: un agent qui peut agir fait ce que son environnement lui permet, pas ce qu'on lui a gentiment demandé. Si l'action est impossible, il n'y a plus à lui faire confiance.

Je m'intéresse moins à la vitesse que ces outils apportent qu'à la façon de les contenir: c'est ce qui permet d'aller vite sans ramener dans un dépôt du code que personne n'a lu.

Amine Affif, développeur full-stack à Paris. amineaffif.com