RAG (Retrieval-Augmented Generation) et fine-tuning répondent à deux problèmes différents. Le RAG injecte des connaissances externes dans le prompt au moment de l’inférence. Le fine-tuning modifie les poids du modèle pour qu’il apprenne un style, un domaine ou une tâche. Beaucoup d’équipes choisissent fine-tuning quand un simple RAG suffirait, et finissent par dépenser dix fois plus cher pour un résultat équivalent. Ce guide tranche selon le cas d’usage, le budget et les contraintes de mise en production.
Comprendre les deux approches en 5 minutes
Le RAG fonctionne comme un assistant qui consulte une base documentaire avant de répondre. Pipeline standard : embeddings de vos documents, stockage dans un vector store (Qdrant, Pinecone, Weaviate), recherche de similarité au moment de la question, injection des passages pertinents dans le prompt envoyé au LLM.
Le fine-tuning prend un modèle pré-entraîné (Llama 4, Mistral Small 3, GPT-4o-mini via OpenAI API) et ajuste ses poids sur un dataset spécifique. Trois variantes en 2026 : full fine-tuning (rare, coûteux), LoRA (Low-Rank Adaptation, standard de fait), QLoRA (LoRA + quantization 4-bit, possible sur une RTX 4090).
Quand choisir le RAG
- Vos données changent (catalogue produit, base de connaissances qui évolue chaque semaine)
- Vous devez citer les sources (juridique, médical, support client documenté)
- Volume de documents > 50 Mo de texte
- Vous voulez ajouter/retirer des documents sans réentraînement
- Budget limité (un RAG correct tourne sur 200 €/mois pour 1000 utilisateurs actifs)
Cas typique : un chatbot interne qui répond sur la documentation RH d’une entreprise de 500 personnes. Un RAG avec text-embedding-3-large + Qdrant + GPT-4o-mini coûte autour de 80 €/mois et se met à jour en glissant un PDF dans un dossier.
Quand choisir le fine-tuning
- Vous voulez imposer un style très spécifique (ton de marque, format de sortie strict)
- Tâche répétitive avec format JSON ou XML précis (extraction structurée)
- Réduction de coûts d’inférence : un Llama 3.1 8B fine-tuné peut remplacer GPT-4 sur une tâche ciblée
- Le prompt système devient trop long (>2000 tokens) et dégrade les performances
- Latence critique (<300 ms) sur un modèle local
Cas typique : classifier 10 millions d’avis clients par sentiment et thème. Un Mistral 7B fine-tuné via QLoRA sur 5000 exemples annotés bat GPT-4 en précision tout en coûtant 50 fois moins par appel.
Comparatif chiffré
- Coût initial RAG : 200 à 2000 € (embeddings + setup vector DB)
- Coût initial fine-tuning : 500 à 50 000 € selon dataset et modèle
- Délai mise en prod RAG : 1 à 4 semaines
- Délai fine-tuning : 4 à 12 semaines (collecte data + training + éval)
- Coût/inférence RAG : prix LLM + vector search (souvent +30%)
- Coût/inférence fine-tuning : selon hosting (vLLM auto-hébergé = -80% vs API)
L’approche hybride RAG + fine-tuning
Pour des cas exigeants, on combine les deux : un modèle fine-tuné sur le ton de marque et le format de sortie, alimenté par un RAG pour les connaissances factuelles. C’est ce que font Doctolib (IA médicale) et la plupart des stacks SaaS B2B sérieuses en 2026.
Workflow hybride type : Llama 3.1 70B fine-tuné LoRA sur 2000 dialogues internes (ton et format) + RAG sur la base produit (Qdrant + reranker Cohere) + garde-fou via Claude Haiku pour validation finale.
Erreurs fréquentes à éviter
- Fine-tuner avant d’avoir testé un RAG simple : règle des 80/20, le RAG suffit dans 80% des cas
- Utiliser un dataset de fine-tuning < 500 exemples (résultats instables)
- Embedder des documents sans nettoyage (PDFs avec OCR sale = retrieval pourri)
- Oublier le reranker dans le RAG (gain de 15-30 points de précision)
- Fine-tuner sans pipeline d’évaluation reproductible
❓ Questions fréquentes
Combien de données pour fine-tuner ?
Minimum 500 exemples de qualité pour LoRA, idéalement 2000-10 000. La qualité prime sur la quantité : 1000 exemples nettoyés battent 50 000 exemples bruyants.
Le RAG fonctionne-t-il en français ?
Oui, mais utilisez des embeddings multilingues (text-embedding-3-large d’OpenAI, Cohere embed-multilingual-v3, ou bge-m3 en open-source). Évitez les anciens modèles d’embedding anglophones.
Peut-on fine-tuner GPT-4 ?
Pas directement. OpenAI propose le fine-tuning sur GPT-4o-mini, GPT-4o et GPT-3.5-turbo. Pour fine-tuner les modèles frontière, il faut passer par les modèles open-source (Llama 4, Qwen 3, Mistral).
Combien coûte un RAG en production ?
Pour 1000 requêtes/jour : ~30 €/mois (vector DB managée) + ~50-150 €/mois (LLM API selon modèle). Auto-hébergé sur un VPS : 40 €/mois tout compris.
Conclusion
Démarrez toujours par un RAG. C’est moins cher, plus rapide à itérer, plus facile à mettre à jour. Passez au fine-tuning seulement quand vous avez identifié une limite précise du RAG (style, format, coût d’inférence). L’hybride RAG + LoRA est la stack mature pour 2026 sur les cas d’usage exigeants.