RAG Engineer : le métier de la recherche augmentée par IA

RAG (Retrieval-Augmented Generation) est devenu en deux ans la pierre angulaire de toutes les applications IA en entreprise : chatbots documentation interne, assistants juridiques, copilotes pour analystes financiers. Et avec lui, un nouveau métier — RAG Engineer — qui se positionne entre l'ingénieur data, le ML engineer et le développeur backend.

Pourquoi le RAG est devenu central

Un LLM seul a une connaissance figée à sa date d'entraînement et ne connaît pas vos documents internes. Le RAG résout ce problème en deux temps : on cherche dans une base vectorielle les passages pertinents, puis on les injecte dans le prompt du LLM pour qu'il génère une réponse contextualisée. Résultat : un assistant qui « connaît » vos données sans avoir été ré-entraîné dessus.

Tous les SaaS B2B sérieux ajoutent du RAG en 2026. Les boîtes recrutent des profils qui savent vraiment faire un bon système RAG — parce qu'un mauvais RAG est pire que pas de RAG.

Le métier au quotidien

• Pipeline d'ingestion : parser les documents (PDF, Word, code source, emails), nettoyer, chunker intelligemment, embarquer dans une base vectorielle (Pinecone, Weaviate, pgvector).
• Stratégie de recherche : choisir entre dense retrieval, sparse (BM25), hybride. Reranking. Multi-step retrieval. Évaluer ce qui marche sur votre cas d'usage.
• Construction du prompt : injecter les chunks pertinents, gérer la fenêtre de contexte, citer les sources, prévenir les hallucinations.
• Évaluation continue : mesurer recall, precision, faithfulness, answer relevance. Datasets d'évaluation customs.
• Coûts et latence : un RAG mal optimisé coûte 10× ce qu'il pourrait. Caching, batch, choix de modèle, c'est du tuning.

Compétences clés

1. Backend solide : Python (et idéalement Go ou Rust pour la perf), bases de données, conception d'API.
2. Connaissance des bases vectorielles : Pinecone, Weaviate, Qdrant, pgvector. Indexes ANN, HNSW.
3. Embeddings et models : comprendre la différence entre OpenAI text-embedding-3, Cohere v3, BGE, E5. Choisir et benchmarker.
4. Frameworks LLM orchestration : LangChain, LlamaIndex, DSPy. Pas seulement utiliser, comprendre les abstractions et leurs limites.
5. Évaluation : RAGAS, TruLens, Phoenix. Datasets de validation, A/B test entre stratégies.

Pivots accessibles

Le RAG Engineer attire principalement deux profils :

• Backend developer (Python/Go) qui veut entrer dans l'IA appliquée. Le pont est court, 3-6 mois d'auto-formation ciblée + un projet perso démontrable.
• Data engineer qui veut bouger vers la couche applicative. Beaucoup de transferts naturels (pipelines, batch, ELT/ETL).

Salaires et marché

En France, un RAG / AI Engineer senior se positionne entre 65 et 100 K€. Très forte demande dans les SaaS B2B et les ESN qui poussent du conseil IA. Profil suffisamment rare pour que la concurrence reste modérée pour les bons profils en 2026.

Comment commencer

Construisez votre propre RAG sur vos documents personnels (vos PDFs, vos notes Obsidian, votre code). Mettez en ligne un blogpost qui explique vos choix techniques, vos benchmarks. C'est ça qui décrochera des entretiens.