Maison›Livres blancs›Livre blanc sur les indicateurs de référence RAG

Livre blanc technique

Génération assistée par la recherche pour Connaissances d'entreprise

Un test de performance en conditions réelles issu du Knowledge Pipeline de Goalz.Work : un taux de rappel de 93,31 TP3T @1 sur un corpus de 7 documents répartis en 556 segments — pour un coût total de traitement de 1 TP4T 0,18 USD.

93.3%

Rappel@1

$0.18

Coût total de traitement

556

Blocs / 7 documents

Rappel@1 / @3 / @5

93.3%

Rang réciproque moyen

0.933

Taille du corpus

7 documents

Coût total

$0.18

Résumé analytique

Des résultats réels et reproductibles — et non des tests de performance simulés

L'équipe d'ingénieurs de Carmatec a développé et évalué un pipeline RAG destiné à la production, baptisé « Knowledge Pipeline », afin de permettre aux assistants IA d'effectuer des recherches dans les documents propres à une organisation et de les analyser de manière raisonnée via MCP.

7 documents

556 extraits de texte récupérables

93.3 %

Rappel@1, @3 et @5

0.933

Rang réciproque moyen

$0.18

Coût total de traitement, en dollars américains

Comment c'est fabriqué

Une pile auto-hébergée, spécialement conçue à chaque niveau

Quatre bases de données spécialisées, reliées uniquement par des API et des files d'attente de messages — sans jamais recourir à un accès direct aux bases de données —, ce qui permet au pipeline d'évoluer indépendamment de l'application principale.

File d'attente

RabbitMQ

L'ingestion en masse s'effectue entièrement via la file d'attente de messages : qu'il s'agisse d'un seul document ou de dix mille, le même chemin d'exécution est utilisé.

Vecteurs

Qdrant

Recherche de similarité vectorielle spécialement conçue pour les représentations vectorielles, avec filtrage par métadonnées.

Graphique

Neo4j

Représente les documents et les sections sous forme de nœuds, et leurs relations sous forme d'arêtes.

Boutique

MongoDB

Stockage de documents et de blocs parallèlement à l'application CakePHP principale.

Cinq étapes, pour chaque document

1

Analyse syntaxique

La structure est extraite de manière déterministe chaque fois que le format le permet.

2

Segmentation en blocs

12,51 TP3T de chevauchement entre les blocs adjacents afin d'éviter les échecs liés à la rupture de contexte.

3

Enrichissement

L'en-tête et les mots-clés générés par le LLM permettent de replacer chaque extrait dans son contexte.

4

Intégration + stockage

Paramètres de type « tâche » de Gemini définis explicitement pour l'optimisation asymétrique.

Comparé à d'autres

À un niveau comparable à celui des chiffres publiés par le secteur, voire supérieur à ceux-ci

Sur 15 requêtes, 14 ont permis d'obtenir le document source attendu en tête des résultats, selon une évaluation réalisée sur un corpus interne réel et soigneusement sélectionné.

RAG naïf (secteur industriel, 70–80%)

Concepteur Web

75%

Recherche hybride (secteur industriel, ~91%)

Concepteur Web

91%

Pipeline de connaissances Carmatec

Concepteur Web

93.3%

Non.

Résultat négatif déclaré en toute honnêteté : Un test d'ablation portant sur la technique de “ recherche contextuelle ” d'Anthropic n'a révélé aucun gain mesurable en termes de précision sur ce corpus, car chacun des sept documents traite déjà d'un sujet distinct. Nous nous attendons à observer un bénéfice mesurable sur des corpus plus volumineux et plus homogènes, et prévoyons de refaire des tests à ce moment-là.

Extrait de la version

Les leçons d'ingénierie — celles qu'on n'apprend qu'en mettant des produits sur le marché

Chacune de ces erreurs a été détectée lors de tests effectués sur un système réel, et non pas simplement supposée.

01

L'API d'intégration de Gemini accepte sans avertissement les requêtes dans lesquelles le paramètre « task-type » est absent — un détail facile à oublier si l'on ne consulte pas directement la documentation du fournisseur.

02

Qdrant rejette catégoriquement les identifiants sous forme de chaîne libre ; les identifiants de point doivent être soit un UUID, soit un entier non signé.

03

La clé de routage des messages non remis d’une file d’attente doit conserver la clé de routage d’origine : un remplacement par un caractère générique ne fonctionne pas comme un caractère générique lors de la nouvelle remise.

04

Tous les documents réels ne sont pas nécessairement au format Markdown bien formé : une spécification en texte brut ne générait aucun bloc jusqu'à ce qu'une solution de secours soit ajoutée.

05

Les structures de test et les données réelles ne doivent en aucun cas partager un même espace de noms d'identifiants : une collision a déjà entraîné la suppression de données réelles lors du nettoyage après un test.

Champ d'application

Conçu pour s'adapter à tous les secteurs d'activité

La classification des documents repose sur des données, et non sur une logique codée en dur : cette architecture s'applique à toute organisation gérant de grands volumes de connaissances non structurées.

Services informatiques

Aide à la décision en matière d'architecture, fondée sur des conceptions et des estimations antérieures.

Services juridiques

Recherche de clauses contractuelles et de précédents dans l'historique des dossiers du cabinet.

Soins de santé

Recherche de protocoles cliniques et de procédures opérationnelles standard (SOP) fondée sur des procédures documentées.

Services financiers

Conformité réglementaire et recherche d'informations dans la piste d'audit.

Fabrication

Consultation des procédures opérationnelles standard (SOP) et des manuels d'utilisation des équipements en atelier.

Ressources humaines et opérations RH

Une recherche de politiques qui reste précise même lorsque les documents évoluent.

Éducation

Recherche de programmes et de supports pédagogiques dans une bibliothèque de contenus.

Gouvernement

Recherche de réglementations et de politiques avec traçabilité complète des sources.

Et maintenant ?

Étapes suivantes, planifiées et réfléchies

1

Réclassement et recherche hybride (mot-clé + vecteur) : la référence actuelle en production pour améliorer encore la précision.

2

Un corpus d'ingestion plus vaste et plus hétérogène, afin de réévaluer l'ablation de l'enrichissement contextuel.

3

Application des autorisations au moment de la consultation, comblant ainsi une lacune potentielle en matière de contrôle d'accès identifiée lors de la revue de conception.

4

Ingestion par OCR de documents numérisés et sous forme d'images, déjà adaptée aux cas d'utilisation liés aux documents des employés.

5

La réplication de l'infrastructure de mise en scène et de production, programmée délibérément après cette démonstration.

Téléchargez le livre blanc dans son intégralité

Chaque affirmation s'appuie sur une exécution réelle et reproductible du pipeline ainsi que sur des requêtes vérifiées de manière indépendante.

À propos de l'auteur

Rédigé par la direction de Carmatec

PDG du groupe et architecte de solutions d'IA d'entreprise, Carmatec

Aromal est un entrepreneur dans le domaine des technologies et un architecte spécialisé dans l'IA d'entreprise, fort de plus de 25 ans d'expérience dans les domaines de l'ingénierie logicielle, des infrastructures cloud, de l'exploitation des centres de données et de la transformation des entreprises. En tant que PDG du groupe, il participe activement à la conception des plateformes d’IA d’entreprise, des systèmes multi-agents et des applications basées sur la connaissance que Carmatec développe sous sa direction — notamment les systèmes RAG et les systèmes de connaissance d’entreprise sur lesquels porte ce rapport de référence. Ses priorités techniques actuelles portent sur la génération augmentée par la recherche (RAG), l’orchestration des agents, les intégrations du protocole Model Context Protocol, ainsi que la gouvernance de l’IA et la préparation à la mise en production.