Documento técnico de ingeniería
Un resultado de referencia en condiciones reales del Knowledge Pipeline de Goalz.Work: 93,31 TP3T de recuperación @1 en un corpus de 556 fragmentos y 7 documentos, con un coste total de procesamiento de 1 TP4T0,18 USD.
Recall@1
Coste total de procesamiento
Fragmentos / 7 documentos
Recordar@1 / @3 / @5
93.3%
Rango recíproco medio
0.933
Tamaño del corpus
7 documentos
Coste total
$0.18
Resumen ejecutivo
El equipo de ingeniería de Carmatec ha desarrollado y evaluado un proceso RAG orientado a la producción, cuyo nombre en clave es «Knowledge Pipeline», con el fin de que los asistentes de IA puedan realizar búsquedas en los documentos propios de una organización y aplicarles razonamientos a través de MCP.
556 fragmentos de texto recuperables
Recall@1, @3 y @5
Rango recíproco medio
Coste total de procesamiento, USD
Cómo se construye
Cuatro almacenes de datos especializados, conectados únicamente a través de API y colas de mensajes —sin acceso directo a la base de datos en ningún momento—, de modo que el proceso evoluciona independientemente de la aplicación principal.
La importación masiva se lleva a cabo íntegramente a través de la cola de mensajes: tanto si se trata de un documento como de diez mil, se utiliza la misma ruta de código.
Búsqueda de similitud vectorial diseñada específicamente para representaciones, con filtrado de metadatos.
Representa los documentos y las secciones como nodos, y sus relaciones como aristas.
Almacenamiento de documentos y fragmentos junto con la aplicación principal de CakePHP.
La estructura se extrae de forma determinista siempre que el formato lo permita.
12.5%: solapamiento entre fragmentos adyacentes para evitar fallos debidos a la falta de contexto.
El encabezado y las palabras clave generados por el modelo LLM sitúan cada fragmento en su contexto.
Parámetros del tipo de tarea «Gemini» establecidos explícitamente para la optimización asimétrica.
Comparado con otros
En 14 de las 15 consultas, el documento de origen esperado apareció como primer resultado, según las mediciones realizadas en un corpus propio real y seleccionado.
Resultado negativo comunicado con sinceridad: Una prueba de ablación de la técnica de “recuperación contextual” de Anthropic no reveló ninguna mejora cuantificable en la precisión con este corpus, ya que cada uno de los siete documentos ya es temáticamente distinto. Esperamos obtener un beneficio cuantificable con corpus más grandes y homogéneos, y tenemos previsto volver a realizar la prueba en ese momento.
De la compilación
Cada uno de estos casos se detectó mediante pruebas realizadas en un sistema real, no se descartaron por simple suposición.
La API de integración de Gemini acepta sin avisar las solicitudes en las que falte el parámetro «task-type»; es fácil pasarlo por alto si no se lee directamente la documentación del proveedor.
Qdrant rechaza de plano los identificadores de cadena de formato libre; los identificadores de puntos deben ser un UUID o un entero sin signo.
La clave de enrutamiento de mensajes no entregados de una cola de mensajes debe conservar la clave de enrutamiento original; una sustitución con comodín no funciona como comodín en la reentrega.
No todos los documentos reales están escritos en Markdown correctamente: una especificación de texto sin formato no generaba ningún fragmento hasta que se añadió una ruta alternativa.
Los entornos de prueba y los datos reales nunca deben compartir un mismo espacio de nombres de identificadores: en una ocasión, una colisión provocó que, al limpiar el entorno de prueba, se borraran datos reales.
Ámbito de aplicación
La categorización de documentos se basa en datos, no en una lógica predefinida; esta misma arquitectura es aplicable a cualquier organización que gestione grandes volúmenes de conocimiento no estructurado.
Apoyo a la toma de decisiones en materia de arquitectura basado en diseños y estimaciones anteriores.
Búsqueda de cláusulas contractuales y precedentes en el historial de casos de la propia empresa.
Búsqueda de protocolos clínicos y procedimientos operativos estándar (SOP) basada en procedimientos documentados.
Cumplimiento normativo y recuperación de información a través del registro de auditoría.
Consulta de los procedimientos operativos estándar (SOP) y de los manuales de los equipos en la planta de producción.
Búsqueda de políticas que mantiene su precisión a medida que cambian los documentos.
Búsqueda de planes de estudios y material didáctico en una biblioteca de contenidos.
Búsqueda de normativas y políticas con trazabilidad completa de las fuentes.
¿Y ahora qué?
Reordenación y búsqueda híbrida (palabra clave + vector): el método de referencia estándar actual en producción para lograr una mayor precisión.
Un corpus de ingesta más amplio y heterogéneo, para volver a evaluar la ablación del enriquecimiento contextual.
Aplicación de los permisos en el momento de la recuperación, lo que subsana una posible brecha en el control de acceso detectada durante la revisión del diseño.
Ingestión mediante OCR de documentos escaneados y basados en imágenes, ya adaptada a los casos de uso relacionados con documentos de los empleados.
Replicación de la infraestructura de puesta en escena y producción, programada deliberadamente tras esta prueba.
Cada afirmación está respaldada por una ejecución real y reproducible del proceso y por consultas verificadas de forma independiente.
Sobre el autor
Director general del grupo y arquitecto de soluciones de IA empresarial, Carmatec
Aromal es un emprendedor tecnológico y arquitecto de IA empresarial con más de 25 años de experiencia en ingeniería de software, infraestructura en la nube, operaciones de centros de datos y transformación empresarial. Como director general del grupo, participa activamente en el diseño de las plataformas de IA empresarial, los sistemas multiagente y las aplicaciones basadas en el conocimiento que Carmatec desarrolla bajo su dirección, incluidos los sistemas RAG y de conocimiento empresarial sobre los que trata este informe de referencia. Su enfoque técnico actual abarca la generación aumentada por recuperación (RAG), la orquestación de agentes, las integraciones del Protocolo de Contexto de Modelos (MCP), así como la gobernanza de la IA y la preparación para la producción.