Saltar a contenido

Capítulo 09. Memoria Vectorial y RAG

"La Inteligencia Artificial Corporativa no es un cerebro gigante que 'piensa'. Es un bibliotecario con memoria fotográfica que busca patrones. Si tu biblioteca (tus datos) es un caos de documentos contradictorios, el bibliotecario no te hará más inteligente; solo amplificará tu confusión a la velocidad de la luz y con una confianza retórica inquebrantable."

9.1. El Motor vs. La Gasolina (LLM vs. Contexto)

Existe un error conceptual masivo: las empresas creen que necesitan "entrenar" su propia IA (Fine-Tuning). Casi nunca es cierto. "Entrenar" es enseñarle al modelo a hablar (gramática, estilo, razonamiento). Lo que la empresa necesita es que el modelo sepa (hechos, contratos, clientes).

La arquitectura correcta para una Gobernanza de Datos Defensiva es RAG (Retrieval-Augmented Generation).

  • El Motor (LLM): Es genérico (GPT-4, Claude, Llama). Sabe razonar, pero no conoce tus secretos. Es intercambiable.
  • La Memoria (Vectores): Es propietaria. Son tus datos transformados en coordenadas matemáticas. Es el activo real.

Principio de Herencia: El vector no es un nuevo dato; es una representación derivada del documento original. Por tanto, hereda todas sus obligaciones legales y regulatorias. Si un contrato tiene una política de retención de 5 años, sus vectores asociados también deben expirar a los 5 años. La gobernanza debe duplicarse: controlar el archivo y controlar su sombra vectorial.

9.2. Embeddings: La Geometría del Significado

Para que la IA entienda tus documentos, los convertimos en Embeddings: vectores numéricos multidimensionales. En este espacio matemático, los conceptos "cercanos" se agrupan.

  • Problema: La cercanía es semántica, no jerárquica.

El riesgo invisible es el Colapso del Contexto. Para un vector puro, un "Contrato Firmado" y un "Borrador de Correo" que hablan del mismo tema son puntos casi idénticos en el espacio. Si no inyectamos Metadatos de Autoridad (ej. status: official, version: final) en el vector para aplicar filtros estrictos antes de la generación, la IA democratizará el error, citando un chisme de pasillo con la misma autoridad que una política oficial.

9.3. La Base de Datos Vectorial (El Hipocampo)

Los vectores viven en una Vector Database (Pinecone, Milvus, Weaviate). Es el hipocampo de la organización.

A diferencia de una base de datos SQL, una Vector DB es semánticamente opaca. No puedes leer un vector ([0.123, -0.981, ...]) y saber qué dice. Esto dificulta la auditoría visual directa. No podemos hacer un "spot check" manual para ver si hay datos tóxicos o PII. La validación debe ser ex ante (en la ingesta/Airlock) o mediante tests de regresión automatizados, porque la inspección humana directa del vector es imposible.

9.4. RAG: La Arquitectura de la Citación

RAG funciona así:

  1. Usuario pregunta.
  2. Sistema busca vectores relevantes (Retrieval).
  3. Sistema envía la pregunta + los vectores al LLM (Augmentation).
  4. LLM responde usando solo esa información (Generation).

Esta arquitectura permite algo que el "Fine-Tuning" no permite: Trazabilidad. Podemos obligar al modelo a decir: "Esto es así según el Documento X, página 4".

Condición de Validez: Un sistema RAG que no puede probar mediante trazabilidad técnica reproducible (IDs de chunks, hashes, timestamps) qué fragmentos exactos usó para construir su respuesta, no es un sistema de apoyo a decisiones; es un generador de opiniones no auditables. Sin cita técnica, la alucinación es indistinguible de la realidad.

9.5. Chunking: El Poder Editorial

Antes de vectorizar, debemos partir los documentos en pedazos (Chunks). Esto parece una optimización técnica ("cortar cada 500 palabras"), pero es una Decisión de Gobernanza.

  • Si cortas un párrafo legal y lo separas de sus excepciones (que estaban dos párrafos más abajo), has creado una mentira por omisión.
  • El vector del párrafo 1 dirá "Está permitido", perdiendo el contexto del párrafo 3 que decía "Excepto si...".

Quien define la estrategia de corte (Chunking Strategy), define la capacidad de la IA para entender el contexto legal. Esta configuración no debe dejarse solo en manos de desarrolladores; requiere supervisión de dominio sobre la estructura lógica de los documentos.

9.6. Conclusión: La Memoria Permanente

Las empresas cambian de modelo de IA como quien cambia de ropa. El modelo es un commodity. Pero los Vectores son el activo permanente.

Si contaminas tu Vector DB con Dark Data no verificado, estás envenenando el pozo de conocimiento de la empresa. Aunque técnicamente es posible borrar vectores (a diferencia de los pesos de un modelo entrenado), el daño operacional de una respuesta incorrecta entregada a un cliente es inmediato e irreversible. La remediación técnica posterior no borra el impacto legal o reputacional del error ya cometido.