Deep dive técnico

Arquitectura de
inteligencia artificial

LLMs, RAG, embeddings, vector databases, pipelines de datos y agentes autónomos. Las piezas que componen un sistema de IA en producción — explicadas con la profundidad que los PowerPoints nunca tienen.

No es una introducción. Es el nivel de detalle que necesitas para tomar decisiones técnicas informadas.

Modelos de lenguaje

Large Language Models (LLMs)

Los LLMs son el motor de generación de la mayoría de sistemas de IA actuales. Pero elegir el modelo correcto — y usarlo correctamente — es donde la ingeniería marca la diferencia.

ModeloProveedorFortalezasLimitaciones
GPT-4o / GPT-4o-miniOpenAIVersatilidad, tool-use, velocidad (4o-mini). Mejor relación calidad/precio para tareas generales.Ventana de contexto limitada vs. Claude. Menos preciso en razonamiento largo.
Claude 3.5 Sonnet / OpusAnthropicRazonamiento complejo, textos legales y técnicos, ventana de 200K tokens. Mejor para análisis profundo.Más lento que GPT-4o-mini. API menos madura en tool-use.
Gemini 1.5 ProGoogleVentana de 1M tokens, multimodal nativo (imagen, audio, vídeo). Ideal para análisis de documentos largos.Menos consistente que GPT-4o y Claude en producción.
Llama 3 / MistralOpen sourceDespliegue on-premise, sin costes de API, control total sobre el modelo. Fine-tuning posible.Requiere infraestructura GPU. Rendimiento inferior a modelos comerciales en tareas complejas.

Nuestro enfoque

No existe el modelo perfecto — existe el modelo correcto para cada tarea

Usamos tiering: modelos baratos para clasificación, potentes para razonamiento

Arquitectura model-agnostic: cambiar de proveedor es cambiar una config, no refactorizar

El coste de inferencia es una variable de producto, no solo de infraestructura

Retrieval-Augmented Generation

Arquitectura RAG

RAG es la arquitectura más efectiva para que un LLM responda con información de tu empresa. En lugar de fine-tunear el modelo (caro, lento, frágil), le proporcionamos el contexto relevante en cada consulta.

Parece simple. En producción, cada paso tiene decenas de decisiones que determinan la calidad del sistema.

Step 01

Ingesta

Los documentos fuente (PDFs, DOCX, HTML, Confluence, Google Drive, bases de datos) se procesan y normalizan. OCR para documentos escaneados. Detección de idioma. Extracción de metadata.

Apache Tika, Unstructured, Azure Document Intelligence

Step 02

Chunking

Los documentos se dividen en fragmentos semánticamente coherentes. No se corta por número de caracteres — se respeta la estructura del documento: párrafos, secciones, artículos, tablas.

Chunking recursivo, chunking semántico, document-aware splitting

Step 03

Embeddings

Cada chunk se convierte en un vector numérico que captura su significado semántico. Documentos similares en significado tienen vectores cercanos en el espacio vectorial.

text-embedding-3-large, BGE-M3, multilingual-e5-large

Step 04

Indexación

Los vectores se almacenan en un índice optimizado para búsqueda por similitud. Índices HNSW permiten búsquedas en millones de vectores en milisegundos.

pgvector (HNSW), Pinecone, Qdrant, Weaviate

Step 05

Retrieval

Ante una query del usuario, se buscan los chunks más relevantes combinando búsqueda semántica (vectores) y keyword (BM25). El retrieval híbrido supera a cualquiera de los dos por separado.

Hybrid search, re-ranking (Cohere, cross-encoder), MMR

Step 06

Generación

Los chunks recuperados se inyectan como contexto en el prompt del LLM. El modelo genera una respuesta basada exclusivamente en la información recuperada, con citas a las fuentes originales.

Prompt engineering, citation enforcement, source attribution

Step 07

Evaluación

Cada respuesta se evalúa automáticamente: ¿es fiel al contexto? ¿Cita fuentes reales? ¿Responde la pregunta? Pipeline de evals con dataset de casos validados.

RAGAS, custom eval pipeline, human-in-the-loop feedback

Representación semántica

Embeddings

Qué son

Un embedding es una representación numérica del significado de un texto. Convierte palabras, frases o documentos completos en vectores de alta dimensionalidad (1536-3072 dimensiones) donde la distancia entre vectores refleja la similitud semántica.

Por qué importan

Permiten buscar por significado, no por palabras exactas. "Política de devoluciones" y "¿puedo devolver un producto?" están cerca en el espacio vectorial aunque no compartan palabras.

Modelos de embeddings

ModeloDimsProveedorCaso de uso
text-embedding-3-large3072OpenAIMejor calidad general. Ideal para búsqueda en documentación corporativa.
text-embedding-3-small1536OpenAIMás rápido y barato. Suficiente para clasificación y clustering.
BGE-M31024Open sourceMultilingüe. Despliegue on-premise sin costes de API.
multilingual-e5-large1024Open sourceExcelente para búsqueda cross-lingual en múltiples idiomas.

Buenas prácticas

El modelo de embeddings debe coincidir en indexación y búsqueda — no se pueden mezclar

Re-indexar cuando se cambia de modelo (los vectores no son compatibles entre modelos)

Dimensionalidad vs. coste: 3072 dims dan más precisión pero ocupan más espacio y son más lentos

Normalizar inputs: limpiar HTML, eliminar boilerplate, estandarizar formato antes de embeddings

Almacenamiento vectorial

Vector databases

Los embeddings necesitan un lugar donde vivir y donde buscarse eficientemente. Las vector databases son ese lugar — pero no todas son iguales.

pgvector

Extensión PostgreSQL

Ventajas

Vectores junto a datos transaccionales. Sin nueva infra. SQL estándar. RLS para multi-tenancy.

Limitaciones

Rendimiento inferior a DBs especializadas con >10M vectores.

Mejor para: MVPs, productos con <5M vectores, equipos que ya usan PostgreSQL.

Pinecone

Managed SaaS

Ventajas

Rendimiento excelente a escala. Managed (zero-ops). Metadata filtering potente.

Limitaciones

Vendor lock-in. Coste elevado a escala. Datos fuera de tu infraestructura.

Mejor para: Productos que necesitan escala masiva sin gestionar infraestructura.

Qdrant

Self-hosted / Cloud

Ventajas

Open source, alto rendimiento, filtrado avanzado. Despliegue on-premise posible.

Limitaciones

Requiere gestión de infraestructura en self-hosted.

Mejor para: Equipos con requisitos de privacidad o control total sobre la infra.

Weaviate

Self-hosted / Cloud

Ventajas

Vectorización integrada, GraphQL API, módulos de ML pre-integrados.

Limitaciones

Mayor complejidad de setup. Overhead para casos simples.

Mejor para: Proyectos que necesitan vectorización automática y búsqueda multimodal.

Nuestra recomendación por defecto: pgvector. Mantiene vectores junto a datos transaccionales en PostgreSQL, soporta RLS para multi-tenancy y no requiere infraestructura adicional. Para productos con <5M vectores (la mayoría), es la opción más pragmática.

Data engineering

Pipelines de datos para IA

Un sistema de IA es tan bueno como los datos que lo alimentan. El pipeline de datos es la infraestructura invisible que convierte datos crudos en inputs útiles para la IA.

01

Ingesta y conectores

Los datos vienen de múltiples fuentes: APIs, bases de datos, file systems, servicios SaaS. Los conectores normalizan los datos y gestionan la sincronización incremental.

Sync incremental vs. full re-index (coste y latencia)

Gestión de permisos heredados (¿quién puede ver qué documento?)

Rate limiting de APIs externas

Detección de cambios y re-procesamiento selectivo

02

Preprocesamiento

Limpieza, normalización, extracción de metadata, detección de idioma, OCR para documentos escaneados. Los datos crudos se transforman en inputs limpios para el pipeline de IA.

OCR: Azure Document Intelligence para documentos complejos, Tesseract para simples

Extracción de tablas y estructuras (no solo texto plano)

Deduplicación de contenido

Clasificación automática por tipo de documento

03

Transformación y enriquecimiento

Los datos limpios se transforman: chunking, embeddings, extracción de entidades, clasificación, resumen. Cada transformación añade una capa de inteligencia sobre los datos crudos.

Chunking adaptativo según tipo de documento

Embeddings con modelo apropiado al idioma y dominio

Extracción de entidades nombradas (personas, empresas, fechas)

Generación de resúmenes y keywords para metadata

04

Almacenamiento

Los datos procesados se almacenan en el formato óptimo para su uso: vectores en vector store, metadata en PostgreSQL, documentos originales en object storage.

Vector store indexado con HNSW para búsqueda <200ms

Metadata en PostgreSQL para filtrado SQL eficiente

Object storage (S3) para documentos originales con versionado

Caching en Redis para queries frecuentes

05

Orquestación y monitorización

El pipeline se ejecuta como un workflow orquestado: jobs programados, colas de procesamiento, reintentos automáticos, dead letter queues para errores, dashboards de estado.

BullMQ/SQS para colas de procesamiento asíncrono

Reintentos con backoff exponencial

Dead letter queues para documentos que fallan

Dashboards: documentos procesados, errores, latencia, costes

Sistemas autónomos

Agentes de IA

Un agente de IA no es un chatbot con más prompts. Es un sistema que razona, planifica, ejecuta acciones y aprende del resultado. La arquitectura de un agente tiene componentes específicos que no existen en un sistema RAG simple.

Componentes de un agente

Planificador

El módulo que descompone una tarea compleja en subtareas ejecutables. Decide qué hacer, en qué orden y con qué herramientas. Es el "cerebro" del agente.

Memoria

Contexto a corto plazo (conversación actual) y largo plazo (interacciones previas, preferencias aprendidas). Permite al agente mantener coherencia y mejorar con el uso.

Herramientas (Tools)

Las acciones que el agente puede ejecutar: buscar en bases de datos, llamar APIs, enviar emails, crear registros, generar documentos. Function calling del LLM mapeado a funciones reales.

Guardrails

Validación de inputs, sanitización de outputs, control de acceso, límites de ejecución. Impide que el agente ejecute acciones no autorizadas o genere outputs peligrosos.

Observabilidad

Logging de cada paso del agente: qué decidió, qué herramienta usó, qué resultado obtuvo. Trazabilidad completa para debugging y auditoría.

Patrones de agentes

ReAct

Reasoning + Acting. El agente razona sobre la tarea, decide una acción, la ejecuta, observa el resultado y repite. El patrón más robusto para agentes de propósito general.

Plan-and-Execute

Primero genera un plan completo, después lo ejecuta paso a paso. Mejor para tareas largas con múltiples subtareas dependientes.

Multi-agent

Múltiples agentes especializados que colaboran: uno investiga, otro analiza, otro redacta. Orquestados por un agente supervisor.

Tool-use con routing

El agente decide dinámicamente qué herramienta usar según la intención del usuario. Router inteligente que selecciona el workflow correcto.

Regla crítica: Un agente sin guardrails es un riesgo. Cada agente que ponemos en producción tiene límites de ejecución (máximo de pasos, timeout), control de acceso (qué herramientas puede usar, con qué permisos) y logging completo de cada decisión. La autonomía sin control no es ingeniería — es negligencia.

¿Tienes un proyecto en mente?

Cuéntanos qué necesitas. Respondemos en menos de 24 horas.

Entregamos sistemas, no PowerPoints.

O escríbenos a goiko@gugocreative.com