RAG Local: Memoria Infinita para tu Agente de IA por $0Local RAG: Infinite Memory for Your AI Agent for $0

Esto no es un tutorial teórico. Es lo que construimos hoy como skill de OpenClaw. Un sistema donde puedo guardar artículos, URLs, documentos — y después preguntarle a mi agente de IA "¿qué leí sobre embeddings?" y que me encuentre exactamente lo relevante.

This isn't a theoretical tutorial. It's what we built today as an OpenClaw skill. A system where I can save articles, URLs, documents — and then ask my AI agent "what did I read about embeddings?" and have it find exactly what's relevant.

Y antes de que digas "pero necesitas pagar por embeddings de OpenAI" — no. Ollama + mxbai-embed-large es gratis, corre local, y en benchmarks supera a text-embedding-ada-002.

And before you say "but you need to pay for OpenAI embeddings" — no. Ollama + mxbai-embed-large is free, runs locally, and in benchmarks outperforms text-embedding-ada-002.

1 ¿Qué Demonios es RAG?What the Hell is RAG?

RAG = Retrieval Augmented Generation. En español: darle memoria externa a tu LLM.

RAG = Retrieval Augmented Generation. In plain English: giving your LLM external memory.

El problema con los LLMs es que solo saben lo que estaba en su training data. No saben qué leíste ayer. No conocen tus documentos internos. No tienen idea de ese artículo que guardaste hace un mes.

The problem with LLMs is they only know what was in their training data. They don't know what you read yesterday. They don't know your internal documents. They have no idea about that article you saved a month ago.

RAG resuelve esto en 3 pasos:

RAG solves this in 3 steps:

┌────────────────────────────────────────────────────────────┐
│                    CÓMO FUNCIONA RAG                        │
│                                                            │
│  1. INDEXAR                                                │
│  ┌──────────┐    ┌────────────┐    ┌─────────────────┐    │
│  │ Documento│───▶│ Embeddings │───▶│ Base de Datos   │    │
│  │ o URL    │    │ (vectores) │    │ (SQLite)        │    │
│  └──────────┘    └────────────┘    └─────────────────┘    │
│                                                            │
│  2. BUSCAR                                                 │
│  ┌──────────┐    ┌────────────┐    ┌─────────────────┐    │
│  │ "¿Qué    │───▶│ Embedding  │───▶│ Búsqueda por    │    │
│  │ leí de   │    │ de query   │    │ similitud       │    │
│  │ RAG?"    │    │            │    │ coseno          │    │
│  └──────────┘    └────────────┘    └────────┬────────┘    │
│                                              │             │
│  3. GENERAR                                  ▼             │
│  ┌──────────────────────────────────────────────────┐     │
│  │ LLM recibe: tu pregunta + documentos relevantes  │     │
│  │ → Respuesta con contexto de TU conocimiento      │     │
│  └──────────────────────────────────────────────────┘     │
└────────────────────────────────────────────────────────────┘

La magia está en los embeddings. Son representaciones numéricas del significado de un texto. Dos textos sobre el mismo tema tendrán vectores similares, aunque usen palabras diferentes.

The magic is in embeddings. They're numerical representations of text meaning. Two texts about the same topic will have similar vectors, even if they use different words.

2 El Stack: $0 y Todo LocalThe Stack: $0 and All Local

Aquí está lo que usamos:

Here's what we use:

Los ComponentesThe Components

🦙 Ollama

Ollama es como Docker pero para LLMs. Un comando y tienes modelos corriendo local. Lo usamos para los embeddings, no para generar texto (eso lo hace tu LLM principal).

Ollama is like Docker but for LLMs. One command and you have models running locally. We use it for embeddings, not for text generation (your main LLM handles that).

🧠 mxbai-embed-large

El modelo de embeddings de Mixedbread AI. 335M parámetros. Vectores de 1024 dimensiones. Supera a OpenAI's ada-002 en el benchmark MTEB. Y es open source.

The embeddings model from Mixedbread AI. 335M parameters. 1024-dimension vectors. Outperforms OpenAI's ada-002 on the MTEB benchmark. And it's open source.

🗄️ SQLite

La base de datos más deployeada del mundo. Viene en tu Mac. Cero configuración. Para nuestro caso de uso (cientos o miles de documentos personales), es más que suficiente. No necesitas Pinecone.

The most deployed database in the world. Comes with your Mac. Zero configuration. For our use case (hundreds or thousands of personal documents), it's more than enough. You don't need Pinecone.

3 Setup en 15 MinutosSetup in 15 Minutes

Esto es todo lo que necesitas:

This is all you need:

1. Instalar Ollama1. Install Ollama

# macOS
brew install ollama

# O descarga directa desde ollama.ai

2. Descargar el modelo de embeddings2. Download the embeddings model

ollama pull mxbai-embed-large

# Primera vez descarga ~670MB
# Después corre instantáneo

3. Verificar que funciona3. Verify it works

curl http://localhost:11434/api/embeddings -d '{
  "model": "mxbai-embed-large",
  "prompt": "Hola mundo"
}'

# Debería devolver un vector de 1024 dimensiones

Eso es todo el setup. Ollama corre como servicio en background. Ahora tienes un endpoint local para generar embeddings de cualquier texto.

That's all the setup. Ollama runs as a background service. Now you have a local endpoint to generate embeddings for any text.

4 La Arquitectura del Knowledge BaseThe Knowledge Base Architecture

Nuestro KB tiene una estructura simple pero poderosa:

Our KB has a simple but powerful structure:

┌─────────────────────────────────────────────────────────────┐
│                   KNOWLEDGE BASE SCHEMA                      │
│                                                              │
│  ┌─────────────────────────────────────────────────────┐    │
│  │                    documents                         │    │
│  ├─────────────────────────────────────────────────────┤    │
│  │ id          │ INTEGER PRIMARY KEY                   │    │
│  │ title       │ TEXT                                  │    │
│  │ content     │ TEXT (el texto completo)              │    │
│  │ source_url  │ TEXT (opcional, de dónde vino)        │    │
│  │ tags        │ TEXT (JSON array)                     │    │
│  │ embedding   │ BLOB (vector de 1024 floats)          │    │
│  │ created_at  │ DATETIME                              │    │
│  │ updated_at  │ DATETIME                              │    │
│  └─────────────────────────────────────────────────────┘    │
│                                                              │
│  Índice: embedding para búsqueda por similitud              │
│  (En SQLite usamos búsqueda lineal, suficiente para <10K    │
│   docs. Para más, considera sqlite-vec o similar)           │
└─────────────────────────────────────────────────────────────┘

El Flujo de GuardadoThe Save Flow

// Pseudocódigo del flujo
async function saveDocument(title, content, sourceUrl, tags) {
  // 1. Generar embedding del contenido
  const embedding = await ollama.embeddings({
    model: 'mxbai-embed-large',
    prompt: content
  });
  
  // 2. Guardar en SQLite
  db.run(`
    INSERT INTO documents (title, content, source_url, tags, embedding)
    VALUES (?, ?, ?, ?, ?)
  `, [title, content, sourceUrl, JSON.stringify(tags), embedding]);
}

El Flujo de BúsquedaThe Search Flow

// Búsqueda semántica
async function search(query, limit = 5) {
  // 1. Embedding de la query
  const queryEmbedding = await ollama.embeddings({
    model: 'mxbai-embed-large',
    prompt: query
  });
  
  // 2. Obtener todos los documentos
  const docs = db.all('SELECT * FROM documents');
  
  // 3. Calcular similitud coseno con cada uno
  const results = docs.map(doc => ({
    ...doc,
    similarity: cosineSimilarity(queryEmbedding, doc.embedding)
  }));
  
  // 4. Ordenar por similitud y devolver top N
  return results
    .sort((a, b) => b.similarity - a.similarity)
    .slice(0, limit);
}

5 Integración con tu AgenteIntegration with Your Agent

Aquí es donde la magia se vuelve práctica. El Knowledge Base es un skill de OpenClaw, lo que significa que mi agente puede:

Here's where the magic becomes practical. The Knowledge Base is an OpenClaw skill, which means my agent can:

• Guardar: "Guarda este artículo en el KB con tags [rag, embeddings]"
• Save: "Save this article to the KB with tags [rag, embeddings]"
• Buscar: "¿Qué tengo guardado sobre autenticación con JWT?"
• Search: "What do I have saved about JWT authentication?"
• Fetch + Guardar: "Lee este URL y guárdalo en mi KB"
• Fetch + Save: "Read this URL and save it to my KB"

┌────────────────────────────────────────────────────────────┐
│              FLUJO DE USO CON OPENCLAW                      │
│                                                             │
│  Usuario: "Guarda https://example.com/articulo-de-rag"     │
│                          │                                  │
│                          ▼                                  │
│  ┌──────────────────────────────────────────────────────┐  │
│  │ OpenClaw:                                             │  │
│  │ 1. web_fetch → extrae contenido del URL              │  │
│  │ 2. kb save → genera embedding + guarda en SQLite     │  │
│  └──────────────────────────────────────────────────────┘  │
│                          │                                  │
│                          ▼                                  │
│  Usuario: "¿Qué sé sobre embeddings?"                      │
│                          │                                  │
│                          ▼                                  │
│  ┌──────────────────────────────────────────────────────┐  │
│  │ OpenClaw:                                             │  │
│  │ 1. kb search "embeddings" → top 5 documentos         │  │
│  │ 2. Incluye contexto en prompt al LLM                 │  │
│  │ 3. Responde con información de TU knowledge base     │  │
│  └──────────────────────────────────────────────────────┘  │
└────────────────────────────────────────────────────────────┘

El skill expone comandos simples que el agente puede usar:

The skill exposes simple commands the agent can use:

# Guardar un documento
kb save --title "Artículo sobre RAG" --content "..." --tags "rag,ai"

# Guardar desde URL
kb save-url --url "https://example.com/article" --tags "reference"

# Buscar
kb search --query "¿cómo funcionan los embeddings?" --limit 5

# Listar recientes
kb list --limit 10

6 El Elefante en la Habitación: ¿Por Qué $10/mes Importa?The Elephant in the Room: Why $10/month Matters

Aquí viene el plot twist. El Knowledge Base es gratis. Pero el LLM que lo usa no lo era... hasta ahora.

Here's the plot twist. The Knowledge Base is free. But the LLM that uses it wasn't... until now.

Peter Steinberger, el creador de OpenClaw, lo llama "shipping at inference speed". Tienes los mejores modelos del mundo. Tienes un Knowledge Base local con tus documentos. Tienes herramientas de automatización. El stack está democratizado.

Peter Steinberger, the creator of OpenClaw, calls it "shipping at inference speed". You have the best models in the world. You have a local Knowledge Base with your documents. You have automation tools. The stack is democratized.

El acceso ya no es el diferenciador. El conocimiento sí. Por eso construimos cosas como este Knowledge Base — para amplificar lo que ya sabemos, no para reemplazarlo.

Access is no longer the differentiator. Knowledge is. That's why we build things like this Knowledge Base — to amplify what we already know, not to replace it.

7 Privacidad: Por Qué Local ImportaPrivacy: Why Local Matters

Un Knowledge Base en la nube significa:

A cloud Knowledge Base means:

• Tus documentos privados en servidores de terceros
• Your private documents on third-party servers
• Dependencia de APIs que pueden cambiar precios o términos
• Dependency on APIs that can change prices or terms
• Latencia de red en cada query
• Network latency on every query
• Costos que escalan con uso
• Costs that scale with usage

Un Knowledge Base local significa:

A local Knowledge Base means:

• Tus datos nunca salen de tu máquina (excepto cuando los envías explícitamente al LLM)
• Your data never leaves your machine (except when you explicitly send it to the LLM)
• Funciona offline (los embeddings al menos)
• Works offline (embeddings at least)
• Costo fijo: $0
• Fixed cost: $0
• Sin límites de uso
• No usage limits

8 Ideas para ExtenderIdeas for Extensions

Una vez que tienes el KB funcionando, las posibilidades son infinitas:

Once you have the KB running, the possibilities are endless:

📚 Importar tu Readwise/InstapaperImport your Readwise/Instapaper

Exporta tus highlights y artículos guardados, impórtalos al KB. Ahora puedes preguntarle a tu agente "¿qué he leído sobre productividad este año?".

Export your highlights and saved articles, import them to the KB. Now you can ask your agent "what have I read about productivity this year?".

📝 Indexar tus notas de Obsidian/NotionIndex your Obsidian/Notion notes

Un script que sincroniza tu vault de Obsidian al KB. Búsqueda semántica sobre años de notas personales.

A script that syncs your Obsidian vault to the KB. Semantic search over years of personal notes.

📧 Emails importantesImportant emails

Guarda emails clave (propuestas, contratos, decisiones) en el KB. "¿Qué acordamos con el cliente X sobre el precio?".

Save key emails (proposals, contracts, decisions) to the KB. "What did we agree with client X about pricing?".

🎙️ Transcripciones de reunionesMeeting transcripts

Transcribe tus llamadas de Zoom, guárdalas en el KB. "¿Qué mencionó Juan sobre el deadline en la última reunión?".

Transcribe your Zoom calls, save them to the KB. "What did Juan mention about the deadline in the last meeting?".

📄 Documentación técnicaTechnical documentation

Indexa la documentación de tus proyectos. El agente puede responder preguntas sobre tu propio código/arquitectura.

Index your project documentation. The agent can answer questions about your own code/architecture.