Base de Conocimiento Local (RAG)

1. Qué hace RAG

RAG permite consultar documentos mediante búsquedas y aportar los fragmentos encontrados al modelo. ZeroChat extrae y divide el contenido en el navegador, lo guarda en IndexedDB y construye índices de texto con Orama. La búsqueda es léxica: no genera embeddings ni usa un índice vectorial.

La carga e indexación no necesitan un servicio de IA. Al responder, los fragmentos e imágenes recuperados se incorporan a la conversación y se envían al proveedor elegido. Usar almacenamiento local no hace privada una consulta a un proveedor remoto.

2. Ramas de conocimiento

Una rama agrupa documentos de un tema o proyecto. Son colecciones documentales, distintas de las ramas de conversación.

1. Abre Configuración → RAG → Ramas para crear una rama, elegir su idioma y gestionar sus documentos.
2. Carga los archivos y espera a que termine su procesamiento.
3. Activa las ramas que quieres consultar desde Configuración → RAG → Activar o desde el botón RAG del cuadro de entrada.

Puedes activar varias. Si sus idiomas difieren, aparece un aviso; las selecciones se mantienen. Solo las ramas activas están disponibles para las herramientas de consulta.

3. Carga y procesamiento de documentos

Arrastra archivos al panel RAG o selecciónalos desde su área de carga. El texto se divide en fragmentos para poder buscar y leer partes del documento.

• PDF: extrae texto e imágenes cuando el formato lo permite. No incluye OCR general para documentos escaneados; tablas, columnas y figuras pueden perder información.
• Documentos ofimáticos: DOCX, XLSX, PPTX, ODT, ODS y ODP se indexan con su texto, tablas e imágenes incrustadas; las diapositivas cuentan como páginas. Las hojas se limitan a 500 filas y las imágenes EMF, WMF o enlazadas quedan como marcadores de texto. La primera carga descarga la librería de lectura y la guarda en caché.
• Texto, Markdown y código: se procesan como contenido textual. La división no garantiza conservar una función, una tabla o una idea completa en un solo fragmento.
• Duplicados: si coincide el nombre y la ruta de un documento de la rama, puedes reemplazarlo o ignorarlo y aplicar la decisión a los demás duplicados de esa carga.
• Detener: solicita cancelar el procesamiento. Revisa qué documentos han terminado antes de volver a cargar los pendientes.

4. Búsqueda y herramientas de consulta

El modelo necesita admitir llamadas a herramientas y tener disponibles las herramientas RAG. Activar una rama no equivale a enviar todos sus documentos ni garantiza que el modelo los consulte.

• list_documents: lista los documentos disponibles.
• search_knowledge_base: busca palabras en un documento concreto o en las ramas activas.
• read_knowledge_chunk: recupera fragmentos identificados por la búsqueda.
• read_knowledge_image: recupera una imagen extraída; interpretarla requiere un modelo con visión.

Indica el documento o tema y pide que se señalen las fuentes. Si faltan resultados, prueba términos presentes en el texto; una búsqueda léxica puede no encontrar sinónimos o traducciones.

5. Configuración y límites

Almacenamiento

Documentos y fragmentos se conservan en IndexedDB; los índices Orama se construyen en memoria. El volumen utilizable depende de la memoria y de la cuota del navegador. Borrar los datos del sitio elimina la base documental.

Acceso a archivos

Seleccionar archivos permite leer esa carga, no da acceso general al disco. Conserva los originales: exportar una conversación no respalda las ramas RAG.

Calidad de las respuestas

Una temperatura baja puede reducir variaciones, pero no garantiza fidelidad. Contrasta cifras y citas con el documento original, especialmente si el PDF tiene tablas o escaneos.

El RAG se ha ajustado con FinanceBench hasta que un modelo local como Qwen resolvió las dos primeras y las dos últimas pruebas. Eso no garantiza que un modelo pequeño resuelva todas las preguntas del banco.

Puntos de control

El RAG necesita un modelo con al menos 32K tokens de contexto. Con menos, el protocolo de consulta, las herramientas y unos pocos fragmentos llenan la ventana y la conversación se compacta enseguida. Si el límite del modelo es conocido y no llega, ZeroChat avisa al activar una rama; el aviso no impide usarla.