Documento Técnico

WHITE PAPER: Zyrabit-SLM

Inteligencia Soberana: Arquitectura Open Core para Edge AI y Computación Privada

Versión: 1.0-RC (Open Core Edition) • Diciembre 2025 • Abraham Gómez, CTO

1. Resumen Ejecutivo (Abstract)

La industria de la Inteligencia Artificial enfrenta un trilema crítico en 2025: Privacidad, Latencia y Costo. Mientras los modelos masivos (LLMs) dominan la nube, Zyrabit-SLM propone un cambio de paradigma hacia los Small Language Models (SLMs) ejecutados localmente.

Este documento detalla la arquitectura de Zyrabit-SLM, una solución Open Core diseñada para democratizar el acceso a IA generativa y analítica en el borde (Edge). Nuestra investigación valida que, mediante una estrategia de estratificación de hardware, es posible desplegar inteligencia artificial soberana tanto en sensores IoT (Drones, Raspberry Pi) como en estaciones de trabajo de alto rendimiento, garantizando que los datos sensibles nunca abandonen la infraestructura del usuario.

Palabras clave: Small Language Models, Edge AI, RAG, Soberanía de Datos, Open Core, Tiered Architecture, IoT.

2. Introducción: El Problema de la Nube

La dependencia de APIs centralizadas presenta riesgos inaceptables para sectores críticos como el legal, médico e industrial: fuga de propiedad intelectual, latencia de red inestable y costos operativos impredecibles. Zyrabit-SLM elimina la intermediación, trasladando la inferencia al dispositivo donde se generan los datos.

Al transicionar de modelos de >70B parámetros a SLMs eficientes (<8B), habilitamos casos de uso offline y de baja latencia que antes eran imposibles.

3. Arquitectura Técnica: Zyrabit Tiering System

Para alinear las expectativas de rendimiento con la realidad física del silicio, Zyrabit define dos niveles operativos distintos. No todos los dispositivos están diseñados para conversar; algunos están diseñados para actuar.

Nivel 1: "Edge Sensing"

  • Hardware: Raspberry Pi 5, NVIDIA Jetson Nano, Drones.
  • Función: Telemetría y patrones. NO chat.
  • Modelos: TinyLlama 1.1B, Phi-3-mini (4-bit).
  • Latencia: <500ms clasificación.

"Un drone inspecciona infraestructura crítica... enviando alertas estructuradas (JSON) al operador."

Nivel 2: "Interactive Compute"

  • Hardware: iPad Pro (M1+), Laptops con GPU.
  • Función: NLP completo, RAG, Chat, Sanitización.
  • Modelos: Llama 3 8B, Mistral 7B, DeepSeek-Coder.

"Un abogado consulta jurisprudencia en una tablet desconectada... generando resúmenes con citas."

4. Componentes del Núcleo (The Core)

4.1 Motor de Inferencia & Estado del Arte

Utilizamos Ollama como runtime para abstraer la complejidad, permitiendo hot-swapping:

  • DeepSeek-Coder V2: Superioridad en código y SQL local.
  • Mistral 7B: El estándar para razonamiento generalista.
  • Phi-3: Optimizado para móviles y lógica.

4.2 RAG: Memoria Externa

Arquitectura modular para mitigar alucinaciones:

Ingesta
Procesamiento local de documentos
Vectorización
Embeddings ligeros (mxbai)
Recuperación
Contexto relevante pre-generación

5. Seguridad y Soberanía (Zero-Trust)

5.1 Filosofía "Local-First"

En Zyrabit, la privacidad es la arquitectura. Los datos y vectores residen estrictamente en el dispositivo.

5.2 Sanitización (secure_agent.py)

Interceptamos el prompt. Community Edition usa Regex. Enterprise integra NER (spaCy/Presidio) para ofuscación PII.

⚠️ Nota de Compliance: Zyrabit provee herramientas. La certificación (ej. HIPAA) es responsabilidad del implementador asegurando su configuración de hardware/software.

6. Análisis de Limitaciones (Transparencia Técnica)

  • Latencia en IoT: Modelos de 7B en Raspberry Pi pueden dar 2-3 tokens/seg. Recomendamos limitar a tareas de "Edge Sensing" (Nivel 1).
  • Sincronización RAG: En entornos air-gapped, actualizar la base de conocimientos es manual. Estamos desarrollando protocolo "Delta Sync".

7. Conclusión

Zyrabit-SLM no es solo software; es una declaración de independencia tecnológica. Al liberar este núcleo bajo licencia MIT, empoderamos a desarrolladores para construir IA que respeta la privacidad.

Repositorio Oficial

Referencias Seleccionadas

  • DeepSeek-AI. (2024). DeepSeek-Coder-V2: Breaking the Barrier of Closed-Source Models in Code Intelligence. arXiv:2406.11931.
  • Microsoft Research. (2024). Phi-3 Technical Report: A Highly Capable Language Model Locally.
  • Mistral AI. (2023). Mistral 7B Paper.
  • Talent500. (2025). Small Language Models (SLMs) vs LLMs: Benefits & Use Cases.

Sobre Zyrabit

Estamos construyendo el estándar para la 'IA Local'. Zyrabit ofrece una infraestructura Dockerizada para ejecutar Small Language Models (SLMs) y pipelines RAG totalmente en hardware de consumo o servidores on-premise.

Nuestra misión es democratizar el acceso a la IA para desarrolladores y PYMEs que no pueden usar APIs de nube pública por privacidad o costos. Aplicamos patrones de Sistemas Distribuidos para hacer la IA local modular y escalable.