Descripcion

Section titled “Descripcion”

Open WebUI es el frontend unificado del AI-LAB. Esta conectado al Router API (ailab-router) para enrutar las peticiones de los usuarios al perfil y modelo optimo segun el tipo de tarea.

Configuracion de Conexion

Section titled “Configuracion de Conexion”

OpenAI Connection

Section titled “OpenAI Connection”

En Open WebUI (Ajustes -> Conexiones), anadir una nueva conexion OpenAI:

CampoValor
URLhttp://192.168.1.30:8083/v1
API Key(dejar vacio)
Prefijo de modelos(dejar vacio)

Modelos disponibles

Section titled “Modelos disponibles”

Una vez configurada la conexion, los siguientes modelos apareceran en el selector de Open WebUI:

ModeloPerfilModelo realNodo GPUUso recomendado
ailab-router/autoRouting automaticoSegun rutaRX9070 (.50)Chat general
ailab-router/fastchatqwen2.5-coder-14bRX9070 (.50)Respuestas rapidas
ailab-router/codingcodingqwen2.5-coder-14bRX9070 (.50)Codigo, debugging
ailab-router/reasoninganalysisqwen2.5-coder-32bRX9070 (.50)Arquitectura, analisis
ailab-router/auto + toolsagentqwen3.6-27bRX9070 (.50)Herramientas, tool_use

Rutas adicionales (gestion interna del router)

Section titled “Rutas adicionales (gestion interna del router)”
RutaPerfilModeloUso
minimal/casual/greetingobservellama-3.1-8bSaludos, preguntas simples
observeobservellama-3.1-8bObservacion ligera
generalchatqwen2.5-14bConversacion general

Routing Interno

Section titled “Routing Interno”

Cuando Open WebUI envia una peticion al Router API, este:

  1. Clasifica la intencion (greeting, casual, report, observe, tool, general)
  2. Asigna un perfil cognitivo via manifest_profiles.json
  3. Aplica politica de herramientas via manifest_tools.json (disabled/readonly/agentic)
  4. Aplica politica de memoria via manifest_memory.json (minimal/light/full)
  5. Selecciona el modelo segun el perfil
  6. Sanitiza la respuesta y mantiene compatibilidad con el formato OpenAI/SSE

Arquitectura

Section titled “Arquitectura”
Open WebUI (:3000)
    |
    | POST /v1/chat/completions
    v
Router API (:8083)
    |
    | perfil cognitivo + politica de herramientas + politica de memoria
    v
Gateway (:8008)
    |
    | seleccion de modelo + confirmation gate (428)
    v
LM Studio (:1234)
    |
    | GPU Node
    v
RX9070 (llama-3.1-8b / qwen2.5-14b / qwen2.5-32b / qwen3.6-27b)

Comportamiento de herramientas

Section titled “Comportamiento de herramientas”
  • Rutas sin tools (minimal/casual/greeting/observe/chat/coding): tools eliminadas por politica disabled
  • Coding con tools: readonly_policy — solo read, glob, grep, list, webfetch
  • Tool_use: agent_policy — tools completas con confirmation gate 428 para write

Troubleshooting

Section titled “Troubleshooting”

Error: “Fallo al conectar al servidor de herramientas”

Section titled “Error: “Fallo al conectar al servidor de herramientas””

Configurar como Conexion OpenAI normal, no como Servidor de Herramientas.

Respuestas con HARD_FACTS inesperado

Section titled “Respuestas con HARD_FACTS inesperado”

Usar ailab-router/fast o ailab-router/coding. Las rutas ligeras no usan HARD_FACTS.

Tool calls no funcionan

Section titled “Tool calls no funcionan”

Asegurar que el modelo ailab-router/auto con tool_choice=auto y tools en el payload activa el perfil agent.

No aparecen los modelos en el selector

Section titled “No aparecen los modelos en el selector”
  1. Verificar que el Router API esta activo: curl http://localhost:8083/health
  2. Verificar CORS: curl -I -X OPTIONS -H 'Origin: http://192.168.1.30:3000' http://localhost:8083/v1/models
  3. Refrescar Open WebUI (F5 o limpiar cache del navegador)