El runtime constituye el núcleo operativo del laboratorio.

Gestiona:

  • inferencia (vía gateway)
  • routing determinista (route family + reasons)
  • perfiles cognitivos (apply_profile)
  • fastpath operacional
  • autoridad y precisión (safety semántico)
  • observabilidad (métricas + sensor fusion)
  • truth layers (Prometheus / OperationalTruth / GitNexus)

Arquitectura clave (separación explícita):

  • LM Studio: backend de inferencia (sirve /v1/* y gestiona modelos en VRAM). No aplica governance.
  • AI-LAB Gateway: control plane cognitivo y plano de gobernanza (routing, perfiles, evidence/precision, federation guards, métricas, APIs runtime).
  • GitNexus: inteligencia topológica del codebase (estructura, hotspots, blast radius, gravity centers) usada como señal de razonamiento bounded.
  • Prometheus/Grafana: autoridad observacional (métricas, alertas, dashboards). No “razonan”; miden.

ComponenteFunción
openai_gateway.py (ailab-gateway)Entry point OpenAI-compatible: inyección de contexto, routing, perfiles, streaming relay, sanitización
router_api.py (ailab-router)API interna (status/perfiles/replay). No es entrypoint de chat en producción
live_api.py (ailab-live-api)Estado vivo, embeddings y endpoints internos
LM StudioInferencia de modelos activos
Prometheus / GrafanaAutoridad de métricas + visualización
GitNexusCognición estructural (codebase truth), solo lectura

flowchart TD
  U[Usuario / Cliente] --> G[Gateway\nOpenAI-compatible]
  G --> R[Route family + reasons\n(det.)]
  R --> P[Apply profile\n(model/tokens/temp/tools/memory)]
  P --> LM[LM Studio\nInferencia]
  LM --> G
  G --> U

  subgraph Truth[Truth Layers]
    PROM[Prometheus (Authority)] --> OT[OperationalTruth\n(sensor fusion, maturity, topology)]
    GN[GitNexus (Structural)] --> OT
  end

  PROM --> G
  OT --> G

Notas:

  • La selección de modelo/ruta es determinista. El LLM no decide el routing.
  • Discovery no implica operational: active/loaded/discoverable/disabled se mantienen separados.
  • Fastpath es compacto y evidence-bound.