Severity: info

Capability-Aware Distributed Routing

Sistema inteligente de selección de nodos y modelos basado en capacidades, contexto y tamaño de prompt.

Objetivo

AI-LAB implementa un sistema de routing distribuido capaz de:

  • detectar nodos disponibles
  • seleccionar modelos adecuados según capacidad
  • validar contexto máximo soportado
  • evitar overflows
  • reroutear automáticamente workflows degradados
  • operar incluso con cluster parcial

Componentes Integrados

Heartbeat Runtime

Servicio persistente:

Terminal window
systemctl status ailab-heartbeat.service