Runtime de IA con inferencia local: orquestación, memoria, enrutamiento de herramientas y evaluación

El problema

Un agente es fácil de demostrar y difícil de mantener en funcionamiento. La diferencia no está en el modelo. Está en todo lo que lo rodea: los datos que puede ver, la evaluación que avisa cuando se degrada, el fallback cuando falla y la persona que responde por el resultado.

En esa capa que lo rodea es donde fallan las cargas de trabajo de IA en producción. HELIX V6 es el trabajo interno de investigación y desarrollo de NASCIA sobre esa capa: un runtime para cargas de trabajo de IA con inferencia local.

Qué se construyó

Un runtime para cargas de trabajo de IA con inferencia local, construido por el fundador en solitario. Cubre orquestación, memoria, enrutamiento de herramientas y evaluación.

La base de código tiene 121.000 líneas de código en 633 archivos fuente, con más de 3.800 pruebas automatizadas (CV del fundador).

Es investigación y desarrollo internos. No hay enlace público ni página de producto.

Cómo funciona

El diagrama es esquemático. Muestra las cuatro áreas que cubre el runtime y un modelo local, y no afirma ningún flujo, protocolo ni detalle de almacenamiento más allá de eso; las herramientas se dibujan fuera del runtime por legibilidad, no porque su ubicación esté publicada. La orquestación dirige la carga de trabajo. La memoria conserva el estado entre pasos. El enrutamiento de herramientas envía cada llamada a la herramienta que debe atenderla. La inferencia puede ejecutarse en un modelo local (CV del fundador). La evaluación es una de las cuatro áreas que cubre el runtime. Por separado, la base de código reúne más de 3.800 pruebas automatizadas (CV del fundador).

Evidencia

Se publican tres cifras, todas de una sola fuente: 121.000 líneas de código (CV del fundador), 633 archivos fuente (CV del fundador) y más de 3.800 pruebas automatizadas (CV del fundador).

No se publica ninguna cifra de uso, rendimiento o benchmark, porque ninguna ha sido verificada.

Tecnologías

La inferencia puede ejecutarse en un modelo local (CV del fundador). El runtime cubre orquestación, memoria, enrutamiento de herramientas y evaluación (CV del fundador). Los lenguajes, los frameworks y los nombres de modelos no están publicados.

Qué demuestra

Definir: el alcance del runtime está declarado (orquestación, memoria, enrutamiento de herramientas y evaluación).

Instrumentar: más de 3.800 pruebas automatizadas acompañan 121.000 líneas de código en 633 archivos fuente (CV del fundador).

Integrar: la inferencia local y el enrutamiento de herramientas son las partes que ponen un modelo dentro de un flujo de trabajo, que es lo que NASCIA entrega a sus clientes.

Transferir: un runtime con una suite de pruebas es un runtime del que otro ingeniero puede hacerse cargo. La misma disciplina se aplica a cada sistema que construimos para clientes.