n8n detalla cómo correr flujos locales con una NVIDIA DGX Spark y LiteLLM

n8n publicó una guía para conectar sus flujos de trabajo a modelos locales montados en una NVIDIA DGX Spark, evitando enviar datos a APIs externas. La integración usa LiteLLM como proxy compatible con OpenAI para procesar tareas sensibles como facturación, transcripciones o análisis documental dentro de tu propia red.

Los datos clave del entorno:

• Memoria: la DGX Spark cuenta con 128 GB de memoria unificada (Linux detectó 121 GB en las pruebas). Con siete modelos cargados gastó 108 GB y dejó 13 GB libres.
• Velocidad: con Qwen3.6-35B-A3B en formato NVFP4, marcó 120 tokens por segundo para un usuario y 359 tokens por segundo en total con ocho usuarios concurrentes.
• Versiones y seguridad: requiere vLLM 0.30.0 o superior junto con LiteLLM 1.99.1. El artículo recuerda que dos versiones de LiteLLM en PyPI fueron comprometidas en marzo de 2026 y que los fallos de autenticación se corrigieron desde la 1.84.0.

En la práctica, esto cambia el trabajo de los equipos que manejan información bajo regulaciones estrictas y ya no querían depender del kit inicial de n8n para portátiles. Para conectar el nodo OpenAI Chat Model solo hace falta apuntar a la IP local en el puerto 4000 desactivando la opción «Use Responses API», ya que vLLM sirve mediante chat completions tradicionales.

El pipeline de facturas usa seis nodos (formulario, paso a base64, OCR, extracción, edición y vista de resultados). Sin razonamiento, Qwen3.6 sacó cinco campos clave en menos de un segundo; pero con el modo de razonamiento activo, gastó 1.538 tokens de pensamiento para apenas 78 tokens de salida útil. El OCR local tampoco es infalible: leyó bien el total, pero se comió un cero en el identificador de IVA, lo que obliga a meter validaciones manuales.

A mí me parece una alternativa sólida para oficinas que buscan soberanía de datos, pero lo que me preocupa es el mantenimiento diario. Mantener vLLM, gestionar la cola de memoria y revisar fallos sutiles de OCR exige un tiempo técnico que la nube suele ahorrarte.

Para los Orquestadores que ya montan modelos propios en producción: ¿qué tasa de error están viendo en OCR local frente a facturas arrugadas o con baja resolución?

Fuente: n8n