Ollama 0.35 estrena API para modelos de decisión locales

Ollama lanzó la versión 0.35 el 29 de septiembre de 2026 e incorporó soporte para modelos de decisión ejecutados directamente en local. Esto llega mediante el nuevo endpoint /v1/systemone, basado en la API Jev de TypeSafe, pensado para enrutar textos o clasificar datos rápido sin mandar nada a la nube.

El sistema arranca con tres opciones: Nimble, un modelo de 9.000 millones de parámetros desarrollado por Bespoke Labs sobre la base de Qwen3.5-9B, junto a dos alternativas experimentales de Together AI, Tev1 (4B) y tev1:0.8b (800M). En una sola petición le pasas un texto como estado y hasta 64 preguntas estructuradas (opción múltiple, verdadero o falso o rúbricas). En las pruebas oficiales sobre una MacBook Pro con M5 Max, Nimble promedió 91 ms por decisión en una prueba con Pac-Man.

Hay que tener muy claro para qué sirve: no redacta texto ni genera explicaciones. Nimble evalúa las alternativas que tú le definas y devuelve probabilidades. De hecho, su campo de confianza solo mide qué tan concentradas están esas probabilidades, no si la respuesta es correcta en la realidad. Además, evalúa cada pregunta por separado; si necesitas coherencia lógica entre dos respuestas, toca filtrarlo en tu propio backend. Por ahora solo se puede consultar vía curl o con el SDK en Python de TypeSafe, ya que ni la CLI habitual ni las librerías oficiales de Python y JavaScript de Ollama tienen soporte todavía.

A mí me parece una gran idea para moderar contenido o armar un enrutador local de agentes sin pagar llamadas a APIs externas. Lo que me preocupa es que todavía no hay fecha para tenerlo integrado en la CLI estándar, lo que obliga a meter librerías ajenas en nuestros scripts.

¿Para qué tarea de sus proyectos locales les serviría más meter este tipo de clasificación rápida?

Fuentes: Hacker News · Hacker News