Banner de Nova Flow

Moderno Tech

NOVA FLOW

Moderno Tech — Nova AI

Arquitectura Mixture of Experts para capacidad total y activación selectiva

Nova Flow utiliza una arquitectura Mixture of Experts (MoE) para distribuir el procesamiento entre distintos expertos y activar selectivamente los componentes correspondientes durante la generación de cada token.

Su propósito es aprovechar una capacidad total de parámetros elevada sin activar todos los expertos en cada paso de inferencia.

Sitio oficial: https://moderno.com.ar


Visión y filosofía de Nova AI

Tu inteligencia artificial. Tu dispositivo. Tus recursos.

Nova AI es una familia de modelos de inteligencia artificial desarrollada dentro de Moderno Tech, con una filosofía centrada en la eficiencia computacional, la ejecución local y la accesibilidad.

La visión de Moderno Tech es que una persona no debería necesitar una infraestructura costosa ni depender permanentemente de servidores en la nube para utilizar un asistente de inteligencia artificial.

El objetivo es desarrollar modelos que permitan construir una experiencia de asistente conversacional accesible desde la web, ejecutada directamente en el dispositivo del usuario.

No se trata de afirmar que los modelos tienen las mismas capacidades que otros asistentes conversacionales. Se trata de ofrecer una experiencia de uso conversacional mediante modelos Nova que se ejecutan localmente.

Una nueva forma de utilizar inteligencia artificial

Tradicionalmente, muchos asistentes de inteligencia artificial procesan las consultas en servidores remotos. Cada conversación requiere recursos de procesamiento, memoria y aceleración de hardware en una infraestructura centralizada.

La propuesta de Nova AI es diferente.

Moderno Tech busca que los usuarios puedan acceder a una interfaz de inteligencia artificial desde una página web, descargar el modelo adecuado para su dispositivo y ejecutar las conversaciones utilizando los recursos locales.

El funcionamiento previsto es:

  1. El usuario ingresa a la plataforma web de Moderno Tech.
  2. Selecciona el modelo Nova adecuado para la capacidad de su dispositivo.
  3. Descarga los archivos del modelo.
  4. El navegador carga el modelo en la memoria disponible del dispositivo.
  5. Un motor de inferencia local compatible con el navegador procesa las consultas.
  6. La generación de respuestas sucede directamente en el dispositivo del usuario.

La ventaja fundamental es que el procesamiento de las conversaciones no necesita realizarse en los servidores de Moderno Tech.

Esto permite reducir la dependencia de infraestructura de inferencia centralizada, disminuir los costos operativos de procesamiento y facilitar una experiencia de IA local.

La descarga inicial del modelo sí utiliza almacenamiento y transferencia de datos. La diferencia buscada es que la inferencia y la generación de respuestas se realicen localmente, cuando la implementación lo permite.

La posibilidad de utilizar el modelo sin conexión debe presentarse únicamente cuando el sistema de descarga, almacenamiento y ejecución garantice esa funcionalidad.

Dispositivos contemplados

La estrategia de Nova AI está dirigida a una amplia variedad de dispositivos:

  • Teléfonos inteligentes.
  • Tablets.
  • Computadoras portátiles.
  • Computadoras de escritorio.
  • Otros dispositivos compatibles con ejecución local mediante navegador.

El objetivo es que cada usuario pueda seleccionar un modelo de acuerdo con los recursos disponibles.

No afirmar que todos los dispositivos pueden ejecutar todos los modelos. La compatibilidad depende de la memoria disponible, el navegador, el motor de inferencia, el soporte de hardware, la cuantización y las características del dispositivo.

Ventajas de este enfoque

Menor dependencia de servidores de inferencia

Las consultas se procesan localmente cuando el motor de inferencia y el dispositivo son compatibles.

Mayor control del usuario

El modelo se encuentra en el dispositivo y no es necesario enviar cada consulta a un servidor central para generar una respuesta local.

Optimización de infraestructura

Moderno Tech puede ofrecer una plataforma para muchos usuarios sin necesitar una infraestructura de GPU centralizada que procese individualmente cada conversación.

Elección según el dispositivo

Cada usuario puede elegir Nano, Mini o Spark según los recursos de su teléfono, tablet o computadora.

Accesibilidad

La IA local puede acercarse a usuarios que no disponen de suscripciones a servicios de inferencia remota.

No prometer privacidad absoluta, ejecución sin conexión ni compatibilidad universal sin comprobar las características reales de la plataforma.


Qué se buscó lograr con Nova Flow

Nova Flow representa una línea de desarrollo arquitectónico diferente dentro de la familia Nova AI.

Mientras Nano, Mini y Spark priorizan modelos compactos destinados a la ejecución local en dispositivos personales, Flow utiliza una arquitectura Mixture of Experts (MoE).

Su objetivo es aprovechar una capacidad total de parámetros significativamente mayor, seleccionando los expertos que participan en el procesamiento de cada token.

Nova Flow es una alternativa destinada a escenarios donde se busca mayor capacidad y se dispone de infraestructura local suficiente para ejecutar una arquitectura MoE.

Público objetivo

  • Desarrolladores avanzados.
  • Usuarios de inteligencia artificial local.
  • Aplicaciones profesionales.
  • Entornos de experimentación con arquitecturas MoE.
  • Sistemas que pueden proporcionar la memoria y el almacenamiento necesarios.

Características principales

  • Aproximadamente 8.000 millones de parámetros totales.
  • Aproximadamente 1.500 millones de parámetros activos por token.
  • Arquitectura Mixture of Experts.
  • Procesamiento: activación selectiva de expertos.

Arquitectura del modelo

Arquitectura Mixture of Experts: el procesamiento se distribuye entre expertos especializados y se activan selectivamente los correspondientes a cada token.

Explicación técnica: los parámetros activos representan los componentes que participan en el procesamiento de cada token, no el tamaño total del modelo. Los pesos de los expertos y los restantes componentes deben estar disponibles durante la ejecución. Por eso, los requisitos de memoria y almacenamiento no equivalen a los de un modelo denso de 1,5B.

Campo Valor verificado
Bloques (capas) 24
Dimensión oculta 2048
Cabezas de atención 32
Cabezas KV 8
Expertos totales 32
Expertos enrutados por token 4
Capas densas/compartidas 2
Dimensión intermedia MoE 1,792
Dimensión intermedia base 7,168
Longitud de contexto 128,000 tokens
Vocabulario 128,000 tokens

Parámetros y configuración

Campo Información verificada
Producto Nova Flow
Marca Moderno Tech
Familia Nova AI
Archivo principal (BF16) model.safetensors
Formato de distribución principal GGUF (IQ2_XXS, IQ2_M, IQ3_XXS, Q4_K_M)
Tamaño (BF16) 16,936,006,912 bytes
Parámetros totales Aproximadamente 8,3B
Parámetros activos por token Aproximadamente 1,5B
Contexto máximo documentado Hasta 128,000 tokens
Licencia original LFM Open License v1.0

Versiones GGUF disponibles

Nova Flow también se distribuye en formato GGUF, listo para utilizar en los principales motores de inferencia local (llama.cpp, Ollama, LM Studio, entre otros).

Los archivos GGUF contienen los pesos rebrandeados bajo la identidad Nova Flow y están disponibles para descarga directa.

Variante Tamaño Enlace de descarga
Nova-Flow-2.0-IQ2_XXS.gguf 2.32 GB Descargar
Nova-Flow-2.0-IQ2_M.gguf 2.84 GB Descargar
Nova-Flow-2.0-IQ3_XXS.gguf 3.33 GB Descargar
Nova-Flow-2.0-Q4_K_M.gguf 5.16 GB Descargar

La variante Q4_K_M es la recomendada para un equilibrio entre calidad y tamaño. Las variantes IQ2_XXS y IQ2_M priorizan el tamaño mínimo y el bajo consumo de memoria.

Uso con Ollama

ollama run hf.co/ModernoTech/Nova-Flow:Q4_K_M

Uso con LM Studio

Abrir el archivo GGUF directamente desde LM Studio. El tokenizer y la arquitectura se reconocen automáticamente.

Uso con llama.cpp

llama-cli -hf ModernoTech/Nova-Flow -c 4096 --temp 0.7 --top-p 0.9 --top-k 40

O cargar el archivo local:

llama-cli -m Nova-Flow-2.0-Q4_K_M.gguf -c 4096

Consideraciones

  • El BF16 original (model.safetensors) se conserva en el repositorio.
  • La activación selectiva de MoE no reduce el almacenamiento requerido: los pesos completos deben estar disponibles.
  • Los requisitos reales de memoria dependen del runtime, el contexto y la cuantización seleccionada.

Su lugar dentro de la familia Nova

Nova Flow representa una línea de desarrollo arquitectónico diferente dentro de la familia Nova AI. Mientras Nano, Mini y Spark priorizan modelos compactos destinados a la ejecución local en dispositivos personales, Flow utiliza una arquitectura Mixture of Experts.

Nova Flow explora una forma diferente de construir modelos de IA eficientes: disponer de una capacidad total elevada y activar selectivamente los expertos necesarios para cada token.

Es una alternativa destinada a escenarios donde se busca mayor capacidad y se dispone de infraestructura local suficiente para ejecutar una arquitectura MoE.

No prometer que Flow puede funcionar en cualquier teléfono ni que tiene los requisitos de memoria de un modelo Dense de 1,5B.

Comparativa interna de la familia Nova

Modelo Parámetros Arquitectura Objetivo
Nova Nano 350M Arquitectura híbrida (conv + atención) IA local ultracompacta
Nova Mini 0,6B Transformer denso Equilibrio entre capacidad y eficiencia
Nova Spark 0,8B Arquitectura híbrida (atención + SSM) Mayor capacidad compacta
Nova Flow ~8B / ~1,5B activos Mixture of Experts Capacidad total y activación selectiva

¿Qué Nova elegir?

  • Nano: cuando la prioridad sea el tamaño mínimo y la utilización de pocos recursos.
  • Mini: cuando se busque equilibrio entre capacidad y eficiencia.
  • Spark: cuando se necesite un modelo compacto de propósito general.
  • Flow: cuando se busque una arquitectura MoE con mayor capacidad total y activación selectiva.

Requisitos y consideraciones de ejecución

El consumo real depende del runtime, el contexto y la configuración. Evaluar RAM y almacenamiento disponible antes de la ejecución. Los pesos completos deben estar disponibles durante la ejecución.

Instalación y utilización

python -c "
from transformers import AutoModelForCausalLM, AutoTokenizer
model = AutoModelForCausalLM.from_pretrained('ModernoTech/Nova-Flow', trust_remote_code=True)
tokenizer = AutoTokenizer.from_pretrained('ModernoTech/Nova-Flow', trust_remote_code=True)
"

La compatibilidad exacta depende de la versión de Transformers y del hardware disponible. La configuración, generation_config, tokenizer y chat template se encuentran en el mismo repositorio.

Limitaciones

  • Capacidad y rendimiento deben validarse con el runtime y hardware disponibles.
  • Los pesos completos deben estar disponibles durante la ejecución; la activación selectiva no reduce el almacenamiento requerido.
  • No se publican benchmarks propios verificables; cualquier comparación debe realizarse con pruebas comparables.
  • No se garantiza compatibilidad universal sin prueba.

Moderno Tech

NOVA AI

Desarrollado y distribuido bajo la identidad de:

MODERNO TECH

Sitio oficial: https://moderno.com.ar

Inteligencia que evoluciona. Tecnología que transforma.

Downloads last month
848
GGUF
Model size
8B params
Architecture
l
Hardware compatibility
Log In to add your hardware

2-bit

3-bit

4-bit

Inference Providers NEW
This model isn't deployed by any Inference Provider. 🙋 Ask for provider support

Space using ModernoTech/Nova-Flow 1