NVIDIA libera el código fuente de su plataforma Run:ai para orquestar IA

Un cambio estratégico en la infraestructura de IA

NVIDIA ha anunciado un movimiento significativo para el ecosistema tecnológico: la liberación del código fuente completo de su plataforma Run:ai. Esta decisión busca estandarizar la orquestación de cargas de trabajo de Inteligencia Artificial y la gestión de recursos de GPU bajo la nueva NVIDIA DSX AI Factory Platform. Con este paso, desarrolladores y empresas tienen ahora acceso directo a herramientas de nivel profesional para optimizar el rendimiento de sus infraestructuras de cómputo.

La plataforma, que anteriormente funcionaba bajo un modelo cerrado, ahora se presenta como una base abierta diseñada para mejorar la eficiencia operativa en entornos Kubernetes. El objetivo es permitir que tanto organizaciones como socios del ecosistema puedan escalar sus proyectos de IA, desde el procesamiento de datos hasta el entrenamiento y la inferencia de modelos, aprovechando una gestión de recursos más dinámica.

Componentes clave de la plataforma abierta

La versión de código abierto de NVIDIA Run:ai se compone de cuatro pilares modulares que pueden integrarse en conjunto o de manera independiente, según las necesidades específicas de cada equipo de ingeniería:

• KAI Scheduler: Un motor de programación nativo para Kubernetes, diseñado específicamente para cargas de trabajo de GPU. Permite realizar simulaciones de pre-programación y garantiza una distribución equilibrada de los recursos entre diferentes equipos.
• GPU Fractioning Operator: Facilita la división de GPUs en fracciones más pequeñas, permitiendo que múltiples cargas de trabajo compartan una misma unidad física con aislamiento de memoria estricto. Esta función es ideal para tareas que no requieren la potencia total de una GPU, como el uso de notebooks interactivos.
• KAI Resource Management: Proporciona una capa organizativa para gestionar cuotas y jerarquías. Permite a los administradores definir qué departamentos o proyectos tienen acceso a qué porción del hardware, evitando que una sola tarea monopolice la infraestructura.
• Workload Map: Establece un contrato consistente para la gestión de cargas de trabajo, asegurando que las aplicaciones se ejecuten de manera predecible en todo el cluster.

Cómo adoptar esta tecnología

Existen dos vías principales para comenzar a utilizar estas herramientas. La primera es la implementación directa a través del repositorio oficial en GitHub, donde los equipos pueden inspeccionar el código y realizar contribuciones. También está disponible como un producto comunitario en NVIDIA NGC, que incluye un gráfico Helm para una instalación simplificada.

Por otro lado, diversos socios del ecosistema NVIDIA DSX ya están integrando estas capacidades en sus propias ofertas. Empresas como Crusoe, Mirantis, Nebius, OpenNebula, Rafay, Saturn Cloud, Spectro Cloud y vCluster han comenzado a incorporar Run:ai en sus servicios gestionados, permitiendo a los usuarios acceder a estas funciones sin necesidad de gestionar la infraestructura desde cero.

Consideraciones importantes

Es fundamental recordar que, al tratarse de un producto comunitario, el soporte técnico empresarial de NVIDIA no está incluido en las versiones de descarga gratuita. El uso de este software está sujeto a las licencias de código abierto correspondientes y a los términos específicos de NVIDIA para sus productos de IA. Para entornos que requieran soporte crítico y despliegues empresariales, NVIDIA mantiene sus opciones comerciales a través de sus canales habituales y marketplaces en la nube.

Fuente: NVIDIA Technical Blog.