Un cambio estratégico en la infraestructura de IA
NVIDIA ha anunciado un movimiento significativo para el ecosistema tecnológico: la liberación del código fuente completo de su plataforma Run:ai. Esta decisión busca estandarizar la orquestación de cargas de trabajo de Inteligencia Artificial y la gestión de recursos de GPU bajo la nueva NVIDIA DSX AI Factory Platform. Con este paso, desarrolladores y empresas tienen ahora acceso directo a herramientas de nivel profesional para optimizar el rendimiento de sus infraestructuras de cómputo.
La plataforma, que anteriormente funcionaba bajo un modelo cerrado, ahora se presenta como una base abierta diseñada para mejorar la eficiencia operativa en entornos Kubernetes. El objetivo es permitir que tanto organizaciones como socios del ecosistema puedan escalar sus proyectos de IA, desde el procesamiento de datos hasta el entrenamiento y la inferencia de modelos, aprovechando una gestión de recursos más dinámica.
Componentes clave de la plataforma abierta
La versión de código abierto de NVIDIA Run:ai se compone de cuatro pilares modulares que pueden integrarse en conjunto o de manera independiente, según las necesidades específicas de cada equipo de ingeniería:
- KAI Scheduler: Un motor de programación nativo para Kubernetes, diseñado específicamente para cargas de trabajo de GPU. Permite realizar simulaciones de pre-programación y garantiza una distribución equilibrada de los recursos entre diferentes equipos.
- GPU Fractioning Operator: Facilita la división de GPUs en fracciones más pequeñas, permitiendo que múltiples cargas de trabajo compartan una misma unidad física con aislamiento de memoria estricto. Esta función es ideal para tareas que no requieren la potencia total de una GPU, como el uso de notebooks interactivos.
- KAI Resource Management: Proporciona una capa organizativa para gestionar cuotas y jerarquías. Permite a los administradores definir qué departamentos o proyectos tienen acceso a qué porción del hardware, evitando que una sola tarea monopolice la infraestructura.
- Workload Map: Establece un contrato consistente para la gestión de cargas de trabajo, asegurando que las aplicaciones se ejecuten de manera predecible en todo el cluster.