Nuevas GPU de Nvidia para inferencia y cargas de trabajo intensivas de IA
Nvidia ha anunciado una nueva generación de unidades de procesamiento gráfico (GPU) orientadas a optimizar la inferencia de inteligencia artificial (IA) y la gestión de cargas de trabajo computacionales de gran escala. El lanzamiento, realizado en Computex 2024, refuerza la posición de Nvidia como proveedor clave de soluciones para desarrolladores y centros de datos que impulsan aplicaciones avanzadas de IA generativa y aprendizaje automático.
Presentación de las GPU Nvidia HGX H200 NVL y L40S
Uno de los anuncios más destacados es la introducción de la Nvidia HGX H200 NVL, una plataforma de alto rendimiento basada en la arquitectura Hopper. Esta GPU está optimizada para procesos de inferencia, capaz de gestionar modelos de lenguaje a gran escala con alta eficiencia energética. Junto a ella, Nvidia lanzó la GPU L40S, pensada específicamente para cargas mixtas de IA y renderizado gráfico, lo que la convierte en una opción atractiva para entornos de IA y procesamiento visual en entornos empresariales.
- HGX H200 NVL: Soporta hasta 141 GB de memoria HBM3e y ofrece un ancho de banda ampliado de hasta 4,8 TB/s.
- L40S: Basada en la arquitectura Ada Lovelace, adecuada para IA generativa y visualización avanzada.
Ambas soluciones multiplican el rendimiento en tareas de inferencia respecto a generaciones anteriores, permitiendo mayor densidad y eficiencia en los despliegues de centros de datos.
Enfoque en la inferencia y despliegues de IA generativa
La demanda de hardware especializado para la inferencia de IA sigue creciendo a medida que empresas de todos los sectores integran modelos avanzados como GPT, Llama y otros tipos de IA generativa en sus operaciones. Nvidia destaca que sus nuevas plataformas acelerarán este tipo de cargas, permitiendo a organizaciones entrenar y ejecutar modelos a escala con menor consumo energético y menor latencia.
Según Network World, compañías como Microsoft, AWS y Google ya están adoptando nuevas arquitecturas de Nvidia en sus servicios en la nube para responder a la demanda de IA industrial.
Integración en los principales proveedores cloud
Nvidia anticipa que sus GPU HGX H200 NVL y L40S estarán disponibles durante el segundo semestre de 2024 en las principales plataformas cloud del mercado, incluyendo Amazon Web Services (AWS), Google Cloud y Microsoft Azure. La colaboración con los principales actores cloud permitirá a desarrolladores y departamentos de TI desplegar modelos de IA generativa, análisis de datos y simulación a mayor escala y con una disponibilidad global.
Para más información sobre hardware avanzado para IA, puede consultar recursos adicionales en la web de Nvidia.
