Explore las últimas innovaciones en estructura de red para el entrenamiento, la inferencia y la generación aumentada de recuperación de modelos de IA.
Conectados para la IA: lecciones de la creación de redes en centros de datos y nubes con más de 100 000 GPU [S71145]
Gilad Shainer | Vicepresidente sénior de redes | NVIDIA
Pedro Salanki | CTO | Tejido central
Jeff Drehobl | Ingeniero sénior de desarrollo de redes | X
Nidhi Chappell | Vicepresidenta de Infraestructura de IA de Azure | Microsoft
Pradeep Vincent | Vicepresidente sénior y arquitecto técnico jefe de Oracle Cloud Infrastructure | Oracle
Omar Baldonado | Director de Redes DC | MetaA medida que la IA continúa evolucionando, la necesidad de una potencia computacional masiva ha llevado al desarrollo de algunos de los centros de datos basados en GPU más grandes del mundo. Estos centros están a la vanguardia del entrenamiento de modelos de lenguaje grandes (LLM) con billones de parámetros, lo que amplía los límites de lo que la IA puede lograr. En esta sesión, los principales centros de datos de IA en la nube se reunirán para compartir nuestras experiencias y conocimientos sobre la construcción e implementación de estos sistemas colosales. Profundizaremos en los desafíos únicos de la creación de redes a una escala tan masiva y cómo los superamos. Los asistentes obtendrán una comprensión profunda de las lecciones aprendidas en la ampliación de la infraestructura para respaldar la próxima generación de IA, desde las complejidades de conectar miles de GPU hasta las innovaciones necesarias para mantener el rendimiento y la confiabilidad a una escala sin precedentes.
Martes 18 de marzo | 20:00 – 21:00 -03
NVIDIA GTC. Traducido al español