La infraestructura en la nube nativa de IA con bastidores Dell IR7000 totalmente integrados y refrigerados por líquido con computación acelerada NVIDIA Blackwell optimiza la capacitación a gran escala y la inferencia de modelos de razonamiento de IA
13 De marzo de 2025 —
Juntos, AI se está asociando con Dell Technologies para escalar su plataforma en la nube de IA. Esta colaboración integrará un sistema de alto rendimiento de extremo a extremo con computación avanzada y redes para impulsar la escalabilidad y la eficiencia de las empresas, startups e investigadores que construyen el futuro de la inteligencia artificial.
Esta colaboración aprovecha el Dell AI Factory con NVIDIA, entregado como unidades escalables refrigeradas por líquido optimizadas para tareas complejas de IA y HPC. Totalmente integrado IR7000 Dell racks con NVIDIA Blackwell aceleró la computación en el núcleo, con Dell Professional Services apoyando cada paso de la implementación para garantizar una entrega rápida y sin interrupciones.[i]
“Nuestros equipos trabajaron mano a mano con Together AI y NVIDIA para diseñar y entregar rápidamente sistemas de IA que proporcionarán las capacidades necesarias para impulsar la innovación de IA,” dijo Arthur Lewis, presidente de Infrastructure Solutions Group, Dell Technologies. “Together AI a la plataforma en la nube, respaldada por la infraestructura de Dell, establece el estándar para AI.” premium, escalable y eficiente
“El trabajo que estamos haciendo con Dell Technologies y NVIDIA subraya nuestro compromiso de acelerar los avances escalables impulsados por la IA en todo el mundo,” dijo Vipul Ved Prakash, CEO de Together AI. “Nuestra plataforma en la nube, combinada con el rendimiento y la confiabilidad de la infraestructura de Dell con la tecnología NVIDIA, proporcionará a los clientes la velocidad y la flexibilidad necesarias para la nueva ola de modelos de razonamiento de código abierto y la próxima era de superinteligencia
Infraestructura de IA de Alto Rendimiento
Los ingenieros de Dell y Together AIirs trabajaron estrechamente para construir un clúster de IA optimizado capaz de realizar tareas complejas de IA y HPC. Los bastidores Dell IR7000 totalmente integrados cuentan con servidores Dell PowerEdge XE9712, equipados con GB200 NVL72 NVIDIA plataforma, y XE9680 PowerEdge servidores, con HGX B200 NVIDIA plataforma.
El clúster también aprovecha NVIDIA NVLinkTM y NVIDIA Cuántico-2InfiniBanda para permitir la comunicación de alta velocidad y baja latencia entre GPU, asegurando una transferencia de datos eficiente para el entrenamiento de IA a gran escala y las cargas de trabajo de inferencia. Esta arquitectura minimiza los cuellos de botella, acelera la ejecución distribuida del modelo y permite una escala perfecta en múltiples nodos de GPU.
Entrenamiento Rápido y Rendimiento de Inferencia
Juntos, la infraestructura de AIirs, acelerada por Dell AI Factory con NVIDIA, respalda Together clusters de GPU y el Plataforma de Inferencia y Ajuste Fino Juntos para un entrenamiento rápido y rendimiento de inferencia. Juntos, AI ayuda a las empresas a implementar modelos de razonamiento avanzados que aprovechan la memoria de alto ancho de banda de las plataformas aceleradas NVIDIA Blackwell, NVLink para la eficiencia multi-GPU y Tensor Cores—key de precisión mixta para optimizar las arquitecturas Mixture of Experts comúnmente utilizadas por los modelos de razonamiento. Con las optimizaciones respaldadas por la investigación de Together AIra, incluidas FlashAttention-3, Speculative Decoding y Mixture of Agents, las empresas pueden acelerar el tiempo de comercialización de las aplicaciones de IA mientras mantienen una alta eficiencia operativa y confiabilidad. Dell Technologies News. Traducido al español
Contacto