NVIDIA presenta el nuevo superchip GB10, el proyecto DIGITS, la supercomputadora de inteligencia artificial más pequeña del mundo capaz de ejecutar modelos con 200B de parámetros
CES— NVIDIA presentó hoy NVIDIA ® Project DIGITS, una supercomputadora personal de IA que brinda a investigadores de IA, científicos de datos y estudiantes de todo el mundo acceso al poder de la plataforma NVIDIA Grace Blackwell.
El proyecto DIGITS presenta el nuevo superchip NVIDIA GB10 Grace Blackwell, que ofrece un petaflop de rendimiento informático de IA para crear prototipos, ajustar y ejecutar modelos de IA de gran tamaño.
Con Project DIGITS, los usuarios pueden desarrollar y ejecutar inferencias en modelos utilizando su propio sistema de escritorio y luego implementar sin problemas los modelos en una infraestructura acelerada de nube o centro de datos.
“La IA será una herramienta fundamental en todas las aplicaciones de todos los sectores. Con Project DIGITS, el superchip Grace Blackwell llega a millones de desarrolladores”, afirmó Jensen Huang, fundador y director ejecutivo de NVIDIA. “Colocar una supercomputadora de IA en los escritorios de cada científico de datos, investigador de IA y estudiante les permite participar y dar forma a la era de la IA”.
El superchip GB10 ofrece un petaflop de rendimiento de IA con eficiencia energética
El superchip GB10 es un sistema en un chip (SoC) basado en la arquitectura NVIDIA Grace Blackwell y ofrece hasta 1 petaflop de rendimiento de IA con precisión FP4.
GB10 cuenta con una GPU NVIDIA Blackwell con núcleos CUDA® de última generación y núcleos Tensor de quinta generación , conectados a través de una interconexión de chip a chip NVLink® -C2C a una CPU NVIDIA Grace™ de alto rendimiento, que incluye 20 núcleos de bajo consumo de energía construidos con la arquitectura Arm. MediaTek, líder del mercado en diseños de SoC basados en Arm, colaboró en el diseño de GB10, lo que contribuyó a su eficiencia energética, rendimiento y conectividad de primera clase.
El superchip GB10 permite que Project DIGITS ofrezca un rendimiento potente utilizando solo una toma de corriente estándar. Cada Project DIGITS cuenta con 128 GB de memoria unificada y coherente y hasta 4 TB de almacenamiento NVMe. Con la supercomputadora, los desarrolladores pueden ejecutar modelos de lenguaje de gran tamaño de hasta 200 mil millones de parámetros para potenciar la innovación en IA. Además, mediante la red NVIDIA ConnectX ® , se pueden conectar dos supercomputadoras de IA Project DIGITS para ejecutar modelos de hasta 405 mil millones de parámetros.
La supercomputación de inteligencia artificial de Grace Blackwell a su alcance
Con la arquitectura de Grace Blackwell, las empresas y los investigadores pueden crear prototipos, ajustar y probar modelos en sistemas locales del Proyecto DIGITS que ejecutan el sistema operativo NVIDIA DGX basado en Linux, y luego implementarlos sin problemas en NVIDIA DGX Cloud ™, instancias de nube aceleradas o infraestructura de centro de datos.
Esto permite a los desarrolladores crear prototipos de IA en Project DIGITS y luego escalarlos en la infraestructura de la nube o del centro de datos, utilizando la misma arquitectura Grace Blackwell y la plataforma de software NVIDIA AI Enterprise .
Los usuarios del proyecto DIGITS pueden acceder a una amplia biblioteca de software de IA de NVIDIA para experimentación y creación de prototipos, incluidos kits de desarrollo de software, herramientas de orquestación, marcos y modelos disponibles en el catálogo NVIDIA NGC y en el portal para desarrolladores de NVIDIA. Los desarrolladores pueden ajustar los modelos con el marco NVIDIA NeMo ™, acelerar la ciencia de datos con las bibliotecas NVIDIA RAPIDS ™ y ejecutar marcos comunes como PyTorch, Python y Jupyter Notebooks.
Para crear aplicaciones de IA con agentes, los usuarios también pueden aprovechar NVIDIA Blueprints y los microservicios NVIDIA NIM ™, que están disponibles para investigación, desarrollo y pruebas a través del Programa para desarrolladores de NVIDIA. Cuando las aplicaciones de IA están listas para pasar de los entornos de experimentación a los de producción, la licencia NVIDIA AI Enterprise proporciona seguridad, soporte y lanzamientos de productos de nivel empresarial del software de IA de NVIDIA.
Disponibilidad
El proyecto DIGITS estará disponible en mayo a través de NVIDIA y sus principales socios, a un precio inicial de 3000 USD. Regístrate para recibir notificaciones hoy mismo. NVIDIA News. Traducido al español
Contacto