Las instancias de GPU NVIDIA H100s Tensor Core ahora están disponibles globalmente en IBM Cloud
A pesar del creciente interés en la IA generativa, solo el 39 por ciento de las organizaciones encuestadas afirman que actualmente están implementando u operando IA generativa para la innovación y la investigación. Más de dos tercios (69 %) de las organizaciones esperan utilizar IA generativa para la innovación abierta para 2025, frente al 29 % en 2022.
Para ayudar a los clientes a adoptar la IA generativa, IBM está ampliando sus ofertas de computación de alto rendimiento (HPC), lo que brinda a las empresas más potencia y versatilidad para llevar a cabo investigaciones, innovaciones y transformaciones comerciales. Con la disponibilidad general de las instancias de GPU NVIDIA H100 Tensor Core en IBM Cloud, que presentamos en vista previa durante Think 2024 , las empresas tendrán acceso a una plataforma poderosa para aplicaciones de IA, incluido el entrenamiento de modelos de lenguaje extenso (LLM). Esta nueva GPU se suma a la línea existente de ofertas de computación acelerada de IBM Cloud para aprovechar durante cada etapa de la implementación de IA de una empresa.
Los clientes que buscan transformarse con IA pueden aplicar el estudio de IA Watsonx , el data lakehouse y el kit de herramientas de gobernanza de IBM incluso a las aplicaciones más exigentes y con mayor uso de recursos informáticos, lo que eleva el techo de la innovación, incluso en las industrias más reguladas.
La potencia de vanguardia
de NVIDIA H100 en IBM Cloud se basa en el trabajo de IBM para respaldar la inferencia y el entrenamiento de modelos de IA generativos. El año pasado, comenzamos a poner a disposición de los clientes las GPU NVIDIA A100 Tensor Core a través de IBM Cloud, lo que les brinda un inmenso margen de procesamiento para innovar con IA a través de nuestra plataforma watsonx o como GPUaaS para necesidades personalizadas.
La nueva GPU NVIDIA H100 Tensor Core lleva esta progresión un paso más allá, ya que, según informa NVIDIA , puede permitir un rendimiento de inferencia hasta 30 veces más rápido que el A100. Tiene el potencial de brindar a los clientes de IBM Cloud una variedad de capacidades de procesamiento y, al mismo tiempo, abordar el costo de la inferencia y el ajuste de IA en toda la empresa. Las empresas pueden comenzar a pequeña escala, entrenar modelos a pequeña escala, ajustar modelos o implementar aplicaciones como chatbots, búsqueda de lenguaje natural y usar herramientas de pronóstico con GPU NVIDIA L40S y L4 Tensor Core . A medida que aumentan sus necesidades, los clientes de IBM Cloud pueden ajustar su gasto en consecuencia y, eventualmente, aprovechar el H100 para los casos de uso de IA y HPC más exigentes.
Al ofrecer acceso directo a estas GPU NVIDIA en IBM Cloud, en VPC y en entornos Red Hat OpenShift administrados, estamos impulsando una transformación más sencilla para obtener una ventaja competitiva con IA generativa. En combinación con Watsonx para crear modelos de IA y gestionar la complejidad y la gobernanza de los datos, así como con nuestras herramientas para la seguridad, las empresas de todos los tamaños tienen el potencial de enfrentar los desafíos de escalar la IA.
¿Por qué IBM Cloud para IA y HPC?
IBM Cloud ofrece una plataforma integral para que las empresas creen aplicaciones de IA personalizadas, administren sus datos y respalden iniciativas de seguridad y cumplimiento.
- Privacidad de datos, seguridad y soporte de cumplimiento normativo. IBM Cloud aplica protocolos de seguridad de varios niveles diseñados para proteger los procesos de IA y HPC y evitar fugas de datos y problemas de privacidad de datos. También incluye controles integrados para establecer barreras de protección de datos e infraestructura para cargas de trabajo de IA.
- Gobernanza del modelo de IA. No es posible poner en funcionamiento la IA de manera eficiente sin un seguimiento integral del ciclo de vida de la IA mediante procesos automatizados para lograr claridad, monitoreo y catalogación. Basado en la plataforma de datos e IA de IBM® watsonx, watsonx.governance ayuda a dirigir y gestionar las actividades de IA de las organizaciones y las monitorea para verificar su calidad y su desviación. Los reguladores y auditores pueden obtener acceso a la documentación que brinda explicaciones sobre el comportamiento y las predicciones del modelo.
- Automatización de la implementación. IBM Cloud automatiza la implementación de aplicaciones basadas en IA para ayudar a abordar los tiempos y errores que podrían ocurrir con la configuración manual. También proporciona servicios esenciales como soluciones de gestión del ciclo de vida de IA, plataforma sin servidor, almacenamiento, seguridad y soluciones para ayudar a los clientes a monitorear su cumplimiento.
Las instancias de GPU NVIDIA H100 Tensor Core en IBM Cloud ya están disponibles en nuestras regiones multizona (MZR) en América del Norte, América Latina, Europa, Japón y Australia. IBM. R. B. Traducido al español
Contacto