HPE y NVIDIA anunciaron una nueva solución de supercomputación para IA generativa. La solución está diseñada para ayudar a las grandes empresas, las instituciones de investigación y las organizaciones gubernamentales a acelerar el entrenamiento y la optimización de los modelos de IA que utilizan conjuntos de datos privados.
La solución integra software IA/ML, hardware, interconexión y otros servicios para proporcionar a los clientes todo lo que necesitan para implementar la IA generativa a escala. El software de la solución incluye herramientas para entrenar, perfeccionar y desarrollar aplicaciones de IA generativa. El hardware incluye una supercomputadora con enfriamiento líquido, computación acelerada, interconexión y almacenamiento.
La solución se basa en la arquitectura de supercomputación HPE Cray, que está basada en la misma arquitectura que se utiliza en la supercomputadora más rápida del mundo.También incorpora el Superchip NVIDIA GH200 Grace Hopper.
Esta combinación de software y hardware proporciona a los clientes la escala y el rendimiento que se requieren para las grandes cargas de trabajo de IA generativa. Por ejemplo, el modelo de código abierto Llama 2 con 70.000 millones de parámetros se optimizó en menos de 3 minutos utilizando el entorno de desarrollo de aprendizaje automático de HPE en este sistema.
La solución también es eficiente desde el punto de vista energético.Las avanzadas capacidades de supercomputación de HPE, soportadas por la tecnología de NVIDIA, duplican o triplican el rendimiento del sistema sin aumentar el consumo de energía.
Esta solución es un paso importante en el desarrollo de la IA generativa.Proporciona a las empresas y organizaciones los recursos que necesitan para implementar esta tecnología a escala y acelerar la innovación.
Beneficios de la solución
Los beneficios de la solución HPE y NVIDIA para IA generativa incluyen:Acelera el entrenamiento y la optimización de los modelos de IA generativaProporciona escala y rendimiento para las grandes cargas de trabajo de IAEs eficientes desde el punto de vista energética Aplicaciones potenciales
La solución HPE y NVIDIA para IA generativa tiene el potencial de ser utilizada en una amplia gama de aplicaciones, incluyendo:
Descubrimiento de fármacos Ingeniería de materiales Creación de contenido creativo Análisis de datos Esta solución es una herramienta valiosa para las empresas y organizaciones que buscan aprovechar el poder de la IA generativa.
En esta nota
Hewlett Packard Enterprise