Contáctanos

Contáctanos

Gaudi 3 y Xeon 6: Intel redefine el futuro del procesamiento para la IA

  24/09/2024

Intel ha anunciado finalmente el lanzamiento de su esperado acelerador de inteligencia artificial (IA), Gaudi 3, tras varios meses de anticipación. Con esta nueva oferta, Intel busca competir directamente con Nvidia en el sector de IA, ofreciendo una alternativa de código abierto. Además, la compañía ha presentado la sexta generación de sus procesadores Xeon, que incorpora versiones con núcleos diseñados tanto para eficiencia como para rendimiento.

El creciente interés de las empresas por desarrollar capacidades basadas en IA ha impulsado estas innovaciones. Según Intel, el 58% de los CEOs de empresas públicas están invirtiendo activamente en inteligencia artificial, y se prevé que el 80% de las compañías globales utilicen IA generativa para 2026. Sin embargo, este avance también plantea desafíos como la creciente demanda de capacidad de procesamiento, el elevado coste energético y la infraestructura necesaria. Para enfrentar estos retos, los nuevos procesadores Xeon y el acelerador Gaudi 3 prometen una mayor eficiencia energética y reducción de costos operativos.

Durante una presentación con medios, Marcelo Bertolami, director de Socios Regionales y del equipo de Tecnología para América Latina en Intel, destacó que la plataforma de IA de la compañía está diseñada para ser abierta, segura y sin costos adicionales, como pagos por licencias ocultas. Esta plataforma, explicó, aborda la necesidad de las empresas de procesar datos de forma segura y confidencial, permitiendo su tratamiento local y basado en CPU.

Procesadores Xeon 6: rendimiento y eficiencia

Intel presentó la sexta generación de procesadores Xeon con dos versiones: una orientada al rendimiento (P-cores) y otra a la eficiencia (E-cores). Los Xeon 6 con P-cores están diseñados para manejar cargas de trabajo computacionalmente intensivas y ofrecen el doble de rendimiento que sus predecesores. Estos procesadores duplican el número de núcleos por socket, mejoran el rendimiento por núcleo en un 20% y ofrecen un rendimiento por vatio 1.6 veces superior, lo que puede reducir los costos operativos hasta un 30%. Con capacidad para manejar hasta 288 núcleos, estos procesadores están equipados con aceleradores de IA integrados, como las Advanced Matrix Extensions (AMX), que mejoran el rendimiento en modelos de aprendizaje profundo como PyTorch y TensorFlow.

Por otro lado, los Xeon 6 con E-cores están diseñados para cargas de trabajo que requieren menor potencia computacional, como el almacenamiento y microservicios en la nube, y destacan por su eficiencia energética. Intel señala que esta versión es ideal para plataformas como SAP, que demandan escalabilidad y un bajo consumo energético, lo que ha permitido a empresas como NTT Data reducir su consumo de energía en un 40%, alineándose con su objetivo de cero emisiones para 2030.

Gaudi 3: La apuesta de Intel en IA Generativa

El acelerador Gaudi 3, disponible a partir del cuarto trimestre del año, se ha diseñado específicamente para IA generativa a gran escala. Equipado con 64 núcleos de procesamiento Tensor (TPC) y ocho motores de multiplicación de matrices (MME), Gaudi 3 acelera los cálculos de redes neuronales profundas. Además, cuenta con 128 GB de memoria HBMe2 y 24 puertos Ethernet de 200 Gb, lo que facilita la creación de redes escalables.

Intel ha posicionado Gaudi 3 como una opción competitiva frente a Nvidia, con la ventaja de ser parte de un ecosistema abierto y sin las restricciones del entorno cerrado de desarrollo CUDA. Compatible con PyTorch y modelos avanzados como transformers y diffusers de Hugging Face, Gaudi 3 también cuenta con la colaboración de IBM para desplegar este acelerador como servicio en la nube de IBM. Intel asegura que Gaudi 3 supera al actual acelerador líder de Nvidia, el H100, con un 1.09% más de rendimiento en inferencia y 1.8 veces más rendimiento por dólar en modelos como Llama 3 8B.

Soluciones de IA optimizadas y alianzas estratégicas

Junto con el lanzamiento de Gaudi 3, Intel presentó soluciones diseñadas para acelerar la adopción de IA generativa en empresas, facilitando la transición desde prototipos hasta sistemas listos para producción. Estas soluciones se construirán sobre la Open Platform Enterprise AI (OPEA) y serán compatibles con aplicaciones como Kubernetes y Red Hat OpenShift AI. Empresas como Denvr Dataworks ya están actualizando sus sistemas a Gaudi 3 para mejorar sus capacidades en entrenamiento, inferencia y servicios de modelos de IA.

Este lanzamiento refuerza el compromiso de Intel con la creación de plataformas tecnológicas abiertas y accesibles, proporcionando a las empresas herramientas avanzadas para la implementación de IA con mayor eficiencia y menores costos operativos.

En esta nota