Nvidia no es la única empresa que fabrica aceleradores de IA para entrenamiento e inferencia, es un área en la que Intel también compite ferozmente y supera con su tecnología Intel Gaudi 2, según una nueva investigación. Databricks realizó un nuevo estudio publicado hoy que revela que Intel Gaudi 2 ofrece una fuerte competencia de rendimiento contra los aceleradores de IA líderes en la industria de Nvidia. La investigación de Databricks reveló que para la instancia de lenguaje grande (LLM), Gaudi 2 igualó la latencia de los sistemas Nvidia H100 en decodificación y superó a la Nvidia A100. El estudio encontró que el procesador Gaudi 2 logra una mayor utilización del ancho de banda de la memoria que el H100 y el A100. Nvidia sigue ofreciendo rendimiento de entrenamiento con sus aceleradores de primera línea. Utilizando la fábrica Databricks MosaicML LLM para capacitación, los investigadores descubrieron que Gaudi 2 logró el segundo rendimiento de capacitación LLM de nodo único más rápido después de NVIDIA H100, con más de 260 TFLOPS/chip. En general, el estudio de Databricks informó que, según el valor general de la nube, Gaud i2 tiene la mejor relación dólar por rendimiento tanto para entrenamiento como para inferencia en comparación con el A100 y el H100. Intel proporciona los resultados de sus pruebas en Gaudi 2 a través del punto de referencia MLcommons MLperf tanto para entrenamiento como para inferencia. Nuevos datos de Databricks, un tercero, proporcionan una verificación adicional para Intel sobre el rendimiento de su tecnología Gaudí.
Estudio completo: el estudio de Databricks confirma que Gaudí de Intel supera a Nvidia en cuanto a rendimiento de precios para aceleradores de IA.
