es.wedoany.com Noticia: GUNNIR probó el rendimiento de inferencia de la GPU Intel Arc Pro B70 en el modelo DeepSeek R1. Los resultados muestran que, en escenarios de alta concurrencia, el rendimiento de tokens de esta tarjeta gráfica supera al de las NVIDIA RTX 5090D y RTX 4090D.
La prueba utilizó una configuración de cuatro tarjetas gráficas en paralelo, comparando los modelos Intel Arc Pro B70 de 32 GB, NVIDIA RTX 5090D de 32 GB y RTX 4090D de 24 GB. El modelo de prueba fue DeepSeek R1-Distill Qwen 32B FP16, con una longitud fija de entrada/salida de 128 tokens y un rango de concurrencia de 1 a 512. El indicador principal fue el rendimiento en tokens/s, utilizado para medir la eficiencia de salida durante la inferencia de modelos de lenguaje grandes.
Con una concurrencia inferior a 32, la RTX 5090D ocupó el primer lugar, la RTX 4090D el segundo, y la Arc Pro B70 tuvo un rendimiento similar al de la RTX 4090D. Cuando la concurrencia aumentó a 32 y 64, la Arc Pro B70 igualó y superó a la RTX 4090D. Con una concurrencia de 128, el rendimiento de tokens de la Arc Pro B70 fue un 8,6 % superior al de la RTX 5090D y un 34,2 % superior al de la RTX 4090D. Al aumentar la concurrencia a 256, la ventaja de la Arc Pro B70 se amplió aún más, siendo un 7,5 % superior a la RTX 5090D y un 48,7 % superior a la RTX 4090D. Con una concurrencia de 512, también se observaron ventajas de rendimiento similares.
En esta ronda de pruebas, el rendimiento máximo de tokens de la GPU Intel Arc Pro B70 alcanzó los 2320,76 tokens por segundo.
