La startup francesa de IA ZML lanza un software LLM compatible con múltiples chips

es.wedoany.com Noticia: La startup francesa de IA ZML, respaldada por el ganador del Premio Turing Yann LeCun, ha lanzado un software llamado ZML/LLMD que permite que varios modelos de lenguaje grandes de código abierto se ejecuten en diferentes chips, incluyendo los de Nvidia, AMD, Google TPU, Apple Metal e Intel Arc, con el objetivo de romper el dominio de Nvidia en el mercado de chips de IA. El fundador de ZML, Steeve Morin, declaró a TechCrunch que el software, que funciona como servidor de inferencia LLM, busca ofrecer a empresas y proveedores de servicios en la nube la opción de utilizar chips híbridos, incluidos aquellos más baratos o más eficientes energéticamente, reduciendo así los costos relacionados con la IA e impulsando su implementación a gran escala.

Morin mantiene una postura neutral hacia Nvidia, reconociendo que ZML tiene una buena relación con la empresa y señalando que esta última se está preparando para la creciente demanda de inferencia, una tendencia denominada "fiebre del oro de la inferencia". ZML/LLMD no es un producto de código abierto, pero se publica de forma gratuita con el fin de estudiar los patrones de uso. Morin planea primero medir el mercado y luego generar ingresos de la manera más efectiva. Anteriormente, Morin fue vicepresidente de ingeniería en Zenly, que fue adquirida por Snapchat en 2017 por nueve cifras en dólares. Con estos antecedentes, recaudó 20 millones de dólares de varias firmas de capital de riesgo, incluyendo Harry Stebbings’ 20VC, >commit, AALVC, Drysdale Ventures, Xavier Niel’s Kima Ventures, Kindred Capital, LocalGlobe y Puzzle Ventures. La lista de accionistas también incluye a otros fundadores de startups, como Solomon Hykes, fundador de Dagger y Docker, así como Clément Delangue y Julien Chaumond de Hugging Face.

Esta startup con sede en París cuenta con un equipo de 20 personas, y Morin atribuye su rápida acción al equipo reducido. Morin enfatiza que las startups europeas de IA pueden prosperar localmente, y menciona especialmente a fabricantes emergentes de chips de IA como Axelera, Fractile, Kalray, OLIX, Q.ANT, SiPearl, SpiNNcloud y VSORA. Considera que la colaboración de ZML con estos fabricantes podría crear "algo nunca antes visto en el mundo". En el ámbito de la inferencia, ZML se enfrenta a competidores como Baseten, valorada en 13 mil millones de dólares, Inferact, formada por los creadores del proyecto de código abierto vLLM, y RadixArk, la empresa comercial detrás de SGLang. Morin afirma que las ambiciones de ZML abarcan un alcance más amplio, llegando al punto de "codiseñar chips".

Actualmente, el cronograma de productos de pago de ZML/LLMD y su posterior adopción aún no están claros, pero con el respaldo de los inversores y la base del equipo, ZML tiene el potencial de cambiar el panorama competitivo de la industria de chips de IA.