es.wedoany.com Noticia: La empresa de infraestructura de IA Neurometric AI ha lanzado una plataforma automatizada de ingeniería de tokens y ha anunciado que completó una ronda de financiación de 4 millones de dólares a principios de este año. La plataforma está diseñada para ayudar a las empresas a gestionar el coste y el rendimiento de las cargas de trabajo de los agentes.
Cuando las empresas pasan los agentes de IA de la fase experimental a la de producción, un solo flujo de trabajo puede generar decenas de llamadas a modelos. Muchas empresas siguen enviando cada tarea a un modelo de frontera (frontier model), incluso cuando un modelo más pequeño y económico puede lograr resultados iguales o mejores. Neurometric evalúa estas llamadas una por una, modifica las indicaciones (prompts) según sea necesario y enruta cada tarea al modelo más rentable que pueda cumplir con el umbral de rendimiento requerido; cuando no hay una opción adecuada, crea un modelo de lenguaje pequeño (small language model) construido específicamente para la tarea. Para cargas de trabajo simples y de alto volumen, la plataforma genera automáticamente modelos de lenguaje pequeños especializados para optimizar la velocidad y el coste de las tareas.
"En el último año, las empresas han demostrado que los agentes de IA pueden ejecutar tareas cada vez más complejas. Ahora necesitan demostrar que la economía de estos agentes sigue siendo viable cuando se ejecutan a gran escala", afirmó Rob May, CEO de Neurometric. "Cada llamada a un modelo también es una decisión de fijación de precios, y estas decisiones se acumulan a lo largo del flujo de trabajo del agente. La ingeniería de tokens ofrece a las empresas una forma de controlar los costes sin sacrificar la calidad".
Actualmente, las empresas dependen de pruebas manuales y soluciones puntuales individuales para decidir qué modelos deben manejar diferentes tareas de IA. A medida que nuevos modelos ingresan al mercado y cambian los precios, la velocidad y el rendimiento, estas elecciones pueden quedar obsoletas rápidamente. Neurometric integra en una sola plataforma el enrutamiento de modelos (model routing), la creación de modelos de lenguaje pequeños y el acceso a un mercado de modelos de lenguaje pequeños (SLM) preentrenados y específicos para tareas. Su Gestor de Puntos Finales de Tareas (Task Endpoint Manager) evalúa las solicitudes entrantes en función de datos de rendimiento y precios de modelos actualizados continuamente, y luego enruta cada tarea según los requisitos de precisión, coste y latencia del cliente. Cuando ningún modelo existente cumple con estos requisitos, su Creador Automático de SLM (Auto-SLM Creator) construye y proporciona un modelo de lenguaje pequeño para la tarea específica. El mercado de SLM de la plataforma también permite a los clientes acceder a modelos ya desarrollados para cargas de trabajo comunes y repetitivas.
En contactos iniciales con clientes, los modelos enrutados o creados a través de Neurometric han logrado una precisión hasta 20 puntos porcentuales superior a la de los modelos de frontera, al tiempo que reducen costes y latencia.
Neurometric completó una ronda de financiación de 4 millones de dólares a principios de este año, con la participación de Betaworks, ex-Ante, Everywhere.vc, Encoded, Vermillion, Abstraction y Mu Ventures, así como inversores ángeles como Jason Calacanis, copresentador de All-In Podcast, y Dharmesh Shah, CTO de Hubspot. Estos fondos se utilizarán para ampliar los equipos de ingeniería e investigación en IA, proporcionando más herramientas de optimización para su plataforma central.
Neurometric posiciona la ingeniería de tokens como una disciplina que decide cómo debe realizarse cada tarea en una carga de trabajo de IA en función de la calidad, el coste y la velocidad requeridos. A diferencia de la ingeniería de indicaciones (prompt engineering), que se centra en mejorar las instrucciones dadas al modelo, la ingeniería de tokens determina qué modelo debe recibir primero la tarea y si se debe crear un modelo más especializado para manejarla. Se espera que la demanda de esta capacidad crezca a medida que las empresas desplieguen más agentes de IA, los flujos de trabajo individuales generen más llamadas a modelos y el número de modelos disponibles siga aumentando. Actualmente, la plataforma ya está disponible en neurometric.ai, y la empresa tiene previsto reunirse con clientes, inversores y medios de comunicación durante la AI Engineer World's Fair, que se celebrará en San Francisco del 29 de junio al 2 de julio.
Este artículo es compilado por Wedoany, las citas de la IA deben indicar la fuente «Wedoany»; si hay alguna infracción u otro problema, por favor notifícanos a tiempo, este sitio lo modificará o eliminará. Correo electrónico: news@wedoany.com
