es.wedoany.com Noticia: GitHub, con sede en Estados Unidos, ha incorporado en su plataforma funciones que permiten ver el uso y los costos de la IA por usuario, tarea y unidad organizativa, con el objetivo de abordar el aumento del consumo de tokens y las necesidades de gestión de uso que las empresas enfrentan debido a la proliferación de agentes de IA.

Con la popularización de los agentes de Inteligencia Artificial (IA), el consumo de tokens en las empresas ha aumentado, y la demanda de funciones que permitan gestionar simultáneamente el uso, los costos y el retorno de la inversión (ROI) sigue creciendo. GitHub ya ha lanzado funciones relacionadas que permiten a los administradores monitorear el uso de la IA desde diferentes dimensiones. Esto se da en un contexto donde los agentes de codificación están migrando hacia modelos de facturación basados en el uso, y las empresas necesitan establecer límites de uso de tokens de API y conocer los costos en tiempo real. El 19, GitHub añadió el campo "ai_credits_used" en la API de métricas de uso de Copilot (Copilot Usage Metrics API), que muestra el consumo de créditos de IA de cada usuario.

Este campo muestra el total de créditos de IA consumidos por un usuario en un día, abarcando el consumo de créditos en todas las actividades de Copilot, como el chat y la generación de código. Esta función está disponible para informes de empresas y unidades organizativas. Los administradores pueden consultar el consumo de créditos de IA de cada usuario a través de informes de 1 día (users-1-day) y 28 días (users-28-day), y gestionar los costos en función del sistema de facturación basado en el uso. Analizando los patrones diarios de consumo de créditos de IA, es posible predecir la escala de costos futuros y elaborar planes presupuestarios. Mario Rodríguez, director de producto (CPO) de GitHub, declaró recientemente en un seminario web que su objetivo no es que los desarrolladores consuman grandes cantidades de tokens de API sin condiciones, sino transformar la intención del desarrollador en software confiable.

Rodríguez, CPO, propuso la estrategia de modelos locales y el enrutamiento automático de modelos como soluciones de optimización de costos. Explicó que no se deben utilizar modelos de IA de vanguardia en todas las tareas, sino que se debe elegir el modelo adecuado según la dificultad y el propósito de la tarea. GitHub está impulsando un enfoque que no aplica modelos de alto rendimiento a todas las tareas, sino que despliega adecuadamente modelos locales, modelos de bajo costo y modelos de vanguardia. Rodríguez, CPO, también expresó su apoyo al método BYOK (Bring Your Own Key), que permite a los desarrolladores usar sus propias claves para utilizar modelos. GitHub está apoyando el uso conjunto de Copilot con modelos externos a través de proveedores de modelos locales como Ollama.

La razón por la que Rodríguez, CPO, impulsa esta estrategia radica en la confianza en la plataforma, la gobernanza y el ROI. Solo cuando las empresas puedan predecir y controlar el uso y los costos de la IA podrán aplicar herramientas de codificación de IA en entornos de desarrollo a gran escala. Anteriormente, OpenAI también lanzó funciones de análisis de uso de créditos y controles de gastos actualizados para los usuarios de ChatGPT Enterprise, integrando la información de uso de ChatGPT y Codex en la consola de administración global. Los administradores pueden desglosar el consumo de créditos por usuario, producto y modelo. A principios de este año, OpenAI ya introdujo la función de establecer límites de uso de créditos por roles personalizados, y ahora ha ampliado aún más las funciones de control de gastos a nivel de unidad organizativa. Rodríguez, CPO, enfatizó que la aplicación GitHub Copilot no es solo una herramienta de escritura de código, sino un sistema de ingeniería nativo de IA; en el futuro, el rol del desarrollador ya no será escribir cada línea de código personalmente, sino establecer objetivos, verificar los resultados generados por los agentes de IA y gestionar la calidad y la arquitectura.

Este artículo es compilado por Wedoany, las citas de la IA deben indicar la fuente «Wedoany»; si hay alguna infracción u otro problema, por favor notifícanos a tiempo, este sitio lo modificará o eliminará. Correo electrónico: news@wedoany.com