es.wedoany.com Noticia: La startup japonesa de inteligencia artificial Sakana AI ha creado un laboratorio de investigación sobre auto-mejora recursiva (Recursive Self-Improvement, RSI), cuyo objetivo es desarrollar sistemas de IA capaces de optimizar de forma autónoma su propio proceso de desarrollo, desde la arquitectura y el entrenamiento hasta la evaluación. En un artículo publicado con motivo de la creación del laboratorio, la empresa afirmó que se dedicará a desarrollar "arquitecturas abiertas y adaptativas" que puedan mejorarse a sí mismas de forma colaborativa.
La startup ha planificado cuatro fases para el RSI. La primera fase es la de "Modelos Nativos de Agentes" (Agent-Native Models), que consiste en desarrollar desde cero arquitecturas de IA y modelos del mundo para tareas abiertas de agentes, en lugar de las aplicaciones de chat tradicionales. La segunda fase es la de "El Científico de IA" (The AI Scientist), en la que los modelos llevarán a cabo investigaciones científicas de forma autónoma, abarcando todo el proceso, desde la concepción y la experimentación hasta la ampliación del conocimiento científico. La tercera fase, "Auto-mejora Recursiva", describe la transición del sistema hacia la capacidad de mejorar sus propios modelos y arquitecturas subyacentes; los agentes de IA deberían poder escribir, probar y verificar código por sí mismos, desencadenando así un ciclo autónomo de auto-optimización. Como objetivo a largo plazo, Sakana AI propone la "IA democratizada", argumentando que, mediante la auto-mejora recursiva y un uso más eficiente de los recursos computacionales, países, instituciones y empresas más pequeños también podrían desarrollar sistemas de IA potentes sin depender de los enormes centros de datos de las grandes empresas tecnológicas.
Sakana AI posiciona el RSI como una posible alternativa a la carrera armamentística de hardware entre los grandes laboratorios de IA, enfatizando que la auto-mejora recursiva debería poder lograrse mediante un "cálculo moderado y eficiente en términos de muestras". Sin embargo, sigue siendo dudoso si el RSI puede realmente eliminar la ventaja de los centros de datos a hiperescala, y esta idea no es nueva, ya que muchas incubadoras de IA ya están experimentando con el RSI. Sakana AI fue fundada en 2023 por ex investigadores de Google. El cofundador Llion Jones es uno de los autores del influyente artículo sobre transformadores "Attention Is All You Need", y David Ha ha trabajado en investigación en Google Brain y Stability AI. El nombre de la empresa significa "pez" en japonés, haciendo referencia al comportamiento colectivo y la inteligencia colectiva.
La creación del laboratorio RSI se produce en medio de un creciente debate sobre los riesgos de la IA auto-mejorable. Anthropic ya ha advertido sobre los riesgos de la IA que se desarrolla a sí misma y apoya una desaceleración coordinada del desarrollo de la IA de vanguardia. La propia Sakana AI enumera riesgos como que los ciclos evolutivos puedan desviarse de la distribución, que la automodificación pueda superar las pruebas de referencia pero fracasar en la práctica, y que los agentes puedan encontrar atajos no deseados. La empresa ha anunciado que publicará abiertamente sus resultados (incluyendo los negativos) y construirá ciclos de auto-mejora con mecanismos de seguridad verificables. El laboratorio, ubicado en Tokio, está actualmente contratando a Investigadores Científicos de Frontera (Frontier Research Scientists) e Ingenieros Centrales Avanzados (Advanced Core Engineers).
Este artículo es compilado por Wedoany, las citas de la IA deben indicar la fuente «Wedoany»; si hay alguna infracción u otro problema, por favor notifícanos a tiempo, este sitio lo modificará o eliminará. Correo electrónico: news@wedoany.com
