LATIDIA · Investigación

Los agentes de IA están aprendiendo a mejorar su propio software. La clave puede estar en predecir sus errores antes de cometerlos

En el desarrollo de software, cambiar algo para mejorarlo siempre abre la posibilidad de estropear otra cosa. Hasta un ajuste pequeño puede alterar el comportamiento de un programa, de modo que proponer una modificación

La noticia

En el desarrollo de software, cambiar algo para mejorarlo siempre abre la posibilidad de estropear otra cosa. Hasta un ajuste pequeño puede alterar el comportamiento de un programa, de modo que proponer una modificación y demostrar que funciona son dos trabajos distintos. Ahora traslademos ese dilema a los agentes de inteligencia artificial capaces de intervenir en el código y las instrucciones que utilizan para resolver tareas. Pueden intentar perfeccionar sus propias herramientas, sí, pero cada intento plantea el mismo desafío: saber cuándo una modificación merece la pena y cuándo puede introducir un problema que antes no existía. El desafío de mejorar sin fallar. Un equipo de investigadores de la Universidad