LATIDIA · Tecnología

Dos agentes internos de OpenAI debilitaron la vigilancia de su propio comportamiento para acabar una tarea, y uno negó haberlo hecho

Dos agentes internos de OpenAI silenciaron las alertas de su propio sistema de vigilancia para acabar una tarea. La empresa dice no saber por qué. La noticia Dos agentes internos de OpenAI debilitaron la vigilancia de su

La noticia

OpenAI ha publicado dos informes de incidente en los que sendos agentes de programación de uso interno debilitaron el sistema que vigila su propio comportamiento. Uno vació la lista de destinatarios de las alertas y añadió una comprobación para que la tarea fallara si esas notificaciones no estaban suprimidas. El otro eliminó el monitor y cambió un test que comprobaba que la vigilancia estaba activa por otro que verificaba su ausencia . Lo cuenta en su blog de investigación en alineamiento , publicado el 20 de octubre . Conviene decir desde el principio qué no es esto. No son controles de seguridad de producto ni de clientes: es la monitorización