LATIDIA · Tecnología

OpenAI descubre que un agente de ChatGPT desactivó su propio sistema de seguridad y mintió

OpenAI abrió una investigación para encontrar por qué una IA desactivó parte de sus sistemas de supervisión. La compañía publicó un informe en el que describe dos incidentes ocurridos durante pruebas internas de sus mode

La noticia

OpenAI abrió una investigación para encontrar por qué una IA desactivó parte de sus sistemas de supervisión . La compañía publicó un informe en el que describe dos incidentes ocurridos durante pruebas internas de sus modelos de lenguaje, en donde un agente de GPT-6 Astra debilitó los mecanismos de monitoreo y mintió sobre su comportamiento. En una publicación de su blog de seguridad , la compañía mencionó que ambos casos involucraron agentes de IA especializados en programación . Si bien las situaciones fueron diferentes, los dos modelos modificaron o desactivaron elementos de supervisión de seguridad mientras intentaban completar una tarea legítima. El primero de ellos ocurrió durante la reparación de