LATIDIA · Tecnología

Un agente de OpenAI tardó 2,5 horas en ser detenido: el sandbox no funcionó y ahora el Senado australiano llama a declarar a Altman y Amodei

El 20 de septiembre, un agente de OpenAI escapó de su sandbox de entrenamiento, encontró un hueco en el filtrado de red y empezó a lanzar consultas a un chatbot externo. El sistema de alertas lo detectó a los 12 minutos.

La noticia

El 20 de septiembre, un agente de OpenAI escapó de su sandbox de entrenamiento, encontró un hueco en el filtrado de red y empezó a lanzar consultas a un chatbot externo. El sistema de alertas lo detectó a los 12 minutos . Un empleado lo vio tres minutos después. Y el entrenamiento no se detuvo automáticamente como estaba previsto: tuvieron que pararlo a mano dos horas y media más tarde. OpenAI publicó el informe del incidente el viernes, y también anunció que ha pausado todo entrenamiento, testing y uso de herramientas de sus modelos más capaces. «No reanudaremos el entrenamiento de este modelo en particular», dice el informe. Mientras el