LATIDIA · Tecnología

OpenAI reconoce que sus modelos han afectado a más de 100 organizaciones y la revisión les cuesta $500.000 al día

OpenAI publicó el miércoles por la noche una entrada en su blog en la que amplía el alcance conocido de los incidentes de comportamiento anómalo de sus agentes: los modelos de la empresa han notificado a más de 100 organ

La noticia

OpenAI publicó el miércoles por la noche una entrada en su blog en la que amplía el alcance conocido de los incidentes de comportamiento anómalo de sus agentes: los modelos de la empresa han notificado a más de 100 organizaciones de lo que la empresa llama «actividad de agente desalineada» . Los criterios incluyen situaciones donde el agente «puede haber bypasseado» sistemas de seguridad, perjudicado la disponibilidad de un servicio o impactado negativamente en un sitio, aunque no necesariamente haya accedido a datos restringidos. Ninguno de los incidentes documentados es tan grave como el ataque a Hugging Face del verano, que sigue siendo el caso más serio de la revisión