Privacidad / ANTECEDENTE 2023
Incidente documentadoUn error de software expuso datos entre usuarios de ChatGPT
Lo documentado
OpenAI informó que un error en una biblioteca utilizada por su servicio permitió a algunos usuarios ver títulos de conversaciones ajenas y afectó información de pago de un subconjunto de suscriptores.
Por qué importa
La seguridad de un producto de IA incluye bibliotecas, cachés e infraestructura convencional. No todos los fallos nacen del modelo ni pueden corregirse cambiando sus instrucciones.
Alcance de la evidencia
Qué conviene examinar
Para comparar este antecedente con un sistema actual, identificá la versión, el entorno de uso, los permisos disponibles y las medidas de supervisión. Distinguí la conducta observada de su interpretación y verificá si la fuente publicó correcciones o mitigaciones posteriores.
La existencia de este caso no permite calcular por sí sola un porcentaje de riesgo catastrófico. Su valor es documentar un mecanismo o una consecuencia y orientar preguntas concretas de seguridad.
WhatsApp ↗Telegram ↗Seguí investigando
Privacidad · 2020
ExperimentoInvestigadores recuperaron fragmentos del entrenamiento de GPT-2
Un trabajo demostró la extracción de cientos de secuencias literales del conjunto de entrenamiento de GPT-2 mediante consultas al modelo.
Privacidad · 2018
ExperimentoLa memorización involuntaria como riesgo para información sensible
The Secret Sharer propuso una metodología para medir si redes generativas memorizan secuencias raras o únicas presentes en sus datos de entrenamiento.