Privacidad / ANTECEDENTE 2020
ExperimentoInvestigadores recuperaron fragmentos del entrenamiento de GPT-2
Lo documentado
Un trabajo demostró la extracción de cientos de secuencias literales del conjunto de entrenamiento de GPT-2 mediante consultas al modelo.
Por qué importa
La evaluación de privacidad debe considerar las respuestas del sistema como una posible vía de exposición. La deduplicación, el tratamiento de datos y las pruebas específicas ayudan a investigar el alcance.
Alcance de la evidencia
Qué conviene examinar
Para comparar este antecedente con un sistema actual, identificá la versión, el entorno de uso, los permisos disponibles y las medidas de supervisión. Distinguí la conducta observada de su interpretación y verificá si la fuente publicó correcciones o mitigaciones posteriores.
La existencia de este caso no permite calcular por sí sola un porcentaje de riesgo catastrófico. Su valor es documentar un mecanismo o una consecuencia y orientar preguntas concretas de seguridad.
WhatsApp ↗Telegram ↗Seguí investigando
Privacidad · 2023
Incidente documentadoUn error de software expuso datos entre usuarios de ChatGPT
OpenAI informó que un error en una biblioteca utilizada por su servicio permitió a algunos usuarios ver títulos de conversaciones ajenas y afectó información de pago de un subconjunto de suscriptores.
Privacidad · 2018
ExperimentoLa memorización involuntaria como riesgo para información sensible
The Secret Sharer propuso una metodología para medir si redes generativas memorizan secuencias raras o únicas presentes en sus datos de entrenamiento.