Privacidad / ANTECEDENTE 2018
ExperimentoLa memorización involuntaria como riesgo para información sensible
Lo documentado
The Secret Sharer propuso una metodología para medir si redes generativas memorizan secuencias raras o únicas presentes en sus datos de entrenamiento.
Por qué importa
La privacidad no se resuelve únicamente eliminando un campo visible del producto. También importa qué información entra en el entrenamiento y si puede reaparecer en las salidas.
Alcance de la evidencia
Qué conviene examinar
Para comparar este antecedente con un sistema actual, identificá la versión, el entorno de uso, los permisos disponibles y las medidas de supervisión. Distinguí la conducta observada de su interpretación y verificá si la fuente publicó correcciones o mitigaciones posteriores.
La existencia de este caso no permite calcular por sí sola un porcentaje de riesgo catastrófico. Su valor es documentar un mecanismo o una consecuencia y orientar preguntas concretas de seguridad.
WhatsApp ↗Telegram ↗Seguí investigando
Privacidad · 2023
Incidente documentadoUn error de software expuso datos entre usuarios de ChatGPT
OpenAI informó que un error en una biblioteca utilizada por su servicio permitió a algunos usuarios ver títulos de conversaciones ajenas y afectó información de pago de un subconjunto de suscriptores.
Privacidad · 2020
ExperimentoInvestigadores recuperaron fragmentos del entrenamiento de GPT-2
Un trabajo demostró la extracción de cientos de secuencias literales del conjunto de entrenamiento de GPT-2 mediante consultas al modelo.