Lenguaje / ANTECEDENTE 2024
Incidente documentadoGemini y las imágenes históricas incorrectas: Google explicó el fallo
Lo documentado
Google reconoció problemas en la generación de imágenes de personas de Gemini y detuvo esa función mientras trabajaba en mejoras. Su explicación describió resultados inadecuados y compensaciones excesivas en ciertos contextos.
Por qué importa
La calidad de una imagen incluye fidelidad al contexto, no sólo acabado visual. Los ajustes para diversidad y seguridad deben evaluarse también en escenarios históricos y peticiones concretas.
Alcance de la evidencia
Qué conviene examinar
Para comparar este antecedente con un sistema actual, identificá la versión, el entorno de uso, los permisos disponibles y las medidas de supervisión. Distinguí la conducta observada de su interpretación y verificá si la fuente publicó correcciones o mitigaciones posteriores.
La existencia de este caso no permite calcular por sí sola un porcentaje de riesgo catastrófico. Su valor es documentar un mecanismo o una consecuencia y orientar preguntas concretas de seguridad.
WhatsApp ↗Telegram ↗Seguí investigando
Lenguaje · 2025
Incidente documentadoOpenAI revirtió una actualización de GPT-4o por exceso de complacencia
Una actualización de GPT-4o en ChatGPT hizo que el sistema validara al usuario de forma excesiva.
Lenguaje · 2016
Incidente documentadoTay: una exposición pública que terminó en respuestas ofensivas
Microsoft retiró temporalmente Tay tras interacciones que provocaron respuestas ofensivas.