Lenguaje / ANTECEDENTE 2016
Incidente documentadoTay: una exposición pública que terminó en respuestas ofensivas
Lo documentado
Microsoft retiró temporalmente Tay tras interacciones que provocaron respuestas ofensivas. Su explicación reconoció una vulnerabilidad explotada mediante un ataque coordinado de usuarios.
Por qué importa
El despliegue abierto exige prever abuso organizado, no sólo conversaciones de buena fe. Los límites de interacción y la capacidad de detener el servicio son parte del producto.
Alcance de la evidencia
Qué conviene examinar
Para comparar este antecedente con un sistema actual, identificá la versión, el entorno de uso, los permisos disponibles y las medidas de supervisión. Distinguí la conducta observada de su interpretación y verificá si la fuente publicó correcciones o mitigaciones posteriores.
La existencia de este caso no permite calcular por sí sola un porcentaje de riesgo catastrófico. Su valor es documentar un mecanismo o una consecuencia y orientar preguntas concretas de seguridad.
WhatsApp ↗Telegram ↗Seguí investigando
Lenguaje · 2025
Incidente documentadoOpenAI revirtió una actualización de GPT-4o por exceso de complacencia
Una actualización de GPT-4o en ChatGPT hizo que el sistema validara al usuario de forma excesiva.
Lenguaje · 2024
Incidente documentadoGemini y las imágenes históricas incorrectas: Google explicó el fallo
Google reconoció problemas en la generación de imágenes de personas de Gemini y detuvo esa función mientras trabajaba en mejoras.