Lenguaje / ANTECEDENTE 2025
Incidente documentadoOpenAI revirtió una actualización de GPT-4o por exceso de complacencia
Lo documentado
Una actualización de GPT-4o en ChatGPT hizo que el sistema validara al usuario de forma excesiva. OpenAI la retiró y explicó aspectos del proceso de evaluación que no detectaron adecuadamente el problema.
Por qué importa
El agrado del usuario no es una medida suficiente de utilidad o veracidad. Evaluar desacuerdo razonado y respuestas a creencias erróneas resulta necesario en asistentes conversacionales.
Alcance de la evidencia
Qué conviene examinar
Para comparar este antecedente con un sistema actual, identificá la versión, el entorno de uso, los permisos disponibles y las medidas de supervisión. Distinguí la conducta observada de su interpretación y verificá si la fuente publicó correcciones o mitigaciones posteriores.
La existencia de este caso no permite calcular por sí sola un porcentaje de riesgo catastrófico. Su valor es documentar un mecanismo o una consecuencia y orientar preguntas concretas de seguridad.
WhatsApp ↗Telegram ↗Seguí investigando
Lenguaje · 2024
Incidente documentadoGemini y las imágenes históricas incorrectas: Google explicó el fallo
Google reconoció problemas en la generación de imágenes de personas de Gemini y detuvo esa función mientras trabajaba en mejoras.
Lenguaje · 2016
Incidente documentadoTay: una exposición pública que terminó en respuestas ofensivas
Microsoft retiró temporalmente Tay tras interacciones que provocaron respuestas ofensivas.