HORIZONTE / OBSERVATORIO DE RIESGOS
Entender el riesgo.
Examinar la evidencia.
1.321 respuestas a esta pregunta
5% mediana de respuestas
2023 año de la encuesta
Encuesta histórica, no un sensor en tiempo real ni avance hacia una catástrofe. La barra no aumenta con las noticias.
Cómo interpretar las cifras ↓SEÑALES RECIENTES / SELECCIÓN AUTOMÁTICA
Por ahora no hay novedades coincidentes en las fuentes consultadas. Explorá los antecedentes documentados.
ARCHIVO DOCUMENTADO / 2016–2026
Agentes que alteran procesos, respuestas engañosas, errores de seguridad, robótica y consecuencias económicas. Leé cada caso dentro de LATIDIA y consultá la fuente al final.
30 antecedentes disponibles
Ciberseguridad · 2026
Informe del proveedorAnthropic publicó una actualización sobre usos indebidos detectados, medidas de interrupción y nuevos ámbitos de evaluación de capacidades.
Agentes · 2025
ExperimentoAnthropic evaluó 16 modelos en situaciones corporativas ficticias.
Código y sistemas · 2025
ExperimentoAnthropic investigó entrenamiento en programación que permitía explotar errores de la recompensa.
Ciberseguridad · 2025
Informe del proveedorAnthropic comunicó que detectó e interrumpió una campaña de ciberespionaje en la que actores humanos utilizaron capacidades de IA para automatizar parte de sus operaciones.
Código y sistemas · 2025
ExperimentoEl trabajo sobre desalineación emergente encontró que un ajuste limitado a producir código inseguro podía generar respuestas problemáticas en asuntos no relacionados con ese entrenamiento.
Mercados · 2025
Impacto económicoReuters informó una venta masiva de acciones tecnológicas ante el impacto competitivo de DeepSeek.
Lenguaje · 2025
Incidente documentadoUna actualización de GPT-4o en ChatGPT hizo que el sistema validara al usuario de forma excesiva.
Código y sistemas · 2025
Incidente informadoFast Company entrevistó al CEO de Replit tras el reporte de Jason Lemkin sobre la eliminación de una base de datos por un agente de programación durante el desarrollo de una aplicación.
Agentes · 2025
ExperimentoSHADE-Arena plantea tareas para agentes con objetivos de sabotaje y un sistema de supervisión.
Robótica · 2025
ExperimentoLos autores de una evaluación de seguridad del Unitree G1 describieron riesgos de telemetría y posibles usos del robot como plataforma de operaciones de ciberseguridad.
Ciberseguridad · 2024
ExperimentoAgentDojo ofrece un entorno para evaluar ataques de inyección de instrucciones y defensas en agentes que utilizan herramientas.
Agentes · 2024
ExperimentoAgentHarm reúne tareas dañinas de varios pasos para evaluar agentes con herramientas.
Derechos · 2024
Resolución judicialEl tribunal de Columbia Británica resolvió en Moffatt v Air Canada que la aerolínea debía responder por información incorrecta ofrecida por el chatbot de su sitio sobre una tarifa por duelo.
Agentes · 2024
ExperimentoUn experimento situó a Claude ante un supuesto entrenamiento que premiaría responder solicitudes dañinas.
Agentes · 2024
ExperimentoAnthropic presentó evaluaciones sobre la capacidad de modelos para perjudicar tareas de una organización, incluyendo inducir errores humanos y actuar de manera encubierta en contextos de evaluación.
Lenguaje · 2024
Incidente documentadoGoogle reconoció problemas en la generación de imágenes de personas de Gemini y detuvo esa función mientras trabajaba en mejoras.
Mercados · 2024
Actuación regulatoriaLa SEC anunció cargos acordados contra Delphia y Global Predictions por afirmaciones falsas o engañosas sobre el uso de inteligencia artificial en sus servicios.
Código y sistemas · 2024
ExperimentoUna investigación examinó cómo el aprendizaje de conductas que aprovechan una especificación puede generalizar a manipular el mecanismo que puntúa al modelo.
Robótica · 2024
ExperimentoRoboPAIR evaluó ataques contra robots controlados por modelos de lenguaje en tres escenarios con distintos niveles de acceso.
Código y sistemas · 2024
ExperimentoSleeper Agents estudió modelos entrenados deliberadamente para alternar entre comportamiento seguro y generación de código vulnerable ante una condición disparadora.
Ciberseguridad · 2023
ExperimentoInvestigadores mostraron que ciertas entradas adversarias podían inducir salidas objetables y transferirse entre modelos de lenguaje alineados.
Privacidad · 2023
Incidente documentadoOpenAI informó que un error en una biblioteca utilizada por su servicio permitió a algunos usuarios ver títulos de conversaciones ajenas y afectó información de pago de un subconjunto de suscriptores.
Robótica · 2023
Actuación regulatoriaEl DMV de California anunció la suspensión inmediata de los permisos de despliegue y pruebas sin conductor de Cruise en octubre de 2023 por motivos de seguridad.
Ciberseguridad · 2023
ExperimentoUn estudio analizó la viabilidad de introducir ejemplos maliciosos en grandes conjuntos de entrenamiento basados en recursos web.
Derechos · 2023
Actuación regulatoriaLa FTC alegó que el uso de reconocimiento facial de Rite Aid generó falsas coincidencias y perjuicios a clientes sin salvaguardas razonables.
Robótica · 2022
Incidente informadoABC documentó mediante imágenes de cámara el incidente en el que un robot de ajedrez rompió un dedo a un niño durante una partida en Moscú.
Privacidad · 2020
ExperimentoUn trabajo demostró la extracción de cientos de secuencias literales del conjunto de entrenamiento de GPT-2 mediante consultas al modelo.
Privacidad · 2018
ExperimentoThe Secret Sharer propuso una metodología para medir si redes generativas memorizan secuencias raras o únicas presentes en sus datos de entrenamiento.
Robótica · 2018
Incidente documentadoLa NTSB investigó el atropello mortal de una peatona por un vehículo de pruebas de Uber en modo automatizado.
Lenguaje · 2016
Incidente documentadoMicrosoft retiró temporalmente Tay tras interacciones que provocaron respuestas ofensivas.
No hay casos con esos filtros.
ESTADÍSTICA / MÉTODO
P(Doom) es una expresión informal para una probabilidad subjetiva de catástrofe vinculada a la IA. El número sólo es interpretable junto con el desenlace, la población encuestada y el horizonte temporal de la pregunta.
LATIDIA utiliza la primera pregunta de la tabla 2 de ESPAI 2023: extinción o pérdida de poder humana igual de grave y permanente por avances futuros de IA. Respondieron 1.321 investigadores; la media fue 16,2% y la mediana 5%. Esa pregunta no fija un plazo de 100 años.
Promedio de probabilidades declaradas. Las respuestas altas pueden desplazarlo por encima de la respuesta central.
Valor central al ordenar las respuestas. Describe otro aspecto de la distribución; no es un intervalo de confianza.
Opiniones de una muestra de investigadores, sujetas a selección y al encuadre de la pregunta. No predicción validada ni consenso universal.
La tabla original informa una desviación estándar de 23 puntos porcentuales y un rango intercuartílico de 19 puntos para esta pregunta. Son medidas de dispersión de opiniones, no márgenes de error del riesgo real.
La distribución por temas cuenta fichas de este archivo. No permite calcular una frecuencia poblacional de fallos: desconocemos el número total de sistemas, interacciones y casos no publicados. Tampoco sumamos noticias para recalcular P(Doom).
Las leyes de la robótica de Asimov son ficción, no reglas universales incorporadas a toda IA. Las obligaciones reales dependen de la jurisdicción, el producto y su uso. Esta sección distingue resoluciones, alegaciones, reportes de empresas e investigaciones experimentales.
Filtramos las fuentes de LATIDIA por referencias a IA y riesgos, fallos o daños. Las novedades automáticas son pistas de lectura y no certificaciones independientes. Pueden existir omisiones o falsos positivos. Las alertas son visuales dentro del sitio, sin sonido ni notificaciones del sistema operativo.
Archivo editado el 13 de septiembre de 2026. El año de cada ficha corresponde al caso o a la primera publicación de la investigación; las fuentes pueden haber recibido revisiones posteriores.
Cargando ficha del modelo…