Horizonte AGI: capacidades y evidencia

RIESGO / EVIDENCIA / DESACUERDO

Qué significa P(Doom)

P(Doom) se usa informalmente para expresar una probabilidad subjetiva de un desenlace catastrófico asociado a la IA. Antes de comparar cifras hay que preguntar qué desenlace se define, en qué horizonte temporal y bajo qué supuestos. No es una cotización ni un sensor de peligro.

La barra de LATIDIA usa la primera pregunta de la tabla 2 de ESPAI 2023: avances futuros de IA que provoquen extinción humana o una pérdida de poder igual de grave y permanente. Respondieron 1.321 investigadores. La media fue 16,2% y la mediana 5%; esa pregunta no fija un plazo de 100 años. El trabajo fue difundido en 2024 y la versión consultada se revisó en 2025.

La diferencia entre media y mediana muestra por qué un solo número puede ocultar respuestas dispersas. No promediamos encuestas con preguntas distintas ni convertimos opiniones individuales en consenso. La consulta automática de una fuente tampoco convierte una encuesta histórica en una medición actual.

Cómo leer el debate sin perder perspectiva

Conviene distinguir las capacidades de un sistema, sus oportunidades de actuar y las medidas que limitan consecuencias. Un agente con acceso acotado y supervisión no tiene el mismo perfil que uno conectado a infraestructuras críticas. Evaluaciones independientes, control de acceso, trazabilidad y revisión de incidentes son preguntas concretas con las que examinar una propuesta de seguridad.

Las políticas de escalamiento de un laboratorio explican compromisos y procedimientos de ese publicador; no son una certificación externa de riesgo cero. La investigación, la gobernanza y los daños actuales también merecen atención aunque no exista acuerdo sobre escenarios extremos.