LATIDIA · Ciberseguridad

Cuando la seguridad se convierte en una superficie de ataque: manipulación de la abstención en agentes de IA que utilizan herramientas

arXiv:2611.14864v1 Tipo de anuncio: nuevo Resumen: La decisión de un agente de IA de no actuar puede convertirse en sí misma en una superficie de ataque. Estudiamos el exceso de abstención inducido por advertencias, un ataque a la disponibilidad en el que los adversarios colocan elementos fabricados

La noticia

arXiv:2611.14864v1 Announce Type: new Abstract: An AI agent's decision not to act can itself become an attack surface. We study warning-induced over-abstention, an availability attack in which adversaries place fabricated risk warnings in low-trust content to prevent legitimate task completion. Our central premise is that safe abstention requires evaluating both the claimed risk and the authority of the evidence supporting it. We develop controlled counterfactual task variants that vary risk content, source provenance, and warning wording, and evaluate a Verify-Before-Abstain protocol that corroborates warnings against authoritative records or the underlying content. Across three model families and 51 injectable AgentAbstain task pairs, caution-first prompting amplifies the attack. For Gemini, induced over-abstention