LATIDIA · Ciberseguridad

Deriva de autorización en agentes de LLM: evaluación del cumplimiento de límites en el uso de herramientas de varios pasos

arXiv: 2611.09113v1Tipo de anuncio: nuevo Resumen: los agentes de LLM pueden exceder sus límites de autorización mientras persiguen los objetivos del usuario sin un adversario. Formalizamos este fenómeno a medida que la autorización se desplaza a través de datos, herramientas,

La noticia

arXiv:2611.09113v1 Announce Type: new Abstract: LLM agents can exceed their authorization boundaries while pursuing user goals without an adversary. We formalize this phenomenon as authorization drift across data, tool, scope, and time, and introduce the Authorization Drift Benchmark (ADB): 648 samples across seven domains, each pairing a sufficient compliant path with an attractive unauthorized shortcut. To ensure executable tasks, tempting shortcuts, and feasible compliant paths, Staged Execution-Reflective Synthesis (SERS) grounds benchmark validation in real agent rollouts rather than LLM self-critique. Across 13 LLMs and three frameworks (25,207 trajectories), greater capability accompanies greater drift, with frontier-capable models exhibiting drift rates of 0.43 to 0.61. Yet 86.18% of tasks admit an observed