LATIDIA · Ciberseguridad

Auditoría de privilegios mínimos de llamadas de herramientas de agente con gráficos de intención y escalamiento guiado por razonamiento

arXiv:2611.11305v1 Announce Type: new Abstract: Los agentes LLM que llaman a las herramientas están expuestos a una inyección indirecta: las instrucciones ocultas en las salidas de las herramientas pueden dirigir a un agente a llamadas que el usuario nunca solicitó. Presentamos

La noticia

arXiv:2611.11305v1 Announce Type: new Abstract: LLM agents that call tools are exposed to indirect prompt injection: instructions hidden in tool outputs can steer an agent into calls the user never asked for. We present a runtime audit that derives an executable intent graph from the user's objective and the deployment's tool catalog with one LLM call per task, and checks every tool call against it with a deterministic loop that makes no LLM call (median 5.7 microseconds per call). Two further mechanisms recover utility. Lookups of the user's own state bypass the audit, because the harm of an attack lies in its write or outward step. The calls that remain