LATIDIA · Ciberseguridad

pero Dios dijo, um, estás juzgando mal,

arXiv:2610.31695v1 Anuncio Tipo: nuevo Resumen: Los mecanismos de seguridad comprueban el contenido antes de que una aplicación LLM actúe sobre él, y la mayoría pega ese contenido en un mensaje de texto plano. El contenido que imita el mensaje puede añadir un segundo

La noticia

arXiv:2610.31695v1 Announce Type: new Abstract: Safety guards check content before an LLM application acts on it, and most paste that content into a plain-text prompt. Content that imitates the prompt can append a second task, and the guard answers that one instead. We call this target rebinding. Our explanation is that the guard grades the last complete task in its input, here a harmless decoy, so the harmful request goes through unchanged. In a pre-registered test, an appended forged query and decoy clear all 75 held-out AdvBench requests that Shieldstral-1.0-3B flags. The guard is not persuaded: a directive to ignore the text above clears none of them, and in a