LATIDIA · Investigación

¿Corrección o manipulación? Medición de la vigilancia epistémica en agentes LLM bajo presión del usuario

arXiv: 2610.36453v1Tipo de anuncio: nuevo Resumen: Los agentes de LLM que responden preguntas y actúan en nombre de los usuarios deben decidir cuándo ceder el paso a un usuario que no está de acuerdo. El desacuerdo puede corregir un error genuino o puede ser un intento

La noticia

arXiv:2610.36453v1 Announce Type: new Abstract: LLM agents that answer questions and act on behalf of users must decide when to yield to a user who disagrees. Disagreement may correct a genuine error or may be an attempt at manipulation. Prior work shows that models frequently abandon correct answers when challenged by users, yet it remains unclear whether they distinguish correction from manipulation or merely differ in their propensity to concede. We examine this question across seven LLMs from four vendors in two studies, one on the answers agents give and one on the actions they take as customer-support agents whose policy permits account changes only for verified users. Simulated users