UNA NUEVA PERSPECTIVA

LATIDIA

Preparando tu experiencia…

Tu lugar en este universo.

Con tu autorización. Las coordenadas se muestran sólo en esta página y no se guardan.

CONECTANDO FUENTES
← Actualidad

LATIDIA · Ciberseguridad

PSM: Minimización de la sensibilidad de las indicaciones mediante optimización de caja negra guiada por LLM

arXiv:2511.16209v3 Tipo de anuncio: sustitución Resumen: Las indicaciones del sistema son fundamentales para orientar el comportamiento de los grandes modelos de lenguaje (LLM), pero a menudo contienen lógica propietaria o información confidencial, lo que las convierte en un problema.

WhatsApp ↗Telegram ↗
Ilustración editorial relacionada con PSM: Minimización de la sensibilidad de las indicaciones mediante optimización de caja negra guiada por LLM
Ilustración conceptual de LATIDIA.

La noticia

arXiv:2511.16209v3 Announce Type: replace Abstract: System prompts are critical for guiding the behavior of Large Language Models (LLMs), yet they often contain proprietary logic or sensitive information, making them a prime target for extraction attacks. Adversarial queries can successfully elicit these hidden instructions, posing significant security and privacy risks. Existing defense mechanisms frequently rely on heuristics, incur substantial computational overhead, or are inapplicable to models accessed via black-box APIs. This paper introduces a novel framework for hardening system prompts through shield appending, a lightweight approach that adds a protective textual layer to the original prompt. Our core contribution is the formalization of prompt hardening as a utility-constrained optimization problem. We

← Volver a los modelos

Cargando ficha del modelo…

LATIDIA / lectura con contexto