UNA NUEVA PERSPECTIVA

LATIDIA

Preparando tu experiencia…

Tu lugar en este universo.

Con tu autorización. Las coordenadas se muestran sólo en esta página y no se guardan.

CONECTANDO FUENTES
← Actualidad

LATIDIA · Ciberseguridad

¿Pueden los LLM escribir «backdoors»? Un estudio empírico de seguridad de la programación en el espacio de pesos

arXiv:2611.17395v1 Tipo de anuncio: nuevo Resumen: Los avances recientes en la programación en el espacio de pesos (WSP) han demostrado que los grandes modelos de lenguaje (LLM) pueden inspeccionar y modificar directamente los pesos de las redes neuronales sin necesidad de convergencia.

WhatsApp ↗Telegram ↗
Ilustración editorial relacionada con ¿Pueden los LLM escribir «backdoors»? Un estudio empírico de seguridad de la programación en el espacio de pesos
Ilustración conceptual de LATIDIA.

La noticia

arXiv:2611.17395v1 Announce Type: new Abstract: Recent advances in weight-space programming (WSP) have demonstrated that large language models (LLMs) can directly inspect and modify neural network weights without conventional gradient-based training. While this capability opens new possibilities for model improvement, it also raises an important security question: Can LLMs exploit weight-space programming to inject backdoors into neural networks? To answer this question, we present an empirical security study of LLM-driven weight-space programming for backdoor injection. Specifically, we investigate whether general-purpose LLMs can directly modify the weights of target models according to natural-language instructions, without accessing task-specific data, performing forward passes, or computing gradients. We evaluate five LLMs as weight editors across

← Volver a los modelos

Cargando ficha del modelo…

LATIDIA / lectura con contexto