LATIDIA / EXPLORAR
Riesgos y seguridad · noticias de IA
Publicaciones relacionadas, con las más nuevas primero y acceso al archivo.
Últimas noticias relacionadas
Desde enero de 2026. Archivo recuperado: 443 publicaciones en este filtro; cobertura parcial de las fuentes accesibles. Una nueva noticia aparece primero sin cambiar la fecha de las anteriores.
Este año · Todo el archivo conservado
MiST: LLM de capacitación intermedia para ciberseguridad
arXiv: 2609.18496v1Tipo de anuncio: nuevo Resumen: La ciberseguridad combina un análisis de alto riesgo con un lenguaje técnico complejo, lo que lo convierte en un dominio impactante y desafiante para los LLM. Presentamos MiST (Mid-trained Security T
arXiv · cs.CRUn marco de evaluación de riesgos de seguridad para herramientas de desarrollo impulsadas por IA
arXiv: 2609.18658v1Tipo de anuncio: nuevo Resumen: las herramientas de desarrollo impulsadas por IA ahora se utilizan ampliamente para generar código y ayudar a los desarrolladores con las tareas de programación de rutina. Aunque el trabajo existente ha identificado vulnerabilidades
arXiv · cs.CRAgentLSD: Evaluación de agentes de seguridad de IA bajo contaminación de tareas adversas
arXiv:2609.19140v1 Tipo de anuncio: nuevo Resumen: los agentes de IA para la seguridad inspeccionan páginas web, código fuente, registros, archivos de configuración y salidas de comandos. Estos entornos pueden contener artefactos engañosos que influyen en la
arXiv · cs.CRAsegurar la corrección de errores cuánticos contra los consejos engañosos de los agentes de IA
arXiv: 2609.19090v1Announce Type: cross Resumen: ¿Puede un atacante convertir la influencia sobre un asesor de inteligencia artificial (IA) en una actualización dañina de corrección de errores cuánticos? Identificamos una ambigüedad en el síndrome pasivo r
arXiv · cs.CRChatIDS: Avanzando en la ciberseguridad explicable utilizando IA generativa
arXiv:2306.14504v2 Announce Type: replace Resumen: Los sistemas de detección de intrusiones (IDS) son un enfoque comprobado para redes seguras. Los ID basados en red generalmente se instalan en routers o puertas de enlace de Internet. Esto les permite
arXiv · cs.CRCacheTrap: presentación de un troyano de caja gris más sigiloso contra los LLM
arXiv: 2511.22681v3Tipo de anuncio: reemplazar Resumen: El rápido avance de los modelos de lenguaje grandes (LLM) ha despertado un creciente interés en comprender sus vulnerabilidades de seguridad, particularmente los ataques de troyanos que ena
arXiv · cs.CRLa seguridad no se compone: estado de bucle no decaído para agentes autónomos de LLM
arXiv: 2608.27141v5Announce Type: replace Resumen: Los agentes de modelos de lenguaje grandes se implementan cada vez más como bucles autónomos. Partiendo de un objetivo humano, tal sistema descubre repetidamente el trabajo, planifica, ejecuta la herramienta c
arXiv · cs.CRLa AEPD notifica el primer ciberataque ejecutado de forma autónoma por un agente de IA en España: accedió a datos personales y facturas sin intervención humana
La Agencia Española de Protección de Datos ha comunicado esta semana la primera notificación de brecha de datos en la que un agente de inteligencia artificial ejecutó un ciberataque de forma completamente autónoma contra
WWWhat’s NewOpenAI, Anthropic y Google llevan desde julio negociando en secreto un organismo de seguridad de la IA que se antepondría a la regulación del Congreso
La semana más intensa de advertencias públicas sobre el riesgo existencial de la IA de 2026 —el ensayo de Amodei, la dimisión de Coxon, las declaraciones de Altman y Musk, la respuesta de Trump desde Dublín— resultó ser
WWWhat’s NewLa Agencia de Protección de Datos ha descubierto el primer ciberataque realizado por un agente IA en España
La Agencia Española de Protección de Datos (AEPD) ha recibido por primera vez la notificación de una brecha de datos personales en la que un tercero habría usado un agente de IA para ejecutar y controlar distintas fases
XatakaLagarde avisa: el 75% del cómputo de IA mundial está en EE.UU. y el 5% en Europa. Si no construimos infraestructura propia, alguien puede cortarnos el acceso
Christine Lagarde, presidenta del Banco Central Europeo, pronunció el 14 de septiembre en Viena el discurso más concreto que un alto funcionario europeo ha dado sobre los riesgos de dependencia en IA. El título: «Una nue
WWWhat’s NewDriveMCP: un marco de IA agéntica para un sistema avanzado de asistencia al conductor
arXiv: 2609.17247v1Tipo de anuncio: nuevo Resumen: Un marco de asistencia al conductor de IA auténtico que integra la percepción, el razonamiento de cumplimiento, la interpretación del estado del vehículo y el arbitraje de seguridad en un marco modular y auditabl
arXiv · cs.RODefensas universales para agentes de LLM integrados en herramientas contra ataques adversarios
arXiv: 2609.16098v1Tipo de anuncio: nuevo Resumen: los agentes del Modelo de Lenguaje Grande (LLM) han demostrado capacidades impresionantes en una variedad de dominios, particularmente cuando se integran con herramientas externas para tareas de varios pasos
arXiv · cs.CRMarkSec: Evaluación consciente de la capacidad de los ataques adversarios contra las marcas de agua de LLM
arXiv: 2609.16681v1Tipo de anuncio: nuevo Resumen: la marca de agua LLM ayuda a rastrear el origen del texto generado, pero se enfrenta a ataques de robo que recuperan información de marca de agua, ataques de depuración que eliminan señales de marca de agua, un
arXiv · cs.CRHacia agentes de prueba de penetración seguros impulsados por IA: amenazas de seguridad, barandillas y perspectivas arquitectónicas
arXiv: 2609.16694v1Tipo de anuncio: nuevo Resumen: los agentes autónomos con tecnología LLM están transformando el espacio de pruebas de penetración con flujos de trabajo de seguridad ofensivos dinámicos de varios pasos que requieren una supervisión mínima por parte de
arXiv · cs.CRConozca a su agente: Pentesting impulsado por el reconocimiento de agentes de IA
arXiv:2607.19837v2 Announce Type: replace-cross Resumen: El pentesting tradicional utiliza el reconocimiento en cada paso para descubrir debilidades invisibles, crear ataques más fuertes y avanzar en el objetivo; argumentamos que los agentes de IA r
arXiv · cs.CRDel texto legal a las fuentes de riesgo específicas de la IA: un análisis sistemático de los requisitos de alto riesgo de la Ley de IA de la UE
arXiv: 2609.13535v1Tipo de anuncio: nuevo Resumen: La Ley de IA de la UE introduce requisitos obligatorios para los sistemas de IA de alto riesgo con el objetivo explícito de garantizar el desarrollo y el funcionamiento de una IA confiable. Al mismo tiempo
arXiv · cs.AI¿Cómo se produce y es importante el maltrato de la IA del usuario en los sistemas conversacionales?
arXiv: 2609.13579v1Tipo de anuncio: nuevo Resumen: La investigación sobre seguridad a menudo se centra en los daños generados por los modelos, pero los usuarios también pueden dirigir hostilidad, coerción y presión adversaria a los modelos. Entender cómo y cuándo eso o
arXiv · cs.AILa seguridad como una restricción: ajuste fino de un recomendador de LLM para explicarse a sí mismo
arXiv:2609.13657v1 Tipo de anuncio: nuevo Resumen: Los sistemas de recomendación tradicionales suelen estar entrenados para predecir con qué elemento interactuarán los usuarios a continuación, pero no por qué. Sin embargo, ofrecer evidencia personalizada de por qué un uso
arXiv · cs.AIOptimización de la dirección del señalizador: una defensa post-hoc contra la destrucción de LLM
arXiv: 2609.16204v1Tipo de Anuncio: Cross Resumen: Las barandillas de seguridad en modelos de lenguaje de peso abierto se pueden omitir fácilmente utilizando la Ablación de Funciones de Rechazo (RFA), una técnica que identifica y proyecta un rechazo lineal
arXiv · cs.CRLa industria musical lanza la Streaming Integrity Initiative para combatir el fraude de IA: hasta el 85% de los streams de música generada por IA eran falsos en 2025
La cifra que publicó Deezer resume el problema: en junio de 2026, más del 50% de toda la música nueva entregada a la plataforma era íntegramente generada por IA —unos 90.000 tracks al día. Pero esas grabaciones represent
WWWhat’s NewIA Autoenvolvente para Humanoides: Mecanismos, Seguridad y Evaluación de la Mejora Posterior al Despliegue
arXiv: 2609.13236v1Tipo de anuncio: nuevo Resumen: Los robots humanoides se están convirtiendo en una parte importante de la inteligencia artificial incorporada, impulsados por los avances en el aprendizaje de refuerzo para la locomoción, los modelos mundiales para la predicción
arXiv · cs.ROBadEngram: Ataque de puerta trasera en componentes de memoria cerrada en LLM
arXiv: 2609.13478v1Tipo de anuncio: nuevo Resumen: Para ampliar la capacidad de los modelos de peso abierto sin aumentar proporcionalmente el cálculo, los modelos de lenguaje recientes incorporan memorias paramétricas cerradas que recuperan el valor aprendido
arXiv · cs.CRExploración de la identificación automatizada de vulnerabilidades en el código JavaScript utilizando modelos de lenguaje grandes
arXiv: 2609.13816v1Tipo de anuncio: nuevo Resumen: JavaScript alimenta aproximadamente el 98.8% de todos los sitios web, lo que hace que las vulnerabilidades en su código sean un riesgo de seguridad significativo, pero los enfoques de detección existentes como Static Appl
arXiv · cs.CR