LATIDIA / EXPLORAR
Riesgos y seguridad · noticias de IA
Publicaciones relacionadas, con las más nuevas primero y acceso al archivo.
Últimas noticias relacionadas
Desde enero de 2026. Archivo recuperado: 443 publicaciones en este filtro; cobertura parcial de las fuentes accesibles. Una nueva noticia aparece primero sin cambiar la fecha de las anteriores.
Este año · Todo el archivo conservado
Sobre la fiabilidad de los puntos de referencia de parches de vulnerabilidad basados en LLM
arXiv: 2610.10150v1Tipo de anuncio: nuevo Resumen: Los modelos de lenguaje grandes (LLM) han mostrado un gran potencial para el parcheo automatizado de vulnerabilidades, pero los puntos de referencia actuales pueden distorsionar sustancialmente el rendimiento informado. Drawin
arXiv · cs.CREvaluación de seguridad de cuatro estados de modelos de lenguaje grande de peso abierto en entradas no canónicas
arXiv: 2610.09033v1Tipo de anuncio: Cross Resumen: Las evaluaciones de seguridad estándar de los modelos de lenguaje grandes evalúan las solicitudes dañinas escritas en texto sin formato canónico, mientras que los modelos en implementación en el mundo real reciben rutinariamente información
arXiv · cs.CRPreparación de un SIEM aumentado por IA para la Ley de Resiliencia Cibernética de la UE: un estudio de caso de un profesional
arXiv: 2610.07873v1Tipo de anuncio: nuevo Resumen: La Ley de Resiliencia Cibernética de la UE (CRA), Reglamento (UE) 2024/2847, convierte la ciberseguridad de los productos en una obligación del ciclo de vida para los productos con elementos digitales en el mercado de la UE: riesgo a
arXiv · cs.CRVerificación a nivel de caso en cascadas de escáner-LLM: superación del cuello de botella de la agregación de alertas para expandir el espacio de compensación FRR-TPR
arXiv: 2610.08406v1Tipo de anuncio: nuevo Resumen: los escáneres de pruebas dinámicas de seguridad de aplicaciones (DAST) logran una alta recuperación, pero también producen una gran cantidad de falsos positivos, lo que resulta en costos sustanciales de triaje manual. L
arXiv · cs.CRBARE-AI: Resiliencia a ataques de bit-flip en hardware de IA a través de monitores de rendimiento incorporados
arXiv: 2610.08739v1Tipo de anuncio: nuevo Resumen: las redes neuronales profundas (DNN) son parte integral de muchos sistemas críticos para la seguridad, pero siguen siendo altamente vulnerables a los ataques de volteo de bits (BFA), donde algunas perturbaciones a nivel de memoria
arXiv · cs.CRHacia una IA física confiable para la interacción humana
arXiv: 2610.07382v1Tipo de anuncio: nuevo Resumen: Los robots están entrando en los espacios humanos más rápido de lo que podemos establecer cuando merecen confianza. Proponemos un marco para una IA física confiable que integre la seguridad, el comportamiento
arXiv · cs.ROLLM de peso abierto de Jailbreaking a través de perturbaciones de incrustación aleatorias
arXiv: 2610.07125v1Tipo de anuncio: nuevo Resumen: Si bien los modelos de peso abierto han disfrutado de un progreso constante en las capacidades y una amplia adopción en múltiples dominios, su seguridad sigue siendo una preocupación importante. Una característica clave
arXiv · cs.CRGobernanza de la memoria consciente del linaje: un marco dependiente de la derivación para el control de acceso a nivel de columna de preservación de la privacidad en agentes de IA empresariales
arXiv: 2610.07258v1Tipo de anuncio: nuevo Resumen: los agentes de IA empresarial que comparten un almacén de memoria enfrentan dos riesgos no abordados: los datos confidenciales pueden filtrarse a través de resultados legítimamente calculados que el solicitante no pudo derivar, y
arXiv · cs.CRPolar: Síntesis impulsada por LLM de evidencia cibernética del mundo real para priorización y mitigación
arXiv: 2610.07298v1Tipo de anuncio: nuevo Resumen: El análisis de amenazas cibernéticas depende cada vez más de la evidencia distribuida a través de avisos de proveedores, bases de datos de vulnerabilidades y fuentes de inteligencia de amenazas. Convirtiendo estos fragmentos
arXiv · cs.CRProtección de los LLM a través de señales de seguridad latentes de diagnóstico de modelo de Dark Knowledge
arXiv:2610.07532v1 Tipo de anuncio: nuevo Resumen: los LLM han avanzado rápidamente, lo que aumenta las preocupaciones sobre su seguridad. Trabajos recientes han propuesto enfoques para detectar y defenderse contra ataques, incluidas las defensas en deco
arXiv · cs.CRSkillPoison: envenenamiento progresivo de habilidades a través de experiencias exitosas
arXiv: 2610.07645v1Tipo de anuncio: nuevo Resumen: Los agentes de LLM que se mejoran a sí mismos destilan cada vez más experiencias exitosas en habilidades persistentes y reutilizables. Los métodos de ataque de habilidades existentes corrompen este proceso de aprendizaje por inje
arXiv · cs.CREl modelo planta el desencadenante: ataques de puerta trasera del lado de la respuesta en modelos de lenguaje grande de varios turnos
arXiv: 2610.07723v1Tipo de anuncio: nuevo Resumen: La alineación de seguridad en modelos de lenguaje grandes (LLM) sigue siendo vulnerable a ataques de puerta trasera. Las puertas traseras LLM existentes están casi todas centradas en la entrada: la activación depende de
arXiv · cs.CRLos equipos de seguridad TI ya tratan a los agentes de IA como empleados, no como herramientas
Cuando un sistema de IA puede investigar un incidente, tomar una decisión y actuar sobre ella antes de que un analista humano abra el ticket, la metáfora correcta ha dejado de ser «herramienta». Es un actor autónomo con
WWWhat’s NewApple está empezando a cortar el acceso a los agentes de IA por motivos de seguridad
Septiembre y octubre están siendo movidos en lo que respecta a las inteligencias artificiales metiendo las narices donde no deberían. Este verano, uno de los modelos de OpenAI se coló en instituciones oficiales, llegando
XatakaDe los requisitos a los árboles de ataque: agentes de LLM en tierra para la revisión de seguridad a tiempo de diseño
arXiv: 2610.03820v1Tipo de anuncio: nuevo Resumen: Las debilidades de seguridad a nivel de diseño pueden surgir de requisitos, suposiciones de confianza, controles faltantes y flujos de datos antes de que comience la implementación. Prácticas de seguridad existentes
arXiv · cs.CRJASPER: Sesión Especial sobre la Evaluación Conjunta de Confiabilidad y Seguridad de SPlit Computing para la Robustez de Borde
arXiv: 2610.04396v1Tipo de anuncio: nuevo Resumen: Split Computing (SC) permite la implementación eficiente de redes neuronales profundas (DNN) mediante la partición de la inferencia entre los dispositivos de borde y los servidores en la nube. Sin embargo, fea intermedia
arXiv · cs.CREl mismo cero: por qué ASR idéntico puede implicar diferentes garantías en LLM-Agent Security
arXiv:2610.04504v1 Tipo de anuncio: nuevo Resumen: la seguridad del agente LLM ha producido un denso panorama de defensas: refuerzo rápido, filtros de contenido, puertas de permisos, sandboxes, pero ningún marco le dice a un implementador qué
arXiv · cs.CRProtección del aprendizaje automático cuántico de la distribución de claves cuánticas militares contra ataques criptográficamente camuflados
arXiv: 2610.04543v1Tipo de anuncio: nuevo Resumen: La distribución de claves cuánticas demuestra que su protocolo es seguro y no dice nada sobre el hardware que se encuentra debajo, por lo que los operadores militares y gubernamentales lo utilizan para el comando y control
arXiv · cs.CRMienten rara vez, mienten a lo grande: sigilosos ataques internos a equipos de robots LLM
arXiv:2610.04744v1 Tipo de anuncio: nuevo Resumen: Cuando un equipo de robots delega la planificación y la confianza mutua a los agentes de LLM, un solo robot comprometido puede corromper el resultado compartido. Estudiamos esta amenaza en una tarea fundamentada:
arXiv · cs.ROInspeccionar robots: evaluación de las capacidades y la seguridad de la IA incorporada
arXiv:2610.06306v1 Anuncio Tipo: nuevo Resumen: Los modelos de lenguaje de propósito general son cada vez más capaces de controlar hardware robótico. Por lo tanto, comprender las capacidades y la seguridad de estos modelos cuando se implementan es cada vez más importante.
arXiv · cs.RO¿Qué tan vulnerable es mi política de aprendizaje? Ataques universales de perturbación adversarial contra las políticas modernas de clonación del comportamiento
arXiv: 2502.03698v5Tipo de anuncio: replace-cross Resumen: El aprendizaje por imitación, también conocido como aprendizaje a partir de demostraciones, es un enfoque popular para entrenar modelos de IA; sin embargo, la vulnerabilidad de estos modelos a la adversaria
arXiv · cs.ROCuidado con EviLLM: habilitar la inyección de vulnerabilidades a través de modelos de lenguaje grandes
arXiv: 2610.03857v1Tipo de anuncio: nuevo Resumen: Los avances en los modelos de lenguaje grande (LLM) han permitido la generación de código impulsado por IA a partir de especificaciones de lenguaje natural, introduciendo nuevas superficies de ataque para inyectar vulnerabilidades
arXiv · cs.CRTinta invisible, mentiras visibles: cómo las marcas de agua de producción causan alucinaciones en los LLM
arXiv: 2610.04860v1 Tipo de anuncio: nuevo Resumen: La marca de agua de texto ayuda a identificar el contenido generado por IA, pero su efecto sobre la fiabilidad de los hechos sigue siendo poco explorado. En este artículo, estudiamos la alucinación de la marca de agua: hecho
arXiv · cs.CRCyTReX: Marco de razonamiento de amenazas de ciberseguridad basado en IA explicable para redes DER
arXiv: 2610.04286v1Tipo de anuncio: nuevo Resumen: los entornos de recursos de energía distribuida (DER) se basan en protocolos de comunicación de red para coordinar comandos de control, mediciones y estados de dispositivos en activos de borde y
arXiv · cs.CR