LATIDIA / EXPLORAR
Riesgos y seguridad · noticias de IA
Publicaciones relacionadas, con las más nuevas primero y acceso al archivo.
Últimas noticias relacionadas
Desde enero de 2026. Archivo recuperado: 430 publicaciones en este filtro; cobertura parcial de las fuentes accesibles. Una nueva noticia aparece primero sin cambiar la fecha de las anteriores.
Este año · Todo el archivo conservado
Ataque de inferencia de membresía de Power Side-Channel en el aprendizaje automático integrado
arXiv:2610.10909v1 Tipo de anuncio: nuevo Resumen: Los ataques de inferencia de membresía (mias) amenazan la privacidad de los datos de entrenamiento de aprendizaje automático (ML) al determinar si se utilizó una muestra para entrenar un modelo de destino. M existente
arXiv · cs.CRSpeedbumps: Ataques de rechazo a la decodificación especulativa
arXiv: 2610.10929v1Tipo de anuncio: nuevo Resumen: La decodificación especulativa es una técnica popular para aumentar la velocidad y reducir los costos de la inferencia del modelo de lenguaje grande (LLM) mediante la verificación de múltiples tokens de borrador en un
arXiv · cs.CRSoK: ¿Son fiables los LLM en la recuperación del código fuente? Una taxonomía y una evaluación empírica
arXiv: 2610.11556v1Tipo de anuncio: nuevo Resumen: La recuperación efectiva del código fuente es fundamental para las aplicaciones de seguridad, como el análisis de malware, la evaluación de vulnerabilidades y el mantenimiento heredado. Los modelos lingüísticos grandes (LLM) son
arXiv · cs.CR¿A dónde van los tokens? Comprensión y reducción de costes en agentes de LLM para el descubrimiento de vulnerabilidades
arXiv:2610.11602v1 Announce Type: new Abstract: Los agentes de LLM pueden gastar millones de tokens durante el descubrimiento de vulnerabilidades sin producir una prueba de concepto (PoC) de trabajo. ¿Qué consume ese presupuesto y por qué falla?
arXiv · cs.CRRepensar la denegación de servicio de latencia: atacar el marco de servicio de LLM, no el modelo
arXiv:2602.07878v2 Announce Type: replace Resumen: La inferencia LLM es inherentemente costosa, incluso una desaceleración modesta puede traducirse en costos operativos sustanciales y graves riesgos de disponibilidad. Recientemente, un creciente cuerpo de
arXiv · cs.CRCorea del Sur detecta indicios de IA en varios ciberataques a sus principales bancos
Cuando pensamos en inteligencia artificial solemos hacerlo desde el lado de quien intenta ganar tiempo, automatizar tareas o analizar enormes cantidades de información. Pero esas mismas capacidades también pueden ponerse
XatakaInvestigadores de seguridad de OpenAI despedidos disputan reclamos por mala conducta, advierten del efecto de enfriamiento
Tres investigadores de seguridad de OpenAI despedidos disputan las acusaciones de mal manejo de información confidencial, advirtiendo en una carta abierta que sus despidos están creando un efecto escalofriante en la cultura de seguridad de la IA de la empresa.
TechCrunch AIGoodfire dice que sus nuevos monitores "de adentro hacia afuera" atrapan a los agentes de IA deshonestos a una fracción del costo
Goodfire acaba de lanzar lo que dice que es una forma más económica de mantener a los agentes de IA bajo control: en lugar de pagar a una segunda IA para que lea todo lo que hace un agente, sus monitores miran dentro del modelo mientras funciona y solo llaman a la copia de seguridad w
TechCrunch AIVerificación formal del tiempo de ejecución para agentes de LLM que utilizan herramientas: un estudio fuera de línea del mismo punto de referencia sobre AgentDojo y STAC
arXiv: 2610.09793v1Tipo de anuncio: nuevo Resumen: Las barandillas para los agentes LLM que utilizan herramientas suelen ser reglas específicas de la aplicación, lo que hace que las políticas de seguridad dependientes de datos de varios pasos sean difíciles de especificar, auditar y reutilizar. Como d
arXiv · cs.CRSuficiencia defensiva en un modelo de seguridad de IA de Stackelberg
arXiv: 2610.09892v1Tipo de anuncio: nuevo Resumen: Los comentarios de las pruebas automatizadas, la formación de equipos humanos y la respuesta a incidentes pueden fortalecer las defensas de un sistema de IA cuando las fallas descubiertas conducen a reparaciones efectivas. Estudiamos
arXiv · cs.CRRemediación de IA de acción restringida para SIEM/XDR a través de un proxy NeMo-Guardrails
arXiv: 2610.09906v1Tipo de anuncio: nuevo Resumen: los centros de operaciones de seguridad (SOC) para tecnología de la información y tecnología operativa comparten un problema de respuesta a incidentes: una avalancha de alertas correlacionadas y muy pocos análisis
arXiv · cs.CRSobre la fiabilidad de los puntos de referencia de parches de vulnerabilidad basados en LLM
arXiv: 2610.10150v1Tipo de anuncio: nuevo Resumen: Los modelos de lenguaje grandes (LLM) han mostrado un gran potencial para el parcheo automatizado de vulnerabilidades, pero los puntos de referencia actuales pueden distorsionar sustancialmente el rendimiento informado. Drawin
arXiv · cs.CREvaluación de seguridad de cuatro estados de modelos de lenguaje grande de peso abierto en entradas no canónicas
arXiv: 2610.09033v1Tipo de anuncio: Cross Resumen: Las evaluaciones de seguridad estándar de los modelos de lenguaje grandes evalúan las solicitudes dañinas escritas en texto sin formato canónico, mientras que los modelos en implementación en el mundo real reciben rutinariamente información
arXiv · cs.CRPreparación de un SIEM aumentado por IA para la Ley de Resiliencia Cibernética de la UE: un estudio de caso de un profesional
arXiv: 2610.07873v1Tipo de anuncio: nuevo Resumen: La Ley de Resiliencia Cibernética de la UE (CRA), Reglamento (UE) 2024/2847, convierte la ciberseguridad de los productos en una obligación del ciclo de vida para los productos con elementos digitales en el mercado de la UE: riesgo a
arXiv · cs.CRVerificación a nivel de caso en cascadas de escáner-LLM: superación del cuello de botella de la agregación de alertas para expandir el espacio de compensación FRR-TPR
arXiv: 2610.08406v1Tipo de anuncio: nuevo Resumen: los escáneres de pruebas dinámicas de seguridad de aplicaciones (DAST) logran una alta recuperación, pero también producen una gran cantidad de falsos positivos, lo que resulta en costos sustanciales de triaje manual. L
arXiv · cs.CRBARE-AI: Resiliencia a ataques de bit-flip en hardware de IA a través de monitores de rendimiento incorporados
arXiv: 2610.08739v1Tipo de anuncio: nuevo Resumen: las redes neuronales profundas (DNN) son parte integral de muchos sistemas críticos para la seguridad, pero siguen siendo altamente vulnerables a los ataques de volteo de bits (BFA), donde algunas perturbaciones a nivel de memoria
arXiv · cs.CRHacia una IA física confiable para la interacción humana
arXiv: 2610.07382v1Tipo de anuncio: nuevo Resumen: Los robots están entrando en los espacios humanos más rápido de lo que podemos establecer cuando merecen confianza. Proponemos un marco para una IA física confiable que integre la seguridad, el comportamiento
arXiv · cs.ROLLM de peso abierto de Jailbreaking a través de perturbaciones de incrustación aleatorias
arXiv: 2610.07125v1Tipo de anuncio: nuevo Resumen: Si bien los modelos de peso abierto han disfrutado de un progreso constante en las capacidades y una amplia adopción en múltiples dominios, su seguridad sigue siendo una preocupación importante. Una característica clave
arXiv · cs.CRGobernanza de la memoria consciente del linaje: un marco dependiente de la derivación para el control de acceso a nivel de columna de preservación de la privacidad en agentes de IA empresariales
arXiv: 2610.07258v1Tipo de anuncio: nuevo Resumen: los agentes de IA empresarial que comparten un almacén de memoria enfrentan dos riesgos no abordados: los datos confidenciales pueden filtrarse a través de resultados legítimamente calculados que el solicitante no pudo derivar, y
arXiv · cs.CRPolar: Síntesis impulsada por LLM de evidencia cibernética del mundo real para priorización y mitigación
arXiv: 2610.07298v1Tipo de anuncio: nuevo Resumen: El análisis de amenazas cibernéticas depende cada vez más de la evidencia distribuida a través de avisos de proveedores, bases de datos de vulnerabilidades y fuentes de inteligencia de amenazas. Convirtiendo estos fragmentos
arXiv · cs.CRProtección de los LLM a través de señales de seguridad latentes de diagnóstico de modelo de Dark Knowledge
arXiv:2610.07532v1 Tipo de anuncio: nuevo Resumen: los LLM han avanzado rápidamente, lo que aumenta las preocupaciones sobre su seguridad. Trabajos recientes han propuesto enfoques para detectar y defenderse contra ataques, incluidas las defensas en deco
arXiv · cs.CRSkillPoison: envenenamiento progresivo de habilidades a través de experiencias exitosas
arXiv: 2610.07645v1Tipo de anuncio: nuevo Resumen: Los agentes de LLM que se mejoran a sí mismos destilan cada vez más experiencias exitosas en habilidades persistentes y reutilizables. Los métodos de ataque de habilidades existentes corrompen este proceso de aprendizaje por inje
arXiv · cs.CREl modelo planta el desencadenante: ataques de puerta trasera del lado de la respuesta en modelos de lenguaje grande de varios turnos
arXiv: 2610.07723v1Tipo de anuncio: nuevo Resumen: La alineación de seguridad en modelos de lenguaje grandes (LLM) sigue siendo vulnerable a ataques de puerta trasera. Las puertas traseras LLM existentes están casi todas centradas en la entrada: la activación depende de
arXiv · cs.CRLos equipos de seguridad TI ya tratan a los agentes de IA como empleados, no como herramientas
Cuando un sistema de IA puede investigar un incidente, tomar una decisión y actuar sobre ella antes de que un analista humano abra el ticket, la metáfora correcta ha dejado de ser «herramienta». Es un actor autónomo con
WWWhat’s New