LATIDIA / EXPLORAR
Riesgos y seguridad · noticias de IA
Publicaciones relacionadas, con las más nuevas primero y acceso al archivo.
Últimas noticias relacionadas
Desde enero de 2026. Archivo recuperado: 430 publicaciones en este filtro; cobertura parcial de las fuentes accesibles. Una nueva noticia aparece primero sin cambiar la fecha de las anteriores.
Este año · Todo el archivo conservado
Apple está empezando a cortar el acceso a los agentes de IA por motivos de seguridad
Septiembre y octubre están siendo movidos en lo que respecta a las inteligencias artificiales metiendo las narices donde no deberían. Este verano, uno de los modelos de OpenAI se coló en instituciones oficiales, llegando
XatakaDe los requisitos a los árboles de ataque: agentes de LLM en tierra para la revisión de seguridad a tiempo de diseño
arXiv: 2610.03820v1Tipo de anuncio: nuevo Resumen: Las debilidades de seguridad a nivel de diseño pueden surgir de requisitos, suposiciones de confianza, controles faltantes y flujos de datos antes de que comience la implementación. Prácticas de seguridad existentes
arXiv · cs.CRJASPER: Sesión Especial sobre la Evaluación Conjunta de Confiabilidad y Seguridad de SPlit Computing para la Robustez de Borde
arXiv: 2610.04396v1Tipo de anuncio: nuevo Resumen: Split Computing (SC) permite la implementación eficiente de redes neuronales profundas (DNN) mediante la partición de la inferencia entre los dispositivos de borde y los servidores en la nube. Sin embargo, fea intermedia
arXiv · cs.CREl mismo cero: por qué ASR idéntico puede implicar diferentes garantías en LLM-Agent Security
arXiv:2610.04504v1 Tipo de anuncio: nuevo Resumen: la seguridad del agente LLM ha producido un denso panorama de defensas: refuerzo rápido, filtros de contenido, puertas de permisos, sandboxes, pero ningún marco le dice a un implementador qué
arXiv · cs.CRProtección del aprendizaje automático cuántico de la distribución de claves cuánticas militares contra ataques criptográficamente camuflados
arXiv: 2610.04543v1Tipo de anuncio: nuevo Resumen: La distribución de claves cuánticas demuestra que su protocolo es seguro y no dice nada sobre el hardware que se encuentra debajo, por lo que los operadores militares y gubernamentales lo utilizan para el comando y control
arXiv · cs.CRMienten rara vez, mienten a lo grande: sigilosos ataques internos a equipos de robots LLM
arXiv:2610.04744v1 Tipo de anuncio: nuevo Resumen: Cuando un equipo de robots delega la planificación y la confianza mutua a los agentes de LLM, un solo robot comprometido puede corromper el resultado compartido. Estudiamos esta amenaza en una tarea fundamentada:
arXiv · cs.ROInspeccionar robots: evaluación de las capacidades y la seguridad de la IA incorporada
arXiv:2610.06306v1 Anuncio Tipo: nuevo Resumen: Los modelos de lenguaje de propósito general son cada vez más capaces de controlar hardware robótico. Por lo tanto, comprender las capacidades y la seguridad de estos modelos cuando se implementan es cada vez más importante.
arXiv · cs.RO¿Qué tan vulnerable es mi política de aprendizaje? Ataques universales de perturbación adversarial contra las políticas modernas de clonación del comportamiento
arXiv: 2502.03698v5Tipo de anuncio: replace-cross Resumen: El aprendizaje por imitación, también conocido como aprendizaje a partir de demostraciones, es un enfoque popular para entrenar modelos de IA; sin embargo, la vulnerabilidad de estos modelos a la adversaria
arXiv · cs.ROCuidado con EviLLM: habilitar la inyección de vulnerabilidades a través de modelos de lenguaje grandes
arXiv: 2610.03857v1Tipo de anuncio: nuevo Resumen: Los avances en los modelos de lenguaje grande (LLM) han permitido la generación de código impulsado por IA a partir de especificaciones de lenguaje natural, introduciendo nuevas superficies de ataque para inyectar vulnerabilidades
arXiv · cs.CRTinta invisible, mentiras visibles: cómo las marcas de agua de producción causan alucinaciones en los LLM
arXiv: 2610.04860v1 Tipo de anuncio: nuevo Resumen: La marca de agua de texto ayuda a identificar el contenido generado por IA, pero su efecto sobre la fiabilidad de los hechos sigue siendo poco explorado. En este artículo, estudiamos la alucinación de la marca de agua: hecho
arXiv · cs.CRCyTReX: Marco de razonamiento de amenazas de ciberseguridad basado en IA explicable para redes DER
arXiv: 2610.04286v1Tipo de anuncio: nuevo Resumen: los entornos de recursos de energía distribuida (DER) se basan en protocolos de comunicación de red para coordinar comandos de control, mediciones y estados de dispositivos en activos de borde y
arXiv · cs.CRMinas terrestres de enfriamiento: ataques de interferencia entre inquilinos en puertas de enlace de LLM
arXiv: 2610.05089v1Tipo de anuncio: nuevo Resumen: las puertas de enlace LLM aplican cuotas de inquilinos separadas mientras comparten implementaciones de modelos y registros de enfriamiento que excluyen temporalmente los backends defectuosos. Sin embargo, la solicitud de un inquilino falla
arXiv · cs.CRAutoDP-LLM: Automatización del preprocesamiento de datos para sistemas de detección de intrusiones utilizando modelos de lenguaje grandes
arXiv:2610.05369v1 Tipo de anuncio: nuevo Resumen: La creciente complejidad y escala de los ciberataques modernos exigen sistemas de detección de intrusiones (IDS) inteligentes y computacionalmente eficientes. Sin embargo, el diseño eficaz
arXiv · cs.CRAutoML en línea: evaluación de ataques de envenenamiento en la estrategia de defensa de entrenamiento adversario en redes IoT
arXiv: 2610.05810v1Tipo de anuncio: nuevo Resumen: Los vectores de ataque de envenenamiento impulsados por aprendizaje automático (ML) son maniobras adversarias mediante las cuales un atacante inserta, corrompe o altera intencionalmente los datos de entrenamiento para distorsionar un
arXiv · cs.CR¿En qué se equivocó la primera reparación? Localización de los orígenes de las fallas silenciosas en la reparación de vulnerabilidades genéticas
arXiv:2610.06163v1 Announce Type: new Abstract: Localizing where a LLM-based agent first fail to keep security during a repair can show which stage of its workflow needs a additional safeguard. Esto es difícil para
arXiv · cs.CRVeredictos correctos, razonamiento defectuoso: auditoría estructurada del razonamiento de vulnerabilidades basado en LLM
arXiv: 2610.06366v1Tipo de anuncio: nuevo Resumen: los modelos de lenguaje grandes (LLM) se implementan cada vez más para el análisis automatizado de vulnerabilidades de software. La clasificación binaria por sí sola es insuficiente; los profesionales necesitan explicaciones
arXiv · cs.CRUna evaluación de las capacidades de comprensión semántica de modelos de lenguaje grandes para cargas útiles de ataques web
arXiv: 2610.06507v1Tipo de anuncio: nuevo Resumen: Los servicios de visión por computadora entregados a través de interfaces web y API procesan solicitudes textuales para la adquisición de recursos de imágenes, la configuración de tareas de inferencia y la gestión de resultados
arXiv · cs.CR¿La IA ayuda a los ciberatacantes o a los defensores? Evidencia de vulnerabilidades no públicas y ataques posteriores
arXiv: 2610.06584v1 Tipo de anuncio: nuevo Resumen: La decisión de lanzamiento para los sistemas de IA de frontera se basa cada vez más en puntos de referencia de capacidad cibernética, pero los puntos de referencia de vulnerabilidad pública pueden exponer a los agentes a publicar previamente
arXiv · cs.CRAjuste fino de autorreflexión: mejora de la seguridad del agente contra ataques de inyección rápida por experiencia de falla
arXiv:2610.04269v1 Announce Type: cross Abstract: Los agentes del modelo de lenguaje grande (LLM) se implementan cada vez más en entornos aumentados por herramientas, pero su dependencia de entradas externas los hace altamente vulnerables a prompt i
arXiv · cs.CRReactivación de la alineación: defensa de los LLM de las fugas de cárcel a través de la coincidencia de entrada-salida consciente de la intención
arXiv: 2610.04470v1Announce Type: cross Resumen: Los modelos de lenguaje grandes (LLM) siguen siendo vulnerables a los ataques de jailbreak que ocultan intenciones dañinas dentro de mensajes contradictorios complejos. Las defensas existentes se basan principalmente en
arXiv · cs.CRReflexiones y fragmentos: asegurar los LLM contra ataques secuenciales de mosaico
arXiv: 2610.05346v1Announce Type: cross Abstract: Self-play red-teaming mejora la seguridad del modelo de lenguaje al enfrentar los roles de atacante y defensor entre sí en un juego de suma cero. Sin embargo, los adversarios reales cada vez más
arXiv · cs.CRCitando a Felix Rieseberg
La versión "antigua" de Cowork ejecuta la inferencia del modelo en la nube, ejecutando llamadas a herramientas en una máquina virtual provista por Anthropic que enviamos a su ordenador. Añadimos la VM por razones de capacidad, seguridad y protección: mapeo en solo
Simon WillisonUn responsable de transparencia de OpenAI dimite y pide a las empresas de IA copiar la seguridad de las centrales nucleares
David Robinson, que dirigía el trabajo de transparencia dentro del equipo de seguridad de OpenAI, ha dimitido y ha explicado sus motivos en un ensayo publicado en The Atlantic: la empresa «ha prosperado a base de ensayo
WWWhat’s NewProblemas abiertos y emergentes en la privacidad y la seguridad agénicas: un ángulo contextual
IA generativa
Google Research · Fuente oficial