LATIDIA / EXPLORAR
Riesgos y seguridad · noticias de IA
Publicaciones relacionadas, con las más nuevas primero y acceso al archivo.
Últimas noticias relacionadas
Desde enero de 2026. Archivo recuperado: 443 publicaciones en este filtro; cobertura parcial de las fuentes accesibles. Una nueva noticia aparece primero sin cambiar la fecha de las anteriores.
Este año · Todo el archivo conservado
Minas terrestres de enfriamiento: ataques de interferencia entre inquilinos en puertas de enlace de LLM
arXiv: 2610.05089v1Tipo de anuncio: nuevo Resumen: las puertas de enlace LLM aplican cuotas de inquilinos separadas mientras comparten implementaciones de modelos y registros de enfriamiento que excluyen temporalmente los backends defectuosos. Sin embargo, la solicitud de un inquilino falla
arXiv · cs.CRAutoDP-LLM: Automatización del preprocesamiento de datos para sistemas de detección de intrusiones utilizando modelos de lenguaje grandes
arXiv:2610.05369v1 Tipo de anuncio: nuevo Resumen: La creciente complejidad y escala de los ciberataques modernos exigen sistemas de detección de intrusiones (IDS) inteligentes y computacionalmente eficientes. Sin embargo, el diseño eficaz
arXiv · cs.CRAutoML en línea: evaluación de ataques de envenenamiento en la estrategia de defensa de entrenamiento adversario en redes IoT
arXiv: 2610.05810v1Tipo de anuncio: nuevo Resumen: Los vectores de ataque de envenenamiento impulsados por aprendizaje automático (ML) son maniobras adversarias mediante las cuales un atacante inserta, corrompe o altera intencionalmente los datos de entrenamiento para distorsionar un
arXiv · cs.CR¿En qué se equivocó la primera reparación? Localización de los orígenes de las fallas silenciosas en la reparación de vulnerabilidades genéticas
arXiv:2610.06163v1 Announce Type: new Abstract: Localizing where a LLM-based agent first fail to keep security during a repair can show which stage of its workflow needs a additional safeguard. Esto es difícil para
arXiv · cs.CRVeredictos correctos, razonamiento defectuoso: auditoría estructurada del razonamiento de vulnerabilidades basado en LLM
arXiv: 2610.06366v1Tipo de anuncio: nuevo Resumen: los modelos de lenguaje grandes (LLM) se implementan cada vez más para el análisis automatizado de vulnerabilidades de software. La clasificación binaria por sí sola es insuficiente; los profesionales necesitan explicaciones
arXiv · cs.CRUna evaluación de las capacidades de comprensión semántica de modelos de lenguaje grandes para cargas útiles de ataques web
arXiv: 2610.06507v1Tipo de anuncio: nuevo Resumen: Los servicios de visión por computadora entregados a través de interfaces web y API procesan solicitudes textuales para la adquisición de recursos de imágenes, la configuración de tareas de inferencia y la gestión de resultados
arXiv · cs.CR¿La IA ayuda a los ciberatacantes o a los defensores? Evidencia de vulnerabilidades no públicas y ataques posteriores
arXiv: 2610.06584v1 Tipo de anuncio: nuevo Resumen: La decisión de lanzamiento para los sistemas de IA de frontera se basa cada vez más en puntos de referencia de capacidad cibernética, pero los puntos de referencia de vulnerabilidad pública pueden exponer a los agentes a publicar previamente
arXiv · cs.CRAjuste fino de autorreflexión: mejora de la seguridad del agente contra ataques de inyección rápida por experiencia de falla
arXiv:2610.04269v1 Announce Type: cross Abstract: Los agentes del modelo de lenguaje grande (LLM) se implementan cada vez más en entornos aumentados por herramientas, pero su dependencia de entradas externas los hace altamente vulnerables a prompt i
arXiv · cs.CRReactivación de la alineación: defensa de los LLM de las fugas de cárcel a través de la coincidencia de entrada-salida consciente de la intención
arXiv: 2610.04470v1Announce Type: cross Resumen: Los modelos de lenguaje grandes (LLM) siguen siendo vulnerables a los ataques de jailbreak que ocultan intenciones dañinas dentro de mensajes contradictorios complejos. Las defensas existentes se basan principalmente en
arXiv · cs.CRReflexiones y fragmentos: asegurar los LLM contra ataques secuenciales de mosaico
arXiv: 2610.05346v1Announce Type: cross Abstract: Self-play red-teaming mejora la seguridad del modelo de lenguaje al enfrentar los roles de atacante y defensor entre sí en un juego de suma cero. Sin embargo, los adversarios reales cada vez más
arXiv · cs.CRCitando a Felix Rieseberg
La versión "antigua" de Cowork ejecuta la inferencia del modelo en la nube, ejecutando llamadas a herramientas en una máquina virtual provista por Anthropic que enviamos a su ordenador. Añadimos la VM por razones de capacidad, seguridad y protección: mapeo en solo
Simon WillisonUn responsable de transparencia de OpenAI dimite y pide a las empresas de IA copiar la seguridad de las centrales nucleares
David Robinson, que dirigía el trabajo de transparencia dentro del equipo de seguridad de OpenAI, ha dimitido y ha explicado sus motivos en un ensayo publicado en The Atlantic: la empresa «ha prosperado a base de ensayo
WWWhat’s NewProblemas abiertos y emergentes en la privacidad y la seguridad agénicas: un ángulo contextual
IA generativa
Google Research · Fuente oficialGoogle ya no te pagará por hallar vulnerabilidades en su código abierto, y todo por la IA
Google ha suspendido el programa de recompensas que pagaba las contribuciones del público para hallar vulnerabilidades en sus productos de código abierto. La compañía de Mountain View anunció la pausa en la iniciativa, q
HipertextualSideKernel: una caja de arena microVM utilizable para agentes de codificación de IA en macOS
arXiv: 2610.02456v1Tipo de anuncio: nuevo Resumen: los agentes de codificación de IA son componentes del sistema no confiables, pero requieren autonomía en las máquinas de desarrollo en las que se ejecutan. Esta contradicción es un problema de seguridad. Sandboxes provi
arXiv · cs.CRCITADEL: inserción guiada por CWE de troyanos de hardware a través del análisis de LLM habilitados para DFG
arXiv: 2610.02544v1Tipo de anuncio: nuevo Resumen: La creciente sofisticación de los troyanos de hardware (HT) y las vulnerabilidades a nivel de sistema plantean riesgos significativos para los circuitos integrados modernos. Sin embargo, construir realis
arXiv · cs.CRFuera de sincronía, fuera de la vista: ataques de estado fantasma contra la detección de intrusiones IIoT
arXiv: 2610.02552v1Tipo de anuncio: nuevo Resumen: Los sistemas de detección de intrusiones (IDS) basados en el aprendizaje automático son fundamentales para proteger los entornos del Internet Industrial de las Cosas (IIoT). La mayoría de las investigaciones contradictorias en su contra
arXiv · cs.CRMás allá de los sumideros predefinidos: análisis de dependencia consciente de la seguridad para agentes de LLM
arXiv: 2610.03014v1 Tipo de anuncio: nuevo Resumen: los agentes basados en el modelo de lenguaje grande (LLM) conectan cada vez más las decisiones generadas por el modelo con las capacidades de software sensibles a la seguridad, como la ejecución de comandos, la acreditación del sistema de archivos
arXiv · cs.CRSensibilidad de representación de preservación de amenazas en puntos de referencia de seguridad de agentes
arXiv: 2610.03585v1Tipo de anuncio: nuevo Resumen: Los puntos de referencia de seguridad para agentes basados en LLM a menudo informan la tasa de éxito de ataque (ASR) como una medida de la solidez del modelo y utilizan estas puntuaciones para comparar diferentes modelos y de
arXiv · cs.CRLa frecuencia no es sensibilidad Identificación de expertos sensibles a la seguridad en Moe disperso LLM
arXiv: 2610.02910v1Tipo de anuncio: Cross Resumen: La supresión de un pequeño conjunto de expertos enrutados puede debilitar el comportamiento de seguridad de un modelo de lenguaje de mezcla de expertos (Moe) disperso sin reentrenamiento. Qué expertos suprimir
arXiv · cs.CRUn responsable de transparencia de OpenAI dimite y pide a las empresas de IA copiar la seguridad de las centrales nucleares
David Robinson, que dirigía el trabajo de transparencia dentro del equipo de seguridad de OpenAI, ha dimitido y ha explicado sus motivos en un ensayo publicado en The Atlantic: la empresa «ha prosperado a base de ensayo
WWWhat’s NewHuang confrontó a Amodei en la Casa Blanca: la fractura entre los líderes de la IA sobre los riesgos es ya un asunto de Estado
El martes 30 de septiembre, los máximos responsables de las empresas de IA del mundo se reunieron en la Casa Blanca con el presidente Donald Trump para presentar un frente unido sobre «superinteligencia» —término que el
WWWhat’s NewEl modelo Mythos de Anthropic descubrió vulnerabilidades críticas en Epic que exponían 320 millones de historiales médicos sin dejar rastro
Epic Systems, la empresa que gestiona el software MyChart utilizado para acceder a los historiales médicos de los pacientes en hospitales y consultas de toda EEUU, ha paralizado prácticamente todo su desarrollo de produc
WWWhat’s NewUn agente de IA autónomo hackea al organismo de ciberseguridad holandés DIVD — y lo hace de forma errática y sin que nadie lo guíe
El Instituto Holandés para la Divulgación de Vulnerabilidades (DIVD) es el equivalente al INCIBE español: una organización que se dedica a encontrar y comunicar fallos de seguridad en sistemas de terceros para que sean c
WWWhat’s New