LATIDIA / EXPLORAR
Riesgos y seguridad · noticias de IA
Publicaciones relacionadas, con las más nuevas primero y acceso al archivo.
Últimas noticias relacionadas
Desde enero de 2026. Archivo recuperado: 443 publicaciones en este filtro; cobertura parcial de las fuentes accesibles. Una nueva noticia aparece primero sin cambiar la fecha de las anteriores.
Este año · Todo el archivo conservado
DroneShield-AI: un marco de fusión de sensores multimodal para la detección de amenazas de drones autónomos en tiempo real, la clasificación de intención de comportamiento y la inteligencia de enjambre en el espacio aéreo disputado
arXiv:2606.11687v2 Announce Type: replace-cross Resumen: Las amenazas de vehículos aéreos no tripulados (UAV) han surgido como un desafío de seguridad definitorio del siglo XXI. Este documento presenta DroneShield-AI, un marco abierto unificado
arXiv · cs.ROUn punto de referencia a gran escala y una evaluación de riesgos de los ataques de análisis de tráfico en los servicios de LLM en la nube
arXiv: 2609.31877v1Tipo de anuncio: nuevo Resumen: Los servicios de modelo de lenguaje grande (LLM) basados en la nube crean un canal lateral de tráfico a nivel de red que puede exponer el comportamiento del modelo, el indicador y la tarea a pesar del cifrado. Desde el paquete
arXiv · cs.CRAtaques de evasión en la capacitación adversarial basada en la rentabilidad para AutoML en línea en redes IoT
arXiv: 2609.31981v1Tipo de anuncio: nuevo Resumen: A medida que las redes de Internet de las cosas (IoT) dependen cada vez más del aprendizaje automático para anomalías, malware, detección de intrusiones y monitoreo de redes, dichos sistemas se han convertido en
arXiv · cs.CRBMA: Los ataques a la memoria de la cadena trasera crean rutas de control no autorizadas en los agentes de LLM
arXiv:2609.32186v1 Announce Type: new Resumen: La memoria persistente permite a los agentes LLM reutilizar la experiencia previa, pero crea un nuevo límite de seguridad: lo que un agente puede recordar no es sobre lo que debe actuar. Exponemos una u
arXiv · cs.CRCyberClear: un punto de referencia para los sistemas de agentes LLM en la procedencia de la cadena de ataques APT
arXiv: 2609.32424v1Tipo de anuncio: nuevo Resumen: Los agentes del modelo de lenguaje grande han demostrado capacidades prometedoras en tareas de ciberseguridad, pero su capacidad para reconstruir la CAM de ataque de amenaza persistente avanzada completa
arXiv · cs.CRReproBench: Evaluación comparativa de agentes LLM sobre la reproducción de vulnerabilidades desde cero
arXiv: 2609.34450v1Announce Type: new Resumen: Los agentes del modelo de lenguaje grande (LLM) se evalúan cada vez más en tareas de ciberseguridad como la reproducción de vulnerabilidades, la explotación y los parches. Sin embargo, los ciberdelincuentes existentes
arXiv · cs.CRDetección de malware en Windows: una evaluación exhaustiva de la robustez adversaria del espacio de problemas
arXiv: 2609.34456v1Tipo de anuncio: nuevo Resumen: Los ataques de evasión de espacio de problemas han expuesto debilidades críticas en los detectores de malware basados en el aprendizaje automático; sin embargo, su evaluación sigue fragmentada entre modelos y conjuntos de datos
arXiv · cs.CRUn agente de IA atacó Adif y Renfe y se llevó 500 GB de datos: el primer gran ciberataque con IA autónoma a infraestructura crítica española
El jueves, la web de Adif empezó a mostrar un gatito negro. Hoy ya sabemos lo que había detrás: Adif y Renfe han sufrido un ciberataque en el que se han filtrado 500 GB de datos de sus clientes. Lo adelantó El Mundo, Xat
WWWhat’s NewOpenAI cancela su IA más avanzada a días de lanzarla en ChatGPT: era peligrosa y engañaba a los usuarios
OpenAI ha cancelado el lanzamiento de GPT-6.1 Astra después de detectar problemas de seguridad en sus pruebas internas. La compañía tenía planes de lanzarlo en octubre para impulsar ChatGPT y Codex, pero todo indica que
HipertextualSegún los informes, OpenAI abandona el modelo por cuestiones de seguridad
Un alto ejecutivo del laboratorio de IA le dijo al Wall Street Journal que el modelo en cuestión había mostrado una mala aptitud para seguir órdenes.
TechCrunch AIHacia casos de seguridad para la capacitación en IA de frontera
Nuestras primeras pautas para casos de seguridad en la capacitación de IA en la frontera cubren las salvaguardas técnicas, las prácticas operativas y la investigación de incidentes de desalineación
OpenAI · Fuente oficialNvidia lanza una nueva plataforma para controlar a los agentes de IA deshonestos
El CEO de Nvidia, Jensen Huang, presentó el lunes un conjunto de herramientas de productos de software y hardware que agregan capas de seguridad independientes alrededor de los agentes de IA para garantizar que permanezcan dentro de sus entornos de prueba incluso si intentan
TechCrunch AIChatGPT se sale de control y realiza ciberataques sin que nadie se lo pidiera
La IA de OpenAI ha protagonizado otro incidente que ya comienza a preocupar. EI Instituto de Seguridad de IA de Reino Unido (AISI) detectó que GPT-6 Astra ejecutó ataques a la cadena de suministro de software que nadie l
HipertextualGecko Robotics trabaja con NVIDIA para añadir seguridad y control a los agentes de IA
Gecko Robotics está utilizando la nueva NVIDIA Open Agent Safety Platform para garantizar el control autónomo seguro de los sistemas. La publicación Gecko Robotics trabaja con NVIDIA para agregar la seguridad y el control del agente de IA apareció primero en The R
The Robot ReportZuckerberg rechaza la coordinación de seguridad en IA mientras Google, Anthropic y OpenAI crean el organismo SAFA
Mark Zuckerberg ha dejado claro que no piensa sumarse al movimiento de coordinación de seguridad en IA que están construyendo sus competidores. En una entrevista con la periodista Joanna Stern, el CEO de Meta fue directo
WWWhat’s NewOpenAI prepara GPT-6 Cyber, su primer modelo específico de ciberseguridad, para el DevDay del 29 de septiembre
OpenAI lanzará en los próximos días —posiblemente en el DevDay del 29 de septiembre— un nuevo modelo llamado GPT-6 Cyber, diseñado específicamente para ciberseguridad. Junto al modelo, la empresa lanzará también algún ti
WWWhat’s NewAuthGuard-R: secuestro de misión que cumple con la seguridad y defensa de doble puerta para robots controlados por LLM
arXiv: 2609.31110v1Tipo de anuncio: nuevo Resumen: Los modelos de lenguaje grandes se utilizan cada vez más como planificadores de alto nivel para robots móviles, manipuladores de robots y vehículos autónomos. Estudios recientes muestran que estos sistemas ca
arXiv · cs.RODetección de inyección rápida para agentes de correo electrónico a través del modelado de la cadena de ataque
arXiv: 2609.30657v1Tipo de anuncio: nuevo Resumen: los asistentes de correo electrónico de modelo de lenguaje grande son particularmente vulnerables a la inyección de aviso indirecto porque el contenido de correo electrónico no confiable se puede recuperar en el contexto del modelo e i
arXiv · cs.CRÁGATA: Defensa en tiempo de ejecución basada en la procedencia contra ataques compositivos a agentes de LLM
arXiv:2609.30830v1 Tipo de anuncio: nuevo Resumen: los agentes LLM pueden producir efectos nocivos a través de secuencias de operaciones ordinarias. Juzgar tales acciones requiere establecer tanto la autoridad que las permite como el ori
arXiv · cs.CRMetaPermit: Control de acceso escalable y auditable para agentes de IA a través de metaatributos inferidos por LLM
arXiv: 2609.31039v1Tipo de anuncio: nuevo Resumen: El aumento de agentes autónomos de IA equipados con herramientas ha introducido importantes riesgos de seguridad, que van desde el uso indebido involuntario de herramientas hasta la manipulación contradictoria a través de INDI
arXiv · cs.CRMarco de IA con optimización de recursos y conciencia energética anclado en Blockchain para cadenas de suministro de software seguras
arXiv: 2609.31282v1Tipo de Anuncio: nuevo Resumen: Este documento propone un marco de seguridad agéntica respaldado por blockchain diseñado para salvaguardar el ciclo de vida completo del desarrollo de software (SDLC) y al mismo tiempo asegurar el
arXiv · cs.CRAgentXploit: Autonomous Repository-to-Runtime Red-Teaming for AI Agents
arXiv:2609.31318v1 Tipo de anuncio: nuevo Resumen: los agentes de IA combinan modelos de lenguaje con datos externos y herramientas que pueden modificar archivos, llamar a API o ejecutar código. Las fallas de seguridad pueden surgir cuando el contenido adversarial cambia
arXiv · cs.CRFragToken: amplificación de los costes de inferencia de LLM a través de la generación de tokens no canónicos
arXiv: 2609.31552v1Tipo de anuncio: nuevo Resumen: A medida que la inferencia del modelo de lenguaje grande (LLM) se vuelve cada vez más costosa, los ataques de consumo de recursos representan una amenaza creciente para los proveedores de modelos. Los ataques existentes suelen ser
arXiv · cs.CREvaluación regional del riesgo climático a partir de modelos climáticos utilizando aprendizaje automático probabilístico
Nature Machine Intelligence, Publicado en línea: 28 de septiembre de 2026; doi: 10.1038/s42256-026-01308-7 Se introduce un marco de IA generativa llamado GenFocal para la reducción de escala climática, que produce un clima realista a escala fina para
Nature Machine Intelligence