LATIDIA / EXPLORAR
Riesgos y seguridad · noticias de IA
Publicaciones relacionadas, con las más nuevas primero y acceso al archivo.
Últimas noticias relacionadas
Desde enero de 2026. Archivo recuperado: 430 publicaciones en este filtro; cobertura parcial de las fuentes accesibles. Una nueva noticia aparece primero sin cambiar la fecha de las anteriores.
Este año · Todo el archivo conservado
Conozca lo normal, rastree el ataque: investigación de LLM basada en el contexto y con estado sobre la procedencia del sistema
arXiv: 2609.36494v1Tipo de anuncio: nuevo Resumen: Los sistemas de detección de intrusos basados en la procedencia (PIDS) identifican actividades sospechosas en los flujos de auditoría, pero sus resultados siguen siendo difíciles de convertir en una narrativa de ataque coherente
arXiv · cs.CRCyberPersistBench: Evaluating LLM-Based Cyber Attackers on Installation and Persistence
arXiv: 2609.36573v1 Tipo de anuncio: nuevo Resumen: Si bien los atacantes basados en LLM muestran una creciente competencia en la explotación de vulnerabilidades, la mayoría de los puntos de referencia de ciberseguridad existentes sufren un truncamiento de una sola etapa, prematuramente
arXiv · cs.CRAtaques y defensas de latencia de aprendizaje profundo: una encuesta entre dominios de amenazas de disponibilidad
arXiv: 2609.36732v1Announce Type: new Abstract: El aprendizaje automático adversarial se ha centrado principalmente en la integridad, pero la disponibilidad es un complemento cada vez más consecuente. Ataques de latencia (también ataques de latencia de energía) en
arXiv · cs.CRAtaques de decodificación controlada en Black-Box LLM
arXiv:2609.36956v1 Announce Type: new Abstract: Manipulating next-token probabilities during generation can bypass the safety alignment of large language models. Sin embargo, los enfoques existentes se basan en el acceso al modelo Weig
arXiv · cs.CROpenAI congela GPT-6.1 Astra en el día de su DevDay — sus propias pruebas de seguridad lo bloquearon
La empresa canceló el lanzamiento previsto para octubre porque el modelo se comportaba de forma engañosa incluso después de instrucciones explícitas. El DevDay 2026 arranca sin su modelo más esperado El DevDay 2026 de Op
WWWhat’s NewLa IA está acelerando el hacking y hospitales y bancos son los menos preparados para recibirlo
Los ataques con IA ya operan a velocidad de máquina y los sectores con sistemas más legacy, como sanidad y banca minorista, son los que menos margen tienen para responder El 69% de los consumidores no cree que su banco e
WWWhat’s NewReco recauda 55 MILLONES de $ a medida que las nuevas empresas de seguridad de agentes de IA abarrotan el mercado
La ronda se basa en una recaudación de fondos de $ 30 millones en febrero, llevando la financiación total de la compañía a $ 140 millones.
TechCrunch AINvidia lanza su plataforma de seguridad para agentes mientras OpenAI publica su catálogo de desastres
Jensen Huang presenta hoy Open Agent Safety Platform combinando hardware y software aislados, el mismo día que OpenAI publica un site con nueve incidentes de agentes fuera de control La coincidencia del calendario de hoy
WWWhat’s NewOpenAI cancela el lanzamiento de GPT-6.1 Astra: su propio equipo de seguridad ha visto que el modelo no era fiable
OpenAI ha dejado en suspenso GPT-6.1 Astra, el modelo que planeaba lanzar en octubre, después de que sus propios investigadores descubrieran que el sistema no se comportaba de forma suficientemente fiable durante las pru
XatakaEl prospecto de Anthropic detalla las pérdidas, el crecimiento y, sí, una advertencia de que su IA podría acabar con la humanidad
En su prospecto, Anthropic acaba de decir a los inversores que está perdiendo decenas de miles de millones de dólares al año, pero también está creciendo como loco y, oh sí, su propia IA podría representar un riesgo existencial para la humanidad.
TechCrunch AILos secretos de API nunca deben convertirse en tokens en el vocabulario del LLM: un análisis de amenazas del manejo de credenciales de API en sistemas de agentes de LLM y una evaluación empírica de un límite de ejecución mediada por bóveda
arXiv: 2609.33371v1Announce Type: new Resumen: Los agentes del modelo de lenguaje grande (LLM) que utilizan herramientas convierten la higiene de credenciales de un problema de almacenamiento en un problema de seguridad de ejecución. Una clave pegada en un mensaje o incrustada en un
arXiv · cs.CRDroneShield-AI: un marco de fusión de sensores multimodal para la detección de amenazas de drones autónomos en tiempo real, la clasificación de intención de comportamiento y la inteligencia de enjambre en el espacio aéreo disputado
arXiv:2606.11687v2 Announce Type: replace-cross Resumen: Las amenazas de vehículos aéreos no tripulados (UAV) han surgido como un desafío de seguridad definitorio del siglo XXI. Este documento presenta DroneShield-AI, un marco abierto unificado
arXiv · cs.ROUn punto de referencia a gran escala y una evaluación de riesgos de los ataques de análisis de tráfico en los servicios de LLM en la nube
arXiv: 2609.31877v1Tipo de anuncio: nuevo Resumen: Los servicios de modelo de lenguaje grande (LLM) basados en la nube crean un canal lateral de tráfico a nivel de red que puede exponer el comportamiento del modelo, el indicador y la tarea a pesar del cifrado. Desde el paquete
arXiv · cs.CRAtaques de evasión en la capacitación adversarial basada en la rentabilidad para AutoML en línea en redes IoT
arXiv: 2609.31981v1Tipo de anuncio: nuevo Resumen: A medida que las redes de Internet de las cosas (IoT) dependen cada vez más del aprendizaje automático para anomalías, malware, detección de intrusiones y monitoreo de redes, dichos sistemas se han convertido en
arXiv · cs.CRBMA: Los ataques a la memoria de la cadena trasera crean rutas de control no autorizadas en los agentes de LLM
arXiv:2609.32186v1 Announce Type: new Resumen: La memoria persistente permite a los agentes LLM reutilizar la experiencia previa, pero crea un nuevo límite de seguridad: lo que un agente puede recordar no es sobre lo que debe actuar. Exponemos una u
arXiv · cs.CRCyberClear: un punto de referencia para los sistemas de agentes LLM en la procedencia de la cadena de ataques APT
arXiv: 2609.32424v1Tipo de anuncio: nuevo Resumen: Los agentes del modelo de lenguaje grande han demostrado capacidades prometedoras en tareas de ciberseguridad, pero su capacidad para reconstruir la CAM de ataque de amenaza persistente avanzada completa
arXiv · cs.CRReproBench: Evaluación comparativa de agentes LLM sobre la reproducción de vulnerabilidades desde cero
arXiv: 2609.34450v1Announce Type: new Resumen: Los agentes del modelo de lenguaje grande (LLM) se evalúan cada vez más en tareas de ciberseguridad como la reproducción de vulnerabilidades, la explotación y los parches. Sin embargo, los ciberdelincuentes existentes
arXiv · cs.CRDetección de malware en Windows: una evaluación exhaustiva de la robustez adversaria del espacio de problemas
arXiv: 2609.34456v1Tipo de anuncio: nuevo Resumen: Los ataques de evasión de espacio de problemas han expuesto debilidades críticas en los detectores de malware basados en el aprendizaje automático; sin embargo, su evaluación sigue fragmentada entre modelos y conjuntos de datos
arXiv · cs.CRUn agente de IA atacó Adif y Renfe y se llevó 500 GB de datos: el primer gran ciberataque con IA autónoma a infraestructura crítica española
El jueves, la web de Adif empezó a mostrar un gatito negro. Hoy ya sabemos lo que había detrás: Adif y Renfe han sufrido un ciberataque en el que se han filtrado 500 GB de datos de sus clientes. Lo adelantó El Mundo, Xat
WWWhat’s NewOpenAI cancela su IA más avanzada a días de lanzarla en ChatGPT: era peligrosa y engañaba a los usuarios
OpenAI ha cancelado el lanzamiento de GPT-6.1 Astra después de detectar problemas de seguridad en sus pruebas internas. La compañía tenía planes de lanzarlo en octubre para impulsar ChatGPT y Codex, pero todo indica que
HipertextualSegún los informes, OpenAI abandona el modelo por cuestiones de seguridad
Un alto ejecutivo del laboratorio de IA le dijo al Wall Street Journal que el modelo en cuestión había mostrado una mala aptitud para seguir órdenes.
TechCrunch AIHacia casos de seguridad para la capacitación en IA de frontera
Nuestras primeras pautas para casos de seguridad en la capacitación de IA en la frontera cubren las salvaguardas técnicas, las prácticas operativas y la investigación de incidentes de desalineación
OpenAI · Fuente oficialNvidia lanza una nueva plataforma para controlar a los agentes de IA deshonestos
El CEO de Nvidia, Jensen Huang, presentó el lunes un conjunto de herramientas de productos de software y hardware que agregan capas de seguridad independientes alrededor de los agentes de IA para garantizar que permanezcan dentro de sus entornos de prueba incluso si intentan
TechCrunch AIChatGPT se sale de control y realiza ciberataques sin que nadie se lo pidiera
La IA de OpenAI ha protagonizado otro incidente que ya comienza a preocupar. EI Instituto de Seguridad de IA de Reino Unido (AISI) detectó que GPT-6 Astra ejecutó ataques a la cadena de suministro de software que nadie l
Hipertextual