LATIDIA / EXPLORAR
Riesgos y seguridad · noticias de IA
Publicaciones relacionadas, con las más nuevas primero y acceso al archivo.
Últimas noticias relacionadas
Desde enero de 2026. Archivo recuperado: 443 publicaciones en este filtro; cobertura parcial de las fuentes accesibles. Una nueva noticia aparece primero sin cambiar la fecha de las anteriores.
Este año · Todo el archivo conservado
LogiC-Diff: Incrustación de propiedades de seguridad en sistemas ciberfísicos habilitados para IA
arXiv:2609.38381v1 Tipo de anuncio: nuevo Resumen: los sistemas ciberfísicos (CPS) habilitados para IA son altamente vulnerables a entradas adversarias y anómalas, donde pequeñas perturbaciones pueden inducir errores en cascada y un control inseguro
arXiv · cs.CREvaluación de si GPT-6 Astra realiza ataques no autorizados a la cadena de suministro
arXiv: 2609.38415v1Tipo de anuncio: nuevo Resumen: Este informe técnico presenta una evaluación de alineación desarrollada y realizada por el Instituto de Seguridad de IA del Reino Unido para evaluar si los sistemas avanzados de IA toman una
arXiv · cs.CRCuantificación de peso basada en semillas de seguridad mejorada para modelos de lenguaje grandes
arXiv: 2609.38477v1Tipo de anuncio: nuevo Resumen: los modelos de lenguaje grandes (LLM) incurren en costos sustanciales de almacenamiento, ancho de banda de memoria y energía, lo que motiva representaciones de peso compactas. Método de compresión basado en semillas existente
arXiv · cs.CRAPTInvestBench: Evaluación de la investigación APT autónoma bajo telemetría variable
arXiv: 2609.38954v1Tipo de anuncio: nuevo Resumen: los agentes del modelo de lenguaje grande (LLM) podrían ayudar a los centros de operaciones de seguridad (SOC) a investigar amenazas persistentes avanzadas (APT) al convertir los clientes potenciales débiles en evidencia de intru
arXiv · cs.CRTÁCTICA: Planificación táctica de LLM temporal y consciente del contexto para ataques LiDAR en carretera
arXiv:2609.39969v1 Tipo de anuncio: nuevo Resumen: Los ataques LiDAR físicos a menudo se evalúan utilizando primitivas fijas y parámetros seleccionados manualmente, a pesar de su fuerte dependencia del tráfico circundante. Presentamos TACTI
arXiv · cs.ROLavado de aprobaciones: sistematización de la aprobación: fallas vinculantes de ejecución en los arneses de agentes de codificación de IA
arXiv: 2609.38983v1Tipo de anuncio: nuevo Resumen: Los arneses modernos de agentes de codificación de IA (Claude Code, Codex CLI, Cursor) descansan su límite de seguridad en una suposición en gran parte no examinada: que la acción que un humano aprueba es la
arXiv · cs.CRAsistencia encubierta: los útiles agentes de LLM evaden la supervisión en sistemas multiagente
arXiv: 2609.39050v1Tipo de anuncio: nuevo Resumen: A medida que los sistemas multiagente ingresan a dominios de alto riesgo, la posibilidad de que los agentes puedan eludir los límites de seguridad es una preocupación creciente. El trabajo previo ha examinado esta prima de riesgo
arXiv · cs.CRReco levanta $55M para controlar el sprawl de agentes IA — en un cliente encontraron 21.000 agentes que la empresa no sabía que existían
El mercado de seguridad para agentes de IA se ha llenado de docenas de startups en semanas. Reco lleva un año trabajando en el problema y acaba de triplicar su capital con AT&T como nuevo inversor La semana en que Op
WWWhat’s NewPrevisión de los riesgos meteorológicos espaciales en las redes eléctricas
Los fenómenos meteorológicos espaciales extremos pueden dañar los sistemas de energía en la Tierra y degradar la precisión del GPS y las operaciones de los satélites. Un nuevo sistema de aprendizaje automático puede predecir dónde es probable que se produzcan daños 30-60 minutos antes de una tormenta
Microsoft Research · Fuente oficialConexión a tierra semántica consciente del riesgo para una planificación confiable de robots basada en LLM
arXiv: 2609.37554v1Tipo de anuncio: nuevo Resumen: Los modelos de lenguaje grandes (LLM) se utilizan cada vez más como planificadores de alto nivel en la navegación de robots, pero sus resultados pueden volverse poco confiables cuando las instrucciones son ambiguas, inseguras
arXiv · cs.ROElevando el listón para la seguridad de los adolescentes chinos LLM: un punto de referencia culturalmente fundamentado y de grano fino
arXiv:2609.35902v1 Anuncio Tipo: nuevo Resumen: Los riesgos de seguridad en las conversaciones con adolescentes no siempre son explícitos. Una solicitud puede parecer inofensiva a menos que un modelo considere la edad del usuario, las circunstancias y los antecedentes.
arXiv · cs.CRRenderizar antes de leer: la representación visual como defensa contra la inyección de mensajes
arXiv:2609.36121v1 Anuncio Tipo: nuevo Resumen: Los modelos de lenguaje grandes son vulnerables a ataques de inyección de mensajes, donde contenido adversario de terceros puede secuestrar el comportamiento del modelo. En este artículo, estudiamos el papel de la inyección de mensajes.
arXiv · cs.CRDebiasing adversarial de modelos de aprendizaje automático para mejorar la seguridad de la red contra ataques DDoS
arXiv:2609.36167v1 Tipo de anuncio: nuevo Resumen: Los ataques distribuidos de denegación de servicio son una amenaza creciente para la infraestructura de red, y las nuevas técnicas, incluido el uso de IA generativa, los hacen más difíciles de detectar. Tr
arXiv · cs.CRConozca lo normal, rastree el ataque: investigación de LLM basada en el contexto y con estado sobre la procedencia del sistema
arXiv: 2609.36494v1Tipo de anuncio: nuevo Resumen: Los sistemas de detección de intrusos basados en la procedencia (PIDS) identifican actividades sospechosas en los flujos de auditoría, pero sus resultados siguen siendo difíciles de convertir en una narrativa de ataque coherente
arXiv · cs.CRCyberPersistBench: Evaluating LLM-Based Cyber Attackers on Installation and Persistence
arXiv: 2609.36573v1 Tipo de anuncio: nuevo Resumen: Si bien los atacantes basados en LLM muestran una creciente competencia en la explotación de vulnerabilidades, la mayoría de los puntos de referencia de ciberseguridad existentes sufren un truncamiento de una sola etapa, prematuramente
arXiv · cs.CRAtaques y defensas de latencia de aprendizaje profundo: una encuesta entre dominios de amenazas de disponibilidad
arXiv: 2609.36732v1Announce Type: new Abstract: El aprendizaje automático adversarial se ha centrado principalmente en la integridad, pero la disponibilidad es un complemento cada vez más consecuente. Ataques de latencia (también ataques de latencia de energía) en
arXiv · cs.CRAtaques de decodificación controlada en Black-Box LLM
arXiv:2609.36956v1 Announce Type: new Abstract: Manipulating next-token probabilities during generation can bypass the safety alignment of large language models. Sin embargo, los enfoques existentes se basan en el acceso al modelo Weig
arXiv · cs.CROpenAI congela GPT-6.1 Astra en el día de su DevDay — sus propias pruebas de seguridad lo bloquearon
La empresa canceló el lanzamiento previsto para octubre porque el modelo se comportaba de forma engañosa incluso después de instrucciones explícitas. El DevDay 2026 arranca sin su modelo más esperado El DevDay 2026 de Op
WWWhat’s NewLa IA está acelerando el hacking y hospitales y bancos son los menos preparados para recibirlo
Los ataques con IA ya operan a velocidad de máquina y los sectores con sistemas más legacy, como sanidad y banca minorista, son los que menos margen tienen para responder El 69% de los consumidores no cree que su banco e
WWWhat’s NewReco recauda 55 MILLONES de $ a medida que las nuevas empresas de seguridad de agentes de IA abarrotan el mercado
La ronda se basa en una recaudación de fondos de $ 30 millones en febrero, llevando la financiación total de la compañía a $ 140 millones.
TechCrunch AINvidia lanza su plataforma de seguridad para agentes mientras OpenAI publica su catálogo de desastres
Jensen Huang presenta hoy Open Agent Safety Platform combinando hardware y software aislados, el mismo día que OpenAI publica un site con nueve incidentes de agentes fuera de control La coincidencia del calendario de hoy
WWWhat’s NewOpenAI cancela el lanzamiento de GPT-6.1 Astra: su propio equipo de seguridad ha visto que el modelo no era fiable
OpenAI ha dejado en suspenso GPT-6.1 Astra, el modelo que planeaba lanzar en octubre, después de que sus propios investigadores descubrieran que el sistema no se comportaba de forma suficientemente fiable durante las pru
XatakaEl prospecto de Anthropic detalla las pérdidas, el crecimiento y, sí, una advertencia de que su IA podría acabar con la humanidad
En su prospecto, Anthropic acaba de decir a los inversores que está perdiendo decenas de miles de millones de dólares al año, pero también está creciendo como loco y, oh sí, su propia IA podría representar un riesgo existencial para la humanidad.
TechCrunch AILos secretos de API nunca deben convertirse en tokens en el vocabulario del LLM: un análisis de amenazas del manejo de credenciales de API en sistemas de agentes de LLM y una evaluación empírica de un límite de ejecución mediada por bóveda
arXiv: 2609.33371v1Announce Type: new Resumen: Los agentes del modelo de lenguaje grande (LLM) que utilizan herramientas convierten la higiene de credenciales de un problema de almacenamiento en un problema de seguridad de ejecución. Una clave pegada en un mensaje o incrustada en un
arXiv · cs.CR