LATIDIA / EXPLORAR
Riesgos y seguridad · noticias de IA
Publicaciones relacionadas, con las más nuevas primero y acceso al archivo.
Últimas noticias relacionadas
Desde enero de 2026. Archivo recuperado: 430 publicaciones en este filtro; cobertura parcial de las fuentes accesibles. Una nueva noticia aparece primero sin cambiar la fecha de las anteriores.
Este año · Todo el archivo conservado
¿Las defensas contra la extracción de LLM funcionan en todos los ataques? Un punto de referencia del ciclo de vida de la extracción del modelo de caja negra
arXiv: 2610.00839v1Tipo de anuncio: nuevo Resumen: los modelos de lenguaje grandes (LLM) implementados a través de API de solo texto enfrentan riesgos de extracción de modelos, ya que los adversarios pueden recopilar sus respuestas para entrenar sustitutos que reproducen el
arXiv · cs.CR¡Los datos de alta calidad no significan seguros! Envenenamiento de LLM después de la selección de datos
arXiv: 2610.01367v1Tipo de anuncio: nuevo Resumen: Los modelos de lenguaje grande alineados con la seguridad siguen siendo vulnerables al ajuste fino en pequeños conjuntos de muestras dañinas o de aspecto benigno. Sin embargo, los estudios previos generalmente asumen que la poiso
arXiv · cs.CRPisos falsos: las evaluaciones de enrutamiento de seguridad de LLM se interrumpen en el turno de distribución
arXiv:2610.01535v1 Tipo de anuncio: nuevo Resumen: Los routers de seguridad envían cada solicitud a uno de varios modelos y se juzgan contra el mejor modelo único. Un punto de referencia de enrutamiento importante elige ese comparador en la evaluación da
arXiv · cs.CROpenAI corta lazos con 3 investigadores de seguridad, informa el WSJ
OpenAI se ha separado de tres investigadores de seguridad después de que una investigación interna descubriera que manejaban mal la información confidencial de la empresa, según un informe.
TechCrunch AIUna ONG demanda a OpenAI en California por el hackeo de Hugging Face — pide prohibir los agentes que acceden sin permiso
LASST v. OpenAI: primera demanda por Hugging Face. Alega que OpenAI deshabilitó clasificadores de seguridad adrede. Pide injunción para parar agentes sin permiso. El sector de la IA tiene su primer caso judicial sobre el
WWWhat’s NewLa FTC abre una investigación sobre OpenAI y Anthropic — el día después de que firmaran el acuerdo voluntario con Trump
La Comisión Federal de Comercio de EEUU investiga a los principales labs de IA por los riesgos de su tecnología para los consumidores. Podría forzar a los ejecutivos a testificar. La investigación empezó este verano, ant
WWWhat’s NewOne UI 9 de Samsung: todas las novedades de IA, seguridad y privacidad
La nueva capa de personalización de los Galaxy llega con Now Nudge, Call Brief, Estudio Creativo mejorado y Security Brief — pero las funciones más avanzadas se reservan para los modelos S24 en adelante Samsung ha public
WWWhat’s NewSeparación de funciones para agentes de LLM privilegiados: una arquitectura de ejecución gobernada con compensaciones de seguridad-utilidad medidas
arXiv: 2609.38224v1Tipo de anuncio: nuevo Resumen: A los agentes de modelos de lenguaje grandes se les otorgan cada vez más privilegios reales (ejecución de comandos, modificación de archivos, llamadas a API), por lo que un agente que se equivoca ya ha actuado.
arXiv · cs.CRSeguridad de la capa de inferencia: defensa contra la inferencia adversaria y el abuso de la infraestructura
arXiv:2609.38239v1 Announce Type: new Abstract: A Technical Report: Operating a large language model (LLM) as a service requires more than inference infrastructure: the provider must also defend against adversarial inter
arXiv · cs.CRSURE: Marco de seguridad para construir una IA confiable
arXiv:2609.38249v1 Tipo de anuncio: nuevo Resumen: Advertencia: Este documento contiene texto dañino y ofensivo. Recientemente, los modelos de lenguaje grandes como GPT-4 y Claude han revolucionado las tareas en varios dominios. Como el uso
arXiv · cs.CRHARDE: Optimización de los arneses de agentes para la detección de riesgos en tiempo de ejecución y el control de ejecución
arXiv: 2609.38291v1Tipo de anuncio: nuevo Resumen: Los agentes del modelo de lenguaje grande (LLM) son vulnerables a los riesgos de seguridad, como la inyección de instrucciones maliciosas o información engañosa, lo que motiva las defensas en tiempo de ejecución que evitan
arXiv · cs.CRLogiC-Diff: Incrustación de propiedades de seguridad en sistemas ciberfísicos habilitados para IA
arXiv:2609.38381v1 Tipo de anuncio: nuevo Resumen: los sistemas ciberfísicos (CPS) habilitados para IA son altamente vulnerables a entradas adversarias y anómalas, donde pequeñas perturbaciones pueden inducir errores en cascada y un control inseguro
arXiv · cs.CREvaluación de si GPT-6 Astra realiza ataques no autorizados a la cadena de suministro
arXiv: 2609.38415v1Tipo de anuncio: nuevo Resumen: Este informe técnico presenta una evaluación de alineación desarrollada y realizada por el Instituto de Seguridad de IA del Reino Unido para evaluar si los sistemas avanzados de IA toman una
arXiv · cs.CRCuantificación de peso basada en semillas de seguridad mejorada para modelos de lenguaje grandes
arXiv: 2609.38477v1Tipo de anuncio: nuevo Resumen: los modelos de lenguaje grandes (LLM) incurren en costos sustanciales de almacenamiento, ancho de banda de memoria y energía, lo que motiva representaciones de peso compactas. Método de compresión basado en semillas existente
arXiv · cs.CRAPTInvestBench: Evaluación de la investigación APT autónoma bajo telemetría variable
arXiv: 2609.38954v1Tipo de anuncio: nuevo Resumen: los agentes del modelo de lenguaje grande (LLM) podrían ayudar a los centros de operaciones de seguridad (SOC) a investigar amenazas persistentes avanzadas (APT) al convertir los clientes potenciales débiles en evidencia de intru
arXiv · cs.CRTÁCTICA: Planificación táctica de LLM temporal y consciente del contexto para ataques LiDAR en carretera
arXiv:2609.39969v1 Tipo de anuncio: nuevo Resumen: Los ataques LiDAR físicos a menudo se evalúan utilizando primitivas fijas y parámetros seleccionados manualmente, a pesar de su fuerte dependencia del tráfico circundante. Presentamos TACTI
arXiv · cs.ROLavado de aprobaciones: sistematización de la aprobación: fallas vinculantes de ejecución en los arneses de agentes de codificación de IA
arXiv: 2609.38983v1Tipo de anuncio: nuevo Resumen: Los arneses modernos de agentes de codificación de IA (Claude Code, Codex CLI, Cursor) descansan su límite de seguridad en una suposición en gran parte no examinada: que la acción que un humano aprueba es la
arXiv · cs.CRAsistencia encubierta: los útiles agentes de LLM evaden la supervisión en sistemas multiagente
arXiv: 2609.39050v1Tipo de anuncio: nuevo Resumen: A medida que los sistemas multiagente ingresan a dominios de alto riesgo, la posibilidad de que los agentes puedan eludir los límites de seguridad es una preocupación creciente. El trabajo previo ha examinado esta prima de riesgo
arXiv · cs.CRReco levanta $55M para controlar el sprawl de agentes IA — en un cliente encontraron 21.000 agentes que la empresa no sabía que existían
El mercado de seguridad para agentes de IA se ha llenado de docenas de startups en semanas. Reco lleva un año trabajando en el problema y acaba de triplicar su capital con AT&T como nuevo inversor La semana en que Op
WWWhat’s NewPrevisión de los riesgos meteorológicos espaciales en las redes eléctricas
Los fenómenos meteorológicos espaciales extremos pueden dañar los sistemas de energía en la Tierra y degradar la precisión del GPS y las operaciones de los satélites. Un nuevo sistema de aprendizaje automático puede predecir dónde es probable que se produzcan daños 30-60 minutos antes de una tormenta
Microsoft Research · Fuente oficialConexión a tierra semántica consciente del riesgo para una planificación confiable de robots basada en LLM
arXiv: 2609.37554v1Tipo de anuncio: nuevo Resumen: Los modelos de lenguaje grandes (LLM) se utilizan cada vez más como planificadores de alto nivel en la navegación de robots, pero sus resultados pueden volverse poco confiables cuando las instrucciones son ambiguas, inseguras
arXiv · cs.ROElevando el listón para la seguridad de los adolescentes chinos LLM: un punto de referencia culturalmente fundamentado y de grano fino
arXiv:2609.35902v1 Anuncio Tipo: nuevo Resumen: Los riesgos de seguridad en las conversaciones con adolescentes no siempre son explícitos. Una solicitud puede parecer inofensiva a menos que un modelo considere la edad del usuario, las circunstancias y los antecedentes.
arXiv · cs.CRRenderizar antes de leer: la representación visual como defensa contra la inyección de mensajes
arXiv:2609.36121v1 Anuncio Tipo: nuevo Resumen: Los modelos de lenguaje grandes son vulnerables a ataques de inyección de mensajes, donde contenido adversario de terceros puede secuestrar el comportamiento del modelo. En este artículo, estudiamos el papel de la inyección de mensajes.
arXiv · cs.CRDebiasing adversarial de modelos de aprendizaje automático para mejorar la seguridad de la red contra ataques DDoS
arXiv:2609.36167v1 Tipo de anuncio: nuevo Resumen: Los ataques distribuidos de denegación de servicio son una amenaza creciente para la infraestructura de red, y las nuevas técnicas, incluido el uso de IA generativa, los hacen más difíciles de detectar. Tr
arXiv · cs.CR