LATIDIA / EXPLORAR
Riesgos y seguridad · noticias de IA
Publicaciones relacionadas, con las más nuevas primero y acceso al archivo.
Últimas noticias relacionadas
Desde enero de 2026. Archivo recuperado: 430 publicaciones en este filtro; cobertura parcial de las fuentes accesibles. Una nueva noticia aparece primero sin cambiar la fecha de las anteriores.
Este año · Todo el archivo conservado
Gecko Robotics trabaja con NVIDIA para añadir seguridad y control a los agentes de IA
Gecko Robotics está utilizando la nueva NVIDIA Open Agent Safety Platform para garantizar el control autónomo seguro de los sistemas. La publicación Gecko Robotics trabaja con NVIDIA para agregar la seguridad y el control del agente de IA apareció primero en The R
The Robot ReportZuckerberg rechaza la coordinación de seguridad en IA mientras Google, Anthropic y OpenAI crean el organismo SAFA
Mark Zuckerberg ha dejado claro que no piensa sumarse al movimiento de coordinación de seguridad en IA que están construyendo sus competidores. En una entrevista con la periodista Joanna Stern, el CEO de Meta fue directo
WWWhat’s NewOpenAI prepara GPT-6 Cyber, su primer modelo específico de ciberseguridad, para el DevDay del 29 de septiembre
OpenAI lanzará en los próximos días —posiblemente en el DevDay del 29 de septiembre— un nuevo modelo llamado GPT-6 Cyber, diseñado específicamente para ciberseguridad. Junto al modelo, la empresa lanzará también algún ti
WWWhat’s NewAuthGuard-R: secuestro de misión que cumple con la seguridad y defensa de doble puerta para robots controlados por LLM
arXiv: 2609.31110v1Tipo de anuncio: nuevo Resumen: Los modelos de lenguaje grandes se utilizan cada vez más como planificadores de alto nivel para robots móviles, manipuladores de robots y vehículos autónomos. Estudios recientes muestran que estos sistemas ca
arXiv · cs.RODetección de inyección rápida para agentes de correo electrónico a través del modelado de la cadena de ataque
arXiv: 2609.30657v1Tipo de anuncio: nuevo Resumen: los asistentes de correo electrónico de modelo de lenguaje grande son particularmente vulnerables a la inyección de aviso indirecto porque el contenido de correo electrónico no confiable se puede recuperar en el contexto del modelo e i
arXiv · cs.CRÁGATA: Defensa en tiempo de ejecución basada en la procedencia contra ataques compositivos a agentes de LLM
arXiv:2609.30830v1 Tipo de anuncio: nuevo Resumen: los agentes LLM pueden producir efectos nocivos a través de secuencias de operaciones ordinarias. Juzgar tales acciones requiere establecer tanto la autoridad que las permite como el ori
arXiv · cs.CRMetaPermit: Control de acceso escalable y auditable para agentes de IA a través de metaatributos inferidos por LLM
arXiv: 2609.31039v1Tipo de anuncio: nuevo Resumen: El aumento de agentes autónomos de IA equipados con herramientas ha introducido importantes riesgos de seguridad, que van desde el uso indebido involuntario de herramientas hasta la manipulación contradictoria a través de INDI
arXiv · cs.CRMarco de IA con optimización de recursos y conciencia energética anclado en Blockchain para cadenas de suministro de software seguras
arXiv: 2609.31282v1Tipo de Anuncio: nuevo Resumen: Este documento propone un marco de seguridad agéntica respaldado por blockchain diseñado para salvaguardar el ciclo de vida completo del desarrollo de software (SDLC) y al mismo tiempo asegurar el
arXiv · cs.CRAgentXploit: Autonomous Repository-to-Runtime Red-Teaming for AI Agents
arXiv:2609.31318v1 Tipo de anuncio: nuevo Resumen: los agentes de IA combinan modelos de lenguaje con datos externos y herramientas que pueden modificar archivos, llamar a API o ejecutar código. Las fallas de seguridad pueden surgir cuando el contenido adversarial cambia
arXiv · cs.CRFragToken: amplificación de los costes de inferencia de LLM a través de la generación de tokens no canónicos
arXiv: 2609.31552v1Tipo de anuncio: nuevo Resumen: A medida que la inferencia del modelo de lenguaje grande (LLM) se vuelve cada vez más costosa, los ataques de consumo de recursos representan una amenaza creciente para los proveedores de modelos. Los ataques existentes suelen ser
arXiv · cs.CREvaluación regional del riesgo climático a partir de modelos climáticos utilizando aprendizaje automático probabilístico
Nature Machine Intelligence, Publicado en línea: 28 de septiembre de 2026; doi: 10.1038/s42256-026-01308-7 Se introduce un marco de IA generativa llamado GenFocal para la reducción de escala climática, que produce un clima realista a escala fina para
Nature Machine IntelligenceCuándo una IA está lista para matar: Shield AI, Waabi y General Motors debaten en TechCrunch Disrupt cómo se valida la autonomía cuando el fallo cuesta vidas
En la mayoría de aplicaciones de IA, un error produce una respuesta incorrecta, una recomendación equivocada o un código que no compila. En los sectores que debatirán en el Real World AI Stage de TechCrunch Disrupt 2026
WWWhat’s NewEl ciberataque a Renfe y Adif confirma lo que la IA llevaba meses avisando. 500GB de datos de clientes quedan al descubierto
Algo pasaba cuando la web de Adif mostraba un tierno gatito negro y ya lo sabemos: Adif y Renfe han sufrido un ciberataque en el que se han filtrado 500 GB de información privada de sus clientes, como ha adelantado El Mu
XatakaEsta IA de código abierto busca fallos de seguridad sin subir tus datos a internet
El hackeo a Hugging Face por parte de agentes autónomos de OpenAI ha sido determinante para cambiar el panorama de la ciberseguridad. Mientras las grandes empresas piden que se retrase el desarrollo de los modelos de fro
HipertextualLightspeed apunta a $ 250 MILLONES para el nuevo fondo de la India, centrándose en la IA en etapa inicial
La empresa de riesgo está alineando su ciclo de recaudación de fondos en la India con sus fondos globales por primera vez, a medida que cambia a un período de inversión más corto.
TechCrunch AIDetectar primero, explicar más tarde: Detección de anomalías gemelas digitales de memoria temporal sin entrenamiento con interpretación LLM post-hoc para ICS
arXiv: 2609.29704v1Tipo de anuncio: nuevo Resumen: Los sistemas de control industrial (ICS) están cada vez más expuestos a ataques ciberfísicos que se manifiestan como desviaciones sutiles y en evolución temporal en el comportamiento del proceso. Detectin
arXiv · cs.CROllamaDrama: Diseño e implementación de un Honeypot para medir los ataques a la infraestructura de LLM expuesta
arXiv: 2609.29757v1Tipo de anuncio: nuevo Resumen: La infraestructura de modelo de lenguaje grande (LLM) expuesta públicamente crea una superficie de ataque creciente, pero la orientación en el mundo real sigue siendo poco conocida. Presentamos Ollure, una baja a
arXiv · cs.CRRellenar previamente el canal de razonamiento: Ataques de prefijo de salida en los LLM de razonamiento
arXiv:2609.29775v1 Tipo de anuncio: nuevo Resumen: los modelos de lenguaje grandes (LLM) consumen y producen una sola secuencia de texto; por lo tanto, si se puede agregar texto al comienzo de la respuesta del LLM, es decir, un prefijo de salida, entonces
arXiv · cs.CRHard Stop: Prevención y contención a nivel de núcleo para la ejecución de Rogue Agentic
arXiv: 2609.29808v1Tipo de anuncio: nuevo Resumen: En julio de 2026, un agente autónomo sin restricciones que participaba en un arnés de evaluación de ciberseguridad de IA de frontera violó su sandbox de evaluación, estableció una comunicación externa
arXiv · cs.CRDesenmascarar el aprendizaje de atajos en la detección de intrusiones de IoT: una evaluación forense y multiparadigma de la dependencia de las funciones y la fuga de datos
arXiv: 2609.28725v1 Tipo de anuncio: nuevo Resumen: los sistemas de detección de intrusiones en la red basados en el aprendizaje automático a menudo informan un rendimiento casi perfecto en los puntos de referencia de IoT. Sin embargo, si estos modelos aprenden el ataque generalizable
arXiv · cs.CRDetección de envenenamiento de datos en LLM de generación de código a través de Black-Box, escaneo orientado a vulnerabilidades
arXiv: 2603.17174v2Announce Type: replace Resumen: Los modelos de lenguaje grande (LLM) de generación de código se integran cada vez más en los flujos de trabajo modernos de desarrollo de software. Trabajos recientes han demostrado que estos modelos son vulnera
arXiv · cs.CRAnalizando la dirección errónea defensiva contra los ataques automatizados guiados por modelos en los sistemas de IA genéticos
arXiv:2606.20470v3 Tipo de anuncio: reemplazar Resumen: Los sistemas de IA genéticos dependen cada vez más de componentes de modelos de lenguaje para interpretar instrucciones, procesar datos externos, invocar herramientas y coordinar con otros agentes.
arXiv · cs.CRDistillGuard: Detección de paquetes NPM maliciosos y análisis de la cadena de ataque API a través de gráficos estáticos y destilación LLM
arXiv: 2609.28996v1Tipo de anuncio: nuevo Resumen: El ecosistema Node.js depende en gran medida de los paquetes NPM, y los ataques a la cadena de suministro de software dirigidos a paquetes NPM maliciosos son desenfrenados. El código malicioso desencadena principalmente duri
arXiv · cs.CRReflex-Guard: una barandilla de baja latencia para LLM Prompt Safety utilizando incrustaciones semánticas densas
arXiv: 2608.17556v2Tipo de anuncio: reemplazar Resumen: los modelos de lenguaje grandes (LLM) en aplicaciones del mundo real a menudo enfrentan los riesgos de indicaciones especialmente diseñadas diseñadas para eludir los controles de seguridad. La barandilla existente cumple
arXiv · cs.CR