LATIDIA / EXPLORAR
Riesgos y seguridad · noticias de IA
Publicaciones relacionadas, con las más nuevas primero y acceso al archivo.
Últimas noticias relacionadas
Desde enero de 2026. Archivo recuperado: 443 publicaciones en este filtro; cobertura parcial de las fuentes accesibles. Una nueva noticia aparece primero sin cambiar la fecha de las anteriores.
Este año · Todo el archivo conservado
Cuándo una IA está lista para matar: Shield AI, Waabi y General Motors debaten en TechCrunch Disrupt cómo se valida la autonomía cuando el fallo cuesta vidas
En la mayoría de aplicaciones de IA, un error produce una respuesta incorrecta, una recomendación equivocada o un código que no compila. En los sectores que debatirán en el Real World AI Stage de TechCrunch Disrupt 2026
WWWhat’s NewEl ciberataque a Renfe y Adif confirma lo que la IA llevaba meses avisando. 500GB de datos de clientes quedan al descubierto
Algo pasaba cuando la web de Adif mostraba un tierno gatito negro y ya lo sabemos: Adif y Renfe han sufrido un ciberataque en el que se han filtrado 500 GB de información privada de sus clientes, como ha adelantado El Mu
XatakaEsta IA de código abierto busca fallos de seguridad sin subir tus datos a internet
El hackeo a Hugging Face por parte de agentes autónomos de OpenAI ha sido determinante para cambiar el panorama de la ciberseguridad. Mientras las grandes empresas piden que se retrase el desarrollo de los modelos de fro
HipertextualLightspeed apunta a $ 250 MILLONES para el nuevo fondo de la India, centrándose en la IA en etapa inicial
La empresa de riesgo está alineando su ciclo de recaudación de fondos en la India con sus fondos globales por primera vez, a medida que cambia a un período de inversión más corto.
TechCrunch AIDetectar primero, explicar más tarde: Detección de anomalías gemelas digitales de memoria temporal sin entrenamiento con interpretación LLM post-hoc para ICS
arXiv: 2609.29704v1Tipo de anuncio: nuevo Resumen: Los sistemas de control industrial (ICS) están cada vez más expuestos a ataques ciberfísicos que se manifiestan como desviaciones sutiles y en evolución temporal en el comportamiento del proceso. Detectin
arXiv · cs.CROllamaDrama: Diseño e implementación de un Honeypot para medir los ataques a la infraestructura de LLM expuesta
arXiv: 2609.29757v1Tipo de anuncio: nuevo Resumen: La infraestructura de modelo de lenguaje grande (LLM) expuesta públicamente crea una superficie de ataque creciente, pero la orientación en el mundo real sigue siendo poco conocida. Presentamos Ollure, una baja a
arXiv · cs.CRRellenar previamente el canal de razonamiento: Ataques de prefijo de salida en los LLM de razonamiento
arXiv:2609.29775v1 Tipo de anuncio: nuevo Resumen: los modelos de lenguaje grandes (LLM) consumen y producen una sola secuencia de texto; por lo tanto, si se puede agregar texto al comienzo de la respuesta del LLM, es decir, un prefijo de salida, entonces
arXiv · cs.CRHard Stop: Prevención y contención a nivel de núcleo para la ejecución de Rogue Agentic
arXiv: 2609.29808v1Tipo de anuncio: nuevo Resumen: En julio de 2026, un agente autónomo sin restricciones que participaba en un arnés de evaluación de ciberseguridad de IA de frontera violó su sandbox de evaluación, estableció una comunicación externa
arXiv · cs.CRDesenmascarar el aprendizaje de atajos en la detección de intrusiones de IoT: una evaluación forense y multiparadigma de la dependencia de las funciones y la fuga de datos
arXiv: 2609.28725v1 Tipo de anuncio: nuevo Resumen: los sistemas de detección de intrusiones en la red basados en el aprendizaje automático a menudo informan un rendimiento casi perfecto en los puntos de referencia de IoT. Sin embargo, si estos modelos aprenden el ataque generalizable
arXiv · cs.CRDetección de envenenamiento de datos en LLM de generación de código a través de Black-Box, escaneo orientado a vulnerabilidades
arXiv: 2603.17174v2Announce Type: replace Resumen: Los modelos de lenguaje grande (LLM) de generación de código se integran cada vez más en los flujos de trabajo modernos de desarrollo de software. Trabajos recientes han demostrado que estos modelos son vulnera
arXiv · cs.CRAnalizando la dirección errónea defensiva contra los ataques automatizados guiados por modelos en los sistemas de IA genéticos
arXiv:2606.20470v3 Tipo de anuncio: reemplazar Resumen: Los sistemas de IA genéticos dependen cada vez más de componentes de modelos de lenguaje para interpretar instrucciones, procesar datos externos, invocar herramientas y coordinar con otros agentes.
arXiv · cs.CRDistillGuard: Detección de paquetes NPM maliciosos y análisis de la cadena de ataque API a través de gráficos estáticos y destilación LLM
arXiv: 2609.28996v1Tipo de anuncio: nuevo Resumen: El ecosistema Node.js depende en gran medida de los paquetes NPM, y los ataques a la cadena de suministro de software dirigidos a paquetes NPM maliciosos son desenfrenados. El código malicioso desencadena principalmente duri
arXiv · cs.CRReflex-Guard: una barandilla de baja latencia para LLM Prompt Safety utilizando incrustaciones semánticas densas
arXiv: 2608.17556v2Tipo de anuncio: reemplazar Resumen: los modelos de lenguaje grandes (LLM) en aplicaciones del mundo real a menudo enfrentan los riesgos de indicaciones especialmente diseñadas diseñadas para eludir los controles de seguridad. La barandilla existente cumple
arXiv · cs.CROpenAI pide a EE.UU. que lidere los estándares globales de IA y Altman lleva la propuesta al Consejo de Seguridad de la ONU
Sam Altman comparece hoy ante el Consejo de Seguridad de las Naciones Unidas para presentar una propuesta que OpenAI publicó por escrito el 21 de septiembre: que Estados Unidos lidere un esfuerzo internacional para desar
WWWhat’s NewOpenAI promete dar acceso a evaluadores externos durante el entrenamiento, pero los detalles siguen pendientes
El 12 de septiembre, Sam Altman prometió en público que OpenAI daría a los evaluadores independientes de seguridad «escritorios, credenciales, ordenadores portátiles» y el derecho a publicar lo que encontraran. Diez días
WWWhat’s NewScott Bessent, secretario del Tesoro de EEUU: "La seguridad de la IA se garantiza haciendo que sus creadores sean responsables"
En julio de este año, ocurrió lo que se ha bautizado como 'incidente Hugging Face'. Uno de los modelos de OpenAI accedió sin autorización a Hugging Face , otra startup de IA, durante un experimento en el que OpenAI bajó
XatakaSabotaje silencioso: el estado interno desencadenó ataques de puerta trasera en sistemas robóticos alimentados por LLM
arXiv:2609.26184v1 Tipo de anuncio: nuevo Resumen: La integración de los Modelos de Lenguaje Grande (LLM) en los sistemas de control robótico está permitiendo una nueva generación de agentes autónomos capaces de razonamiento y planificación complejos.
arXiv · cs.ROLa solidez cumple con los LLM: un enfoque basado en transformadores para la detección de vulnerabilidades de contratos inteligentes
arXiv:2609.27091v1 Tipo de anuncio: nuevo Resumen: La creciente adopción de tecnologías blockchain, particularmente la plataforma Ethereum, ha amplificado el papel crítico de los contratos inteligentes en las aplicaciones descentralizadas. Howev
arXiv · cs.CRMarco de ciberseguridad de Agentic AI
arXiv:2609.27856v1 Anuncio Tipo: nuevo Resumen: La creciente escala, complejidad y dinamismo de las amenazas cibernéticas modernas han hecho que los mecanismos tradicionales de ciberseguridad reactiva resulten insuficientes. Este documento presenta un Ag
arXiv · cs.CRChronosAttack: Ataques de programación de herramientas adversarias a agentes de LLM
arXiv: 2609.27857v1Tipo de anuncio: nuevo Resumen: Los agentes del modelo de lenguaje grande (LLM) a menudo procesan las respuestas de herramientas externas a medida que llegan, lo que hace que el tiempo de respuesta sea parte del proceso de decisión. Presentamos ChronosAttack, un
arXiv · cs.CRSR-Fraud: un marco de agente LLM reflexivo supervisado por resultados para la detección de fraude de pagos no estacionarios
arXiv: 2609.27287v1Tipo de anuncio: cross Resumen: La detección de fraude de pago en tiempo real es un problema de predicción de transmisión no estacionaria: los adversarios se adaptan antes de que maduren las etiquetas supervisadas y los ataques de ráfaga localizados pueden advertir
arXiv · cs.CREl papel del aprendizaje en el ataque a la detección de intrusiones en la red basada en ML
arXiv: 2602.10299v3Announce Type: replace Resumen: Los sistemas de detección de intrusiones en la red (ML-NIDS) basados en el aprendizaje automático pueden ser eludidos por perturbaciones adversas rudimentarias. El trabajo reciente se ha centrado en identificar quién
arXiv · cs.CRProtección de los agentes de LLM contra amenazas a largo plazo mediante la memoria en la sombra.
arXiv: 2605.03228v2Tipo de anuncio: reemplazar Resumen: A medida que los agentes impulsados por el modelo de lenguaje grande (LLM) se despliegan cada vez más para realizar tareas complejas en el mundo real, se enfrentan a una clase creciente de ataques que explotan
arXiv · cs.CRSyzHarness: Reproducción de errores de kernel basada en parches con arneses de difuminado sintetizados por LLM
arXiv: 2609.23889v2Announce Type: replace Resumen: La reproducción automatizada de vulnerabilidades del kernel es esencial para el triaje de errores, la validación de parches y las pruebas de regresión, pero aún carece de una solución efectiva y eficiente.
arXiv · cs.CR