LATIDIA / EXPLORAR
Riesgos y seguridad · noticias de IA
Publicaciones relacionadas, con las más nuevas primero y acceso al archivo.
Últimas noticias relacionadas
Desde enero de 2026. Archivo recuperado: 430 publicaciones en este filtro; cobertura parcial de las fuentes accesibles. Una nueva noticia aparece primero sin cambiar la fecha de las anteriores.
Este año · Todo el archivo conservado
OpenAI pide a EE.UU. que lidere los estándares globales de IA y Altman lleva la propuesta al Consejo de Seguridad de la ONU
Sam Altman comparece hoy ante el Consejo de Seguridad de las Naciones Unidas para presentar una propuesta que OpenAI publicó por escrito el 21 de septiembre: que Estados Unidos lidere un esfuerzo internacional para desar
WWWhat’s NewOpenAI promete dar acceso a evaluadores externos durante el entrenamiento, pero los detalles siguen pendientes
El 12 de septiembre, Sam Altman prometió en público que OpenAI daría a los evaluadores independientes de seguridad «escritorios, credenciales, ordenadores portátiles» y el derecho a publicar lo que encontraran. Diez días
WWWhat’s NewScott Bessent, secretario del Tesoro de EEUU: "La seguridad de la IA se garantiza haciendo que sus creadores sean responsables"
En julio de este año, ocurrió lo que se ha bautizado como 'incidente Hugging Face'. Uno de los modelos de OpenAI accedió sin autorización a Hugging Face , otra startup de IA, durante un experimento en el que OpenAI bajó
XatakaSabotaje silencioso: el estado interno desencadenó ataques de puerta trasera en sistemas robóticos alimentados por LLM
arXiv:2609.26184v1 Tipo de anuncio: nuevo Resumen: La integración de los Modelos de Lenguaje Grande (LLM) en los sistemas de control robótico está permitiendo una nueva generación de agentes autónomos capaces de razonamiento y planificación complejos.
arXiv · cs.ROLa solidez cumple con los LLM: un enfoque basado en transformadores para la detección de vulnerabilidades de contratos inteligentes
arXiv:2609.27091v1 Tipo de anuncio: nuevo Resumen: La creciente adopción de tecnologías blockchain, particularmente la plataforma Ethereum, ha amplificado el papel crítico de los contratos inteligentes en las aplicaciones descentralizadas. Howev
arXiv · cs.CRMarco de ciberseguridad de Agentic AI
arXiv:2609.27856v1 Anuncio Tipo: nuevo Resumen: La creciente escala, complejidad y dinamismo de las amenazas cibernéticas modernas han hecho que los mecanismos tradicionales de ciberseguridad reactiva resulten insuficientes. Este documento presenta un Ag
arXiv · cs.CRChronosAttack: Ataques de programación de herramientas adversarias a agentes de LLM
arXiv: 2609.27857v1Tipo de anuncio: nuevo Resumen: Los agentes del modelo de lenguaje grande (LLM) a menudo procesan las respuestas de herramientas externas a medida que llegan, lo que hace que el tiempo de respuesta sea parte del proceso de decisión. Presentamos ChronosAttack, un
arXiv · cs.CRSR-Fraud: un marco de agente LLM reflexivo supervisado por resultados para la detección de fraude de pagos no estacionarios
arXiv: 2609.27287v1Tipo de anuncio: cross Resumen: La detección de fraude de pago en tiempo real es un problema de predicción de transmisión no estacionaria: los adversarios se adaptan antes de que maduren las etiquetas supervisadas y los ataques de ráfaga localizados pueden advertir
arXiv · cs.CREl papel del aprendizaje en el ataque a la detección de intrusiones en la red basada en ML
arXiv: 2602.10299v3Announce Type: replace Resumen: Los sistemas de detección de intrusiones en la red (ML-NIDS) basados en el aprendizaje automático pueden ser eludidos por perturbaciones adversas rudimentarias. El trabajo reciente se ha centrado en identificar quién
arXiv · cs.CRProtección de los agentes de LLM contra amenazas a largo plazo mediante la memoria en la sombra.
arXiv: 2605.03228v2Tipo de anuncio: reemplazar Resumen: A medida que los agentes impulsados por el modelo de lenguaje grande (LLM) se despliegan cada vez más para realizar tareas complejas en el mundo real, se enfrentan a una clase creciente de ataques que explotan
arXiv · cs.CRSyzHarness: Reproducción de errores de kernel basada en parches con arneses de difuminado sintetizados por LLM
arXiv: 2609.23889v2Announce Type: replace Resumen: La reproducción automatizada de vulnerabilidades del kernel es esencial para el triaje de errores, la validación de parches y las pruebas de regresión, pero aún carece de una solución efectiva y eficiente.
arXiv · cs.CRMedición y explotación del sesgo contextual en la revisión del código de seguridad asistida por LLM
arXiv: 2603.18740v4Tipo de Anuncio: replace-cross Resumen: Los sistemas de Revisión Automatizada de Código (ACR) que integran Modelos de Lenguaje Grande (LLM) se adoptan cada vez más en los flujos de trabajo de desarrollo de software, que van desde
arXiv · cs.CRAnthropic lanza Claude Opus 5.5: más potente que Opus 5, un 40% más barato de usar y con las salvaguardas más estrictas que ha tenido jamás un modelo Opus
Anthropic hace hoy algo inusual: lanzar simultáneamente un modelo más capaz, más barato y más restringido en los usos de mayor riesgo. Claude Opus 5.5, el primer modelo de la nueva familia 5.5, rinde al nivel de Claude F
WWWhat’s NewHacia una ciberdefensa responsable aumentada por IA: reconocimiento de patrones, defensa en profundidad y el caso de la colaboración entre humanos e IA
arXiv: 2609.25921v1Tipo de anuncio: nuevo Resumen: La literatura sobre ciberseguridad ha documentado ampliamente los beneficios operativos de la inteligencia artificial (IA) para la detección de amenazas, la respuesta a incidentes y la prevención, mientras que
arXiv · cs.CRDynamic Deep Prompt Optimization para defenderse de los ataques de jailbreak en LLM
arXiv:2609.26185v1 Tipo de anuncio: nuevo Resumen: los modelos de lenguaje grandes (LLM) demuestran capacidades impresionantes en muchas aplicaciones, pero siguen siendo vulnerables a los ataques de jailbreak, que provocan con
arXiv · cs.CRSobre la seguridad y privacidad de los LLM en Movilidad
arXiv: 2609.26295v1Tipo de anuncio: nuevo Resumen: El sector de la movilidad está experimentando un cambio de paradigma impulsado por los avances en Inteligencia Artificial Generativa. Con un mercado global valorado en aproximadamente 2,9 billones de dolares
arXiv · cs.CRRouxii: Explotar los honeypots con pentesters de IA conscientes del engaño
arXiv: 2609.26555v1Announce Type: new Abstract: Los honeypots están diseñados para engañar a los atacantes, y trabajos recientes muestran que también pueden descarrilar los pentesters autónomos basados en LLM. Estas evaluaciones, sin embargo, consideran en gran medida el ataque
arXiv · cs.CRFalla de métricas en la reparación de vulnerabilidades de código basada en LLM: un estudio empírico y una pantalla consciente del cambio
arXiv: 2609.26749v1Tipo de anuncio: cross Resumen: Los modelos de lenguaje grandes (LLM) se aplican cada vez más a la reparación automatizada de vulnerabilidades de seguridad de C/C++, y la tasa de compilación es un proxy comúnmente reportado para progres
arXiv · cs.CRLa tasa de éxito del ataque no es un número: sobre la validez de la medición en la evaluación de seguridad de la IA genética
arXiv:2609.25173v1 Tipo de anuncio: nuevo Resumen: La tasa de éxito de ataque (ASR) es la métrica principal en casi todas las evaluaciones publicadas de ataques y defensas para agentes de LLM. Argumentamos que ASR como se usa actualmente no es
arXiv · cs.CRUna encuesta sobre la seguridad de la memoria a largo plazo en agentes de LLM: ataques, defensas y gobernanza en todo el ciclo de vida de la memoria
arXiv: 2604.16548v3Tipo de anuncio: reemplazar Resumen: La aparición de la memoria persistente de sesión cruzada grabable en los agentes LLM introduce un panorama de amenazas cualitativamente diferente de la seguridad centrada en la entrada convencional
arXiv · cs.CRLLM Ghostbusters: paquete quirúrgico de supresión de alucinaciones a través del desaprendizaje adaptativo
arXiv: 2605.01047v2Tipo de anuncio: reemplazar Resumen: Las alucinaciones siguen siendo un problema no resuelto para los LLM, y las alucinaciones del paquete son un ejemplo particularmente peligroso de este fenómeno. Las alucinaciones del paquete ocurren du
arXiv · cs.CRFinRED: un marco de generación y evaluación de puntos de referencia guiado por expertos para la formación en red de LLM financiero
arXiv: 2606.19887v3Tipo de anuncio: reemplazar Resumen: Los puntos de referencia de seguridad existentes se dirigen a escenarios adversarios generales pero pierden riesgos específicos de finanzas. Los LLM financieros se enfrentan a infracciones de cumplimiento normativo, facilitación del fraude
arXiv · cs.CRDetección semiautomática de brechas en el conocimiento de seguridad de LLM
arXiv: 2607.18496v4Tipo de anuncio: reemplazar Resumen: Los modelos de lenguaje grandes (LLM) se utilizan cada vez más para una variedad de tareas de seguridad centradas en el software, el hardware y las personas. En consecuencia, el rendimiento de LLM en tareas de seguridad
arXiv · cs.CRAnthropic lanza Claude Opus 5.5: su IA más segura y barata hasta ahora
A unos días de pedir una pausa en el desarrollo de la IA, Anthropic anunció Claude Opus 5.5, uno de sus modelos más poderosos. La nueva versión llega con un enfoque en seguridad, rendimiento y programación, aunque su mej
Hipertextual