LATIDIA / EXPLORAR
Riesgos y seguridad · noticias de IA
Publicaciones relacionadas, con las más nuevas primero y acceso al archivo.
Últimas noticias relacionadas
Desde enero de 2026. Archivo recuperado: 443 publicaciones en este filtro; cobertura parcial de las fuentes accesibles. Una nueva noticia aparece primero sin cambiar la fecha de las anteriores.
Este año · Todo el archivo conservado
Medición y explotación del sesgo contextual en la revisión del código de seguridad asistida por LLM
arXiv: 2603.18740v4Tipo de Anuncio: replace-cross Resumen: Los sistemas de Revisión Automatizada de Código (ACR) que integran Modelos de Lenguaje Grande (LLM) se adoptan cada vez más en los flujos de trabajo de desarrollo de software, que van desde
arXiv · cs.CRAnthropic lanza Claude Opus 5.5: más potente que Opus 5, un 40% más barato de usar y con las salvaguardas más estrictas que ha tenido jamás un modelo Opus
Anthropic hace hoy algo inusual: lanzar simultáneamente un modelo más capaz, más barato y más restringido en los usos de mayor riesgo. Claude Opus 5.5, el primer modelo de la nueva familia 5.5, rinde al nivel de Claude F
WWWhat’s NewHacia una ciberdefensa responsable aumentada por IA: reconocimiento de patrones, defensa en profundidad y el caso de la colaboración entre humanos e IA
arXiv: 2609.25921v1Tipo de anuncio: nuevo Resumen: La literatura sobre ciberseguridad ha documentado ampliamente los beneficios operativos de la inteligencia artificial (IA) para la detección de amenazas, la respuesta a incidentes y la prevención, mientras que
arXiv · cs.CRDynamic Deep Prompt Optimization para defenderse de los ataques de jailbreak en LLM
arXiv:2609.26185v1 Tipo de anuncio: nuevo Resumen: los modelos de lenguaje grandes (LLM) demuestran capacidades impresionantes en muchas aplicaciones, pero siguen siendo vulnerables a los ataques de jailbreak, que provocan con
arXiv · cs.CRSobre la seguridad y privacidad de los LLM en Movilidad
arXiv: 2609.26295v1Tipo de anuncio: nuevo Resumen: El sector de la movilidad está experimentando un cambio de paradigma impulsado por los avances en Inteligencia Artificial Generativa. Con un mercado global valorado en aproximadamente 2,9 billones de dolares
arXiv · cs.CRRouxii: Explotar los honeypots con pentesters de IA conscientes del engaño
arXiv: 2609.26555v1Announce Type: new Abstract: Los honeypots están diseñados para engañar a los atacantes, y trabajos recientes muestran que también pueden descarrilar los pentesters autónomos basados en LLM. Estas evaluaciones, sin embargo, consideran en gran medida el ataque
arXiv · cs.CRFalla de métricas en la reparación de vulnerabilidades de código basada en LLM: un estudio empírico y una pantalla consciente del cambio
arXiv: 2609.26749v1Tipo de anuncio: cross Resumen: Los modelos de lenguaje grandes (LLM) se aplican cada vez más a la reparación automatizada de vulnerabilidades de seguridad de C/C++, y la tasa de compilación es un proxy comúnmente reportado para progres
arXiv · cs.CRLa tasa de éxito del ataque no es un número: sobre la validez de la medición en la evaluación de seguridad de la IA genética
arXiv:2609.25173v1 Tipo de anuncio: nuevo Resumen: La tasa de éxito de ataque (ASR) es la métrica principal en casi todas las evaluaciones publicadas de ataques y defensas para agentes de LLM. Argumentamos que ASR como se usa actualmente no es
arXiv · cs.CRUna encuesta sobre la seguridad de la memoria a largo plazo en agentes de LLM: ataques, defensas y gobernanza en todo el ciclo de vida de la memoria
arXiv: 2604.16548v3Tipo de anuncio: reemplazar Resumen: La aparición de la memoria persistente de sesión cruzada grabable en los agentes LLM introduce un panorama de amenazas cualitativamente diferente de la seguridad centrada en la entrada convencional
arXiv · cs.CRLLM Ghostbusters: paquete quirúrgico de supresión de alucinaciones a través del desaprendizaje adaptativo
arXiv: 2605.01047v2Tipo de anuncio: reemplazar Resumen: Las alucinaciones siguen siendo un problema no resuelto para los LLM, y las alucinaciones del paquete son un ejemplo particularmente peligroso de este fenómeno. Las alucinaciones del paquete ocurren du
arXiv · cs.CRFinRED: un marco de generación y evaluación de puntos de referencia guiado por expertos para la formación en red de LLM financiero
arXiv: 2606.19887v3Tipo de anuncio: reemplazar Resumen: Los puntos de referencia de seguridad existentes se dirigen a escenarios adversarios generales pero pierden riesgos específicos de finanzas. Los LLM financieros se enfrentan a infracciones de cumplimiento normativo, facilitación del fraude
arXiv · cs.CRDetección semiautomática de brechas en el conocimiento de seguridad de LLM
arXiv: 2607.18496v4Tipo de anuncio: reemplazar Resumen: Los modelos de lenguaje grandes (LLM) se utilizan cada vez más para una variedad de tareas de seguridad centradas en el software, el hardware y las personas. En consecuencia, el rendimiento de LLM en tareas de seguridad
arXiv · cs.CRAnthropic lanza Claude Opus 5.5: su IA más segura y barata hasta ahora
A unos días de pedir una pausa en el desarrollo de la IA, Anthropic anunció Claude Opus 5.5, uno de sus modelos más poderosos. La nueva versión llega con un enfoque en seguridad, rendimiento y programación, aunque su mej
HipertextualLa seguridad de la IA es un problema de ingeniería: cómo resolverlo en cada capa de la pila de agentes
La seguridad de la IA es un problema de ingeniería. Eso significa requisitos de seguridad definidos, controles exigibles, propietarios nombrados y evidencia de que las protecciones funcionan. A medida que la IA se vuelve más capaz, la industria debe acelerar la seguridad en
NVIDIA · Fuente oficialEstándares de construcción para la siguiente fase de la IA
OpenAI describe un camino hacia los estándares globales compartidos de IA, pidiendo una evaluación coordinada, informes y gobernanza para mejorar la seguridad.
OpenAI · Fuente oficial(No) confiar, pero (no) verificar: la atención de los desarrolladores a la seguridad en el código generado por IA
arXiv: 2609.21020v1Tipo de anuncio: nuevo Resumen: los asistentes de codificación de IA están transformando rápidamente el desarrollo de software, pero se sabe que producen código inseguro. El trabajo anterior ha medido si los desarrolladores asistidos por IA producen
arXiv · cs.CROrigen es todo lo que necesita: Transformadores conscientes de la procedencia para la separación de límites de confianza estructural
arXiv:2609.21088v1 Tipo de anuncio: nuevo Resumen: La inyección rápida indirecta (IPI) sigue siendo un desafío central de seguridad para los sistemas de modelo de lenguaje grande (LLM) porque los transformadores estándar carecen de notificación arquitectónica
arXiv · cs.CRIdentificación del abuso de productos de la plataforma de seguridad con aprendizaje automático
arXiv: 2609.21303v1Tipo de anuncio: nuevo Resumen: El abuso del producto es un problema individualmente raro, pero creciente, en toda la industria de SaaS. Los actores de amenazas altamente sofisticados pueden hacer un mal uso de las plataformas de seguridad dentro del entorno del cliente
arXiv · cs.CRCESBench: Evaluación comparativa de grandes modelos de lenguaje sobre seguridad de ingeniería criptográfica para dispositivos IoT
arXiv:2609.21344v1 Tipo de anuncio: nuevo Resumen: Para los dispositivos de Internet de las cosas (IoT), un algoritmo seguro por sí solo no es suficiente: un atacante con acceso físico puede atacar la implementación directamente y sus fallas son har
arXiv · cs.CRHE-Guardrail: una barandilla homomórfica contra los ataques de jailbreak para la inferencia cifrada del modelo de lenguaje grande
arXiv: 2609.21484v1Tipo de anuncio: nuevo Resumen: El cifrado homomórfico (HE) se ha convertido en un enfoque prometedor para el aprendizaje automático que preserva la privacidad (PPML), que permite el cálculo directamente sobre los datos cifrados. En HE-base
arXiv · cs.CRTERMon: Detección de amenazas de comportamiento persistentes en Edge AI a través de un monitor de tiempo de ejecución ternario nativo del hardware
arXiv: 2609.21713v1Tipo de anuncio: nuevo Resumen: Los aceleradores Edge AI se implementan cada vez más en entornos críticos para la seguridad, donde las salidas del modelo pueden controlar los actuadores físicos, tomar decisiones de control de acceso o desencadenar
arXiv · cs.CRAPort Vault: Evaluación comparativa de la autorización de pago del agente de IA con el pasaporte de agente abierto
arXiv: 2609.22076v1Tipo de anuncio: nuevo Resumen: APort Vault es un punto de referencia para la autorización de pagos en agentes de IA que utilizan herramientas. Reproduce 4.371 ataques escritos por humanos contra un agente de pago en vivo durante una captura pública
arXiv · cs.CRExtracción criptoanalítica algebraica en redes neuronales de etiqueta dura
arXiv: 2608.05736v2Tipo de Anuncio: reemplazar Resumen: Aunque el ataque de extracción de modelos de última generación en la Red Neuronal Totalmente Conectada (FCN) de etiqueta dura por Carlini et al. en EUROCRYPT 2025 tiene tiempo polinomial com
arXiv · cs.CRMantenerse en la ruta de ataque: estado estructurado para las pruebas de penetración automatizadas de Long-Horizon
arXiv: 2609.07344v2Tipo de anuncio: reemplazar Resumen: Los agentes basados en el modelo de lenguaje grande (LLM) se aplican cada vez más a las tareas de ciberseguridad, como el descubrimiento de vulnerabilidades y las pruebas de penetración automatizadas. A largo plazo
arXiv · cs.CR