LATIDIA / EXPLORAR
Riesgos y seguridad · noticias de IA
Publicaciones relacionadas, con las más nuevas primero y acceso al archivo.
Últimas noticias relacionadas
Desde enero de 2026. Archivo recuperado: 430 publicaciones en este filtro; cobertura parcial de las fuentes accesibles. Una nueva noticia aparece primero sin cambiar la fecha de las anteriores.
Este año · Todo el archivo conservado
Rechazar el daño, completar la tarea a través de la planificación de gráficos de reglas para robots habilitados para LLM
arXiv:2610.24603v1 Tipo de anuncio: nuevo Resumen: los modelos de lenguaje grandes (LLM) se utilizan cada vez más en la IA incorporada para la manipulación y planificación robóticas, pero su implementación en sistemas físicos expone vulnerabilidades su
arXiv · cs.ROLas ofertas de trabajo en ciberseguridad caen un 26% en EEUU, las de ciberseguridad aplicada a IA suben un 268%
Imaginemos una empresa que comienza a incorporar inteligencia artificial a sus servicios. Además de proteger sus sistemas habituales, ahora debe prestar atención a los datos que utilizan sus modelos, las personas que pue
XatakaAnthropic se abre a que el Gobierno bloquee sus modelos IA si se estima el riesgo de 50 muertes o 1.000 millones de dólares en daños
Anthropic ha estado presentando entre bambalinas un borrador de proyecto de ley sobre la seguridad de los modelos de IA más punteros en el Capitolio, según el medio Politico . Desde luego no es frecuente que un laborator
XatakaMiscalibración de seguridad controlada por recuperabilidad en modelos de lenguaje grandes
arXiv: 2610.22425v1Tipo de anuncio: nuevo Resumen: se espera que los modelos de lenguaje alineados con la seguridad rechacen las solicitudes dañinas y sigan siendo útiles para las benignas. Sin embargo, debido a que muchas evaluaciones califican solo la respuesta final
arXiv · cs.CRTodo el mundo es un poco racista: un nuevo ataque de puerta trasera ML en modo de caja negra
arXiv: 2610.22459v1Tipo de anuncio: nuevo Resumen: Las puertas traseras se encuentran entre los ataques más impactantes contra el aprendizaje automático (ML), sin embargo, la mayoría de los métodos existentes asumen alguna forma de envenenamiento por tiempo de entrenamiento o manipulación directa del modelo
arXiv · cs.CREl atacante de LLM: un marco unificado de equipo rojo para la evaluación de la privacidad de los sistemas LLM divididos y distribuidos
arXiv:2610.22722v1 Announce Type: new Resumen: Los modelos de lenguaje dividido mantienen el texto de entrada en un cliente pero envían representaciones intermedias a un servidor. Los ataques pueden reconstruir el texto de estos mensajes. Comparación de la eva de privacidad
arXiv · cs.CRGRADUACIÓN: Defensa de anticuerpos estructurada por gráficos para agentes LLM
arXiv: 2610.22828v1Announce Type: new Resumen: Los ataques de envenenamiento y descomposición de la memoria distribuyen pruebas maliciosas en las operaciones de los agentes de modelos de lenguaje grandes. Las defensas existentes a nivel de solicitud pueden pasar por alto
arXiv · cs.CRAtaques de envenenamiento sigilosos a través de la caché de razonamiento KV reutilizada
arXiv:2610.22873v1 Announce Type: new Resumen: Los sistemas modernos de modelo de lenguaje grande (LLM) reutilizan cachés de clave-valor (KV) para acelerar la inferencia. Trabajos recientes han demostrado que la reutilización de cachés KV a partir de rastros de razonamiento también puede i
arXiv · cs.CRHardEval: un punto de referencia verificado por la ejecución para el endurecimiento de la seguridad impulsado por la IA y la corrección del cumplimiento
arXiv: 2610.23685v1Tipo de anuncio: nuevo Resumen: Implementar los controles de la Guía de implementación técnica de seguridad (STIG) sigue siendo una tarea exigente de administración del sistema operativo. Cada requisito de seguridad del lenguaje natural mu
arXiv · cs.CRRedDarwin: Evolución de las habilidades de Jailbreak contra los LLM de Frontier
arXiv: 2610.23726v1Tipo de anuncio: nuevo Resumen: El trabajo en equipo rojo debe adaptarse continuamente a medida que evolucionan las salvaguardas de LLM de frontera, sin embargo, los enfoques existentes buscan en gran medida mensajes contradictorios u optimizan dentro del procedimiento de ataque fijo
arXiv · cs.CRVulnSAGE: Adjudicación de informes SAST conectando el razonamiento de LLM con la estructura del programa
arXiv:2610.23035v1 Announce Type: cross Abstract: Static Application Security Testing (SAST) reporta operaciones flag cuya seguridad depende del contexto específico del proyecto, y los mantenedores deben decidir qué informes describen re
arXiv · cs.CROcho estados de EE. UU. demandan a OpenAI por la seguridad de ChatGPT, y Arkansas pide frenar la IA que se mejora a sí misma
Ocho estados de EE. UU. demandan a OpenAI por la seguridad de ChatGPT. Arkansas va más lejos y pide frenar la IA que se mejora a sí misma. La noticia Ocho estados de EE. UU. demandan a OpenAI por la seguridad de ChatGPT,
WWWhat’s NewGoogle primero restringió el acceso a su nuevo modelo de IA por seguridad. Después tardó 13 días en abrirlo al público
Google presentó su modelo de pensamiento Gemini 4 Argon el 30 de septiembre, con acceso restringido a expertos en ciberseguridad. El 13 de octubre la empresa anunció su apertura a los usuarios con suscripción de pago. En
GenbetaUn modelo de accesibilidad de IA de múltiples niveles (MAIAM): límites proporcionales de acceso y capacidad para la seguridad integral de la IA en la frontera
arXiv:2610.20921v1 Tipo de anuncio: nuevo Resumen: La mayoría del debate sobre la liberación de sistemas de IA capaces trata la elección como binaria: mantener el modelo detrás de una API o publicar los pesos. Que enmarcar corre junto a dos separados de
arXiv · cs.AIControl de sesgo e inyección para la agregación de múltiples agentes
arXiv: 2610.21290v1Tipo de anuncio: nuevo Resumen: El razonamiento multiagente con modelos de lenguaje grandes (LLM) plantea una pregunta central para la toma de decisiones colectivas: cuando los agentes no están de acuerdo, ¿en qué decisión se debe confiar? Re
arXiv · cs.AIFlashAttention con estadísticas: características de atención de baja sobrecarga para detectores de alucinación compactos
arXiv:2610.21483v1 Announce Type: new Abstract: Los modelos de lenguaje grandes pueden producir respuestas fluidas que el contexto proporcionado no admite. Un modelo compacto de proxy congelado puede detectar tales respuestas leyendo el contexto y
arXiv · cs.AIWhen Reasoning Is Not Enough: Proactive Inquiry for Cross-Modal Safety in Multimodal Large Language Models (Cuando el razonamiento no es suficiente: investigación proactiva para la seguridad intermodal en
arXiv: 2610.22068v1Tipo de anuncio: nuevo Resumen: los modelos de lenguaje grandes multimodales (MLLM) pueden actuar de manera insegura cuando las imágenes y los textos individualmente benignos se interpretan conjuntamente. Más allá del riesgo de razonamiento implícito, donde el razonamiento
arXiv · cs.AILa extensión de ChatGPT para Chrome ya puede trabajar en tus pestañas: rellenar formularios, comparar productos y organizar tu navegador
La extensión de ChatGPT para Chrome ya rellena formularios y organiza tus pestañas con su agente. Pide permisos amplios: así funcionan y sus riesgos. La noticia La extensión de ChatGPT para Chrome ya puede trabajar en tu
WWWhat’s NewHan pillado a una flota de agentes de IA rebeldes campando por internet. Por primera vez, han sido creados y activados en China
Por primera vez, unos investigadores especializados en ciberseguridad han capturado a un grupo de agentes de IA autónomos merodeando por internet que habían sido desplegados desde infraestructura china. Durante diez días
XatakaOpenAI suspende el lanzamiento de un nuevo modelo de IA debido a preocupaciones de seguridad
OpenAI ha cancelado el lanzamiento de GPT-6.1 Astra , su modelo más potente, el cual estaba previsto para octubre, porque sus pruebas internas lo dejaron por debajo de lo que se esperaba. Saachi Jain , responsable de sis
GenbetaScrewtape: Edición de transcripciones adversarias para Monitor Red-Teaming
arXiv:2610.20941v1 Tipo de anuncio: nuevo Resumen: Presentamos Screwtape, un pipeline que convierte las transcripciones de agentes reales en ataques que evaden los monitores de solo acción. Un atacante de LLM edita una transcripción para que el agente pueda
arXiv · cs.CRCombinación de LLM y análisis dinámico para pruebas universales de herramientas estáticas de pruebas de seguridad de aplicaciones
arXiv: 2610.21309v1Tipo de anuncio: nuevo Resumen: Las herramientas de pruebas de seguridad de aplicaciones estáticas (SAST) ayudan a detectar posibles vulnerabilidades de software, pero ellas mismas contienen fallas que socavan la confiabilidad y la usabilidad. A
arXiv · cs.CRBiShield-TEE: Sobre la (in)seguridad de la ofuscación de peso unilateral en la partición LLM blindada con TEE en el dispositivo
arXiv: 2610.21565v1Tipo de anuncio: nuevo Resumen: La implementación en el dispositivo de modelos de lenguaje grandes (LLM) se adopta cada vez más debido a los requisitos de latencia y privacidad, pero expone los modelos patentados a la ingeniería inversa
arXiv · cs.CRSecureClaw: Clawing Back Control of LLM Agents
arXiv: 2606.09549v3Tipo de anuncio: reemplazar Resumen: Los agentes del modelo de lenguaje grande (LLM) que utilizan herramientas se enfrentan a dos fallas de seguridad distintas: acciones externas no autorizadas y exposición de texto plano sensible dentro del tiempo de ejecución b
arXiv · cs.CR