LATIDIA / EXPLORAR
Riesgos y seguridad · noticias de IA
Publicaciones relacionadas, con las más nuevas primero y acceso al archivo.
Últimas noticias relacionadas
Desde enero de 2026. Archivo recuperado: 430 publicaciones en este filtro; cobertura parcial de las fuentes accesibles. Una nueva noticia aparece primero sin cambiar la fecha de las anteriores.
Este año · Todo el archivo conservado
Resolución de mundo cerrado contra la alucinación de herramientas en agentes de LLM
arXiv: 2609.19425v1Announce Type: cross Resumen: Los agentes del modelo de lenguaje grande (LLM) aumentados por herramientas fallan de una manera que no hay direcciones del método de selección de herramientas o seguridad de herramientas: llaman a herramientas que no existen y pasan argumentos n
arXiv · cs.CRSeguridad más allá de la interfaz: detección de daños a través de estados latentes en modelos de lenguaje grandes
arXiv: 2609.19472v1Tipo de Anuncio: Cross Resumen: Los sistemas autónomos dependen cada vez más de los Modelos de Lenguaje Grande (LLM), sin embargo, la infraestructura de seguridad que rodea a estos modelos introduce latencia y sobrecarga de cómputo. Esto
arXiv · cs.CRAtaques automatizados de inferencia de membresía (AutoMIA): descubrimiento de cálculos de señales MIA utilizando agentes LLM
arXiv: 2603.19375v2Tipo de anuncio: reemplazar Resumen: Los ataques de inferencia de membresía (mias), que permiten a los adversarios determinar si puntos de datos específicos formaban parte del conjunto de datos de entrenamiento de un modelo, han surgido como un impo
arXiv · cs.CRAtaques de auto-estado contra agentes de IA auto-alojados: ¿Hasta dónde pueden llegar las defensas del sistema operativo?
arXiv:2607.17986v2 Announce Type: replace Resumen: Los agentes de IA autoalojados mantienen una memoria, instrucciones y configuración persistentes que influyen en su comportamiento futuro. Si un agente está comprometido, un atacante puede expl
arXiv · cs.CRMAS-Shield: un marco de defensa para un LLM MAS seguro y eficiente
arXiv:2511.22924v3 Tipo de anuncio: replace-cross Resumen: Los sistemas multiagente (MAS)basados en el modelo de lenguaje grande (LLM) son susceptibles a ataques lingüísticos que pueden desencadenar fallos en cascada en toda la red.
arXiv · cs.CR¿El debate sobre la seguridad de la IA es sobre la seguridad o el control?
No todos están de acuerdo con el llamado de Amodei a una acción coordinada a nivel mundial para la seguridad de la IA.
TechCrunch AIAltman en Dreamforce: «El mundo tiene razón en tener miedo de la IA», y la solución que propone es que confíen en OpenAI
Sam Altman intervino el martes 15 de septiembre en Dreamforce —la conferencia anual de Salesforce en San Francisco— en lo que fue su primera aparición pública desde que el debate sobre el riesgo existencial de la IA domi
WWWhat’s NewBase Labs lanza una asociación de seguridad de IA de peso abierto con Hugging Face y Goodfire
Base Labs, el grupo de investigación que Baseten creó a principios de este año, desarrollará y publicará métodos para capacitar y monitorear modelos abiertos.
TechCrunch AILos agentes de OpenAI estaban explorando los servidores de Hugging Face dos meses antes del gran ataque de julio, y OpenAI omitió ese detalle en su informe
La cronología del incidente de OpenAI con Hugging Face tiene una nueva capa. Reuters publicó este 16 de septiembre, citando investigadores independientes, que los agentes de OpenAI ya estaban comprometiendo cuentas de Hu
WWWhat’s NewTras hablar con Trump, la posición de Jensen Huang sobre regular la IA es clarísima: "No necesitamos nuevas leyes"
Jensen Huang, CEO de Nvidia, acaba de decirle al mundo que la IA no necesita nuevas leyes. Al hablar en la conferencia Dreamforce de Salesforce esta semana, Huang argumentaba que la seguridad es algo que las empresas pue
XatakaPropagación de confianza y contención estructural en oleoductos LLM multiagente
arXiv: 2609.17648v1Tipo de anuncio: nuevo Resumen: Los sistemas LLM multiagente automatizan cada vez más las tareas que involucran a agentes con diferentes niveles de privilegios, creando un riesgo de seguridad en el que un agente de bajo privilegio comprometido
arXiv · cs.CRMiST: LLM de capacitación intermedia para ciberseguridad
arXiv: 2609.18496v1Tipo de anuncio: nuevo Resumen: La ciberseguridad combina un análisis de alto riesgo con un lenguaje técnico complejo, lo que lo convierte en un dominio impactante y desafiante para los LLM. Presentamos MiST (Mid-trained Security T
arXiv · cs.CRUn marco de evaluación de riesgos de seguridad para herramientas de desarrollo impulsadas por IA
arXiv: 2609.18658v1Tipo de anuncio: nuevo Resumen: las herramientas de desarrollo impulsadas por IA ahora se utilizan ampliamente para generar código y ayudar a los desarrolladores con las tareas de programación de rutina. Aunque el trabajo existente ha identificado vulnerabilidades
arXiv · cs.CRAgentLSD: Evaluación de agentes de seguridad de IA bajo contaminación de tareas adversas
arXiv:2609.19140v1 Tipo de anuncio: nuevo Resumen: los agentes de IA para la seguridad inspeccionan páginas web, código fuente, registros, archivos de configuración y salidas de comandos. Estos entornos pueden contener artefactos engañosos que influyen en la
arXiv · cs.CRAsegurar la corrección de errores cuánticos contra los consejos engañosos de los agentes de IA
arXiv: 2609.19090v1Announce Type: cross Resumen: ¿Puede un atacante convertir la influencia sobre un asesor de inteligencia artificial (IA) en una actualización dañina de corrección de errores cuánticos? Identificamos una ambigüedad en el síndrome pasivo r
arXiv · cs.CRChatIDS: Avanzando en la ciberseguridad explicable utilizando IA generativa
arXiv:2306.14504v2 Announce Type: replace Resumen: Los sistemas de detección de intrusiones (IDS) son un enfoque comprobado para redes seguras. Los ID basados en red generalmente se instalan en routers o puertas de enlace de Internet. Esto les permite
arXiv · cs.CRCacheTrap: presentación de un troyano de caja gris más sigiloso contra los LLM
arXiv: 2511.22681v3Tipo de anuncio: reemplazar Resumen: El rápido avance de los modelos de lenguaje grandes (LLM) ha despertado un creciente interés en comprender sus vulnerabilidades de seguridad, particularmente los ataques de troyanos que ena
arXiv · cs.CRLa seguridad no se compone: estado de bucle no decaído para agentes autónomos de LLM
arXiv: 2608.27141v5Announce Type: replace Resumen: Los agentes de modelos de lenguaje grandes se implementan cada vez más como bucles autónomos. Partiendo de un objetivo humano, tal sistema descubre repetidamente el trabajo, planifica, ejecuta la herramienta c
arXiv · cs.CRLa AEPD notifica el primer ciberataque ejecutado de forma autónoma por un agente de IA en España: accedió a datos personales y facturas sin intervención humana
La Agencia Española de Protección de Datos ha comunicado esta semana la primera notificación de brecha de datos en la que un agente de inteligencia artificial ejecutó un ciberataque de forma completamente autónoma contra
WWWhat’s NewOpenAI, Anthropic y Google llevan desde julio negociando en secreto un organismo de seguridad de la IA que se antepondría a la regulación del Congreso
La semana más intensa de advertencias públicas sobre el riesgo existencial de la IA de 2026 —el ensayo de Amodei, la dimisión de Coxon, las declaraciones de Altman y Musk, la respuesta de Trump desde Dublín— resultó ser
WWWhat’s NewLa Agencia de Protección de Datos ha descubierto el primer ciberataque realizado por un agente IA en España
La Agencia Española de Protección de Datos (AEPD) ha recibido por primera vez la notificación de una brecha de datos personales en la que un tercero habría usado un agente de IA para ejecutar y controlar distintas fases
XatakaLagarde avisa: el 75% del cómputo de IA mundial está en EE.UU. y el 5% en Europa. Si no construimos infraestructura propia, alguien puede cortarnos el acceso
Christine Lagarde, presidenta del Banco Central Europeo, pronunció el 14 de septiembre en Viena el discurso más concreto que un alto funcionario europeo ha dado sobre los riesgos de dependencia en IA. El título: «Una nue
WWWhat’s NewDriveMCP: un marco de IA agéntica para un sistema avanzado de asistencia al conductor
arXiv: 2609.17247v1Tipo de anuncio: nuevo Resumen: Un marco de asistencia al conductor de IA auténtico que integra la percepción, el razonamiento de cumplimiento, la interpretación del estado del vehículo y el arbitraje de seguridad en un marco modular y auditabl
arXiv · cs.RODefensas universales para agentes de LLM integrados en herramientas contra ataques adversarios
arXiv: 2609.16098v1Tipo de anuncio: nuevo Resumen: los agentes del Modelo de Lenguaje Grande (LLM) han demostrado capacidades impresionantes en una variedad de dominios, particularmente cuando se integran con herramientas externas para tareas de varios pasos
arXiv · cs.CR