LATIDIA / EXPLORAR
Agentes y código · noticias de IA
Publicaciones relacionadas, con las más nuevas primero y acceso al archivo.
Últimas noticias relacionadas
Desde enero de 2026. Archivo recuperado: 609 publicaciones en este filtro; cobertura parcial de las fuentes accesibles. Una nueva noticia aparece primero sin cambiar la fecha de las anteriores.
Este año · Todo el archivo conservado
Inyección rápida a través de evidencia forense: una taxonomía y prueba de concepto de ataques antiforenses en investigaciones digitales asistidas por LLM
arXiv: 2610.29747v1Tipo de anuncio: nuevo Resumen: los modelos de lenguaje grandes (LLM) están ingresando a la ciencia forense digital como asistentes de examen y agentes autónomos. El análisis forense digital invierte la configuración habitual para el aviso indirecto
arXiv · cs.CRPerMIT: Asegurar la memoria persistente para los agentes de LLM a través de teoremas de integridad verificados por máquina y confianza comunitaria escalable
arXiv: 2610.28987v1Announce Type: cross Resumen: La memoria persistente es una superficie en gran medida indefensa para la inyección y el envenenamiento, y el mismo riesgo limita el intercambio de memoria entre los agentes. Presentamos PerMIT, un arquitecto de memoria
arXiv · cs.CRAnthropic lanza Claude Duet, un agente que te vigila el correo y actúa solo: lista de espera, solo en EE. UU. y consumiendo tu cuota
Anthropic abre Claude Duet, un agente proactivo que vigila tus apps y actúa solo. Lista de espera, solo EE. UU. y consume tus límites de uso. La noticia Anthropic lanza Claude Duet, un agente que te vigila el correo y ac
WWWhat’s NewOpenAI descubre que un agente de ChatGPT desactivó su propio sistema de seguridad y mintió
OpenAI abrió una investigación para encontrar por qué una IA desactivó parte de sus sistemas de supervisión. La compañía publicó un informe en el que describe dos incidentes ocurridos durante pruebas internas de sus mode
HipertextualUso de miles de agentes de IA para descubrir nuevos clientes potenciales en datos biológicos
Vea cómo OpenAI, PerturbAI y Scripps Research utilizaron agentes de IA distribuidos para descubrir pistas de investigación prometedoras en datos de millones de células cerebrales.
OpenAI · Fuente oficialPermitir local, denegación global: por qué la autorización por acción no se compone en los agentes de LLM
arXiv: 2610.27620v1Tipo de anuncio: nuevo Resumen: Los agentes autónomos de LLM actúan a través de herramientas bajo autorización por acción: un guardia local filtra cada llamada de herramienta de forma aislada. Demostramos que la autorización local no compone
arXiv · cs.CRCAPSafe: un punto de referencia para la acción contextual y el razonamiento de seguridad del plan en agentes incorporados
arXiv:2610.28381v1 Tipo de anuncio: nuevo Resumen: El razonamiento sobre la seguridad es esencial para los agentes incorporados impulsados por modelos de lenguaje grandes (LLM). Presentamos el punto de referencia de Acción Contextual y Plan de Seguridad (CAPSafe), des
arXiv · cs.RO¿Cuándo ayuda la memoria de la experiencia a los agentes de conducción de LLM de circuito cerrado? Una evaluación controlada con grupos de calentamiento remuestreados, rellenos coincidentes con tokens y líneas de base auditadas
arXiv: 2610.27714v1Announce Type: cross Resumen: ¿Cuándo ayuda la memoria de la experiencia a un agente de conducción LLM de bucle cerrado? Las ganancias publicadas no pueden decir, porque los dos factores que consideramos más importantes, que el calentamiento experimenta el
arXiv · cs.ROCómo el historial de intervenciones cambia el sabotaje de los agentes de IA en las tareas posteriores
arXiv: 2610.26935v1Tipo de anuncio: nuevo Resumen: las evaluaciones de control de IA a menudo restablecen la memoria de los agentes entre tareas, aunque los agentes desplegados pueden conservar registros de intervenciones anteriores. Preguntamos si aprender eso antes
arXiv · cs.CRCuando los modelos saben pero no pueden decir linealmente: la codificación relacional limita la clasificación de vulnerabilidad lineal en los LLM de código
arXiv:2610.27257v1 Announce Type: new Resumen: Los modelos de lenguaje grandes pueden detectar código vulnerable, pero la forma de codificación de vulnerabilidades en sus representaciones sigue sin estar clara. Analizamos 8 modelos de código que abarcan 6.7B-15
arXiv · cs.CRCloudflare vincula el descubrimiento de vulnerabilidades a la defensa con OpenAI
Cloudflare utiliza OpenAI Daybreak para investigar vulnerabilidades y proponer soluciones para su revisión. Sus desarrolladores utilizan Codex para construir más rápido y mejorar la calidad del código.
OpenAI · Fuente oficialChatGPT ya programa en COBOL, un lenguaje más viejo que muchos de sus usuarios
Cuando pensamos en la IA y vibe coding, lo primero que nos viene a la mente es la programación con lenguajes modernos como Python o JavaScript. Si bien esto es útil, una parte importante de la infraestructura tecnológica
HipertextualLa Terminal X coincide con el juicio de los inversores sénior 88.6% con GPT-6.1
El Agente de Evaluación de Terminal X califica las salidas contra una rúbrica de 54 criterios, capturando un 25% más de desviaciones del mandato de un fondo con GPT-6.1 Sol.
OpenAI · Fuente oficialStartups con sede en España avanzan en la innovación regional con Barcelona Supercomputing Center
El programa AI Factory Accelerator del Barcelona Supercomputing Center (BSC), ahora en pleno funcionamiento tras una iniciativa piloto, da a las startups acceso a computación soberana, soporte técnico y formación para apoyar la innovación
NVIDIA · Fuente oficialPérdidas ilimitadas, entradas no verificadas: medición de las salvaguardas de los agentes de negociación de opciones de LLM
arXiv: 2610.24289v1Tipo de anuncio: nuevo Resumen: los agentes del modelo de lenguaje grande (LLM) ahora realizan pedidos de opciones a corredores minoristas, y los desarrolladores publican agentes de opciones de código abierto más rápido de lo que nadie los ha examinado. Anterior
arXiv · cs.CRRACIÓN: Hacia un control cuantitativo del acceso basado en el riesgo para los agentes de IA
arXiv: 2610.24311v1Tipo de anuncio: nuevo Resumen: los agentes de IA interactúan cada vez más con entornos externos para completar tareas complejas del usuario. Estas interacciones pueden conducir a un comportamiento inesperado y exponer a los agentes a la seguridad
arXiv · cs.CRSoK: PIAtlas: Descomposición del espacio ilimitado de ataque de inyección rápida
arXiv: 2610.24999v1Tipo de anuncio: nuevo Resumen: La inyección rápida es el riesgo de seguridad dominante para las aplicaciones y agentes de modelo de lenguaje grande (LLM), sin embargo, el campo aún carece de un mapa coherente de cómo se ejecutan estos ataques
arXiv · cs.CRNo juzgue a un agente por sus mensajes: fugas del Estado privado bajo monitoreo pasivo de la comunicación del agente
arXiv:2610.25032v1 Tipo de anuncio: nuevo Resumen: Un agente de IA puede reproducir la distribución de sus mensajes y de los resultados de la tarea del receptor mientras revela información privada que la tarea nunca requirió. Preguntamos qué
arXiv · cs.CRAgentes de IA que navegan y compran por ti: qué permisos les das y qué es la inyección de instrucciones
Ningún agente de navegador es inmune, admite Anthropic. Qué es la inyección de instrucciones y 5 hábitos para que tu agente no compre por otro. La noticia Agentes de IA que navegan y compran por ti: qué permisos les das
WWWhat’s NewModel-as-a-Trojan: autoactivación de la exfiltración encubierta de DNS horneada en los pesos de un agente LLM
arXiv: 2610.22578v1Announce Type: new Abstract: Los modelos de peso abierto se descargan de hubs públicos y se ejecutan dentro de arneses de agentes que les otorgan herramientas, de manera más poderosa, un shell, bajo el supuesto de que un sandbox conta
arXiv · cs.CRGRADUACIÓN: Defensa de anticuerpos estructurada por gráficos para agentes LLM
arXiv: 2610.22828v1Announce Type: new Resumen: Los ataques de envenenamiento y descomposición de la memoria distribuyen pruebas maliciosas en las operaciones de los agentes de modelos de lenguaje grandes. Las defensas existentes a nivel de solicitud pueden pasar por alto
arXiv · cs.CRSAFE-Mem: Memoria Agénica Segura con Autoridad Fina y Recuperación Consciente de la Gobernanza
arXiv: 2610.22959v1Tipo de anuncio: nuevo Resumen: los agentes del modelo de lenguaje grande (LLM) dependen cada vez más de la memoria persistente para respaldar el razonamiento a largo plazo y las interacciones personalizadas. Sin embargo, la información recopilada de e
arXiv · cs.CRAgentLoupe: Etiquetas causales semánticas residentes en el núcleo para la observabilidad del agente de IA
arXiv: 2610.23233v1Announce Type: new Resumen: Los agentes de IA traducen las intenciones del usuario en acciones del sistema a través de invocaciones de herramientas. Atribuir con precisión estas acciones a sus interacciones LLM de origen es esencial para Secur
arXiv · cs.CRVulnSAGE: Adjudicación de informes SAST conectando el razonamiento de LLM con la estructura del programa
arXiv:2610.23035v1 Announce Type: cross Abstract: Static Application Security Testing (SAST) reporta operaciones flag cuya seguridad depende del contexto específico del proyecto, y los mantenedores deben decidir qué informes describen re
arXiv · cs.CR