LATIDIA / EXPLORAR
Agentes y código · noticias de IA
Publicaciones relacionadas, con las más nuevas primero y acceso al archivo.
Últimas noticias relacionadas
Desde enero de 2026. Archivo recuperado: 621 publicaciones en este filtro; cobertura parcial de las fuentes accesibles. Una nueva noticia aparece primero sin cambiar la fecha de las anteriores.
Este año · Todo el archivo conservado
Citando a Armin Ronacher
Por muy divertida que sea la IA, construimos mucho software malo en los últimos 30 años, y ahora el universo nos está castigando por nuestros pecados. — Armin Ronacher Etiquetas: security , generative-ai , armin-ronacher , ai , ai-security-research
Simon WillisonLa apuesta actual de la IA de Spotify se trata de ser el servicio de música que los agentes eligen
El co-CEO de Spotify, Gustav Söderström, explica por qué el aumento de agentes de IA podría ser una buena noticia para el servicio de música.
TechCrunch AILa aplicación Claude Duet es la apuesta de Anthropic por los agentes
Claude Duet está disponible a través de la lista de espera para los usuarios de los planes Pro y Max.
TechCrunch AIA OpenAI y Anthropic les han adelantado por la derecha en los agentes de IA. Por WhatsApp, concretamente
Anthropic ha presentado Claude Duet , un agente proactivo en versión preliminar para profesionales y pymes. Llega seis semanas después de Muse, de Meta, y tres después de Dots, de OpenAI . Los dos laboratorios de referen
XatakaHarnessPAI: un arnés en evolución para la IA física
arXiv:2609.29166v2 Announce Type: replace Resumen: La IA física tiene como objetivo construir agentes encarnados que perciban el mundo, lo entiendan y razonen sobre él, y decidan cómo actuar. Sin embargo, el campo se ha centrado principalmente en las
arXiv · cs.RO¿Cuánto importa el arnés y para quién? Un estudio multimodelo del contexto en el descubrimiento de vulnerabilidades impulsado por LLM
arXiv:2610.28802v1 Announce Type: new Abstract: ¿Cuánto afecta el arnés de un agente al descubrimiento de vulnerabilidades y su valor depende del modelo? Estudiamos 24 configuraciones modelo-corredor utilizando un arnés de código abierto
arXiv · cs.CRBlack-Box Red-Teaming de sistemas multiagente a través del aprendizaje por refuerzo
arXiv: 2610.28966v1Tipo de anuncio: nuevo Resumen: Los agentes del modelo de lenguaje grande (LLM) se implementan cada vez más en sistemas multiagente (MAS) para realizar tareas complejas. Los ataques previos de equipos rojos de caja negra se centran principalmente en si
arXiv · cs.CRFallos correlacionados de los monitores de aprobación de IA
arXiv:2610.29178v1 Tipo de anuncio: nuevo Resumen: Antes de que un agente de IA tome una acción consecuente, como pagar, enviar mensajes o cambiar el código, varios monitores lo verifican. Sus veredictos se combinan mediante la suma de puntuaciones o
arXiv · cs.CRDónde se silencian los arneses de descubrimiento de vulnerabilidades de IA: falsos negativos estructurales y vulnerabilidades ocultas
arXiv: 2610.29379v1Announce Type: new Resumen: Los arneses de descubrimiento de vulnerabilidades basados en LLM pueden pasar por alto vulnerabilidades reales y accesibles debido a la forma en que se construye el arnés alrededor del modelo. Pasos que seleccionan el código, lo filtran
arXiv · cs.CRInyección rápida a través de evidencia forense: una taxonomía y prueba de concepto de ataques antiforenses en investigaciones digitales asistidas por LLM
arXiv: 2610.29747v1Tipo de anuncio: nuevo Resumen: los modelos de lenguaje grandes (LLM) están ingresando a la ciencia forense digital como asistentes de examen y agentes autónomos. El análisis forense digital invierte la configuración habitual para el aviso indirecto
arXiv · cs.CRPerMIT: Asegurar la memoria persistente para los agentes de LLM a través de teoremas de integridad verificados por máquina y confianza comunitaria escalable
arXiv: 2610.28987v1Announce Type: cross Resumen: La memoria persistente es una superficie en gran medida indefensa para la inyección y el envenenamiento, y el mismo riesgo limita el intercambio de memoria entre los agentes. Presentamos PerMIT, un arquitecto de memoria
arXiv · cs.CRAnthropic lanza Claude Duet, un agente que te vigila el correo y actúa solo: lista de espera, solo en EE. UU. y consumiendo tu cuota
Anthropic abre Claude Duet, un agente proactivo que vigila tus apps y actúa solo. Lista de espera, solo EE. UU. y consume tus límites de uso. La noticia Anthropic lanza Claude Duet, un agente que te vigila el correo y ac
WWWhat’s NewOpenAI descubre que un agente de ChatGPT desactivó su propio sistema de seguridad y mintió
OpenAI abrió una investigación para encontrar por qué una IA desactivó parte de sus sistemas de supervisión. La compañía publicó un informe en el que describe dos incidentes ocurridos durante pruebas internas de sus mode
HipertextualUso de miles de agentes de IA para descubrir nuevos clientes potenciales en datos biológicos
Vea cómo OpenAI, PerturbAI y Scripps Research utilizaron agentes de IA distribuidos para descubrir pistas de investigación prometedoras en datos de millones de células cerebrales.
OpenAI · Fuente oficialPermitir local, denegación global: por qué la autorización por acción no se compone en los agentes de LLM
arXiv: 2610.27620v1Tipo de anuncio: nuevo Resumen: Los agentes autónomos de LLM actúan a través de herramientas bajo autorización por acción: un guardia local filtra cada llamada de herramienta de forma aislada. Demostramos que la autorización local no compone
arXiv · cs.CRCAPSafe: un punto de referencia para la acción contextual y el razonamiento de seguridad del plan en agentes incorporados
arXiv:2610.28381v1 Tipo de anuncio: nuevo Resumen: El razonamiento sobre la seguridad es esencial para los agentes incorporados impulsados por modelos de lenguaje grandes (LLM). Presentamos el punto de referencia de Acción Contextual y Plan de Seguridad (CAPSafe), des
arXiv · cs.RO¿Cuándo ayuda la memoria de la experiencia a los agentes de conducción de LLM de circuito cerrado? Una evaluación controlada con grupos de calentamiento remuestreados, rellenos coincidentes con tokens y líneas de base auditadas
arXiv: 2610.27714v1Announce Type: cross Resumen: ¿Cuándo ayuda la memoria de la experiencia a un agente de conducción LLM de bucle cerrado? Las ganancias publicadas no pueden decir, porque los dos factores que consideramos más importantes, que el calentamiento experimenta el
arXiv · cs.ROCómo el historial de intervenciones cambia el sabotaje de los agentes de IA en las tareas posteriores
arXiv: 2610.26935v1Tipo de anuncio: nuevo Resumen: las evaluaciones de control de IA a menudo restablecen la memoria de los agentes entre tareas, aunque los agentes desplegados pueden conservar registros de intervenciones anteriores. Preguntamos si aprender eso antes
arXiv · cs.CRCuando los modelos saben pero no pueden decir linealmente: la codificación relacional limita la clasificación de vulnerabilidad lineal en los LLM de código
arXiv:2610.27257v1 Announce Type: new Resumen: Los modelos de lenguaje grandes pueden detectar código vulnerable, pero la forma de codificación de vulnerabilidades en sus representaciones sigue sin estar clara. Analizamos 8 modelos de código que abarcan 6.7B-15
arXiv · cs.CRCloudflare vincula el descubrimiento de vulnerabilidades a la defensa con OpenAI
Cloudflare utiliza OpenAI Daybreak para investigar vulnerabilidades y proponer soluciones para su revisión. Sus desarrolladores utilizan Codex para construir más rápido y mejorar la calidad del código.
OpenAI · Fuente oficialChatGPT ya programa en COBOL, un lenguaje más viejo que muchos de sus usuarios
Cuando pensamos en la IA y vibe coding, lo primero que nos viene a la mente es la programación con lenguajes modernos como Python o JavaScript. Si bien esto es útil, una parte importante de la infraestructura tecnológica
HipertextualLa Terminal X coincide con el juicio de los inversores sénior 88.6% con GPT-6.1
El Agente de Evaluación de Terminal X califica las salidas contra una rúbrica de 54 criterios, capturando un 25% más de desviaciones del mandato de un fondo con GPT-6.1 Sol.
OpenAI · Fuente oficialStartups con sede en España avanzan en la innovación regional con Barcelona Supercomputing Center
El programa AI Factory Accelerator del Barcelona Supercomputing Center (BSC), ahora en pleno funcionamiento tras una iniciativa piloto, da a las startups acceso a computación soberana, soporte técnico y formación para apoyar la innovación
NVIDIA · Fuente oficialPérdidas ilimitadas, entradas no verificadas: medición de las salvaguardas de los agentes de negociación de opciones de LLM
arXiv: 2610.24289v1Tipo de anuncio: nuevo Resumen: los agentes del modelo de lenguaje grande (LLM) ahora realizan pedidos de opciones a corredores minoristas, y los desarrolladores publican agentes de opciones de código abierto más rápido de lo que nadie los ha examinado. Anterior
arXiv · cs.CR