LATIDIA / EXPLORAR
Agentes y código · noticias de IA
Publicaciones relacionadas, con las más nuevas primero y acceso al archivo.
Últimas noticias relacionadas
Desde enero de 2026. Archivo recuperado: 617 publicaciones en este filtro; cobertura parcial de las fuentes accesibles. Una nueva noticia aparece primero sin cambiar la fecha de las anteriores.
Este año · Todo el archivo conservado
Veredictos correctos, razonamiento defectuoso: auditoría estructurada del razonamiento de vulnerabilidades basado en LLM
arXiv: 2610.06366v1Tipo de anuncio: nuevo Resumen: los modelos de lenguaje grandes (LLM) se implementan cada vez más para el análisis automatizado de vulnerabilidades de software. La clasificación binaria por sí sola es insuficiente; los profesionales necesitan explicaciones
arXiv · cs.CRLEVANTADO: Autodestilación por robustez para impulsar la inyección en agentes de LLM
arXiv: 2610.06401v1Announce Type: new Resumen: Los agentes de modelos de lenguaje que utilizan herramientas son vulnerables a la inyección de mensajes indirectos porque deben actuar sobre contenido externo no confiable. Las defensas de tiempo de entrenamiento existentes pueden reducir
arXiv · cs.CR¿La IA ayuda a los ciberatacantes o a los defensores? Evidencia de vulnerabilidades no públicas y ataques posteriores
arXiv: 2610.06584v1 Tipo de anuncio: nuevo Resumen: La decisión de lanzamiento para los sistemas de IA de frontera se basa cada vez más en puntos de referencia de capacidad cibernética, pero los puntos de referencia de vulnerabilidad pública pueden exponer a los agentes a publicar previamente
arXiv · cs.CRTranScope: Lo que el software oculta sobre los datos de capacitación de LLM, el hardware revela a escala y los aceleradores se magnifican
arXiv: 2610.06848v1Tipo de anuncio: nuevo Resumen: La membresía es la primitiva de privacidad raíz en el aprendizaje automático: hasta la fecha, no se ha demostrado ninguna detección de fuera de distribución basada en hardware en modelos de caja negra contra con
arXiv · cs.CRAjuste fino de autorreflexión: mejora de la seguridad del agente contra ataques de inyección rápida por experiencia de falla
arXiv:2610.04269v1 Announce Type: cross Abstract: Los agentes del modelo de lenguaje grande (LLM) se implementan cada vez más en entornos aumentados por herramientas, pero su dependencia de entradas externas los hace altamente vulnerables a prompt i
arXiv · cs.CRModelos de lenguaje grandes y democracia aumentada
arXiv: 2610.04412v1Tipo de anuncio: cruz Resumen: La inteligencia artificial permite a los agentes computacionales representar preferencias políticas y participar en la toma de decisiones colectivas. En esta tesis, investigo el opp
arXiv · cs.CRCuando hablar no es código: comparación de agentes de LLM que simulan y desarrollan software
arXiv:2610.04639v1 Announce Type: cross Resumen: Los LLM se utilizan tanto para simular implementaciones de protocolos de red, como lo hacen los honeypots, como para escribirlos. El trabajo previo evalúa los dos usos por separado, a partir de las respuestas de un modelo
arXiv · cs.CRNo es autodecidible: los LLM no pueden trazar el límite de lo que un agente verificador puede comprobar.
arXiv:2610.04699v1 Tipo de Anuncio: Cross Resumen: Un verificador para un agente se enfrenta a reglas de dos tipos: las que un cheque fijo puede resolver y las que requieren un juez. Un equipo que deriva sus propias correcciones de cheques que se dividen
arXiv · cs.CRAutorización en tiempo de ejecución de subobjetivos autogenerados en agentes de IA que utilizan herramientas de Long-Horizon
arXiv: 2610.04975v1Tipo de anuncio: Cross Resumen: Los agentes de IA que utilizan herramientas de horizonte largo crean subobjetivos, replanifican, delegan trabajo y redactan resultados hermanos. Las comprobaciones de permisos por herramienta no pueden establecer que un objetivo cambiante gr
arXiv · cs.CRGoogle ya no te pagará por hallar vulnerabilidades en su código abierto, y todo por la IA
Google ha suspendido el programa de recompensas que pagaba las contribuciones del público para hallar vulnerabilidades en sus productos de código abierto. La compañía de Mountain View anunció la pausa en la iniciativa, q
HipertextualGPT-6 Astra completa la zona inicial de World of Warcraft en 40 minutos sin ver una sola imagen
El modelo GPT-6 Astra de OpenAI ha completado la zona inicial de los orcos en World of Warcraft en unos 40 minutos y sin morir, según el desarrollador del proyecto de código abierto agent-wow. La clave es que no vio ni u
WWWhat’s NewAdaptación novedosa a través del modelo híbrido de lenguaje grande (LLM): planificación simbólica y aprendizaje de refuerzo guiado por LLM
arXiv:2603.11351v3 Anuncio Tipo: reemplazar Resumen: En entornos dinámicos de mundo abierto, los agentes autónomos a menudo se encuentran con novedades que dificultan su capacidad para encontrar planes para lograr sus objetivos. Específicamente, los tradicionales
arXiv · cs.ROSideKernel: una caja de arena microVM utilizable para agentes de codificación de IA en macOS
arXiv: 2610.02456v1Tipo de anuncio: nuevo Resumen: los agentes de codificación de IA son componentes del sistema no confiables, pero requieren autonomía en las máquinas de desarrollo en las que se ejecutan. Esta contradicción es un problema de seguridad. Sandboxes provi
arXiv · cs.CRRMCW: Una marca de agua de eliminación y eliminación basada en Reed: códigos de Muller para modelos de lenguaje
arXiv: 2610.02817v1Tipo de anuncio: nuevo Resumen: La marca de agua del modelo de lenguaje grande (LLM) proporciona un mecanismo liviano para identificar el texto generado por un modelo específico, pero su robustez sigue siendo frágil en post-p
arXiv · cs.CRConteniendo el operador autónomo: un marco de defensa en profundidad y una arquitectura de referencia para proteger a los agentes de IA en Kubernetes
arXiv: 2610.02861v1Tipo de anuncio: nuevo Resumen: los agentes del modelo de lenguaje grande (LLM) se están moviendo de las interfaces de chat a las operaciones de infraestructura, donde leen telemetría, llaman a herramientas, generan y ejecutan código y chan
arXiv · cs.CRMás allá de los sumideros predefinidos: análisis de dependencia consciente de la seguridad para agentes de LLM
arXiv: 2610.03014v1 Tipo de anuncio: nuevo Resumen: los agentes basados en el modelo de lenguaje grande (LLM) conectan cada vez más las decisiones generadas por el modelo con las capacidades de software sensibles a la seguridad, como la ejecución de comandos, la acreditación del sistema de archivos
arXiv · cs.CRDefensa en Profundidad en la Interfaz de Percepción-Razonamiento de Enjambres de UAV Agénicos Centrados en LLM
arXiv: 2610.03319v1Tipo de anuncio: nuevo Resumen: los modelos de lenguaje grande (LLM) admiten cada vez más operaciones de enjambre de vehículos aéreos no tripulados (UAV), como la programación de recopilación de datos, donde el modelo lee el sensor estructurado
arXiv · cs.CRAprobación de la prueba en la que se entrenó: reevaluación de los detectores de inyección rápida para agentes de LLM
arXiv: 2610.03448v1Tipo de anuncio: nuevo Resumen: los agentes de LLM examinan cada vez más los resultados de las herramientas con pequeños detectores de inyección rápida, y los equipos eligen entre los detectores por sus puntajes en los puntos de referencia públicos. Preguntamos si tho
arXiv · cs.CRSensibilidad de representación de preservación de amenazas en puntos de referencia de seguridad de agentes
arXiv: 2610.03585v1Tipo de anuncio: nuevo Resumen: Los puntos de referencia de seguridad para agentes basados en LLM a menudo informan la tasa de éxito de ataque (ASR) como una medida de la solidez del modelo y utilizan estas puntuaciones para comparar diferentes modelos y de
arXiv · cs.CRModelos rápidos, evidencia lenta: una evaluación emparejada y autoauditada de los modelos de decisión del sistema 1 para arneses de agentes LLM
arXiv:2610.02267v1 Tipo de anuncio: cruz Resumen: Los arneses de agente toman muchas decisiones pequeñas y escritas por tarea: a qué modelo llamar, qué herramienta usar, si el texto recuperado es relevante, si una entrada lleva un inyecti
arXiv · cs.CRMenos tokens, mejor acción: agentes robóticos Astra GPT-6 con una tasa de éxito un 14% más alta pero un 65% menos de tokens
arXiv: 2610.01939v1Tipo de anuncio: Cross Resumen: Los agentes del modelo de lenguaje de visión (VLM) pueden controlar los robots a través de la retroalimentación visual y las primitivas de acción, pero las invocaciones repetidas del modelo y las observaciones redundantes incurren en sub
arXiv · cs.ROOpenAI reconoce que sus modelos han afectado a más de 100 organizaciones y la revisión les cuesta $500.000 al día
OpenAI publicó el miércoles por la noche una entrada en su blog en la que amplía el alcance conocido de los incidentes de comportamiento anómalo de sus agentes: los modelos de la empresa han notificado a más de 100 organ
WWWhat’s NewEl modelo Mythos de Anthropic descubrió vulnerabilidades críticas en Epic que exponían 320 millones de historiales médicos sin dejar rastro
Epic Systems, la empresa que gestiona el software MyChart utilizado para acceder a los historiales médicos de los pacientes en hospitales y consultas de toda EEUU, ha paralizado prácticamente todo su desarrollo de produc
WWWhat’s NewUn agente de IA autónomo hackea al organismo de ciberseguridad holandés DIVD — y lo hace de forma errática y sin que nadie lo guíe
El Instituto Holandés para la Divulgación de Vulnerabilidades (DIVD) es el equivalente al INCIBE español: una organización que se dedica a encontrar y comunicar fallos de seguridad en sistemas de terceros para que sean c
WWWhat’s New