LATIDIA / EXPLORAR
Ciencia e investigación · noticias de IA
Publicaciones relacionadas, con las más nuevas primero y acceso al archivo.
Últimas noticias relacionadas
Desde enero de 2026. Archivo recuperado: 888 publicaciones en este filtro; cobertura parcial de las fuentes accesibles. Una nueva noticia aparece primero sin cambiar la fecha de las anteriores.
Este año · Todo el archivo conservado
Veredictos correctos, razonamiento defectuoso: auditoría estructurada del razonamiento de vulnerabilidades basado en LLM
arXiv: 2610.06366v1Tipo de anuncio: nuevo Resumen: los modelos de lenguaje grandes (LLM) se implementan cada vez más para el análisis automatizado de vulnerabilidades de software. La clasificación binaria por sí sola es insuficiente; los profesionales necesitan explicaciones
arXiv · cs.CRLEVANTADO: Autodestilación por robustez para impulsar la inyección en agentes de LLM
arXiv: 2610.06401v1Announce Type: new Resumen: Los agentes de modelos de lenguaje que utilizan herramientas son vulnerables a la inyección de mensajes indirectos porque deben actuar sobre contenido externo no confiable. Las defensas de tiempo de entrenamiento existentes pueden reducir
arXiv · cs.CRUna evaluación de las capacidades de comprensión semántica de modelos de lenguaje grandes para cargas útiles de ataques web
arXiv: 2610.06507v1Tipo de anuncio: nuevo Resumen: Los servicios de visión por computadora entregados a través de interfaces web y API procesan solicitudes textuales para la adquisición de recursos de imágenes, la configuración de tareas de inferencia y la gestión de resultados
arXiv · cs.CR¿La IA ayuda a los ciberatacantes o a los defensores? Evidencia de vulnerabilidades no públicas y ataques posteriores
arXiv: 2610.06584v1 Tipo de anuncio: nuevo Resumen: La decisión de lanzamiento para los sistemas de IA de frontera se basa cada vez más en puntos de referencia de capacidad cibernética, pero los puntos de referencia de vulnerabilidad pública pueden exponer a los agentes a publicar previamente
arXiv · cs.CRTranScope: Lo que el software oculta sobre los datos de capacitación de LLM, el hardware revela a escala y los aceleradores se magnifican
arXiv: 2610.06848v1Tipo de anuncio: nuevo Resumen: La membresía es la primitiva de privacidad raíz en el aprendizaje automático: hasta la fecha, no se ha demostrado ninguna detección de fuera de distribución basada en hardware en modelos de caja negra contra con
arXiv · cs.CRAjuste fino de autorreflexión: mejora de la seguridad del agente contra ataques de inyección rápida por experiencia de falla
arXiv:2610.04269v1 Announce Type: cross Abstract: Los agentes del modelo de lenguaje grande (LLM) se implementan cada vez más en entornos aumentados por herramientas, pero su dependencia de entradas externas los hace altamente vulnerables a prompt i
arXiv · cs.CRModelos de lenguaje grandes y democracia aumentada
arXiv: 2610.04412v1Tipo de anuncio: cruz Resumen: La inteligencia artificial permite a los agentes computacionales representar preferencias políticas y participar en la toma de decisiones colectivas. En esta tesis, investigo el opp
arXiv · cs.CRReactivación de la alineación: defensa de los LLM de las fugas de cárcel a través de la coincidencia de entrada-salida consciente de la intención
arXiv: 2610.04470v1Announce Type: cross Resumen: Los modelos de lenguaje grandes (LLM) siguen siendo vulnerables a los ataques de jailbreak que ocultan intenciones dañinas dentro de mensajes contradictorios complejos. Las defensas existentes se basan principalmente en
arXiv · cs.CRCuando hablar no es código: comparación de agentes de LLM que simulan y desarrollan software
arXiv:2610.04639v1 Announce Type: cross Resumen: Los LLM se utilizan tanto para simular implementaciones de protocolos de red, como lo hacen los honeypots, como para escribirlos. El trabajo previo evalúa los dos usos por separado, a partir de las respuestas de un modelo
arXiv · cs.CRNo es autodecidible: los LLM no pueden trazar el límite de lo que un agente verificador puede comprobar.
arXiv:2610.04699v1 Tipo de Anuncio: Cross Resumen: Un verificador para un agente se enfrenta a reglas de dos tipos: las que un cheque fijo puede resolver y las que requieren un juez. Un equipo que deriva sus propias correcciones de cheques que se dividen
arXiv · cs.CRAutorización en tiempo de ejecución de subobjetivos autogenerados en agentes de IA que utilizan herramientas de Long-Horizon
arXiv: 2610.04975v1Tipo de anuncio: Cross Resumen: Los agentes de IA que utilizan herramientas de horizonte largo crean subobjetivos, replanifican, delegan trabajo y redactan resultados hermanos. Las comprobaciones de permisos por herramienta no pueden establecer que un objetivo cambiante gr
arXiv · cs.CRReflexiones y fragmentos: asegurar los LLM contra ataques secuenciales de mosaico
arXiv: 2610.05346v1Announce Type: cross Abstract: Self-play red-teaming mejora la seguridad del modelo de lenguaje al enfrentar los roles de atacante y defensor entre sí en un juego de suma cero. Sin embargo, los adversarios reales cada vez más
arXiv · cs.CRMcDonald’s usa IA para sugerir el precio del Big Mac en cada local, y a los clientes no les gusta
McDonald’s recurre a un sistema de inteligencia artificial para recomendar el precio de cada producto en cada restaurante de Estados Unidos y de algunos mercados internacionales, según una investigación de Reuters
WWWhat’s NewAdaptación novedosa a través del modelo híbrido de lenguaje grande (LLM): planificación simbólica y aprendizaje de refuerzo guiado por LLM
arXiv:2603.11351v3 Anuncio Tipo: reemplazar Resumen: En entornos dinámicos de mundo abierto, los agentes autónomos a menudo se encuentran con novedades que dificultan su capacidad para encontrar planes para lograr sus objetivos. Específicamente, los tradicionales
arXiv · cs.ROMitigar la fuga de datos privados en LLM con Whiteout
arXiv: 2610.02418v1Tipo de anuncio: nuevo Resumen: Los modelos modernos de lenguaje grande (LLM) están entrenados en conjuntos de datos masivos, en gran parte sin filtrar, incluido el contenido extraído de casi todos los sitios web accesibles y las entradas de los usuarios. Como
arXiv · cs.CREvaluación y mejora de la robustez de los modelos de lenguaje grandes para introducir variaciones de secuencia
arXiv:2610.02432v1 Announce Type: new Abstract: Large language models (LLMs) in production systems face prompt injections, trojans (backdoors), and manipulation of automatic quality metrics. Esta tesis desarrolla modelos,
arXiv · cs.CRSideKernel: una caja de arena microVM utilizable para agentes de codificación de IA en macOS
arXiv: 2610.02456v1Tipo de anuncio: nuevo Resumen: los agentes de codificación de IA son componentes del sistema no confiables, pero requieren autonomía en las máquinas de desarrollo en las que se ejecutan. Esta contradicción es un problema de seguridad. Sandboxes provi
arXiv · cs.CRCITADEL: inserción guiada por CWE de troyanos de hardware a través del análisis de LLM habilitados para DFG
arXiv: 2610.02544v1Tipo de anuncio: nuevo Resumen: La creciente sofisticación de los troyanos de hardware (HT) y las vulnerabilidades a nivel de sistema plantean riesgos significativos para los circuitos integrados modernos. Sin embargo, construir realis
arXiv · cs.CRFuera de sincronía, fuera de la vista: ataques de estado fantasma contra la detección de intrusiones IIoT
arXiv: 2610.02552v1Tipo de anuncio: nuevo Resumen: Los sistemas de detección de intrusiones (IDS) basados en el aprendizaje automático son fundamentales para proteger los entornos del Internet Industrial de las Cosas (IIoT). La mayoría de las investigaciones contradictorias en su contra
arXiv · cs.CRRMCW: Una marca de agua de eliminación y eliminación basada en Reed: códigos de Muller para modelos de lenguaje
arXiv: 2610.02817v1Tipo de anuncio: nuevo Resumen: La marca de agua del modelo de lenguaje grande (LLM) proporciona un mecanismo liviano para identificar el texto generado por un modelo específico, pero su robustez sigue siendo frágil en post-p
arXiv · cs.CRConteniendo el operador autónomo: un marco de defensa en profundidad y una arquitectura de referencia para proteger a los agentes de IA en Kubernetes
arXiv: 2610.02861v1Tipo de anuncio: nuevo Resumen: los agentes del modelo de lenguaje grande (LLM) se están moviendo de las interfaces de chat a las operaciones de infraestructura, donde leen telemetría, llaman a herramientas, generan y ejecutan código y chan
arXiv · cs.CRMás allá de los sumideros predefinidos: análisis de dependencia consciente de la seguridad para agentes de LLM
arXiv: 2610.03014v1 Tipo de anuncio: nuevo Resumen: los agentes basados en el modelo de lenguaje grande (LLM) conectan cada vez más las decisiones generadas por el modelo con las capacidades de software sensibles a la seguridad, como la ejecución de comandos, la acreditación del sistema de archivos
arXiv · cs.CRLa fragilidad de los mecanismos de activación-etiqueta para la detección de uso indebido en LLM de peso abierto
arXiv: 2610.03124v1Tipo de anuncio: nuevo Resumen: los modelos de lenguaje de peso abierto se pueden descargar, modificar e implementar fuera del control de sus desarrolladores, lo que limita la efectividad de las salvaguardas aplicadas de forma centralizada. Reciente
arXiv · cs.CRDefensa en Profundidad en la Interfaz de Percepción-Razonamiento de Enjambres de UAV Agénicos Centrados en LLM
arXiv: 2610.03319v1Tipo de anuncio: nuevo Resumen: los modelos de lenguaje grande (LLM) admiten cada vez más operaciones de enjambre de vehículos aéreos no tripulados (UAV), como la programación de recopilación de datos, donde el modelo lee el sensor estructurado
arXiv · cs.CR