LATIDIA / EXPLORAR
Ciencia e investigación · noticias de IA
Publicaciones relacionadas, con las más nuevas primero y acceso al archivo.
Últimas noticias relacionadas
Desde enero de 2026. Archivo recuperado: 888 publicaciones en este filtro; cobertura parcial de las fuentes accesibles. Una nueva noticia aparece primero sin cambiar la fecha de las anteriores.
Este año · Todo el archivo conservado
Aprobación de la prueba en la que se entrenó: reevaluación de los detectores de inyección rápida para agentes de LLM
arXiv: 2610.03448v1Tipo de anuncio: nuevo Resumen: los agentes de LLM examinan cada vez más los resultados de las herramientas con pequeños detectores de inyección rápida, y los equipos eligen entre los detectores por sus puntajes en los puntos de referencia públicos. Preguntamos si tho
arXiv · cs.CRSensibilidad de representación de preservación de amenazas en puntos de referencia de seguridad de agentes
arXiv: 2610.03585v1Tipo de anuncio: nuevo Resumen: Los puntos de referencia de seguridad para agentes basados en LLM a menudo informan la tasa de éxito de ataque (ASR) como una medida de la solidez del modelo y utilizan estas puntuaciones para comparar diferentes modelos y de
arXiv · cs.CRModelos rápidos, evidencia lenta: una evaluación emparejada y autoauditada de los modelos de decisión del sistema 1 para arneses de agentes LLM
arXiv:2610.02267v1 Tipo de anuncio: cruz Resumen: Los arneses de agente toman muchas decisiones pequeñas y escritas por tarea: a qué modelo llamar, qué herramienta usar, si el texto recuperado es relevante, si una entrada lleva un inyecti
arXiv · cs.CRLa frecuencia no es sensibilidad Identificación de expertos sensibles a la seguridad en Moe disperso LLM
arXiv: 2610.02910v1Tipo de anuncio: Cross Resumen: La supresión de un pequeño conjunto de expertos enrutados puede debilitar el comportamiento de seguridad de un modelo de lenguaje de mezcla de expertos (Moe) disperso sin reentrenamiento. Qué expertos suprimir
arXiv · cs.CRUn sistema de IA pasiva para verificar el estado físico en manipuladores automáticos de líquidos
arXiv:2610.02668v1 Tipo de anuncio: nuevo Resumen: los manipuladores de líquidos automatizados ejecutan protocolos digitales, pero los operadores deben ensamblar la plataforma y confirmar que la configuración física coincida con el experimento previsto. Presentamos el
arXiv · cs.ROMenos tokens, mejor acción: agentes robóticos Astra GPT-6 con una tasa de éxito un 14% más alta pero un 65% menos de tokens
arXiv: 2610.01939v1Tipo de anuncio: Cross Resumen: Los agentes del modelo de lenguaje de visión (VLM) pueden controlar los robots a través de la retroalimentación visual y las primitivas de acción, pero las invocaciones repetidas del modelo y las observaciones redundantes incurren en sub
arXiv · cs.ROLa aguja en el pajar
arXiv: 2610.00348v1Tipo de Anuncio: nuevo Resumen: Los ataques de puerta trasera se pueden implantar en Modelos de Lenguaje Grande (LLM) durante el entrenamiento, causando un comportamiento no deseado cuando aparece un disparador en la entrada. Defensa de puerta trasera existente
arXiv · cs.CRDe los ataques A2a a la defensa de capa envolvente: evaluación de equipos rojos de agentes LLM y un modelo de defensa de ataque isomórfico de tres capas
arXiv: 2610.00392v1Tipo de anuncio: nuevo Resumen: Los protocolos de interacción de agentes como ACP y A2a han movido a los agentes basados en LLM hacia la colaboración multiagente, introduciendo nuevas amenazas de seguridad. Una tarea enviada por un par remoto
arXiv · cs.CRNo hay una arquitectura única para todos: una evaluación interambiental de los agentes jerárquicos del equipo rojo
arXiv: 2610.00557v1 Tipo de anuncio: nuevo Resumen: Los agentes autónomos del equipo rojo ponen a prueba cada vez más las defensas cibernéticas habilitadas por IA mediante la planificación de estrategias y la ejecución de ataques de múltiples etapas. Aprendizaje por refuerzo (RL) y gran l
arXiv · cs.CRGobernanza vinculada a la identidad bajo incertidumbre de ejecución: un bloque a prueba de responsabilidad para las paradas persistentes de los agentes de LLM, con implementación criptográfica y calibración de modelos cruzados
arXiv:2610.00787v1 Tipo de anuncio: nuevo Resumen: Un agente LLM correctamente gobernado puede alcanzar un estado en el que no es admisible la ejecución continua ni la detención automática: el sistema ha detectado un fallo persistente
arXiv · cs.CR¿Las defensas contra la extracción de LLM funcionan en todos los ataques? Un punto de referencia del ciclo de vida de la extracción del modelo de caja negra
arXiv: 2610.00839v1Tipo de anuncio: nuevo Resumen: los modelos de lenguaje grandes (LLM) implementados a través de API de solo texto enfrentan riesgos de extracción de modelos, ya que los adversarios pueden recopilar sus respuestas para entrenar sustitutos que reproducen el
arXiv · cs.CRMOMAT: Mezcla de múltiples atlas para la defensa de jailbreak de baja potencia de LLM cuantificados
arXiv: 2610.01058v1Tipo de anuncio: nuevo Resumen: Los modelos de lenguaje grandes cuantificados se implementan cada vez más en dispositivos de borde por su baja latencia y eficiencia energética. Sin embargo, la cuantificación del modelo debilita la alineación de safegua
arXiv · cs.CRJev-IDS: Modelos System One para la detección de intrusiones en la red
arXiv: 2610.01079v1Tipo de anuncio: nuevo Resumen: Los sistemas de detección de intrusiones en la red (IDS) de aprendizaje automático dependen de conjuntos de datos etiquetados sustanciales y capacitación específica para tareas, mientras que la detección de modelos de lenguaje grande (LLM)
arXiv · cs.CRPACE: Aplicación de la capacidad consciente de la procedencia para agentes de LLM que utilizan herramientas
arXiv: 2610.01349v1Tipo de anuncio: nuevo Resumen: Los agentes del modelo de lenguaje grande (LLM) que utilizan herramientas convierten el texto generado en efectos secundarios reales, por lo que los metadatos de herramientas envenenados, las páginas recuperadas, la memoria y las habilidades reutilizables pueden dirigir el
arXiv · cs.CR¡Los datos de alta calidad no significan seguros! Envenenamiento de LLM después de la selección de datos
arXiv: 2610.01367v1Tipo de anuncio: nuevo Resumen: Los modelos de lenguaje grande alineados con la seguridad siguen siendo vulnerables al ajuste fino en pequeños conjuntos de muestras dañinas o de aspecto benigno. Sin embargo, los estudios previos generalmente asumen que la poiso
arXiv · cs.CRSobreactuación: medición y mitigación de la sobreautorización proactiva en agentes de llamadas de herramientas LLM
arXiv:2610.01508v1 Tipo de anuncio: nuevo Resumen: los agentes de LLM con capacidades de llamada a herramientas pueden acceder a servicios externos y datos privados del usuario, pero pueden recuperar más información de la que solicita explícitamente un usuario
arXiv · cs.CRPisos falsos: las evaluaciones de enrutamiento de seguridad de LLM se interrumpen en el turno de distribución
arXiv:2610.01535v1 Tipo de anuncio: nuevo Resumen: Los routers de seguridad envían cada solicitud a uno de varios modelos y se juzgan contra el mejor modelo único. Un punto de referencia de enrutamiento importante elige ese comparador en la evaluación da
arXiv · cs.CREstrategias espaciales, no acciones: geodésica cuantificada por vectores como herramientas para agentes impulsados por LLM
arXiv: 2610.00613v1Announce Type: cross Resumen: Los agentes basados en el modelo de lenguaje grande (LLM) a menudo son criticados por carecer de comprensión espacial y explotar principalmente patrones de texto estadísticos. Investigamos su espacialidad
arXiv · cs.ROSondeo de un LLM incorporado: cuando una mayor fidelidad de observación perjudica la resolución de problemas
arXiv:2605.20072v2 Tipo de anuncio: reemplazar-cruz Resumen: Los modelos de lenguaje grandes (LLM) se proponen cada vez más como componentes cognitivos para sistemas robóticos, sin embargo, sus procesos de decisión opacos dificultan la exploración
arXiv · cs.ROHabilidades de encadenamiento para secuestrar agentes de LLM
arXiv: 2610.01564v1Tipo de anuncio: nuevo Resumen: los agentes de LLM utilizan habilidades para mejorar el rendimiento en tareas especializadas. Para completar una solicitud de usuario, un agente puede invocar varias habilidades en secuencia, lo que permite que la información producida
arXiv · cs.CROpenAI corta lazos con 3 investigadores de seguridad, informa el WSJ
OpenAI se ha separado de tres investigadores de seguridad después de que una investigación interna descubriera que manejaban mal la información confidencial de la empresa, según un informe.
TechCrunch AILa FTC abre una investigación sobre OpenAI y Anthropic — el día después de que firmaran el acuerdo voluntario con Trump
La Comisión Federal de Comercio de EEUU investiga a los principales labs de IA por los riesgos de su tecnología para los consumidores. Podría forzar a los ejecutivos a testificar. La investigación empezó este verano, ant
WWWhat’s NewOne UI 9 de Samsung: todas las novedades de IA, seguridad y privacidad
La nueva capa de personalización de los Galaxy llega con Now Nudge, Call Brief, Estudio Creativo mejorado y Security Brief — pero las funciones más avanzadas se reservan para los modelos S24 en adelante Samsung ha public
WWWhat’s NewAIfred: Aprendizaje Aumentado a través de la Realización Robótica Funcional en el Escritorio
arXiv:2609.38737v1 Anuncio Tipo: nuevo Resumen: El aprendizaje en escritorio y las actividades creativas se benefician de la interacción escrita a mano. Sin embargo, las herramientas actuales de IA generativa brindan orientación a través de una pantalla separada, creando una
arXiv · cs.RO