LATIDIA / EXPLORAR
Ciencia e investigación · noticias de IA
Publicaciones relacionadas, con las más nuevas primero y acceso al archivo.
Últimas noticias relacionadas
Desde enero de 2026. Archivo recuperado: 888 publicaciones en este filtro; cobertura parcial de las fuentes accesibles. Una nueva noticia aparece primero sin cambiar la fecha de las anteriores.
Este año · Todo el archivo conservado
Separación de funciones para agentes de LLM privilegiados: una arquitectura de ejecución gobernada con compensaciones de seguridad-utilidad medidas
arXiv: 2609.38224v1Tipo de anuncio: nuevo Resumen: A los agentes de modelos de lenguaje grandes se les otorgan cada vez más privilegios reales (ejecución de comandos, modificación de archivos, llamadas a API), por lo que un agente que se equivoca ya ha actuado.
arXiv · cs.CRSeguridad de la capa de inferencia: defensa contra la inferencia adversaria y el abuso de la infraestructura
arXiv:2609.38239v1 Announce Type: new Abstract: A Technical Report: Operating a large language model (LLM) as a service requires more than inference infrastructure: the provider must also defend against adversarial inter
arXiv · cs.CRAgente-Warden: Seguimiento de procedencia de procesos y archivos nativos del núcleo basado en eBPF para agentes de LLM
arXiv: 2609.38245v1Announce Type: new Resumen: Los agentes LLM ejecutan operaciones de proceso y archivo generadas dinámicamente que a menudo son invisibles para el rastreo de la capa de aplicación. Presentamos al Agente-Warden, un padre de Berkeley extendido
arXiv · cs.CRSURE: Marco de seguridad para construir una IA confiable
arXiv:2609.38249v1 Tipo de anuncio: nuevo Resumen: Advertencia: Este documento contiene texto dañino y ofensivo. Recientemente, los modelos de lenguaje grandes como GPT-4 y Claude han revolucionado las tareas en varios dominios. Como el uso
arXiv · cs.CRJanus: Sagas de evidencia antes del efecto y procedencia verificable fuera de línea para LLM genéticos
arXiv: 2609.38266v1Tipo de anuncio: nuevo Resumen: Los modelos genéticos de lenguaje grande (LLM) ahora mueven dinero a través de herramientas, sin embargo, el registro de lo que hicieron suele ser un rastro que su propio proceso emite al lado del efecto. Janus pone
arXiv · cs.CRVirusCascade: Hijacking Collaborative Reflection in LLM-Powered Recommender Agents
arXiv: 2609.38270v1Tipo de anuncio: nuevo Resumen: Avanzando más allá de los modelos tradicionales de puntuación estática, los sistemas de recomendación agéntica impulsados por LLM (LLM-ARS) instancian a los usuarios y elementos como agentes autónomos, cuyo estado semántico
arXiv · cs.CRLa privacidad en la IA personalizada es una propiedad del sistema, no solo una propiedad modelo
arXiv:2609.38289v1 Tipo de anuncio: nuevo Resumen: En aplicaciones de IA personalizadas, como asistentes conversacionales y sistemas de recomendación, los usuarios no interactúan con modelos de forma aislada, sino con sistemas más amplios que acceden
arXiv · cs.CRHARDE: Optimización de los arneses de agentes para la detección de riesgos en tiempo de ejecución y el control de ejecución
arXiv: 2609.38291v1Tipo de anuncio: nuevo Resumen: Los agentes del modelo de lenguaje grande (LLM) son vulnerables a los riesgos de seguridad, como la inyección de instrucciones maliciosas o información engañosa, lo que motiva las defensas en tiempo de ejecución que evitan
arXiv · cs.CRAegis: Enmascaramiento de gradiente generativo para el aprendizaje federado médico que preserva la privacidad
arXiv: 2609.38339v1Tipo de anuncio: nuevo Resumen: El aprendizaje federado (FL) se ha convertido en un paradigma fundamental para la IA médica multiinstitucional, lo que permite a los hospitales y centros de investigación formar conjuntamente modelos de diagnóstico con
arXiv · cs.CRLogiC-Diff: Incrustación de propiedades de seguridad en sistemas ciberfísicos habilitados para IA
arXiv:2609.38381v1 Tipo de anuncio: nuevo Resumen: los sistemas ciberfísicos (CPS) habilitados para IA son altamente vulnerables a entradas adversarias y anómalas, donde pequeñas perturbaciones pueden inducir errores en cascada y un control inseguro
arXiv · cs.CREvaluación de si GPT-6 Astra realiza ataques no autorizados a la cadena de suministro
arXiv: 2609.38415v1Tipo de anuncio: nuevo Resumen: Este informe técnico presenta una evaluación de alineación desarrollada y realizada por el Instituto de Seguridad de IA del Reino Unido para evaluar si los sistemas avanzados de IA toman una
arXiv · cs.CRCuantificación de peso basada en semillas de seguridad mejorada para modelos de lenguaje grandes
arXiv: 2609.38477v1Tipo de anuncio: nuevo Resumen: los modelos de lenguaje grandes (LLM) incurren en costos sustanciales de almacenamiento, ancho de banda de memoria y energía, lo que motiva representaciones de peso compactas. Método de compresión basado en semillas existente
arXiv · cs.CRAnchor-ECC: Verificación de integridad local para salidas LLM con marca de agua a través de códigos de corrección de errores
arXiv: 2609.38722v1Tipo de anuncio: nuevo Resumen: La marca de agua LLM se ha convertido en un enfoque efectivo para distinguir el texto generado por IA del texto escrito por humanos mediante la incorporación de patrones detectables durante la generación. Sin embargo, un
arXiv · cs.CRSceneJail: Explotar el contexto del escenario de video para Jailbreak Multimodal LLMs
arXiv:2609.38899v1 Announce Type: new Abstract: Video Multimodal Large Language Models (Video-MLLMs) support reasoning over video inputs, yet remain vulnerable to jailbreak attacks that elicit policy-violating responses.
arXiv · cs.CRAPTInvestBench: Evaluación de la investigación APT autónoma bajo telemetría variable
arXiv: 2609.38954v1Tipo de anuncio: nuevo Resumen: los agentes del modelo de lenguaje grande (LLM) podrían ayudar a los centros de operaciones de seguridad (SOC) a investigar amenazas persistentes avanzadas (APT) al convertir los clientes potenciales débiles en evidencia de intru
arXiv · cs.CRTÁCTICA: Planificación táctica de LLM temporal y consciente del contexto para ataques LiDAR en carretera
arXiv:2609.39969v1 Tipo de anuncio: nuevo Resumen: Los ataques LiDAR físicos a menudo se evalúan utilizando primitivas fijas y parámetros seleccionados manualmente, a pesar de su fuerte dependencia del tráfico circundante. Presentamos TACTI
arXiv · cs.ROLavado de aprobaciones: sistematización de la aprobación: fallas vinculantes de ejecución en los arneses de agentes de codificación de IA
arXiv: 2609.38983v1Tipo de anuncio: nuevo Resumen: Los arneses modernos de agentes de codificación de IA (Claude Code, Codex CLI, Cursor) descansan su límite de seguridad en una suposición en gran parte no examinada: que la acción que un humano aprueba es la
arXiv · cs.CRAsistencia encubierta: los útiles agentes de LLM evaden la supervisión en sistemas multiagente
arXiv: 2609.39050v1Tipo de anuncio: nuevo Resumen: A medida que los sistemas multiagente ingresan a dominios de alto riesgo, la posibilidad de que los agentes puedan eludir los límites de seguridad es una preocupación creciente. El trabajo previo ha examinado esta prima de riesgo
arXiv · cs.CRLa empresa matriz de Robot Report, Arrowfly, lanza la plataforma AI for Engineers, eventos para ingenieros que navegan por la IA
La iniciativa para ingenieros incluye una mesa de noticias, una conferencia, investigación y un consejo asesor, basado en marcas editoriales de confianza. La publicación The Robot Report padre Arrowfly lanza la plataforma AI for Engineers, eventos
The Robot ReportEl "coworking" de San Francisco donde investigadores e ingenieros se reúnen a diario para impedir que la IA nos extinga
Un edificio de oficinas en Berkeley se ha convertido en el centro neurálgico de una red que lleva años advirtiendo de algo muy concreto: que la inteligencia artificial podría acabar extinguiendo a la humanidad. El espaci
XatakaConexión a tierra semántica consciente del riesgo para una planificación confiable de robots basada en LLM
arXiv: 2609.37554v1Tipo de anuncio: nuevo Resumen: Los modelos de lenguaje grandes (LLM) se utilizan cada vez más como planificadores de alto nivel en la navegación de robots, pero sus resultados pueden volverse poco confiables cuando las instrucciones son ambiguas, inseguras
arXiv · cs.RODe las decisiones semánticas a las trayectorias factibles: control óptimo auto-evolutivo guiado por LLM para estacionamiento en espacios estrechos
arXiv: 2609.24631v2Tipo de anuncio: reemplazar Resumen: El estacionamiento autónomo en entornos no convexos y estrechos sigue siendo un desafío. Aunque los métodos de control óptimo pueden hacer cumplir explícitamente la dinámica del vehículo y las desventajas de la colisión
arXiv · cs.ROSaplingGuard: una barandilla multiagente consciente del perfil multidimensional para la interacción adolescente-LLM segura para el desarrollo
arXiv:2609.35892v1 Anuncio Tipo: nuevo Resumen: A medida que los adolescentes utilizan cada vez más los LLM en la vida cotidiana, garantizar respuestas seguras y apropiadas para el desarrollo se ha vuelto esencial. Sin embargo, las medidas de protección de los LLM existentes son fundamentales.
arXiv · cs.CRElevando el listón para la seguridad de los adolescentes chinos LLM: un punto de referencia culturalmente fundamentado y de grano fino
arXiv:2609.35902v1 Anuncio Tipo: nuevo Resumen: Los riesgos de seguridad en las conversaciones con adolescentes no siempre son explícitos. Una solicitud puede parecer inofensiva a menos que un modelo considere la edad del usuario, las circunstancias y los antecedentes.
arXiv · cs.CR