LATIDIA / EXPLORAR
Ciencia e investigación · noticias de IA
Publicaciones relacionadas, con las más nuevas primero y acceso al archivo.
Últimas noticias relacionadas
Desde enero de 2026. Archivo recuperado: 888 publicaciones en este filtro; cobertura parcial de las fuentes accesibles. Una nueva noticia aparece primero sin cambiar la fecha de las anteriores.
Este año · Todo el archivo conservado
Hacia una IA física confiable para la interacción humana
arXiv: 2610.07382v1Tipo de anuncio: nuevo Resumen: Los robots están entrando en los espacios humanos más rápido de lo que podemos establecer cuando merecen confianza. Proponemos un marco para una IA física confiable que integre la seguridad, el comportamiento
arXiv · cs.ROOntoPlan: una representación de escena basada en ontología y un marco agénico para la planificación escalable de tareas de robots
arXiv: 2610.07649v1Tipo de anuncio: nuevo Resumen: la planificación de tareas robóticas basada en el modelo de lenguaje grande (LLM) es prometedora para el seguimiento de instrucciones abiertas, pero se degrada en tareas de horizonte largo en entornos grandes. Cuando es espacioso
arXiv · cs.ROEducar a los futuros ingenieros sobre los LLM: un taller escalable
arXiv: 2610.07027v1Tipo de anuncio: cruz Resumen: A medida que los modelos de lenguaje grandes (LLM) se integran cada vez más en los flujos de trabajo de ingeniería, los estudiantes requieren experiencia práctica para aprender a colaborar con ellos
arXiv · cs.ROMRPilot: Supervisión e intervención de equipos de robots múltiples basados en LLM a través de la realidad mixta
arXiv: 2610.07477v1Tipo de anuncio: Cross Resumen: Los modelos de lenguaje grandes (LLM) permiten a los usuarios dirigir sistemas multirobot heterogéneos (MRS) a través del lenguaje natural, pero hacer interpretación de tareas, asignación de robots y coordi
arXiv · cs.ROAPEX: Protección activa en los límites de ejecución para agentes de LLM
arXiv:2610.06966v1 Announce Type: new Abstract: Indirect prompt injection (IPI) oculta instrucciones contradictorias en el contenido que los agentes del modelo de lenguaje grande (LLM) leen en tiempo de ejecución. A medida que los agentes componen capacidades heterogéneas
arXiv · cs.CRLLM de peso abierto de Jailbreaking a través de perturbaciones de incrustación aleatorias
arXiv: 2610.07125v1Tipo de anuncio: nuevo Resumen: Si bien los modelos de peso abierto han disfrutado de un progreso constante en las capacidades y una amplia adopción en múltiples dominios, su seguridad sigue siendo una preocupación importante. Una característica clave
arXiv · cs.CRAuditoría eficiente del comportamiento del agente de IA adversario a partir de los rastros del agente
arXiv:2610.07256v1 Tipo de anuncio: nuevo Resumen: los agentes de IA impulsados por modelos de lenguaje grandes (LLM) pueden realizar tareas complejas pero pueden dañar los sistemas en los que operan, ya sea intencional o involuntariamente. Agen existente
arXiv · cs.CRGobernanza de la memoria consciente del linaje: un marco dependiente de la derivación para el control de acceso a nivel de columna de preservación de la privacidad en agentes de IA empresariales
arXiv: 2610.07258v1Tipo de anuncio: nuevo Resumen: los agentes de IA empresarial que comparten un almacén de memoria enfrentan dos riesgos no abordados: los datos confidenciales pueden filtrarse a través de resultados legítimamente calculados que el solicitante no pudo derivar, y
arXiv · cs.CRPolar: Síntesis impulsada por LLM de evidencia cibernética del mundo real para priorización y mitigación
arXiv: 2610.07298v1Tipo de anuncio: nuevo Resumen: El análisis de amenazas cibernéticas depende cada vez más de la evidencia distribuida a través de avisos de proveedores, bases de datos de vulnerabilidades y fuentes de inteligencia de amenazas. Convirtiendo estos fragmentos
arXiv · cs.CRComprender y mejorar la persistencia de la puerta trasera en la capacitación posterior del agente de LLM
arXiv:2610.07510v1 Announce Type: new Abstract: Los desarrolladores pueden crear agentes LLM adaptando modelos de terceros a través de un posentrenamiento benigno. Estudiamos una amenaza de cadena de suministro en la que un atacante suministra un modelo con un bac
arXiv · cs.CRProtección de los LLM a través de señales de seguridad latentes de diagnóstico de modelo de Dark Knowledge
arXiv:2610.07532v1 Tipo de anuncio: nuevo Resumen: los LLM han avanzado rápidamente, lo que aumenta las preocupaciones sobre su seguridad. Trabajos recientes han propuesto enfoques para detectar y defenderse contra ataques, incluidas las defensas en deco
arXiv · cs.CRSkillPoison: envenenamiento progresivo de habilidades a través de experiencias exitosas
arXiv: 2610.07645v1Tipo de anuncio: nuevo Resumen: Los agentes de LLM que se mejoran a sí mismos destilan cada vez más experiencias exitosas en habilidades persistentes y reutilizables. Los métodos de ataque de habilidades existentes corrompen este proceso de aprendizaje por inje
arXiv · cs.CREl modelo planta el desencadenante: ataques de puerta trasera del lado de la respuesta en modelos de lenguaje grande de varios turnos
arXiv: 2610.07723v1Tipo de anuncio: nuevo Resumen: La alineación de seguridad en modelos de lenguaje grandes (LLM) sigue siendo vulnerable a ataques de puerta trasera. Las puertas traseras LLM existentes están casi todas centradas en la entrada: la activación depende de
arXiv · cs.CRLos investigadores de supercomputación documentan la evolución del hardware de IA
Una encuesta continua rastrea los últimos sistemas aceleradores de IA para mantener el hardware relevante para el personal y los patrocinadores del Laboratorio Lincoln.
MIT · Fuente oficialLos equipos de seguridad TI ya tratan a los agentes de IA como empleados, no como herramientas
Cuando un sistema de IA puede investigar un incidente, tomar una decisión y actuar sobre ella antes de que un analista humano abra el ticket, la metáfora correcta ha dejado de ser «herramienta». Es un actor autónomo con
WWWhat’s NewInvestigadores rastrean agentes de IA chinos que mapean el servicio de mapas de Alibaba desde la infraestructura de Tencent
Un grupo de investigadores independientes ha localizado lo que describen como una «flota de agentes de IA» corriendo aparentemente en infraestructura de Tencent y consultando de forma sistemática el servicio de mapas de
WWWhat’s NewCómo Jump Trading está escalando la investigación cuantitativa con ChatGPT
Jump Trading utiliza OpenAI para ampliar la investigación cuantitativa. Vea cómo los flujos de trabajo de IA de mayor duración combinan múltiples fuentes de datos con la revisión humana.
OpenAI · Fuente oficialCompartir el progreso de la IA en matemáticas
OpenAI publica nuevos resultados sobre problemas abiertos en matemáticas a partir de un modelo de frontera interna y comparte formalizaciones de pruebas Lean y detalles de investigación en GitHub.
OpenAI · Fuente oficialControl OSWorld: un entorno de control de IA para agentes de uso informático de GUI
arXiv: 2610.03818v1Tipo de anuncio: nuevo Resumen: los agentes de IA que operan un ordenador a través de su interfaz gráfica de usuario (GUI) se están implementando ampliamente. El control de IA estudia cómo evitar que un sistema de IA cause daños en la víspera
arXiv · cs.CRDe los requisitos a los árboles de ataque: agentes de LLM en tierra para la revisión de seguridad a tiempo de diseño
arXiv: 2610.03820v1Tipo de anuncio: nuevo Resumen: Las debilidades de seguridad a nivel de diseño pueden surgir de requisitos, suposiciones de confianza, controles faltantes y flujos de datos antes de que comience la implementación. Prácticas de seguridad existentes
arXiv · cs.CRMarca de agua LLM de co-servicio adaptativo en motores de inferencia modernos
arXiv: 2610.03955v1Tipo de anuncio: nuevo Resumen: La marca de agua del modelo de lenguaje grande (LLM) es importante para la verificación de la propiedad y la protección de la propiedad intelectual. Sin embargo, los enfoques existentes se centran en el desi algorítmico
arXiv · cs.CRLa toma de huellas dactilares del modelo de lenguaje requiere repensar a los maestros de marcas de agua
arXiv: 2610.04169v1 Tipo de anuncio: nuevo Resumen: la huella digital LLM a través de la destilación de marca de agua incorpora una señal estadística de marca de agua en los pesos del modelo, lo que permite a los propietarios de modelos identificar sus modelos detrás de las API de caja negra
arXiv · cs.CRCOPEX: Evaluación comparativa de la robustez de LLM para el contexto adversario en todas las capas del protocolo del contexto del modelo
arXiv: 2610.04378v1Tipo de Anuncio: nuevo Resumen: Los modelos de lenguaje grandes median cada vez más el uso de herramientas en los sistemas de Protocolo de Contexto de Modelo (MCP), donde la influencia adversarial puede entrar a través de instrucciones de usuario, esquemas de herramientas,
arXiv · cs.CRJASPER: Sesión Especial sobre la Evaluación Conjunta de Confiabilidad y Seguridad de SPlit Computing para la Robustez de Borde
arXiv: 2610.04396v1Tipo de anuncio: nuevo Resumen: Split Computing (SC) permite la implementación eficiente de redes neuronales profundas (DNN) mediante la partición de la inferencia entre los dispositivos de borde y los servidores en la nube. Sin embargo, fea intermedia
arXiv · cs.CR