LATIDIA / EXPLORAR
Agentes y código · noticias de IA
Publicaciones relacionadas, con las más nuevas primero y acceso al archivo.
Últimas noticias relacionadas
Desde enero de 2026. Archivo recuperado: 620 publicaciones en este filtro; cobertura parcial de las fuentes accesibles. Una nueva noticia aparece primero sin cambiar la fecha de las anteriores.
Este año · Todo el archivo conservado
Gobernanza de la memoria consciente del linaje: un marco dependiente de la derivación para el control de acceso a nivel de columna de preservación de la privacidad en agentes de IA empresariales
arXiv: 2610.07258v1Tipo de anuncio: nuevo Resumen: los agentes de IA empresarial que comparten un almacén de memoria enfrentan dos riesgos no abordados: los datos confidenciales pueden filtrarse a través de resultados legítimamente calculados que el solicitante no pudo derivar, y
arXiv · cs.CRComprender y mejorar la persistencia de la puerta trasera en la capacitación posterior del agente de LLM
arXiv:2610.07510v1 Announce Type: new Abstract: Los desarrolladores pueden crear agentes LLM adaptando modelos de terceros a través de un posentrenamiento benigno. Estudiamos una amenaza de cadena de suministro en la que un atacante suministra un modelo con un bac
arXiv · cs.CRSkillPoison: envenenamiento progresivo de habilidades a través de experiencias exitosas
arXiv: 2610.07645v1Tipo de anuncio: nuevo Resumen: Los agentes de LLM que se mejoran a sí mismos destilan cada vez más experiencias exitosas en habilidades persistentes y reutilizables. Los métodos de ataque de habilidades existentes corrompen este proceso de aprendizaje por inje
arXiv · cs.CRAnthropic lanza Claude Founder House: un año de Claude Team gratis y 1.000 dólares en créditos para startups
Anthropic quiere ser la primera IA seria que toquen los fundadores antes de que sus startups tengan modelo de negocio. Para lograrlo lanzó el programa Claude Founder House durante la SF Tech Week de octubre de 2026: un a
WWWhat’s NewActividades de agentes "deshonestos" de OpenAI encontradas en proyectos de Wikimedia
Actividades de agentes "deshonestos" de OpenAI que se encuentran en los proyectos de Wikimedia Dado lo tentador que es un wikis objetivo para los enjambres de agentes deshonestos, no es una gran sorpresa que Wikipedia haya encontrado evidencia de esa actividad una vez que fueron a buscar: Th
Simon WillisonAgentes rebeldes de OpenAI intentaron hackear Wikipedia: «No debemos permitir que esta sea la nueva normalidad»
El hackeo a Hugging Face fue solo la punta del iceberg de la polémica por el accionar de los "agentes rebeldes" de OpenAI. Los bots impulsados por la inteligencia artificial de dicha empresa también atacaron portales del
HipertextualLos equipos de seguridad TI ya tratan a los agentes de IA como empleados, no como herramientas
Cuando un sistema de IA puede investigar un incidente, tomar una decisión y actuar sobre ella antes de que un analista humano abra el ticket, la metáfora correcta ha dejado de ser «herramienta». Es un actor autónomo con
WWWhat’s NewApple está empezando a cortar el acceso a los agentes de IA por motivos de seguridad
Septiembre y octubre están siendo movidos en lo que respecta a las inteligencias artificiales metiendo las narices donde no deberían. Este verano, uno de los modelos de OpenAI se coló en instituciones oficiales, llegando
XatakaInvestigadores rastrean agentes de IA chinos que mapean el servicio de mapas de Alibaba desde la infraestructura de Tencent
Un grupo de investigadores independientes ha localizado lo que describen como una «flota de agentes de IA» corriendo aparentemente en infraestructura de Tencent y consultando de forma sistemática el servicio de mapas de
WWWhat’s NewAvanzar en el uso del ordenador con Ironclad
Aprenda cómo OpenAI e Ironclad están capacitando y evaluando a los agentes de IA en flujos de trabajo de contratación complejos para avanzar en el uso de la computadora para el trabajo profesional.
OpenAI · Fuente oficialApple va a restringir el Acceso Total al Disco en Mac porque los agentes de IA lo están aprovechando
Apple anunció el 5 de octubre en su sitio de noticias para desarrolladores que añadirá nuevos controles sobre el permiso Full Disk Access en macOS. Los usuarios solo podrán conceder ese nivel de acceso a una aplicación «
WWWhat’s NewControl OSWorld: un entorno de control de IA para agentes de uso informático de GUI
arXiv: 2610.03818v1Tipo de anuncio: nuevo Resumen: los agentes de IA que operan un ordenador a través de su interfaz gráfica de usuario (GUI) se están implementando ampliamente. El control de IA estudia cómo evitar que un sistema de IA cause daños en la víspera
arXiv · cs.CRDe los requisitos a los árboles de ataque: agentes de LLM en tierra para la revisión de seguridad a tiempo de diseño
arXiv: 2610.03820v1Tipo de anuncio: nuevo Resumen: Las debilidades de seguridad a nivel de diseño pueden surgir de requisitos, suposiciones de confianza, controles faltantes y flujos de datos antes de que comience la implementación. Prácticas de seguridad existentes
arXiv · cs.CREl mismo cero: por qué ASR idéntico puede implicar diferentes garantías en LLM-Agent Security
arXiv:2610.04504v1 Tipo de anuncio: nuevo Resumen: la seguridad del agente LLM ha producido un denso panorama de defensas: refuerzo rápido, filtros de contenido, puertas de permisos, sandboxes, pero ningún marco le dice a un implementador qué
arXiv · cs.CRMienten rara vez, mienten a lo grande: sigilosos ataques internos a equipos de robots LLM
arXiv:2610.04744v1 Tipo de anuncio: nuevo Resumen: Cuando un equipo de robots delega la planificación y la confianza mutua a los agentes de LLM, un solo robot comprometido puede corromper el resultado compartido. Estudiamos esta amenaza en una tarea fundamentada:
arXiv · cs.ROAprendizaje en contexto de vídeo recursivo para robots genéticos
arXiv: 2610.06843v1Tipo de anuncio: nuevo Resumen: los agentes de LLM que organizan las políticas de visión-lenguaje-acción (VLA) congeladas mejoran en todos los episodios a través de la memoria de texto, que registra lo que hizo el agente pero no cómo la tarea
arXiv · cs.ROUna encuesta de navegación y manipulación robóticas con simuladores de física en la era de la IA incorporada
arXiv: 2505.01458v3Tipo de anuncio: reemplazar Resumen: La navegación y la manipulación son capacidades centrales en la IA incorporada, pero capacitar a los agentes para que las realicen directamente en el mundo real es costoso, requiere mucho tiempo e inseguro.
arXiv · cs.ROProgramación de robots de fabricación con IA imperfecta: LLM como expertos en ajuste para la selección de configuración de impresión FDM
arXiv:2603.22118v2 Tipo de anuncio: reemplazar Resumen: Utilizamos la impresión 3D de modelado por deposición fundida (FDM) como un estudio de caso de cómo los robots de fabricación pueden usar IA imperfecta. En FDM, la configuración de impresión afecta fuertemente la salida
arXiv · cs.ROMismas piezas, diferentes servidores: un punto de referencia de Tetris para los agentes de IA según lo servido
arXiv:2603.02348v2 Tipo de anuncio: replace-cross Resumen: Un agente cumple con un modelo como servido: a través de un punto final con una tarjeta de precio, una caché compartida y otros inquilinos, o en cualquier hardware que ejecute un modelo autohospedado. Banco
arXiv · cs.ROCuidado con EviLLM: habilitar la inyección de vulnerabilidades a través de modelos de lenguaje grandes
arXiv: 2610.03857v1Tipo de anuncio: nuevo Resumen: Los avances en los modelos de lenguaje grande (LLM) han permitido la generación de código impulsado por IA a partir de especificaciones de lenguaje natural, introduciendo nuevas superficies de ataque para inyectar vulnerabilidades
arXiv · cs.CRRazonamiento limitado: jerarquía cognitiva en la defensa cibernética entre humanos y IA
arXiv: 2610.04878v1Tipo de anuncio: nuevo Resumen: Las evaluaciones humano-agente a menudo comprimen la interacción en una sola puntuación de rendimiento, incluso cuando las políticas humanas y automatizadas se adaptan de manera diferente con el tiempo. Estudiamos esto en un s
arXiv · cs.CRMarca de agua de código guiada por gramática con temperatura verde
arXiv: 2610.05323v1Tipo de anuncio: nuevo Resumen: La marca de agua del modelo de lenguaje grande incrusta señales estadísticas detectables durante la decodificación, pero los cambios resultantes en las probabilidades del token pueden degradar la calidad de la generación.
arXiv · cs.CREl compromiso no es consecuencia: evaluación de la autorización del alcance de la tarea en agentes de LLM con repetición emparejada
arXiv:2610.05840v1 Announce Type: new Abstract: Un modelo que utiliza herramientas puede seguir una instrucción maliciosa incluso cuando sus credenciales son válidas. Estudiamos si la autorización del ámbito de la tarea contiene la ejecución de la herramienta resultante.
arXiv · cs.CR¿En qué se equivocó la primera reparación? Localización de los orígenes de las fallas silenciosas en la reparación de vulnerabilidades genéticas
arXiv:2610.06163v1 Announce Type: new Abstract: Localizing where a LLM-based agent first fail to keep security during a repair can show which stage of its workflow needs a additional safeguard. Esto es difícil para
arXiv · cs.CR