LATIDIA / EXPLORAR
Agentes y código · noticias de IA
Publicaciones relacionadas, con las más nuevas primero y acceso al archivo.
Últimas noticias relacionadas
Desde enero de 2026. Archivo recuperado: 617 publicaciones en este filtro; cobertura parcial de las fuentes accesibles. Una nueva noticia aparece primero sin cambiar la fecha de las anteriores.
Este año · Todo el archivo conservado
Lavado de aprobaciones: sistematización de la aprobación: fallas vinculantes de ejecución en los arneses de agentes de codificación de IA
arXiv: 2609.38983v1Tipo de anuncio: nuevo Resumen: Los arneses modernos de agentes de codificación de IA (Claude Code, Codex CLI, Cursor) descansan su límite de seguridad en una suposición en gran parte no examinada: que la acción que un humano aprueba es la
arXiv · cs.CRAsistencia encubierta: los útiles agentes de LLM evaden la supervisión en sistemas multiagente
arXiv: 2609.39050v1Tipo de anuncio: nuevo Resumen: A medida que los sistemas multiagente ingresan a dominios de alto riesgo, la posibilidad de que los agentes puedan eludir los límites de seguridad es una preocupación creciente. El trabajo previo ha examinado esta prima de riesgo
arXiv · cs.CRReco levanta $55M para controlar el sprawl de agentes IA — en un cliente encontraron 21.000 agentes que la empresa no sabía que existían
El mercado de seguridad para agentes de IA se ha llenado de docenas de startups en semanas. Reco lleva un año trabajando en el problema y acaba de triplicar su capital con AT&T como nuevo inversor La semana en que Op
WWWhat’s NewMIT Transit Lab desarrollará una plataforma de IA para agencias de transporte público
Con $ 2.1 millones de fondos de Google.org, el Centro de Inteligencia de Transporte Público de código abierto unificará el monitoreo del transporte público, las operaciones y la comunicación con los pasajeros.
MIT · Fuente oficialOpenAI pide disculpas a Australia y desvela cómo sus agentes accedieron a cuatro sistemas sanitarios sin permiso
La empresa publicó esta madrugada un comunicado oficial explicando el breach del portal Medicare y otras tres intrusiones en sistemas australianos. Las autoridades no fueron informadas hasta más de dos meses después de l
WWWhat’s New"Mi Dot es básicamente una extensión de mí": OpenAI quiere que dejemos de hablar con la IA y empecemos a delegarle nuestra vida
Derrick Choi es un empleado de OpenAI que lleva tiempo utilizando Dots , el recién anunciado servicio de agentes de IA de la compañía. Y aunque lógicamente su opinión esté sesgada por su trabajo, su revelación es llamati
XatakaSaplingGuard: una barandilla multiagente consciente del perfil multidimensional para la interacción adolescente-LLM segura para el desarrollo
arXiv:2609.35892v1 Anuncio Tipo: nuevo Resumen: A medida que los adolescentes utilizan cada vez más los LLM en la vida cotidiana, garantizar respuestas seguras y apropiadas para el desarrollo se ha vuelto esencial. Sin embargo, las medidas de protección de los LLM existentes son fundamentales.
arXiv · cs.CRPrivacySkills: Cómo las directrices de privacidad influyen en la selección de fuentes en los agentes de LLM
arXiv: 2609.35937v1Tipo de anuncio: nuevo Resumen: Si bien el trabajo anterior ha documentado fallas de privacidad en los agentes de LLM, no está claro cómo la presentación de la guía de privacidad influye en la elección de las fuentes de información.
arXiv · cs.CRCounterSteer: Supresión de la inyección de aviso indirecto con la dirección de activación
arXiv:2609.36570v1 Announce Type: new Abstract: Indirect prompt injection makes a LLM agent treat untrusted retrieved text as instructions. Presentamos CounterSteer, una defensa de tiempo de inferencia que suprime este comportamiento
arXiv · cs.CRSKILLLITE: Auditoría de habilidades maliciosas guiadas por evidencia con LLM compactos
arXiv: 2609.36879v1Tipo de anuncio: nuevo Resumen: A medida que los agentes basados en LLM realizan tareas cada vez más complejas, las habilidades del agente se han convertido en un mecanismo flexible para ampliar sus capacidades. Una habilidad de agente empaqueta el lenguaje de tareas
arXiv · cs.CRExtracción de secretos prácticos contra LLM de caja negra
arXiv: 2609.36941v1Tipo de anuncio: nuevo Resumen: Los modelos de lenguaje grandes (LLM) potencian cada vez más a los agentes de codificación autónomos como Codex y Claude Code, sin embargo, sus corpus de capacitación pueden contener credenciales confidenciales expo
arXiv · cs.CRToolFence: Autorización de grano fino para agentes LLM que utilizan herramientas seguras
arXiv: 2609.37196v1Announce Type: new Resumen: Los agentes LLM que utilizan herramientas siguen siendo vulnerables a la inyección indirecta de mensajes porque las instrucciones confiables y los comentarios no confiables comparten un contexto, lo que permite que el contenido malicioso t
arXiv · cs.CRInstinct recauda 1.000 millones a 10.000 millones de valoración — y su negocio choca con la ley europea desde hace 57 días
El agente de IA que llama a restaurantes con su propio teléfono cuadruplicó su valoración en cuatro semanas. El problema: el artículo 50 del AI Act obliga desde agosto a decir que eres una IA antes de hablar Instinct ha
WWWhat’s NewOpenAI se lanza a la yugular de Muse con Dots, sus nuevos (y adorables) asistentes de IA que hacen todo por ti
OpenAI no quiere que Muse, el nuevo asistente de IA de Meta, se robe todas las miradas, y por ello acaba de anunciar Dots. Se trata de sus nuevos agentes de inteligencia artificial capaces de cumplir todo tipo de tareas
HipertextualOpenAI se disculpa con Australia después de que sus agentes de IA violaran sitios gubernamentales
La compañía también detalló cómo se habían producido algunas de esas infracciones y describió las medidas adicionales que está tomando para evaluar el impacto de los eventos.
TechCrunch AIReco recauda 55 MILLONES de $ a medida que las nuevas empresas de seguridad de agentes de IA abarrotan el mercado
La ronda se basa en una recaudación de fondos de $ 30 millones en febrero, llevando la financiación total de la compañía a $ 140 millones.
TechCrunch AIOpenAI DevDay 2026 y el agente Aeon: el rival de Muse y Grok Bot que se presenta mañana en San Francisco
El DevDay de OpenAI es mañana en Fort Mason y todo apunta a que Aeon, el agente personal persistente basado en GPT-6 Astra, es el lanzamiento estrella del evento OpenAI celebra mañana su DevDay 2026 en el Fort Mason Cent
WWWhat’s NewNvidia lanza su plataforma de seguridad para agentes mientras OpenAI publica su catálogo de desastres
Jensen Huang presenta hoy Open Agent Safety Platform combinando hardware y software aislados, el mismo día que OpenAI publica un site con nueve incidentes de agentes fuera de control La coincidencia del calendario de hoy
WWWhat’s NewClaude Sonnet 5.5 — el modelo mid-range que supera a Opus en coding agentivo
Claude Sonnet 5.5 llega hoy un 30% más rápido y un 30% más barato que Sonnet 5, y en el benchmark de programación agentiva supera al flagship de Anthropic Anthropic lanza hoy Claude Sonnet 5.5, y los números rompen el es
WWWhat’s NewConfíe en la marca, pierda el control: cómo la identidad secuestra la orquestación de agentes de LLM
arXiv:2609.32635v1 Tipo de anuncio: nuevo Resumen: los agentes de LLM ahora ejecutan tareas de extremo a extremo con permiso para cambiar sistemas reales y orquestar cada vez más subagentes que difieren en capacidad y costo. El trabajo anterior trata
arXiv · cs.CRLos secretos de API nunca deben convertirse en tokens en el vocabulario del LLM: un análisis de amenazas del manejo de credenciales de API en sistemas de agentes de LLM y una evaluación empírica de un límite de ejecución mediada por bóveda
arXiv: 2609.33371v1Announce Type: new Resumen: Los agentes del modelo de lenguaje grande (LLM) que utilizan herramientas convierten la higiene de credenciales de un problema de almacenamiento en un problema de seguridad de ejecución. Una clave pegada en un mensaje o incrustada en un
arXiv · cs.CRManipulación de robots con GPT-6-Astra: conocimiento corporal, reutilización de experiencias, habilidades emergentes y transferencia Sim2Real
arXiv: 2609.31770v1Announce Type: new Resumen: Los agentes multimodales de propósito general pueden escribir programas de control de robots, pero la exploración repetida y la selección de acciones mediadas por modelos pueden hacer que la ejecución sea lenta. Estudiamos cómo exter
arXiv · cs.ROSAGE: Activación y edición de acciones simbólicas para planificadores de tareas de LLM
arXiv:2609.34268v1 Tipo de anuncio: nuevo Resumen: Los modelos de lenguaje grandes (LLM) ahora son el núcleo cognitivo predeterminado de los agentes domésticos incorporados, sin embargo, los planes que emiten rara vez se comparan con un modelo fundamentado del env
arXiv · cs.ROLogicEnvGen: Generación impulsada por la lógica de tareas de diversos entornos simulados para IA incorporada
arXiv: 2601.13556v2Tipo de anuncio: reemplazar Resumen: Los entornos simulados desempeñan un papel esencial en la IA incorporada, funcionalmente análogo a los casos de prueba en ingeniería de software. Sin embargo, la generación del entorno existente cumplió
arXiv · cs.RO