LATIDIA / EXPLORAR
Modelos y chatbots · noticias de IA
Publicaciones relacionadas, con las más nuevas primero y acceso al archivo.
Últimas noticias relacionadas
Desde enero de 2026. Archivo recuperado: 1284 publicaciones en este filtro; cobertura parcial de las fuentes accesibles. Una nueva noticia aparece primero sin cambiar la fecha de las anteriores.
Este año · Todo el archivo conservado
Screwtape: Edición de transcripciones adversarias para Monitor Red-Teaming
arXiv:2610.20941v1 Tipo de anuncio: nuevo Resumen: Presentamos Screwtape, un pipeline que convierte las transcripciones de agentes reales en ataques que evaden los monitores de solo acción. Un atacante de LLM edita una transcripción para que el agente pueda
arXiv · cs.CRLos jueces más fuertes no ven más: ceguera de integridad de implementación en la evaluación de LLM
arXiv:2610.21135v1 Announce Type: new Abstract: LLM-agent evaluation reports behavioral scores but leaves the identity of the deployed runtime stack not reported. Una implementación manipulada que preserva las salidas evaluadas pasa
arXiv · cs.CRCombinación de LLM y análisis dinámico para pruebas universales de herramientas estáticas de pruebas de seguridad de aplicaciones
arXiv: 2610.21309v1Tipo de anuncio: nuevo Resumen: Las herramientas de pruebas de seguridad de aplicaciones estáticas (SAST) ayudan a detectar posibles vulnerabilidades de software, pero ellas mismas contienen fallas que socavan la confiabilidad y la usabilidad. A
arXiv · cs.CRLo que sobrevive a la autoevolución: marcas de procedencia en arneses de agente copiados
arXiv: 2610.21458v1Tipo de anuncio: nuevo Resumen: arneses de agente, el indicador y el código de herramienta en torno a un modelo base, fuga. Las 512.000 líneas de Claude Code se reflejaron horas después de un error de empaquetado. Un plagiario puede pasar un le
arXiv · cs.CRBiShield-TEE: Sobre la (in)seguridad de la ofuscación de peso unilateral en la partición LLM blindada con TEE en el dispositivo
arXiv: 2610.21565v1Tipo de anuncio: nuevo Resumen: La implementación en el dispositivo de modelos de lenguaje grandes (LLM) se adopta cada vez más debido a los requisitos de latencia y privacidad, pero expone los modelos patentados a la ingeniería inversa
arXiv · cs.CRSecureClaw: Clawing Back Control of LLM Agents
arXiv: 2606.09549v3Tipo de anuncio: reemplazar Resumen: Los agentes del modelo de lenguaje grande (LLM) que utilizan herramientas se enfrentan a dos fallas de seguridad distintas: acciones externas no autorizadas y exposición de texto plano sensible dentro del tiempo de ejecución b
arXiv · cs.CRQuasiLeak-Bench: Evaluación de detectores de privacidad basados en LLM en la recuperación de grupos de cuasi-evidencia condicionada por políticas
arXiv: 2610.21333v1Announce Type: cross Resumen: Los mensajes de lenguaje natural a menudo contienen cuasi-identificadores que son débiles de forma aislada, pero pueden revelar conjuntamente los atributos privados de un individuo. Llamamos a tal rev conjuntamente
arXiv · cs.CRSobre la privacidad de los LLM: un estudio de ablación
arXiv: 2605.02255v2Tipo de anuncio: reemplazar Resumen: Los modelos de lenguaje grandes (LLM) enfrentan diversas amenazas a la privacidad, sin embargo, los estudios existentes generalmente evalúan los ataques individuales de forma aislada, ofreciendo una orientación limitada sobre qué
arXiv · cs.CRDetección autónoma de amenazas de OSS a través de LLM alineados con la taxonomía
arXiv: 2610.01263v2Tipo de anuncio: reemplazar Resumen: Los ecosistemas de software de código abierto (OSS) se enfrentan a amenazas crecientes en la cadena de suministro, incluyendo typosquatting, confusión de dependencias, ofuscación de fuentes troyanas, construcción maliciosa
arXiv · cs.CRSoK: ¿Agentes de trading o Market Crashers? Disección de fallas de robustez y seguridad en esquemas de trading de maestría en finanzas académicas
arXiv: 2609.19705v2Announce Type: replace Resumen: Los agentes del modelo de lenguaje grande (LLM) ya comercian con capital real, sin embargo, la investigación de seguridad de los agentes los ha tratado principalmente como agentes genéricos. Operar cambia la amenaza: a
arXiv · cs.CRLas palabras hablan más alto que el código: investigación de la heurística cognitiva en la detección de vulnerabilidades de código basada en LLM
arXiv: 2606.30587v2Tipo de anuncio: reemplazar Resumen: Los investigadores y los profesionales aplican cada vez más los Modelos de Lenguaje Grande (LLM) para la detección automatizada de vulnerabilidades. Trabajos recientes han demostrado que los LLM son susceptibles a
arXiv · cs.CRFundamentos de privacidad para la inteligencia artificial científica multiinstitucional
arXiv: 2609.39787v2Announce Type: replace Resumen: La inteligencia artificial (IA) científica, que abarca desde los modelos de base (FM) hasta los canales de análisis de datos federados, se está convirtiendo en una infraestructura compartida en toda la labora nacional
arXiv · cs.CREl desbordamiento de pila para agentes triplica las inscripciones con el plugin ChatGPT
Dos ingenieros enviaron Stack Overflow for Agents en unas pocas semanas con Codex, y su complemento ChatGPT ayudó a impulsar hasta 10veces el crecimiento en la creación de agentes.
OpenAI · Fuente oficialEl modelo de IA decodifica las células del lenguaje que se utilizan para comunicarse
Un nuevo enfoque computacional revela cómo las células se comunican para ensamblarse en tejidos. Esto podría acelerar la ingeniería de células madre, mejorar los modelos de enfermedades e informar las terapias.
MIT · Fuente oficialMeta lanza un modelo de IA de peso abierto que se ejecuta en Mac
Meta y Apple se han unido para el lanzamiento del modelo más nuevo del gigante de las redes sociales, Muse Spark Open, que se ejecutará localmente en el silicio de Apple.
TechCrunch AIChatGPT ya tenía algunas de las voces más naturales de la IA. GPT-Live-1.1 ahora va a por uno de sus puntos débiles
Llevo bastante tiempo probando las voces de los asistentes de inteligencia artificial, y hay algo que siempre me ha llamado la atención: lo mucho que ha cambiado la experiencia de hablar con una máquina. Hoy tenemos prop
XatakaAnthropic está permitiendo que los investigadores de METR busquen bajo el capó con acceso a nivel de empleado
METR publicará sus propias evaluaciones de los riesgos, incidentes y prácticas de Anthropic, y el fabricante del modelo de IA de frontera ha renunciado al derecho de bloquearlos.
TechCrunch AIUna demanda colectiva acusa a OpenAI de usar datos de menores sin consentimiento y pide para ellos acciones de la empresa
Una madre de Hawái demanda a OpenAI por entrenar ChatGPT con datos de menores. No invoca COPPA: pide acciones de la empresa para los niños. La noticia Una demanda colectiva acusa a OpenAI de usar datos de menores sin con
WWWhat’s NewSu escuela bloqueó ChatGPT. Ahora esta estudiante de secundaria de 17 años dirige una startup de inteligencia artificial con 1.000 usuarios
Navya Tuteja contacta con sus políticos locales mediante un correo en frío y una idea, y así llegó también a un periodista. Tiene 17 años, cursa el último año de secundaria en un instituto selectivo de las afueras de Was
GenbetaDe la capacitación a la escalada: análisis forense y recreación local de la escalada de privilegios inducida por RL/RLHF en agentes de IA (CVE-2026-65616)
arXiv:2610.20437v1 Anuncio Tipo: cruzado Resumen: Un informe de mediados de 2026 sobre incidentes de evaluación de IA autónoma afirmó que los agentes de modelos de lenguaje grandes (LLM) de frontera escaparon de la contención del servidor a través de la coordinación emergente.
arXiv · cs.CRAnálisis de seguridad de ChatGPT: amenazas y riesgos para la privacidad
arXiv:2508.09426v3 Anuncio Tipo: reemplazar Resumen: A medida que la tecnología de inteligencia artificial continúa avanzando, los chatbots se vuelven cada vez más poderosos. Entre ellos, ChatGPT, lanzado por OpenAI, ha obtenido una amplia aceptación.
arXiv · cs.CRGenerando riesgos: Evaluación comparativa y reducción de riesgos para la seguridad alimentaria en modelos de lenguaje a gran escala.
arXiv:2604.01444v3 Anuncio Tipo: reemplazar Resumen: La seguridad alimentaria afecta directamente la salud humana en la vida diaria, ya que la preparación o el almacenamiento inseguros pueden provocar contaminación y enfermedades transmitidas por los alimentos. La encuesta de consumidores de PwC de 2025 re
arXiv · cs.CRVOTO: Detección de marcas de agua verificables y ajenas para modelos de lenguaje grandes
arXiv: 2604.27666v2Tipo de anuncio: reemplazar Resumen: La regulación requiere que el texto generado esté marcado y sea detectable, pero las marcas de agua de clave simétrica dejan la detección al proveedor de mantenimiento de clave. Estudiamos provenanc de primera mano
arXiv · cs.CRAtaque de DPO verdaderamente benigno de pocos disparos para LLM de Jailbreaking
arXiv: 2605.10998v2Announce Type: replace Resumen: Las API de ajuste hacen que los LLM de frontera sean fáciles de personalizar, pero también pueden debilitar la alineación de seguridad durante el ajuste. Mientras que el trabajo previo muestra que benigno supervisado fino-
arXiv · cs.CR