LATIDIA / EXPLORAR
Riesgos y seguridad · noticias de IA
Publicaciones relacionadas, con las más nuevas primero y acceso al archivo.
Últimas noticias relacionadas
Desde enero de 2026. Archivo recuperado: 443 publicaciones en este filtro; cobertura parcial de las fuentes accesibles. Una nueva noticia aparece primero sin cambiar la fecha de las anteriores.
Este año · Todo el archivo conservado
La atención ve, el MLP se niega: rastreo de la ruta de seguridad de la atención al MLP en los LLM
arXiv: 2610.13078v1Tipo de anuncio: nuevo Resumen: Los modelos de lenguaje grande (LLM) alineados con la seguridad siguen siendo vulnerables a los jailbreaks y pueden rechazar en exceso las solicitudes benignas. Comprender estas fallas requiere distinguir harmfu
arXiv · cs.AIDRYLAB-Bench: Evaluación comparativa del riesgo de bioseguridad del diseño de mutaciones genéticas de LLM
arXiv: 2610.13116v1Tipo de anuncio: nuevo Resumen: A medida que los modelos de lenguaje grandes (LLM) adquieren capacidades avanzadas de diseño biológico, ofrecen beneficios sustanciales de investigación pero al mismo tiempo introducen riesgos graves de doble uso
arXiv · cs.AIOlvidar no siempre es malo: un mecanismo de reparación de la memoria neuroinspirado para agentes de LLM envenenados
arXiv: 2610.13267v1Announce Type: new Abstract: Los agentes del modelo de lenguaje grande (LLM) son muy vulnerables a los ataques de envenenamiento de la memoria. Las defensas existentes se basan principalmente en módulos externos para el aislamiento de la memoria estática
arXiv · cs.AILas empresas de IA tienen tan claro que habrá una gran catástrofe en 2027 que ya preparan el día después
No pasa una semana sin que conozcamos algún ataque hecho con IA o alguna advertencia de sus dirigentes ante una amenaza en ciernes. O directamente, con alguna comunicación que, de forma directa o indirecta, advierta de s
XatakaCómo el envoltorio narrativo afecta el rechazo de LLM: un punto de referencia y defensa entre idiomas
arXiv: 2610.11005v1Tipo de anuncio: nuevo Resumen: Los modelos de lenguaje alineados con la seguridad a menudo rechazan una solicitud dañina declarada directamente, pero responden a la misma solicitud dentro de un juego de roles o envoltorio narrativo. Medimos esta vulnerabilidad
arXiv · cs.AIChatGPT mantuvo conversaciones con adolescentes en crisis cuando debería haber derivado: el informe de Common Sense Media
Common Sense Media publicó en octubre de 2026 una evaluación de ChatGPT con adolescentes en situaciones de crisis mental que le da la calificación de «riesgo inaceptable» en ese contexto específico. Los auditores probaro
WWWhat’s NewOpenAI despidió a tres investigadores que querían preservar el monitoreo del razonamiento de sus modelos
Tres investigadores de OpenAI —Tomek Korbak, Mikita Balesni y Jasmine Wang— fueron despedidos según informó el Wall Street Journal, que señala que compartieron información con una organización externa de seguridad en IA.
WWWhat’s NewEndesa destapa fraude eléctrico en 16 restaurantes de Barcelona gracias a una IA y a la promoción de unos influencers
Hay estrategias de marketing que salen caras, y luego está esta, que la han destapado de la forma más irónica posible. Según El Periódico , dieciséis restaurantes de Barcelona (varios de ellos buffets atiborrados de gent
XatakaLos riesgos de ciberseguridad en la era de la IA se han multiplicado por 10, según JPMorgan
El nombre de Jamie Dimon puede que no os suene, pero se trata del consejero delegado de uno de los bancos más grandes del mundo: JPMorgan Chase. En una reciente entrevista en Bloomberg , Dimon ha reforzado el mensaje de
XatakaReSI: Mejora recursiva de la seguridad hacia una IA resistente y resiliente
arXiv:2610.12233v1 Tipo de anuncio: nuevo Resumen: La auto-mejora recursiva, la participación de los sistemas de IA en la mejora de sus propias capacidades, está comenzando a pasar de la perspectiva teórica a la práctica, planteando ambas
arXiv · cs.CRORCAGen: Orquestación del engaño de malware consciente del contexto con IA generativa guiada por RAG
arXiv:2610.12415v1 Tipo de anuncio: nuevo Resumen: Las defensas contra malware a menudo eliminan o aíslan programas sospechosos lo más rápido posible. Si bien es efectivo para la contención, este enfoque también puede desperdiciar la oportunidad de observar
arXiv · cs.CRDe la contención reactiva a la garantía proactiva: lecciones de los incidentes de seguridad de OpenAI, Anthropic y Google Agent
arXiv:2610.12463v1 Anuncio Tipo: nuevo Resumen: En 2026, las evaluaciones de ciberseguridad que involucran agentes de OpenAI, Anthropic y Google alcanzaron sistemas reales fuera de su ámbito de prueba autorizado. Los caminos fueron diferentes. OpenAI
arXiv · cs.CRDe fallas de investigación a agentes de SOC confiables: comprensión y mejora del triaje de alertas basado en LLM
arXiv: 2610.10608v1Tipo de anuncio: nuevo Resumen: Los centros de operaciones de seguridad (SOC) deben clasificar grandes volúmenes de alertas, la mayoría de las cuales son benignas, mientras que los ataques perdidos pueden permanecer sin investigar. Herramienta que utiliza un lenguaje grande
arXiv · cs.CRAtaque de inferencia de membresía de Power Side-Channel en el aprendizaje automático integrado
arXiv:2610.10909v1 Tipo de anuncio: nuevo Resumen: Los ataques de inferencia de membresía (mias) amenazan la privacidad de los datos de entrenamiento de aprendizaje automático (ML) al determinar si se utilizó una muestra para entrenar un modelo de destino. M existente
arXiv · cs.CRSpeedbumps: Ataques de rechazo a la decodificación especulativa
arXiv: 2610.10929v1Tipo de anuncio: nuevo Resumen: La decodificación especulativa es una técnica popular para aumentar la velocidad y reducir los costos de la inferencia del modelo de lenguaje grande (LLM) mediante la verificación de múltiples tokens de borrador en un
arXiv · cs.CRSoK: ¿Son fiables los LLM en la recuperación del código fuente? Una taxonomía y una evaluación empírica
arXiv: 2610.11556v1Tipo de anuncio: nuevo Resumen: La recuperación efectiva del código fuente es fundamental para las aplicaciones de seguridad, como el análisis de malware, la evaluación de vulnerabilidades y el mantenimiento heredado. Los modelos lingüísticos grandes (LLM) son
arXiv · cs.CR¿A dónde van los tokens? Comprensión y reducción de costes en agentes de LLM para el descubrimiento de vulnerabilidades
arXiv:2610.11602v1 Announce Type: new Abstract: Los agentes de LLM pueden gastar millones de tokens durante el descubrimiento de vulnerabilidades sin producir una prueba de concepto (PoC) de trabajo. ¿Qué consume ese presupuesto y por qué falla?
arXiv · cs.CRRepensar la denegación de servicio de latencia: atacar el marco de servicio de LLM, no el modelo
arXiv:2602.07878v2 Announce Type: replace Resumen: La inferencia LLM es inherentemente costosa, incluso una desaceleración modesta puede traducirse en costos operativos sustanciales y graves riesgos de disponibilidad. Recientemente, un creciente cuerpo de
arXiv · cs.CRCorea del Sur detecta indicios de IA en varios ciberataques a sus principales bancos
Cuando pensamos en inteligencia artificial solemos hacerlo desde el lado de quien intenta ganar tiempo, automatizar tareas o analizar enormes cantidades de información. Pero esas mismas capacidades también pueden ponerse
XatakaInvestigadores de seguridad de OpenAI despedidos disputan reclamos por mala conducta, advierten del efecto de enfriamiento
Tres investigadores de seguridad de OpenAI despedidos disputan las acusaciones de mal manejo de información confidencial, advirtiendo en una carta abierta que sus despidos están creando un efecto escalofriante en la cultura de seguridad de la IA de la empresa.
TechCrunch AIGoodfire dice que sus nuevos monitores "de adentro hacia afuera" atrapan a los agentes de IA deshonestos a una fracción del costo
Goodfire acaba de lanzar lo que dice que es una forma más económica de mantener a los agentes de IA bajo control: en lugar de pagar a una segunda IA para que lea todo lo que hace un agente, sus monitores miran dentro del modelo mientras funciona y solo llaman a la copia de seguridad w
TechCrunch AIVerificación formal del tiempo de ejecución para agentes de LLM que utilizan herramientas: un estudio fuera de línea del mismo punto de referencia sobre AgentDojo y STAC
arXiv: 2610.09793v1Tipo de anuncio: nuevo Resumen: Las barandillas para los agentes LLM que utilizan herramientas suelen ser reglas específicas de la aplicación, lo que hace que las políticas de seguridad dependientes de datos de varios pasos sean difíciles de especificar, auditar y reutilizar. Como d
arXiv · cs.CRSuficiencia defensiva en un modelo de seguridad de IA de Stackelberg
arXiv: 2610.09892v1Tipo de anuncio: nuevo Resumen: Los comentarios de las pruebas automatizadas, la formación de equipos humanos y la respuesta a incidentes pueden fortalecer las defensas de un sistema de IA cuando las fallas descubiertas conducen a reparaciones efectivas. Estudiamos
arXiv · cs.CRRemediación de IA de acción restringida para SIEM/XDR a través de un proxy NeMo-Guardrails
arXiv: 2610.09906v1Tipo de anuncio: nuevo Resumen: los centros de operaciones de seguridad (SOC) para tecnología de la información y tecnología operativa comparten un problema de respuesta a incidentes: una avalancha de alertas correlacionadas y muy pocos análisis
arXiv · cs.CR