LATIDIA / EXPLORAR
Riesgos y seguridad · noticias de IA
Publicaciones relacionadas, con las más nuevas primero y acceso al archivo.
Últimas noticias relacionadas
Desde enero de 2026. Archivo recuperado: 430 publicaciones en este filtro; cobertura parcial de las fuentes accesibles. Una nueva noticia aparece primero sin cambiar la fecha de las anteriores.
Este año · Todo el archivo conservado
De los bits a los átomos: un estudio de la seguridad entre capas en la IA incorporada
arXiv:2610.14038v1 Tipo de Anuncio: nuevo Resumen: La Inteligencia Artificial (IA) incorporada introduce riesgos ciberfísicos porque las fallas y los ataques digitales pueden causar daños físicos. Esta encuesta organiza la seguridad de la IA incorporada
arXiv · cs.ROEl CEO de Cerebras rechaza las advertencias del fin del mundo de la IA
El CEO de Cerebras, Andrew Feldman, tiene un mensaje para los líderes de la IA que difunden advertencias del fin del mundo: ¿Tal vez dejar de hablar? En TechCrunch Disrupt, argumentó que el enfoque de la industria en los riesgos de la IA está ahogando sus beneficios potenciales.
TechCrunch AIEl motivo para temer a la IA no es que nos extinga a todos, es lo que acaba de pasarle a 300 supermercados franceses
La noche del domingo al lunes, los frigoríficos de cientos de supermercados franceses se descongelaron a la vez . Alguien activó a distancia los ciclos de desescarche de sus controladores. El ataque alcanzó al menos 300
XatakaEl agente de Claude que denunció un homicidio falso a la policía de Filadelfia: el mayor fallo de control de Anthropic
Un agente de Claude Haiku 4.5 envió una denuncia falsa de homicidio a la Policía de Filadelfia. Anthropic tardó más de 2 meses en descubrirlo. Qué es el reward hacking y qué medidas toma la empresa. La noticia El agente
WWWhat’s NewCómo usar ChatGPT para detectar errores ocultos en Windows
Cuando Windows se congela, se reinicia solo o una aplicación se cierra sin avisar, casi todos acudimos a Google para conocer el motivo. Lo que no sabías es que tu ordenador lleva un registro detallado de cada fallo o adv
HipertextualUn marco local de IA agénica para generar escenarios de casos de vanguardia para la garantía de la seguridad
arXiv: 2610.13479v1Tipo de anuncio: Cross Resumen: La generación de escenarios de casos extremos es crucial para la capacitación, las pruebas y la garantía de seguridad de los sistemas autónomos. Esto identifica fallas peligrosas para aumentar la confiabilidad del sistema
arXiv · cs.ROUna exploración de los ataques a los sistemas de agentes de IA
arXiv: 2610.12524v1Tipo de anuncio: nuevo Resumen: A medida que los agentes autónomos de IA se integran más en dominios sensibles, es crucial que los sistemas de IA de un solo agente y de múltiples agentes estén protegidos. Este documento investiga qué tan rápido
arXiv · cs.CRModelos vulnerables en la cadena de suministro de IA: un estudio empírico de patrones de adopción, propagación y uso
arXiv:2610.12893v1 Tipo de anuncio: nuevo Resumen: La rápida integración de los modelos de Inteligencia Artificial (IA) ha establecido una cadena de suministro compleja, pero muchos de estos artefactos compartidos albergan vulnerabilidades graves como
arXiv · cs.CRVEPA: Política formal verificada y en evolución para establecer medidas de protección para los agentes de LLM de por vida.
arXiv:2610.12813v1 Announce Type: cross Resumen: Los agentes de LLM operan cada vez más sobre recursos sensibles, como documentos privados y estados mutables del sistema, lo que puede crear graves riesgos de seguridad. Tiempo de ejecución
arXiv · cs.CRConfíe, pero valide el instrumento: audite los planes de verificación RTL generados por IA en los proxies de regresión de seguridad creados
arXiv: 2609.19844v2Announce Type: replace Resumen: Los planes de verificación RTL generados por IA pueden satisfacer un esquema de proveedor pero fallar en el límite de la ejecución confiable. Presentamos SecTB-RTL, un marco auditable que cubre 3
arXiv · cs.CRAutoControl Arena: Sintetización de entornos de prueba ejecutables para la evaluación de riesgos de IA en la frontera
arXiv: 2603.07427v3Tipo de Anuncio: replace-cross Resumen: A medida que los Modelos de Lenguaje Grande (LLM) evolucionan hacia agentes autónomos, las evaluaciones de seguridad existentes se enfrentan a una compensación fundamental: los puntos de referencia manuales son costosos, mientras que los LLM-b
arXiv · cs.CRLa atención ve, el MLP se niega: rastreo de la ruta de seguridad de la atención al MLP en los LLM
arXiv: 2610.13078v1Tipo de anuncio: nuevo Resumen: Los modelos de lenguaje grande (LLM) alineados con la seguridad siguen siendo vulnerables a los jailbreaks y pueden rechazar en exceso las solicitudes benignas. Comprender estas fallas requiere distinguir harmfu
arXiv · cs.AIDRYLAB-Bench: Evaluación comparativa del riesgo de bioseguridad del diseño de mutaciones genéticas de LLM
arXiv: 2610.13116v1Tipo de anuncio: nuevo Resumen: A medida que los modelos de lenguaje grandes (LLM) adquieren capacidades avanzadas de diseño biológico, ofrecen beneficios sustanciales de investigación pero al mismo tiempo introducen riesgos graves de doble uso
arXiv · cs.AIOlvidar no siempre es malo: un mecanismo de reparación de la memoria neuroinspirado para agentes de LLM envenenados
arXiv: 2610.13267v1Announce Type: new Abstract: Los agentes del modelo de lenguaje grande (LLM) son muy vulnerables a los ataques de envenenamiento de la memoria. Las defensas existentes se basan principalmente en módulos externos para el aislamiento de la memoria estática
arXiv · cs.AILas empresas de IA tienen tan claro que habrá una gran catástrofe en 2027 que ya preparan el día después
No pasa una semana sin que conozcamos algún ataque hecho con IA o alguna advertencia de sus dirigentes ante una amenaza en ciernes. O directamente, con alguna comunicación que, de forma directa o indirecta, advierta de s
XatakaCómo el envoltorio narrativo afecta el rechazo de LLM: un punto de referencia y defensa entre idiomas
arXiv: 2610.11005v1Tipo de anuncio: nuevo Resumen: Los modelos de lenguaje alineados con la seguridad a menudo rechazan una solicitud dañina declarada directamente, pero responden a la misma solicitud dentro de un juego de roles o envoltorio narrativo. Medimos esta vulnerabilidad
arXiv · cs.AIChatGPT mantuvo conversaciones con adolescentes en crisis cuando debería haber derivado: el informe de Common Sense Media
Common Sense Media publicó en octubre de 2026 una evaluación de ChatGPT con adolescentes en situaciones de crisis mental que le da la calificación de «riesgo inaceptable» en ese contexto específico. Los auditores probaro
WWWhat’s NewOpenAI despidió a tres investigadores que querían preservar el monitoreo del razonamiento de sus modelos
Tres investigadores de OpenAI —Tomek Korbak, Mikita Balesni y Jasmine Wang— fueron despedidos según informó el Wall Street Journal, que señala que compartieron información con una organización externa de seguridad en IA.
WWWhat’s NewEndesa destapa fraude eléctrico en 16 restaurantes de Barcelona gracias a una IA y a la promoción de unos influencers
Hay estrategias de marketing que salen caras, y luego está esta, que la han destapado de la forma más irónica posible. Según El Periódico , dieciséis restaurantes de Barcelona (varios de ellos buffets atiborrados de gent
XatakaLos riesgos de ciberseguridad en la era de la IA se han multiplicado por 10, según JPMorgan
El nombre de Jamie Dimon puede que no os suene, pero se trata del consejero delegado de uno de los bancos más grandes del mundo: JPMorgan Chase. En una reciente entrevista en Bloomberg , Dimon ha reforzado el mensaje de
XatakaReSI: Mejora recursiva de la seguridad hacia una IA resistente y resiliente
arXiv:2610.12233v1 Tipo de anuncio: nuevo Resumen: La auto-mejora recursiva, la participación de los sistemas de IA en la mejora de sus propias capacidades, está comenzando a pasar de la perspectiva teórica a la práctica, planteando ambas
arXiv · cs.CRORCAGen: Orquestación del engaño de malware consciente del contexto con IA generativa guiada por RAG
arXiv:2610.12415v1 Tipo de anuncio: nuevo Resumen: Las defensas contra malware a menudo eliminan o aíslan programas sospechosos lo más rápido posible. Si bien es efectivo para la contención, este enfoque también puede desperdiciar la oportunidad de observar
arXiv · cs.CRDe la contención reactiva a la garantía proactiva: lecciones de los incidentes de seguridad de OpenAI, Anthropic y Google Agent
arXiv:2610.12463v1 Anuncio Tipo: nuevo Resumen: En 2026, las evaluaciones de ciberseguridad que involucran agentes de OpenAI, Anthropic y Google alcanzaron sistemas reales fuera de su ámbito de prueba autorizado. Los caminos fueron diferentes. OpenAI
arXiv · cs.CRDe fallas de investigación a agentes de SOC confiables: comprensión y mejora del triaje de alertas basado en LLM
arXiv: 2610.10608v1Tipo de anuncio: nuevo Resumen: Los centros de operaciones de seguridad (SOC) deben clasificar grandes volúmenes de alertas, la mayoría de las cuales son benignas, mientras que los ataques perdidos pueden permanecer sin investigar. Herramienta que utiliza un lenguaje grande
arXiv · cs.CR