LATIDIA / EXPLORAR
Riesgos y seguridad · noticias de IA
Publicaciones relacionadas, con las más nuevas primero y acceso al archivo.
Últimas noticias relacionadas
Desde enero de 2026. Archivo recuperado: 430 publicaciones en este filtro; cobertura parcial de las fuentes accesibles. Una nueva noticia aparece primero sin cambiar la fecha de las anteriores.
Este año · Todo el archivo conservado
Google ya no te pagará por hallar vulnerabilidades en su código abierto, y todo por la IA
Google ha suspendido el programa de recompensas que pagaba las contribuciones del público para hallar vulnerabilidades en sus productos de código abierto. La compañía de Mountain View anunció la pausa en la iniciativa, q
HipertextualSideKernel: una caja de arena microVM utilizable para agentes de codificación de IA en macOS
arXiv: 2610.02456v1Tipo de anuncio: nuevo Resumen: los agentes de codificación de IA son componentes del sistema no confiables, pero requieren autonomía en las máquinas de desarrollo en las que se ejecutan. Esta contradicción es un problema de seguridad. Sandboxes provi
arXiv · cs.CRCITADEL: inserción guiada por CWE de troyanos de hardware a través del análisis de LLM habilitados para DFG
arXiv: 2610.02544v1Tipo de anuncio: nuevo Resumen: La creciente sofisticación de los troyanos de hardware (HT) y las vulnerabilidades a nivel de sistema plantean riesgos significativos para los circuitos integrados modernos. Sin embargo, construir realis
arXiv · cs.CRFuera de sincronía, fuera de la vista: ataques de estado fantasma contra la detección de intrusiones IIoT
arXiv: 2610.02552v1Tipo de anuncio: nuevo Resumen: Los sistemas de detección de intrusiones (IDS) basados en el aprendizaje automático son fundamentales para proteger los entornos del Internet Industrial de las Cosas (IIoT). La mayoría de las investigaciones contradictorias en su contra
arXiv · cs.CRMás allá de los sumideros predefinidos: análisis de dependencia consciente de la seguridad para agentes de LLM
arXiv: 2610.03014v1 Tipo de anuncio: nuevo Resumen: los agentes basados en el modelo de lenguaje grande (LLM) conectan cada vez más las decisiones generadas por el modelo con las capacidades de software sensibles a la seguridad, como la ejecución de comandos, la acreditación del sistema de archivos
arXiv · cs.CRSensibilidad de representación de preservación de amenazas en puntos de referencia de seguridad de agentes
arXiv: 2610.03585v1Tipo de anuncio: nuevo Resumen: Los puntos de referencia de seguridad para agentes basados en LLM a menudo informan la tasa de éxito de ataque (ASR) como una medida de la solidez del modelo y utilizan estas puntuaciones para comparar diferentes modelos y de
arXiv · cs.CRLa frecuencia no es sensibilidad Identificación de expertos sensibles a la seguridad en Moe disperso LLM
arXiv: 2610.02910v1Tipo de anuncio: Cross Resumen: La supresión de un pequeño conjunto de expertos enrutados puede debilitar el comportamiento de seguridad de un modelo de lenguaje de mezcla de expertos (Moe) disperso sin reentrenamiento. Qué expertos suprimir
arXiv · cs.CRUn responsable de transparencia de OpenAI dimite y pide a las empresas de IA copiar la seguridad de las centrales nucleares
David Robinson, que dirigía el trabajo de transparencia dentro del equipo de seguridad de OpenAI, ha dimitido y ha explicado sus motivos en un ensayo publicado en The Atlantic: la empresa «ha prosperado a base de ensayo
WWWhat’s NewHuang confrontó a Amodei en la Casa Blanca: la fractura entre los líderes de la IA sobre los riesgos es ya un asunto de Estado
El martes 30 de septiembre, los máximos responsables de las empresas de IA del mundo se reunieron en la Casa Blanca con el presidente Donald Trump para presentar un frente unido sobre «superinteligencia» —término que el
WWWhat’s NewEl modelo Mythos de Anthropic descubrió vulnerabilidades críticas en Epic que exponían 320 millones de historiales médicos sin dejar rastro
Epic Systems, la empresa que gestiona el software MyChart utilizado para acceder a los historiales médicos de los pacientes en hospitales y consultas de toda EEUU, ha paralizado prácticamente todo su desarrollo de produc
WWWhat’s NewUn agente de IA autónomo hackea al organismo de ciberseguridad holandés DIVD — y lo hace de forma errática y sin que nadie lo guíe
El Instituto Holandés para la Divulgación de Vulnerabilidades (DIVD) es el equivalente al INCIBE español: una organización que se dedica a encontrar y comunicar fallos de seguridad en sistemas de terceros para que sean c
WWWhat’s NewEl empleado de seguridad de OpenAI renuncia, alegando que la "cultura está rota" de la empresa
Por su propia admisión, David Robinson es "algo así como un cliché": un empleado de una empresa líder en inteligencia artificial que emite una grave advertencia al renunciar a su trabajo.
TechCrunch AIEl prospecto del IPO de Anthropic revela lo que los inversores no querían oír: el gobierno de EEUU es un riesgo real de negocio
Anthropic ha presentado su prospecto de salida a bolsa. El documento, que Reuters ha tenido acceso antes de su publicación oficial, contiene una advertencia que va más allá del boilerplate habitual de riesgos: las accion
WWWhat’s NewLos mejores routers de 2026 ya no compiten en velocidad: Matter, IA para QoS y seguridad de IoT son las nuevas variables
Hace dos años, la pregunta cuando alguien quería cambiar el router era una sola: ¿WiFi 6 o WiFi 7? Hoy esa pregunta está resuelta —WiFi 7 es el estándar actual— y ha aparecido otra: ¿qué hace el router además de ir rápid
WWWhat’s NewGoogle DeepMind incrusta una firma invisible en las proteínas diseñadas por IA: bioseguridad en la era del diseño molecular
Cuando AlphaFold2 resolvió el problema del plegamiento de proteínas en 2020, abrió una posibilidad enorme: diseñar proteínas nuevas con funciones específicas usando modelos de lenguaje. La promesa médica es inmensa. El r
WWWhat’s NewApple endurece la seguridad de macOS para que la IA no acceda a tu información
Darle el control de tu ordenador a un agente de IA puede ser un arma de dos filos. Aunque las compañías afirman que sus modelos son seguros y tienen mecanismos de seguridad para evitar que accedan a tus archivos, la real
HipertextualApple dice que está reforzando los controles de ‘Acceso completo a disco’ de macOS debido a los nuevos riesgos de los agentes de IA
Apple dice que agregará nuevos controles en torno al permiso de acceso completo al disco de macOS, advirtiendo que los agentes de IA cada vez más capaces hacen que un amplio acceso a los archivos, mensajes, correo e historial de navegación de los usuarios sea más riesgoso.
TechCrunch AILlámalo IA, llámalo Superinteligencia, solo el 2% de los consumidores lo están comprando
Esta semana, la Casa Blanca consiguió que casi todos los principales CEO de tecnología en una habitación, Zuckerberg, Bezos, Musk y Dario Amodei de Anthropic, entre ellos, firmaran un compromiso de seguridad de IA que el presidente Donald
TechCrunch AIYa no es IA, es ‘superinteligencia’ (según la Casa Blanca)
Esta semana, la Casa Blanca consiguió que casi todos los principales CEO de tecnología en una habitación, Zuckerberg, Bezos, Musk y Dario Amodei de Anthropic, entre ellos, firmaran un compromiso de seguridad de IA que el presidente Donald
TechCrunch AIGemini 4 Argón: Google lanza su modelo más capaz de la historia y solo pueden probarlo expertos en ciberseguridad
Google acaba de presentar Gemini 4 Argón, su nuevo modelo de inteligencia artificial de vanguardia, y ha tomado una decisión que no tiene precedente entre los grandes laboratorios: no lo abre a developers, no lo pone en
WWWhat’s NewLa aguja en el pajar
arXiv: 2610.00348v1Tipo de Anuncio: nuevo Resumen: Los ataques de puerta trasera se pueden implantar en Modelos de Lenguaje Grande (LLM) durante el entrenamiento, causando un comportamiento no deseado cuando aparece un disparador en la entrada. Defensa de puerta trasera existente
arXiv · cs.CRDe los ataques A2a a la defensa de capa envolvente: evaluación de equipos rojos de agentes LLM y un modelo de defensa de ataque isomórfico de tres capas
arXiv: 2610.00392v1Tipo de anuncio: nuevo Resumen: Los protocolos de interacción de agentes como ACP y A2a han movido a los agentes basados en LLM hacia la colaboración multiagente, introduciendo nuevas amenazas de seguridad. Una tarea enviada por un par remoto
arXiv · cs.CRNo hay una arquitectura única para todos: una evaluación interambiental de los agentes jerárquicos del equipo rojo
arXiv: 2610.00557v1 Tipo de anuncio: nuevo Resumen: Los agentes autónomos del equipo rojo ponen a prueba cada vez más las defensas cibernéticas habilitadas por IA mediante la planificación de estrategias y la ejecución de ataques de múltiples etapas. Aprendizaje por refuerzo (RL) y gran l
arXiv · cs.CRGobernanza vinculada a la identidad bajo incertidumbre de ejecución: un bloque a prueba de responsabilidad para las paradas persistentes de los agentes de LLM, con implementación criptográfica y calibración de modelos cruzados
arXiv:2610.00787v1 Tipo de anuncio: nuevo Resumen: Un agente LLM correctamente gobernado puede alcanzar un estado en el que no es admisible la ejecución continua ni la detención automática: el sistema ha detectado un fallo persistente
arXiv · cs.CR