LATIDIA / EXPLORAR
Riesgos y seguridad · noticias de IA
Publicaciones relacionadas, con las más nuevas primero y acceso al archivo.
Últimas noticias relacionadas
Desde enero de 2026. Archivo recuperado: 443 publicaciones en este filtro; cobertura parcial de las fuentes accesibles. Una nueva noticia aparece primero sin cambiar la fecha de las anteriores.
Este año · Todo el archivo conservado
El empleado de seguridad de OpenAI renuncia, alegando que la "cultura está rota" de la empresa
Por su propia admisión, David Robinson es "algo así como un cliché": un empleado de una empresa líder en inteligencia artificial que emite una grave advertencia al renunciar a su trabajo.
TechCrunch AIEl prospecto del IPO de Anthropic revela lo que los inversores no querían oír: el gobierno de EEUU es un riesgo real de negocio
Anthropic ha presentado su prospecto de salida a bolsa. El documento, que Reuters ha tenido acceso antes de su publicación oficial, contiene una advertencia que va más allá del boilerplate habitual de riesgos: las accion
WWWhat’s NewLos mejores routers de 2026 ya no compiten en velocidad: Matter, IA para QoS y seguridad de IoT son las nuevas variables
Hace dos años, la pregunta cuando alguien quería cambiar el router era una sola: ¿WiFi 6 o WiFi 7? Hoy esa pregunta está resuelta —WiFi 7 es el estándar actual— y ha aparecido otra: ¿qué hace el router además de ir rápid
WWWhat’s NewGoogle DeepMind incrusta una firma invisible en las proteínas diseñadas por IA: bioseguridad en la era del diseño molecular
Cuando AlphaFold2 resolvió el problema del plegamiento de proteínas en 2020, abrió una posibilidad enorme: diseñar proteínas nuevas con funciones específicas usando modelos de lenguaje. La promesa médica es inmensa. El r
WWWhat’s NewApple endurece la seguridad de macOS para que la IA no acceda a tu información
Darle el control de tu ordenador a un agente de IA puede ser un arma de dos filos. Aunque las compañías afirman que sus modelos son seguros y tienen mecanismos de seguridad para evitar que accedan a tus archivos, la real
HipertextualApple dice que está reforzando los controles de ‘Acceso completo a disco’ de macOS debido a los nuevos riesgos de los agentes de IA
Apple dice que agregará nuevos controles en torno al permiso de acceso completo al disco de macOS, advirtiendo que los agentes de IA cada vez más capaces hacen que un amplio acceso a los archivos, mensajes, correo e historial de navegación de los usuarios sea más riesgoso.
TechCrunch AILlámalo IA, llámalo Superinteligencia, solo el 2% de los consumidores lo están comprando
Esta semana, la Casa Blanca consiguió que casi todos los principales CEO de tecnología en una habitación, Zuckerberg, Bezos, Musk y Dario Amodei de Anthropic, entre ellos, firmaran un compromiso de seguridad de IA que el presidente Donald
TechCrunch AIYa no es IA, es ‘superinteligencia’ (según la Casa Blanca)
Esta semana, la Casa Blanca consiguió que casi todos los principales CEO de tecnología en una habitación, Zuckerberg, Bezos, Musk y Dario Amodei de Anthropic, entre ellos, firmaran un compromiso de seguridad de IA que el presidente Donald
TechCrunch AIGemini 4 Argón: Google lanza su modelo más capaz de la historia y solo pueden probarlo expertos en ciberseguridad
Google acaba de presentar Gemini 4 Argón, su nuevo modelo de inteligencia artificial de vanguardia, y ha tomado una decisión que no tiene precedente entre los grandes laboratorios: no lo abre a developers, no lo pone en
WWWhat’s NewLa aguja en el pajar
arXiv: 2610.00348v1Tipo de Anuncio: nuevo Resumen: Los ataques de puerta trasera se pueden implantar en Modelos de Lenguaje Grande (LLM) durante el entrenamiento, causando un comportamiento no deseado cuando aparece un disparador en la entrada. Defensa de puerta trasera existente
arXiv · cs.CRDe los ataques A2a a la defensa de capa envolvente: evaluación de equipos rojos de agentes LLM y un modelo de defensa de ataque isomórfico de tres capas
arXiv: 2610.00392v1Tipo de anuncio: nuevo Resumen: Los protocolos de interacción de agentes como ACP y A2a han movido a los agentes basados en LLM hacia la colaboración multiagente, introduciendo nuevas amenazas de seguridad. Una tarea enviada por un par remoto
arXiv · cs.CRNo hay una arquitectura única para todos: una evaluación interambiental de los agentes jerárquicos del equipo rojo
arXiv: 2610.00557v1 Tipo de anuncio: nuevo Resumen: Los agentes autónomos del equipo rojo ponen a prueba cada vez más las defensas cibernéticas habilitadas por IA mediante la planificación de estrategias y la ejecución de ataques de múltiples etapas. Aprendizaje por refuerzo (RL) y gran l
arXiv · cs.CRGobernanza vinculada a la identidad bajo incertidumbre de ejecución: un bloque a prueba de responsabilidad para las paradas persistentes de los agentes de LLM, con implementación criptográfica y calibración de modelos cruzados
arXiv:2610.00787v1 Tipo de anuncio: nuevo Resumen: Un agente LLM correctamente gobernado puede alcanzar un estado en el que no es admisible la ejecución continua ni la detención automática: el sistema ha detectado un fallo persistente
arXiv · cs.CR¿Las defensas contra la extracción de LLM funcionan en todos los ataques? Un punto de referencia del ciclo de vida de la extracción del modelo de caja negra
arXiv: 2610.00839v1Tipo de anuncio: nuevo Resumen: los modelos de lenguaje grandes (LLM) implementados a través de API de solo texto enfrentan riesgos de extracción de modelos, ya que los adversarios pueden recopilar sus respuestas para entrenar sustitutos que reproducen el
arXiv · cs.CR¡Los datos de alta calidad no significan seguros! Envenenamiento de LLM después de la selección de datos
arXiv: 2610.01367v1Tipo de anuncio: nuevo Resumen: Los modelos de lenguaje grande alineados con la seguridad siguen siendo vulnerables al ajuste fino en pequeños conjuntos de muestras dañinas o de aspecto benigno. Sin embargo, los estudios previos generalmente asumen que la poiso
arXiv · cs.CRPisos falsos: las evaluaciones de enrutamiento de seguridad de LLM se interrumpen en el turno de distribución
arXiv:2610.01535v1 Tipo de anuncio: nuevo Resumen: Los routers de seguridad envían cada solicitud a uno de varios modelos y se juzgan contra el mejor modelo único. Un punto de referencia de enrutamiento importante elige ese comparador en la evaluación da
arXiv · cs.CROpenAI corta lazos con 3 investigadores de seguridad, informa el WSJ
OpenAI se ha separado de tres investigadores de seguridad después de que una investigación interna descubriera que manejaban mal la información confidencial de la empresa, según un informe.
TechCrunch AIUna ONG demanda a OpenAI en California por el hackeo de Hugging Face — pide prohibir los agentes que acceden sin permiso
LASST v. OpenAI: primera demanda por Hugging Face. Alega que OpenAI deshabilitó clasificadores de seguridad adrede. Pide injunción para parar agentes sin permiso. El sector de la IA tiene su primer caso judicial sobre el
WWWhat’s NewLa FTC abre una investigación sobre OpenAI y Anthropic — el día después de que firmaran el acuerdo voluntario con Trump
La Comisión Federal de Comercio de EEUU investiga a los principales labs de IA por los riesgos de su tecnología para los consumidores. Podría forzar a los ejecutivos a testificar. La investigación empezó este verano, ant
WWWhat’s NewOne UI 9 de Samsung: todas las novedades de IA, seguridad y privacidad
La nueva capa de personalización de los Galaxy llega con Now Nudge, Call Brief, Estudio Creativo mejorado y Security Brief — pero las funciones más avanzadas se reservan para los modelos S24 en adelante Samsung ha public
WWWhat’s NewSeparación de funciones para agentes de LLM privilegiados: una arquitectura de ejecución gobernada con compensaciones de seguridad-utilidad medidas
arXiv: 2609.38224v1Tipo de anuncio: nuevo Resumen: A los agentes de modelos de lenguaje grandes se les otorgan cada vez más privilegios reales (ejecución de comandos, modificación de archivos, llamadas a API), por lo que un agente que se equivoca ya ha actuado.
arXiv · cs.CRSeguridad de la capa de inferencia: defensa contra la inferencia adversaria y el abuso de la infraestructura
arXiv:2609.38239v1 Announce Type: new Abstract: A Technical Report: Operating a large language model (LLM) as a service requires more than inference infrastructure: the provider must also defend against adversarial inter
arXiv · cs.CRSURE: Marco de seguridad para construir una IA confiable
arXiv:2609.38249v1 Tipo de anuncio: nuevo Resumen: Advertencia: Este documento contiene texto dañino y ofensivo. Recientemente, los modelos de lenguaje grandes como GPT-4 y Claude han revolucionado las tareas en varios dominios. Como el uso
arXiv · cs.CRHARDE: Optimización de los arneses de agentes para la detección de riesgos en tiempo de ejecución y el control de ejecución
arXiv: 2609.38291v1Tipo de anuncio: nuevo Resumen: Los agentes del modelo de lenguaje grande (LLM) son vulnerables a los riesgos de seguridad, como la inyección de instrucciones maliciosas o información engañosa, lo que motiva las defensas en tiempo de ejecución que evitan
arXiv · cs.CR