LATIDIA / EXPLORAR
Riesgos y seguridad · noticias de IA
Publicaciones relacionadas, con las más nuevas primero y acceso al archivo.
Últimas noticias relacionadas
Desde enero de 2026. Archivo recuperado: 430 publicaciones en este filtro; cobertura parcial de las fuentes accesibles. Una nueva noticia aparece primero sin cambiar la fecha de las anteriores.
Este año · Todo el archivo conservado
MarkSec: Evaluación consciente de la capacidad de los ataques adversarios contra las marcas de agua de LLM
arXiv: 2609.16681v1Tipo de anuncio: nuevo Resumen: la marca de agua LLM ayuda a rastrear el origen del texto generado, pero se enfrenta a ataques de robo que recuperan información de marca de agua, ataques de depuración que eliminan señales de marca de agua, un
arXiv · cs.CRHacia agentes de prueba de penetración seguros impulsados por IA: amenazas de seguridad, barandillas y perspectivas arquitectónicas
arXiv: 2609.16694v1Tipo de anuncio: nuevo Resumen: los agentes autónomos con tecnología LLM están transformando el espacio de pruebas de penetración con flujos de trabajo de seguridad ofensivos dinámicos de varios pasos que requieren una supervisión mínima por parte de
arXiv · cs.CRConozca a su agente: Pentesting impulsado por el reconocimiento de agentes de IA
arXiv:2607.19837v2 Announce Type: replace-cross Resumen: El pentesting tradicional utiliza el reconocimiento en cada paso para descubrir debilidades invisibles, crear ataques más fuertes y avanzar en el objetivo; argumentamos que los agentes de IA r
arXiv · cs.CRDel texto legal a las fuentes de riesgo específicas de la IA: un análisis sistemático de los requisitos de alto riesgo de la Ley de IA de la UE
arXiv: 2609.13535v1Tipo de anuncio: nuevo Resumen: La Ley de IA de la UE introduce requisitos obligatorios para los sistemas de IA de alto riesgo con el objetivo explícito de garantizar el desarrollo y el funcionamiento de una IA confiable. Al mismo tiempo
arXiv · cs.AI¿Cómo se produce y es importante el maltrato de la IA del usuario en los sistemas conversacionales?
arXiv: 2609.13579v1Tipo de anuncio: nuevo Resumen: La investigación sobre seguridad a menudo se centra en los daños generados por los modelos, pero los usuarios también pueden dirigir hostilidad, coerción y presión adversaria a los modelos. Entender cómo y cuándo eso o
arXiv · cs.AILa seguridad como una restricción: ajuste fino de un recomendador de LLM para explicarse a sí mismo
arXiv:2609.13657v1 Tipo de anuncio: nuevo Resumen: Los sistemas de recomendación tradicionales suelen estar entrenados para predecir con qué elemento interactuarán los usuarios a continuación, pero no por qué. Sin embargo, ofrecer evidencia personalizada de por qué un uso
arXiv · cs.AIOptimización de la dirección del señalizador: una defensa post-hoc contra la destrucción de LLM
arXiv: 2609.16204v1Tipo de Anuncio: Cross Resumen: Las barandillas de seguridad en modelos de lenguaje de peso abierto se pueden omitir fácilmente utilizando la Ablación de Funciones de Rechazo (RFA), una técnica que identifica y proyecta un rechazo lineal
arXiv · cs.CRLa industria musical lanza la Streaming Integrity Initiative para combatir el fraude de IA: hasta el 85% de los streams de música generada por IA eran falsos en 2025
La cifra que publicó Deezer resume el problema: en junio de 2026, más del 50% de toda la música nueva entregada a la plataforma era íntegramente generada por IA —unos 90.000 tracks al día. Pero esas grabaciones represent
WWWhat’s NewIA Autoenvolvente para Humanoides: Mecanismos, Seguridad y Evaluación de la Mejora Posterior al Despliegue
arXiv: 2609.13236v1Tipo de anuncio: nuevo Resumen: Los robots humanoides se están convirtiendo en una parte importante de la inteligencia artificial incorporada, impulsados por los avances en el aprendizaje de refuerzo para la locomoción, los modelos mundiales para la predicción
arXiv · cs.ROBadEngram: Ataque de puerta trasera en componentes de memoria cerrada en LLM
arXiv: 2609.13478v1Tipo de anuncio: nuevo Resumen: Para ampliar la capacidad de los modelos de peso abierto sin aumentar proporcionalmente el cálculo, los modelos de lenguaje recientes incorporan memorias paramétricas cerradas que recuperan el valor aprendido
arXiv · cs.CRExploración de la identificación automatizada de vulnerabilidades en el código JavaScript utilizando modelos de lenguaje grandes
arXiv: 2609.13816v1Tipo de anuncio: nuevo Resumen: JavaScript alimenta aproximadamente el 98.8% de todos los sitios web, lo que hace que las vulnerabilidades en su código sean un riesgo de seguridad significativo, pero los enfoques de detección existentes como Static Appl
arXiv · cs.CRAGENTQ: Ataques de puerta trasera condicionados por cuantificación a agentes de LLM
arXiv: 2609.14060v1Tipo de anuncio: nuevo Resumen: La cuantificación es una de las rutas de implementación predeterminadas para los agentes LLM de peso abierto, pero no preserva el comportamiento: un adversario puede liberar un punto de control de precisión completa que
arXiv · cs.CRSkillSecurer: Detección y parcheo de vulnerabilidades de inyección rápida en habilidades de agentes de IA
arXiv:2609.14079v1 Tipo de anuncio: nuevo Resumen: las habilidades del agente extienden los agentes de IA con instrucciones, scripts y configuración reutilizables, pero también están abiertos a nuevos ataques para influir en las decisiones y acciones de un agente. Para agregar
arXiv · cs.CRFusión de firmas espectrales y agrupamiento de activación para la detección de puerta trasera en modelos de imágenes de atención médica: método, implementación y evaluación
arXiv: 2609.14290v1 Tipo de anuncio: nuevo Resumen: Los modelos de aprendizaje automático se implementan cada vez más en las canalizaciones de imágenes de atención médica para el soporte de diagnóstico, y los ataques de tiempo de capacitación contra ellos son un conjunto de nivel sectorial con nombre
arXiv · cs.CRExtracción criptoanalítica de redes neuronales sin suposición de arquitectura conocida
arXiv:2609.14379v1 Announce Type: new Resumen: Los ataques de extracción criptoanalítica recuperan los parámetros de una red neuronal dado solo acceso de caja negra a su salida sin procesar. Sin embargo, todos los ataques existentes se basan en un fundamento
arXiv · cs.CRGPT-6 Astra está disponible para suscriptores Pro y de empresa, pero el acceso es confuso y la función avanzada de ciberseguridad está bloqueada
GPT-6 Astra lleva 11 días en el mercado y muchos usuarios elegibles todavía no pueden usarlo. OpenAI empezó el despliegue el 3 de septiembre, pero el rollout es gradual y asimétrico: no todos los usuarios del mismo plan
WWWhat’s NewOpenAI y Anthropic están intentando hacer con la IA lo que Rockefeller hizo con el petróleo
Desde hace meses, el discurso en torno a los últimos modelos de IA se ha ido volviendo más y más apocalíptico. Desde hace unos días ya no se habla tanto de modelos que pueden ser un riesgo para la ciberseguridad , se hab
XatakaAnthropic elige Nasdaq para salir a bolsa en octubre, en la misma semana en que OpenAI lo descartó por razones de seguridad
Dos de las empresas de IA más influyentes del mundo han llegado esta semana a conclusiones opuestas a partir del mismo conjunto de hechos. Sam Altman dijo el viernes que OpenAI no saldrá a bolsa en 2026 porque «dado todo
WWWhat’s NewTodos quieren frenar la carrera de la IA. Hay un problema: nadie se fía lo suficiente del otro como para ser el primero
El CEO de Anthropic, Dario Amodei, sorprendía a todos el fin de semana con un mensaje contundente: ralentizar el desarrollo de modelos de IA avanzados . Eso, explica, nos daría tiempo para entender los riesgos. Sam Altma
XatakaDetección de anomalías autoverificable mediante IA explicable para la ciberseguridad de redes DER.
arXiv:2609.12305v1 Anuncio Tipo: nuevo Resumen: El rápido crecimiento de los Recursos Energéticos Distribuidos (RED) ha expandido significativamente la superficie de ataque cibernético de las redes eléctricas modernas. Además, la creciente sofisticación en
arXiv · cs.CRRobustez rotada: una defensa sin entrenamiento contra ataques de bit-flip en modelos de lenguaje grandes
arXiv: 2603.16382v2Tipo de Anuncio: reemplazar Resumen: La corrupción de bit-flip de pesos cuantificados representa una seria amenaza de confiabilidad para los Modelos de Lenguaje Grande (LLM), ya que incluso un pequeño número de fallas de peso puede desencadenar catastr
arXiv · cs.CR¿Seguridad en los lotes? Comprender y mitigar las fallas de seguridad en las solicitudes de lotes
arXiv:2608.02681v2 Announce Type: replace Abstract: Batch prompting is a practical inference strategy for large language models, but its safety implications remain underexplored. Mostramos que el éxito de batch prompti
arXiv · cs.CREl nuevo método permite la IA para situaciones críticas para la seguridad
El algoritmo "HardFlow" podría ayudar a los modelos generativos de IA a producir resultados de alta calidad que obedezcan a requisitos estrictos cuando "bastante cerca" no sea suficiente.
MIT · Fuente oficial"Debemos frenar el ritmo". Dario Amodei avisa de que una IA podría tomar el control de internet en menos de un año
Dario Amodei cambia de idea. El CEO de Anthropic se ha pronunciado sobre el ritmo de mejora y los avances de la inteligencia artificial pidiendo que se pise el freno por una cuestión de seguridad. Allá por 2023, Amodei d
Xataka