LATIDIA / EXPLORAR
Riesgos y seguridad · noticias de IA
Publicaciones relacionadas, con las más nuevas primero y acceso al archivo.
Últimas noticias relacionadas
Desde enero de 2026. Archivo recuperado: 430 publicaciones en este filtro; cobertura parcial de las fuentes accesibles. Una nueva noticia aparece primero sin cambiar la fecha de las anteriores.
Este año · Todo el archivo conservado
Google lanza Gemini 4 Carbon, una IA que puede detectar fallos antes que los hackers
A unas semanas del lanzamiento de Gemini 4 Argon, Google ha presentado un nuevo modelo de IA que la compañía describe como el más potente a la fecha. Conocido como Gemini 4 Carbon, esta variante cuenta con capacidades de
HipertextualRevisión de los riesgos de privacidad en las redes neuronales profundas cuantificadas
arXiv:2610.37488v1 Anuncio Tipo: nuevo Resumen: La cuantización de modelos se ha convertido en una técnica fundamental para permitir el despliegue eficiente de redes neuronales profundas (DNN) a gran escala en aplicaciones intensivas en datos mediante red
arXiv · cs.CRDYNASHIELD: Un sistema de defensa de caja negra para objetivos móviles para LLM mediante personalización de decodificación dinámica.
arXiv:2412.07672v3 Anuncio Tipo: reemplazar Resumen: Los modelos de lenguaje grandes (LLM) siguen siendo vulnerables a ataques de jailbreak en los que las indicaciones adversarias inducen resultados dañinos. Las defensas existentes a menudo requieren acceso al m
arXiv · cs.CRBloqueo combinatorio para motores de IA resistentes a troyanos mediante filtrado espectral asistido por hash
arXiv:2610.33437v2 Anuncio Tipo: reemplazar Resumen: Ataques de puerta trasera de activación múltiple, en los que coexisten mecanismos de activación heterogéneos (por ejemplo, parche, mezcla, distorsión y la marca de agua espía de dominio latente) dentro de un único punto de acceso.
arXiv · cs.CRLógicas de ataque, no resultados: Ataques basados en conceptos para la eliminación de atajos en redes neuronales
arXiv:2610.34923v2 Anuncio Tipo: reemplazar Resumen: Las redes neuronales profundas (NN) para visión artificial son vulnerables a ataques adversarios, de modo que cambios maliciosos minúsculos en las entradas pueden inducir salidas poco intuitivas. En
arXiv · cs.CRPensilvania ya obliga a etiquetar los anuncios hechos con IA, pero solo si engañan (y los de texto quedan fuera)
Pensilvania firma su ley de etiquetado de anuncios con IA: solo se activa si hay engaño, exime el texto y la multa máxima es de 3.000 dólares. La noticia Pensilvania ya obliga a etiquetar los anuncios hechos con IA, pero
WWWhat’s NewPor qué la IA se inventa cosas: qué son las alucinaciones y qué se sabe de su origen
Un modelo dio tres cumpleaños falsos en tres intentos. Qué son las alucinaciones de la IA, por qué inventa en vez de dudar y cuánto se equivoca. La noticia Por qué la IA se inventa cosas: qué son las alucinaciones y qué
WWWhat’s NewStealthRL: Ataques de paráfrasis de aprendizaje de refuerzo para la evasión multidetector de detectores de texto de IA
arXiv:2602.08934v3 Anuncio Tipo: replace-cross Resumen: Los detectores de texto basados en IA se utilizan cada vez más en entornos de alto riesgo, pero su robustez frente a la reescritura adversaria que preserva el significado sigue sin estar clara. Presentamos St
arXiv · cs.AIDe la exageración al ROI: un modelo económico para la adopción de LLM en sistemas de información y operaciones de seguridad
arXiv: 2610.33352v1Tipo de anuncio: nuevo Resumen: los modelos de lenguaje grandes (LLM) prometen ganancias significativas de eficiencia en las operaciones de uso intensivo de información mediante la automatización de tareas repetitivas basadas en el lenguaje. Sin embargo, la adopción d
arXiv · cs.CRComienza el aprendizaje profundo para la optimización de la trayectoria en la Estación Espacial Internacional
arXiv: 2505.05588v4Tipo de anuncio: reemplazar Resumen: La optimización de la trayectoria es una piedra angular de la autonomía moderna del robot, que permite a los sistemas calcular trayectorias y controles en tiempo real respetando la seguridad y la física
arXiv · cs.ROAplicaciones de la IA de caja negra
arXiv:2610.32092v1 Tipo de anuncio: nuevo Resumen: Verificar la procedencia de los agentes LLM autónomos es un desafío de seguridad crítico. La atribución semántica existente se ofusca fácilmente por las indicaciones del sistema, mientras que el agua activa
arXiv · cs.CRRecorte sensible a la curvatura: mitigación del sesgo en DPSGD a través de la información aproximada de segundo pedido
arXiv:2610.32175v1 Announce Type: cross Abstract: Differentially Private Stochastic Gradient Descent (DPSGD) se ha convertido en el estándar de facto para entrenar redes neuronales profundas con rigurosas garantías de privacidad. Sin embargo, t
arXiv · cs.CRpero Dios dijo, um, estás juzgando mal,
arXiv:2610.31695v1 Anuncio Tipo: nuevo Resumen: Los mecanismos de seguridad comprueban el contenido antes de que una aplicación LLM actúe sobre él, y la mayoría pega ese contenido en un mensaje de texto plano. El contenido que imita el mensaje puede añadir un segundo
arXiv · cs.CRJust Eat pausa sus fotos de comida hechas con IA: el fallo no es la calidad, es que no entiende el vocabulario local
Just Eat pausa sus fotos de platos generadas con IA tras errores como bacon flotando en un refresco. El fallo es de vocabulario local, no de calidad. La noticia Just Eat pausa sus fotos de comida hechas con IA: el fallo
WWWhat’s NewOpenAI dice que ya no capacitará a sus modelos de IA en Internet en vivo, citando "riesgos significativos"
OpenAI eliminará los modelos de vanguardia de Internet semanas después de que uno de sus ingenieros dijera que la solución no funcionaría.
TechCrunch AI"Van a empeorar mucho más": Jason Clinton, subdirector de ciberseguridad de Anthropic, advierte de lo que está por venir
Pocas veces nos preguntamos qué tiene que suceder para que una transferencia llegue a su destino, un documento permanezca privado o nadie más pueda acceder a nuestras cuentas. Simplemente abrimos el móvil y seguimos adel
XatakaMPIDetector: Detección de la inyección rápida multimodal a través del razonamiento basado en LLM
arXiv:2610.30202v1 Tipo de anuncio: nuevo Resumen: Con la rápida integración de modelos multimodales de lenguaje grande (MLLM) en aplicaciones del mundo real, la inyección rápida (PI) se ha convertido en una amenaza de seguridad crítica. Attac
arXiv · cs.CRAmplificación de la latencia y el coste de la inferencia LLM a través del ataque Rowhammer
arXiv: 2610.30798v1Tipo de anuncio: nuevo Resumen: Los modelos de lenguaje grandes (LLM) logran una alta eficiencia de inferencia utilizando núcleos de GPU optimizados generados por marcos de compilación justo a tiempo (JIT) como Triton. Triton com
arXiv · cs.CRAnálisis estático autoevolutivo a través del pseudoetiquetado LLM
arXiv:2610.30184v1 Announce Type: new Resumen: Los errores de seguridad a menudo pasan por alto el análisis estático no porque sean imposibles de detectar, sino porque aún no se han escrito reglas de detección para el código que tenemos delante.
arXiv · cs.CRPhishGen: comprensión de las capacidades de LLM en la generación automatizada de sitios web de phishing
arXiv: 2610.30226v1Announce Type: new Resumen: El phishing se basa en el engaño visual, que tradicionalmente requiere habilidades de desarrollo web o kits preconstruidos. Los LLM erosionan esta barrera al generar sitios web funcionales a partir de natura
arXiv · cs.CRDetección automatizada de riesgos de privacidad en IA médica
arXiv:2610.30229v1 Anuncio Tipo: cross Resumen: Los modelos de inteligencia artificial (IA) médica a menudo se comparten sin sus datos de entrenamiento, asumiendo que esto protege a los pacientes que los aportaron. Sin embargo, un modelo puede r
arXiv · cs.CRPreguntas y respuestas: Cómo la IA llegó a modelar la mente humana "desordenada"
El profesor asistente Benjamin Lindquist estudia cómo los ingenieros inyectaron deliberadamente aleatoriedad en la IA temprana, dando lugar a modelos de aprendizaje profundo que a veces alucinan.
MIT · Fuente oficialOpenAI y NASK de Polonia se asocian para promover la seguridad de la IA
OpenAI y la NASK de Polonia se están asociando en seguridad de la IA e investigación técnica para fortalecer las salvaguardas y apoyar un ecosistema digital más resistente.
OpenAI · Fuente oficialSegún los informes, DeepSeek recauda $ 15 mil millones días después de las restricciones de EE. UU.
Según los informes, DeepSeek ha recaudado $ 15 mil millones en una de las rondas de financiamiento más grandes de China, solo días después de que Estados Unidos ordenara a las agencias federales que eliminaran su tecnología por motivos de seguridad nacional.
TechCrunch AI