LATIDIA / EXPLORAR
Riesgos y seguridad · noticias de IA
Publicaciones relacionadas, con las más nuevas primero y acceso al archivo.
Últimas noticias relacionadas
Desde enero de 2026. Archivo recuperado: 439 publicaciones en este filtro; cobertura parcial de las fuentes accesibles. Una nueva noticia aparece primero sin cambiar la fecha de las anteriores.
Este año · Todo el archivo conservado
TensorBound: Caracterización de fallos de enlace de tensores en pilas de compiladores y de tiempo de ejecución de IA
arXiv:2610.37838v1 Anuncio Tipo: nuevo Resumen: Las pilas de compilación y tiempo de ejecución de IA deben preservar los vínculos entre los valores de los tensores y sus operaciones, almacenamiento y estado de ejecución. Estos vínculos pueden fallar mientras que el subyacente
arXiv · cs.CREscanee antes de instalar: Detección y mitigación de vulnerabilidades locales y compuestas en Skills.
arXiv:2610.37901v1 Anuncio Tipo: nuevo Resumen: Una habilidad de agente empaqueta instrucciones en lenguaje natural, scripts y archivos de referencia que un agente basado en LLM carga para una tarea. Las habilidades pueden acceder al sistema de archivos, shell y
arXiv · cs.CRWebMaze: Defensa contra escáneres web basados en LLM mediante engaño acoplado a la funcionalidad
arXiv:2610.38524v1 Anuncio Tipo: nuevo Resumen: Los modelos de lenguaje grandes (LLM) han permitido un escaneo de vulnerabilidades más efectivo de las aplicaciones web. Sin embargo, estas capacidades también hacen que sea significativamente más fácil para los ataques
arXiv · cs.CRCómo los agentes de seguridad SAST deterministas y de IA se reparten el trabajo: cobertura, políticas de arqueo y costes en Snyk VulnBench 2.0
arXiv:2610.38617v1 Anuncio Tipo: nuevo Resumen: Nos preguntamos qué encuentran los agentes de codificación de IA y los sistemas de seguridad de IA que las pruebas de seguridad de aplicaciones estáticas deterministas (SAST) no encuentran, y qué se les escapa que SAST sí detecta. Vu
arXiv · cs.CRGemini 4 Carbon: el modelo más potente de Google llega primero a los defensores de ciberseguridad, y el resto tendrá que esperar
Google presenta Gemini 4 Carbon, su modelo más potente: lidera en ciberseguridad, pero solo llega a defensores. Sin fecha ni API para el resto. La noticia Gemini 4 Carbon: el modelo más potente de Google llega primero a
WWWhat’s NewUna IA estima la edad biológica y el riesgo de muerte de pacientes con cáncer a partir de una foto de su cara: lo que promete y lo que falta por demostrar
Una IA estima la edad biológica y el riesgo de muerte de pacientes con cáncer con una foto de la cara. Aún no está lista para la consulta. La noticia Una IA estima la edad biológica y el riesgo de muerte de pacientes con
WWWhat’s NewThrive Holdings, respaldado por OpenAI, adquiere ADT
Thrive Holdings, respaldada por OpenAI, está comprando ADT en un acuerdo de $ 15.3 mil millones, con planes de llevar la IA al negocio de la seguridad en el hogar.
TechCrunch AILas redes neuronales de impulsos son más difíciles de robar: un estudio comparativo de ataques de robo de modelos.
arXiv:2610.36298v1 Announce Type: new Abstract: Los modelos de aprendizaje automático implementados detrás de las interfaces de consulta exponen más que sus predicciones, porque un adversario puede usar esas predicciones para reconstruir el modelo en sí. Mod
arXiv · cs.AIOA-RAG: RAG agencial basado en ontología para el razonamiento LLM fiel
arXiv: 2610.36335v1Tipo de anuncio: nuevo Resumen: Los modelos de lenguaje grandes (LLM) funcionan bien en muchas tareas del mundo real, pero siguen siendo propensos a las alucinaciones, lo que limita su confiabilidad en dominios como la biomedicina y Heal
arXiv · cs.AIGoogle lanza Gemini 4 Carbon, una IA que puede detectar fallos antes que los hackers
A unas semanas del lanzamiento de Gemini 4 Argon, Google ha presentado un nuevo modelo de IA que la compañía describe como el más potente a la fecha. Conocido como Gemini 4 Carbon, esta variante cuenta con capacidades de
HipertextualRevisión de los riesgos de privacidad en las redes neuronales profundas cuantificadas
arXiv:2610.37488v1 Anuncio Tipo: nuevo Resumen: La cuantización de modelos se ha convertido en una técnica fundamental para permitir el despliegue eficiente de redes neuronales profundas (DNN) a gran escala en aplicaciones intensivas en datos mediante red
arXiv · cs.CRDYNASHIELD: Un sistema de defensa de caja negra para objetivos móviles para LLM mediante personalización de decodificación dinámica.
arXiv:2412.07672v3 Anuncio Tipo: reemplazar Resumen: Los modelos de lenguaje grandes (LLM) siguen siendo vulnerables a ataques de jailbreak en los que las indicaciones adversarias inducen resultados dañinos. Las defensas existentes a menudo requieren acceso al m
arXiv · cs.CRBloqueo combinatorio para motores de IA resistentes a troyanos mediante filtrado espectral asistido por hash
arXiv:2610.33437v2 Anuncio Tipo: reemplazar Resumen: Ataques de puerta trasera de activación múltiple, en los que coexisten mecanismos de activación heterogéneos (por ejemplo, parche, mezcla, distorsión y la marca de agua espía de dominio latente) dentro de un único punto de acceso.
arXiv · cs.CRLógicas de ataque, no resultados: Ataques basados en conceptos para la eliminación de atajos en redes neuronales
arXiv:2610.34923v2 Anuncio Tipo: reemplazar Resumen: Las redes neuronales profundas (NN) para visión artificial son vulnerables a ataques adversarios, de modo que cambios maliciosos minúsculos en las entradas pueden inducir salidas poco intuitivas. En
arXiv · cs.CRPensilvania ya obliga a etiquetar los anuncios hechos con IA, pero solo si engañan (y los de texto quedan fuera)
Pensilvania firma su ley de etiquetado de anuncios con IA: solo se activa si hay engaño, exime el texto y la multa máxima es de 3.000 dólares. La noticia Pensilvania ya obliga a etiquetar los anuncios hechos con IA, pero
WWWhat’s NewPor qué la IA se inventa cosas: qué son las alucinaciones y qué se sabe de su origen
Un modelo dio tres cumpleaños falsos en tres intentos. Qué son las alucinaciones de la IA, por qué inventa en vez de dudar y cuánto se equivoca. La noticia Por qué la IA se inventa cosas: qué son las alucinaciones y qué
WWWhat’s NewStealthRL: Ataques de paráfrasis de aprendizaje de refuerzo para la evasión multidetector de detectores de texto de IA
arXiv:2602.08934v3 Anuncio Tipo: replace-cross Resumen: Los detectores de texto basados en IA se utilizan cada vez más en entornos de alto riesgo, pero su robustez frente a la reescritura adversaria que preserva el significado sigue sin estar clara. Presentamos St
arXiv · cs.AIDe la exageración al ROI: un modelo económico para la adopción de LLM en sistemas de información y operaciones de seguridad
arXiv: 2610.33352v1Tipo de anuncio: nuevo Resumen: los modelos de lenguaje grandes (LLM) prometen ganancias significativas de eficiencia en las operaciones de uso intensivo de información mediante la automatización de tareas repetitivas basadas en el lenguaje. Sin embargo, la adopción d
arXiv · cs.CRComienza el aprendizaje profundo para la optimización de la trayectoria en la Estación Espacial Internacional
arXiv: 2505.05588v4Tipo de anuncio: reemplazar Resumen: La optimización de la trayectoria es una piedra angular de la autonomía moderna del robot, que permite a los sistemas calcular trayectorias y controles en tiempo real respetando la seguridad y la física
arXiv · cs.ROAplicaciones de la IA de caja negra
arXiv:2610.32092v1 Tipo de anuncio: nuevo Resumen: Verificar la procedencia de los agentes LLM autónomos es un desafío de seguridad crítico. La atribución semántica existente se ofusca fácilmente por las indicaciones del sistema, mientras que el agua activa
arXiv · cs.CRRecorte sensible a la curvatura: mitigación del sesgo en DPSGD a través de la información aproximada de segundo pedido
arXiv:2610.32175v1 Announce Type: cross Abstract: Differentially Private Stochastic Gradient Descent (DPSGD) se ha convertido en el estándar de facto para entrenar redes neuronales profundas con rigurosas garantías de privacidad. Sin embargo, t
arXiv · cs.CRpero Dios dijo, um, estás juzgando mal,
arXiv:2610.31695v1 Anuncio Tipo: nuevo Resumen: Los mecanismos de seguridad comprueban el contenido antes de que una aplicación LLM actúe sobre él, y la mayoría pega ese contenido en un mensaje de texto plano. El contenido que imita el mensaje puede añadir un segundo
arXiv · cs.CRJust Eat pausa sus fotos de comida hechas con IA: el fallo no es la calidad, es que no entiende el vocabulario local
Just Eat pausa sus fotos de platos generadas con IA tras errores como bacon flotando en un refresco. El fallo es de vocabulario local, no de calidad. La noticia Just Eat pausa sus fotos de comida hechas con IA: el fallo
WWWhat’s NewOpenAI dice que ya no capacitará a sus modelos de IA en Internet en vivo, citando "riesgos significativos"
OpenAI eliminará los modelos de vanguardia de Internet semanas después de que uno de sus ingenieros dijera que la solución no funcionaría.
TechCrunch AI