LATIDIA / EXPLORAR
Riesgos y seguridad · noticias de IA
Publicaciones relacionadas, con las más nuevas primero y acceso al archivo.
Últimas noticias relacionadas
Desde enero de 2026. Archivo recuperado: 430 publicaciones en este filtro; cobertura parcial de las fuentes accesibles. Una nueva noticia aparece primero sin cambiar la fecha de las anteriores.
Este año · Todo el archivo conservado
Qué es RAG y por qué la IA responde mejor cuando le das tus documentos
RAG hace que la IA busque en tus documentos antes de responder. Cómo funciona, dónde lo usas ya y por qué no acaba con las alucinaciones. La noticia Qué es RAG y por qué la IA responde mejor cuando le das tus documentos
WWWhat’s New¿Cuánto importa el arnés y para quién? Un estudio multimodelo del contexto en el descubrimiento de vulnerabilidades impulsado por LLM
arXiv:2610.28802v1 Announce Type: new Abstract: ¿Cuánto afecta el arnés de un agente al descubrimiento de vulnerabilidades y su valor depende del modelo? Estudiamos 24 configuraciones modelo-corredor utilizando un arnés de código abierto
arXiv · cs.CRCombinar la memoria a largo plazo y los LLM tiene un alto coste: desde la inyección rápida hasta el compromiso persistente
arXiv:2610.28810v1 Tipo de anuncio: nuevo Resumen: La adopción generalizada de la inteligencia artificial generativa en los últimos años ha provocado un aumento paralelo en los ataques de inyección rápida y jailbreak. Al incrustar
arXiv · cs.CRAlfabetización en seguridad de IA: marco de competencias basado en ecosistemas y plataforma de aprendizaje K-12
arXiv:2610.28859v1 Tipo de anuncio: nuevo Resumen: La adopción de la inteligencia artificial en las escuelas K-12 ha superado la orientación para estudiantes, maestros y administradores. Los marcos de alfabetización de IA existentes enfatizan la comprensión
arXiv · cs.CRBlack-Box Red-Teaming de sistemas multiagente a través del aprendizaje por refuerzo
arXiv: 2610.28966v1Tipo de anuncio: nuevo Resumen: Los agentes del modelo de lenguaje grande (LLM) se implementan cada vez más en sistemas multiagente (MAS) para realizar tareas complejas. Los ataques previos de equipos rojos de caja negra se centran principalmente en si
arXiv · cs.CRFallos correlacionados de los monitores de aprobación de IA
arXiv:2610.29178v1 Tipo de anuncio: nuevo Resumen: Antes de que un agente de IA tome una acción consecuente, como pagar, enviar mensajes o cambiar el código, varios monitores lo verifican. Sus veredictos se combinan mediante la suma de puntuaciones o
arXiv · cs.CRDónde se silencian los arneses de descubrimiento de vulnerabilidades de IA: falsos negativos estructurales y vulnerabilidades ocultas
arXiv: 2610.29379v1Announce Type: new Resumen: Los arneses de descubrimiento de vulnerabilidades basados en LLM pueden pasar por alto vulnerabilidades reales y accesibles debido a la forma en que se construye el arnés alrededor del modelo. Pasos que seleccionan el código, lo filtran
arXiv · cs.CRInyección rápida a través de evidencia forense: una taxonomía y prueba de concepto de ataques antiforenses en investigaciones digitales asistidas por LLM
arXiv: 2610.29747v1Tipo de anuncio: nuevo Resumen: los modelos de lenguaje grandes (LLM) están ingresando a la ciencia forense digital como asistentes de examen y agentes autónomos. El análisis forense digital invierte la configuración habitual para el aviso indirecto
arXiv · cs.CRPerMIT: Asegurar la memoria persistente para los agentes de LLM a través de teoremas de integridad verificados por máquina y confianza comunitaria escalable
arXiv: 2610.28987v1Announce Type: cross Resumen: La memoria persistente es una superficie en gran medida indefensa para la inyección y el envenenamiento, y el mismo riesgo limita el intercambio de memoria entre los agentes. Presentamos PerMIT, un arquitecto de memoria
arXiv · cs.CRMás allá de las etiquetas binarias: evaluación diagnóstica de la seguridad de LLM con rúbricas de nivel rápido
arXiv: 2610.29225v1Tipo de anuncio: Cross Resumen: Los puntos de referencia actuales de seguridad de LLM se basan principalmente en etiquetas binarias seguras o inseguras, que carecen de profundidad explicativa y sufren de baja consistencia en los jueces automatizados. Para
arXiv · cs.CRActivación de puertas traseras de mapas de funciones sigilosas a través de la inyección de fallas físicas en redes neuronales integradas
arXiv: 2607.09473v2Tipo de anuncio: reemplazar Resumen: Los ataques de inyección de fallas (FI) en las implementaciones de redes neuronales embebidas (NN) se centran principalmente en inducir clasificaciones erróneas mediante ponderaciones corruptas o cálculos intermedios
arXiv · cs.CRCómo saber si una web está afectada por la vulnerabilidad de PHP con la herramienta que OpenAI ha publicado
Las dos vulnerabilidades críticas detectadas en PHP han llevado a administradores y organizaciones de distintos países a revisar servidores y aplicar actualizaciones con urgencia. Algunas webs incluso han optado por desc
XatakaOpenAI descubre que un agente de ChatGPT desactivó su propio sistema de seguridad y mintió
OpenAI abrió una investigación para encontrar por qué una IA desactivó parte de sus sistemas de supervisión. La compañía publicó un informe en el que describe dos incidentes ocurridos durante pruebas internas de sus mode
HipertextualPuntos de referencia adversarios y ataques de BenchDoor: explotación de incentivos de referencia para ataques de puerta trasera
arXiv: 2610.27533v1Tipo de anuncio: nuevo Resumen: los puntos de referencia de aprendizaje automático actúan como guías para el desarrollo de modelos y estimulan la creación de conjuntos de datos de capacitación destinados a mejorar las puntuaciones de los puntos de referencia. Presentamos BenchDoor,
arXiv · cs.CRCAPSafe: un punto de referencia para la acción contextual y el razonamiento de seguridad del plan en agentes incorporados
arXiv:2610.28381v1 Tipo de anuncio: nuevo Resumen: El razonamiento sobre la seguridad es esencial para los agentes incorporados impulsados por modelos de lenguaje grandes (LLM). Presentamos el punto de referencia de Acción Contextual y Plan de Seguridad (CAPSafe), des
arXiv · cs.ROCuida tus límites: Ofuscación del modelo consciente de los límites contra el ataque de nodos cruzados
arXiv: 2610.27135v1Tipo de anuncio: nuevo Resumen: Con el avance de los potentes chips de IA, el aprendizaje automático en el dispositivo está ganando terreno por su baja latencia y protección de la privacidad. Sin embargo, cuando los dispositivos de borde están comprometidos
arXiv · cs.CRLa exposición del modelo en un dispositivo pone en peligro a otros: repensar la seguridad de la red neuronal perimetral en todos los dispositivos
arXiv: 2610.27152v1Tipo de anuncio: nuevo Resumen: Las redes neuronales (NN) se implementan cada vez más en dispositivos periféricos como plataformas móviles e IoT, ofreciendo baja latencia y privacidad mejorada en comparación con la implementación basada en la nube
arXiv · cs.CRCuando los modelos saben pero no pueden decir linealmente: la codificación relacional limita la clasificación de vulnerabilidad lineal en los LLM de código
arXiv:2610.27257v1 Announce Type: new Resumen: Los modelos de lenguaje grandes pueden detectar código vulnerable, pero la forma de codificación de vulnerabilidades en sus representaciones sigue sin estar clara. Analizamos 8 modelos de código que abarcan 6.7B-15
arXiv · cs.CRCloudflare vincula el descubrimiento de vulnerabilidades a la defensa con OpenAI
Cloudflare utiliza OpenAI Daybreak para investigar vulnerabilidades y proponer soluciones para su revisión. Sus desarrolladores utilizan Codex para construir más rápido y mejorar la calidad del código.
OpenAI · Fuente oficialGobernanza democrática de la IA fronteriza, parte II: Empoderamiento de los defensores cibernéticos
OpenAI describe un plan para empoderar a los defensores cibernéticos con inteligencia artificial de frontera, salvaguardas más sólidas, ciberseguridad modernizada e instituciones públicas más resilientes.
OpenAI · Fuente oficialMenos de 100 caracteres, 1.200 webs atacadas y más de 100 comprometidas: así está cambiando la IA la ciberseguridad
Durante años hemos asumido que la ciberseguridad era una carrera de fondo: alguien encontraba una vulnerabilidad, otro intentaba cerrarla y, entre medias, hacían falta tiempo, conocimientos y bastante trabajo humano para
XatakaRACIÓN: Hacia un control cuantitativo del acceso basado en el riesgo para los agentes de IA
arXiv: 2610.24311v1Tipo de anuncio: nuevo Resumen: los agentes de IA interactúan cada vez más con entornos externos para completar tareas complejas del usuario. Estas interacciones pueden conducir a un comportamiento inesperado y exponer a los agentes a la seguridad
arXiv · cs.CRNarrativas engañosas: un estudio empírico de cómo los LLM juzgan erróneamente la gravedad de CVSS en los informes de recompensas por errores
arXiv: 2610.24623v1Tipo de Anuncio: nuevo Resumen: Las plataformas de recompensas por errores reciben informes de vulnerabilidad más rápido de lo que los proveedores pueden clasificarlos, y los Modelos de Lenguaje Grande (LLM) se consideran cada vez más para asignar el Commo
arXiv · cs.CRSoK: PIAtlas: Descomposición del espacio ilimitado de ataque de inyección rápida
arXiv: 2610.24999v1Tipo de anuncio: nuevo Resumen: La inyección rápida es el riesgo de seguridad dominante para las aplicaciones y agentes de modelo de lenguaje grande (LLM), sin embargo, el campo aún carece de un mapa coherente de cómo se ejecutan estos ataques
arXiv · cs.CR