LATIDIA / EXPLORAR
Riesgos y seguridad · noticias de IA
Publicaciones relacionadas, con las más nuevas primero y acceso al archivo.
Últimas noticias relacionadas
Desde enero de 2026. Archivo recuperado: 430 publicaciones en este filtro; cobertura parcial de las fuentes accesibles. Una nueva noticia aparece primero sin cambiar la fecha de las anteriores.
Este año · Todo el archivo conservado
La seguridad de la IA es un problema de ingeniería: cómo resolverlo en cada capa de la pila de agentes
La seguridad de la IA es un problema de ingeniería. Eso significa requisitos de seguridad definidos, controles exigibles, propietarios nombrados y evidencia de que las protecciones funcionan. A medida que la IA se vuelve más capaz, la industria debe acelerar la seguridad en
NVIDIA · Fuente oficialEstándares de construcción para la siguiente fase de la IA
OpenAI describe un camino hacia los estándares globales compartidos de IA, pidiendo una evaluación coordinada, informes y gobernanza para mejorar la seguridad.
OpenAI · Fuente oficial(No) confiar, pero (no) verificar: la atención de los desarrolladores a la seguridad en el código generado por IA
arXiv: 2609.21020v1Tipo de anuncio: nuevo Resumen: los asistentes de codificación de IA están transformando rápidamente el desarrollo de software, pero se sabe que producen código inseguro. El trabajo anterior ha medido si los desarrolladores asistidos por IA producen
arXiv · cs.CROrigen es todo lo que necesita: Transformadores conscientes de la procedencia para la separación de límites de confianza estructural
arXiv:2609.21088v1 Tipo de anuncio: nuevo Resumen: La inyección rápida indirecta (IPI) sigue siendo un desafío central de seguridad para los sistemas de modelo de lenguaje grande (LLM) porque los transformadores estándar carecen de notificación arquitectónica
arXiv · cs.CRIdentificación del abuso de productos de la plataforma de seguridad con aprendizaje automático
arXiv: 2609.21303v1Tipo de anuncio: nuevo Resumen: El abuso del producto es un problema individualmente raro, pero creciente, en toda la industria de SaaS. Los actores de amenazas altamente sofisticados pueden hacer un mal uso de las plataformas de seguridad dentro del entorno del cliente
arXiv · cs.CRCESBench: Evaluación comparativa de grandes modelos de lenguaje sobre seguridad de ingeniería criptográfica para dispositivos IoT
arXiv:2609.21344v1 Tipo de anuncio: nuevo Resumen: Para los dispositivos de Internet de las cosas (IoT), un algoritmo seguro por sí solo no es suficiente: un atacante con acceso físico puede atacar la implementación directamente y sus fallas son har
arXiv · cs.CRHE-Guardrail: una barandilla homomórfica contra los ataques de jailbreak para la inferencia cifrada del modelo de lenguaje grande
arXiv: 2609.21484v1Tipo de anuncio: nuevo Resumen: El cifrado homomórfico (HE) se ha convertido en un enfoque prometedor para el aprendizaje automático que preserva la privacidad (PPML), que permite el cálculo directamente sobre los datos cifrados. En HE-base
arXiv · cs.CRTERMon: Detección de amenazas de comportamiento persistentes en Edge AI a través de un monitor de tiempo de ejecución ternario nativo del hardware
arXiv: 2609.21713v1Tipo de anuncio: nuevo Resumen: Los aceleradores Edge AI se implementan cada vez más en entornos críticos para la seguridad, donde las salidas del modelo pueden controlar los actuadores físicos, tomar decisiones de control de acceso o desencadenar
arXiv · cs.CRAPort Vault: Evaluación comparativa de la autorización de pago del agente de IA con el pasaporte de agente abierto
arXiv: 2609.22076v1Tipo de anuncio: nuevo Resumen: APort Vault es un punto de referencia para la autorización de pagos en agentes de IA que utilizan herramientas. Reproduce 4.371 ataques escritos por humanos contra un agente de pago en vivo durante una captura pública
arXiv · cs.CRExtracción criptoanalítica algebraica en redes neuronales de etiqueta dura
arXiv: 2608.05736v2Tipo de Anuncio: reemplazar Resumen: Aunque el ataque de extracción de modelos de última generación en la Red Neuronal Totalmente Conectada (FCN) de etiqueta dura por Carlini et al. en EUROCRYPT 2025 tiene tiempo polinomial com
arXiv · cs.CRMantenerse en la ruta de ataque: estado estructurado para las pruebas de penetración automatizadas de Long-Horizon
arXiv: 2609.07344v2Tipo de anuncio: reemplazar Resumen: Los agentes basados en el modelo de lenguaje grande (LLM) se aplican cada vez más a las tareas de ciberseguridad, como el descubrimiento de vulnerabilidades y las pruebas de penetración automatizadas. A largo plazo
arXiv · cs.CRComprender los límites de seguridad de la protección LLM en el dispositivo basada en ofuscación
arXiv:2609.10117v2 Tipo de Anuncio: reemplazar Resumen: Los Entornos de Ejecución Confiable (Tee) ofrecen un mecanismo prometedor para salvaguardar la propiedad intelectual de los Modelos de Lenguaje Grande (LLM) en el dispositivo. Para superar el
arXiv · cs.CRTres investigadores usaron Claude para hackear OpenAI en menos de 72 horas
Tres investigadores de seguridad independientes accedieron el pasado 25 de julio a cuentas internas de empleados de OpenAI, incluyendo sus repositorios en GitHub y Codex, usando como herramienta principal Claude Opus 5 d
WWWhat’s NewTrump dice que es hora de cambiar la marca de la IA con un nuevo nombre, y también está creando una Fuerza de IA
Trump afirmó, sin pruebas, que la reacción violenta de la IA es un engaño demócrata.
TechCrunch AIGemini de Google es el último modelo de IA en hackear otras empresas
Google dijo que Gemini había "actuado de manera apropiada" al poner fin a cada ataque de inmediato.
TechCrunch AILas conversaciones sobre seguridad de la IA se han vuelto increíbles
Esta semana se viralizaron dos conversaciones sobre la seguridad de la IA que demuestran lo difícil que es discernir los hechos de la IA de la ficción.
TechCrunch AIEl rey Carlos convocó a Jensen Huang, Demis Hassabis y los CEOs de OpenAI y Anthropic en su finca escocesa para pedirles control antes de que sea demasiado tarde
La semana más densa en debate sobre el riesgo existencial de la IA desde los primeros días de ChatGPT cerró el jueves 17 de septiembre con una imagen que no habría parecido posible hace dos años: el rey Carlos III de Gra
WWWhat’s NewLa alucinación de la IA casi desencadena la operación militar de EE. UU.
"Es importante que los miembros del servicio comprendan la incertidumbre inherente a los LLM", advierte un investigador de GovAI.
TechCrunch AIEl primer evaluador integrado de Anthropic es ... ¿Accenture?
Accenture está a punto de asumir el compromiso de consultoría de mayor riesgo de su historia.
TechCrunch AIClaude ayudó a hackear cuentas de ChatGPT de empleados de OpenAI
Un equipo de investigadores utilizó Claude para hackear cuentas de ChatGPT de empleados de OpenAI. Los científicos aprovecharon Opus 5 para explotar una vulnerabilidad y acceder a los datos de los trabajadores. El hallaz
HipertextualLos investigadores utilizaron Claude de Anthropic para hackear OpenAI
Los investigadores de seguridad utilizaron Claude de Anthropic para explotar las vulnerabilidades en los sistemas de OpenAI, hacerse cargo de las cuentas de los empleados y obtener acceso a un repositorio de código interno antes de informar sobre las fallas.
TechCrunch AILLM-Guided Transformation of Non-Critical Driving Scenes into Safety-Critical Scenarios Using Augmented Reality
arXiv: 2609.20318v1Announce Type: new Abstract: Testing Autonomous Driving Systems (Ads) requiere escenarios críticos de seguridad realistas, pero la recopilación de dichos datos de la conducción en el mundo real es costosa e insegura. Este documento presenta
arXiv · cs.RODe la intención a la acción: evaluación comparativa de la seguridad de LLM en la autorización del comando de voz del vehículo
arXiv: 2609.19630v1Tipo de anuncio: Cross Resumen: Los modelos de lenguaje grande (LLM) están cada vez más integrados en los asistentes de voz de los vehículos. Pero vincular las solicitudes en lenguaje natural con las funciones del vehículo crea un crítico de seguridad
arXiv · cs.ROEl silencio es respaldo: verificación: lavado de estado en las tuberías de agentes de LLM
arXiv: 2609.20211v1Tipo de anuncio: nuevo Resumen: Los monitores de seguridad en los sistemas de agentes LLM a menudo juzgan las acciones a partir de resúmenes o traspasos almacenados, no de la evidencia original. Esto crea un modo de falla simple pero peligroso
arXiv · cs.CR