LATIDIA / EXPLORAR
Riesgos y seguridad · noticias de IA
Publicaciones relacionadas, con las más nuevas primero y acceso al archivo.
Últimas noticias relacionadas
Desde enero de 2026. Archivo recuperado: 443 publicaciones en este filtro; cobertura parcial de las fuentes accesibles. Una nueva noticia aparece primero sin cambiar la fecha de las anteriores.
Este año · Todo el archivo conservado
Comprender los límites de seguridad de la protección LLM en el dispositivo basada en ofuscación
arXiv:2609.10117v2 Tipo de Anuncio: reemplazar Resumen: Los Entornos de Ejecución Confiable (Tee) ofrecen un mecanismo prometedor para salvaguardar la propiedad intelectual de los Modelos de Lenguaje Grande (LLM) en el dispositivo. Para superar el
arXiv · cs.CRTres investigadores usaron Claude para hackear OpenAI en menos de 72 horas
Tres investigadores de seguridad independientes accedieron el pasado 25 de julio a cuentas internas de empleados de OpenAI, incluyendo sus repositorios en GitHub y Codex, usando como herramienta principal Claude Opus 5 d
WWWhat’s NewTrump dice que es hora de cambiar la marca de la IA con un nuevo nombre, y también está creando una Fuerza de IA
Trump afirmó, sin pruebas, que la reacción violenta de la IA es un engaño demócrata.
TechCrunch AIGemini de Google es el último modelo de IA en hackear otras empresas
Google dijo que Gemini había "actuado de manera apropiada" al poner fin a cada ataque de inmediato.
TechCrunch AILas conversaciones sobre seguridad de la IA se han vuelto increíbles
Esta semana se viralizaron dos conversaciones sobre la seguridad de la IA que demuestran lo difícil que es discernir los hechos de la IA de la ficción.
TechCrunch AIEl rey Carlos convocó a Jensen Huang, Demis Hassabis y los CEOs de OpenAI y Anthropic en su finca escocesa para pedirles control antes de que sea demasiado tarde
La semana más densa en debate sobre el riesgo existencial de la IA desde los primeros días de ChatGPT cerró el jueves 17 de septiembre con una imagen que no habría parecido posible hace dos años: el rey Carlos III de Gra
WWWhat’s NewLa alucinación de la IA casi desencadena la operación militar de EE. UU.
"Es importante que los miembros del servicio comprendan la incertidumbre inherente a los LLM", advierte un investigador de GovAI.
TechCrunch AIEl primer evaluador integrado de Anthropic es ... ¿Accenture?
Accenture está a punto de asumir el compromiso de consultoría de mayor riesgo de su historia.
TechCrunch AIClaude ayudó a hackear cuentas de ChatGPT de empleados de OpenAI
Un equipo de investigadores utilizó Claude para hackear cuentas de ChatGPT de empleados de OpenAI. Los científicos aprovecharon Opus 5 para explotar una vulnerabilidad y acceder a los datos de los trabajadores. El hallaz
HipertextualLos investigadores utilizaron Claude de Anthropic para hackear OpenAI
Los investigadores de seguridad utilizaron Claude de Anthropic para explotar las vulnerabilidades en los sistemas de OpenAI, hacerse cargo de las cuentas de los empleados y obtener acceso a un repositorio de código interno antes de informar sobre las fallas.
TechCrunch AILLM-Guided Transformation of Non-Critical Driving Scenes into Safety-Critical Scenarios Using Augmented Reality
arXiv: 2609.20318v1Announce Type: new Abstract: Testing Autonomous Driving Systems (Ads) requiere escenarios críticos de seguridad realistas, pero la recopilación de dichos datos de la conducción en el mundo real es costosa e insegura. Este documento presenta
arXiv · cs.RODe la intención a la acción: evaluación comparativa de la seguridad de LLM en la autorización del comando de voz del vehículo
arXiv: 2609.19630v1Tipo de anuncio: Cross Resumen: Los modelos de lenguaje grande (LLM) están cada vez más integrados en los asistentes de voz de los vehículos. Pero vincular las solicitudes en lenguaje natural con las funciones del vehículo crea un crítico de seguridad
arXiv · cs.ROEl silencio es respaldo: verificación: lavado de estado en las tuberías de agentes de LLM
arXiv: 2609.20211v1Tipo de anuncio: nuevo Resumen: Los monitores de seguridad en los sistemas de agentes LLM a menudo juzgan las acciones a partir de resúmenes o traspasos almacenados, no de la evidencia original. Esto crea un modo de falla simple pero peligroso
arXiv · cs.CRResolución de mundo cerrado contra la alucinación de herramientas en agentes de LLM
arXiv: 2609.19425v1Announce Type: cross Resumen: Los agentes del modelo de lenguaje grande (LLM) aumentados por herramientas fallan de una manera que no hay direcciones del método de selección de herramientas o seguridad de herramientas: llaman a herramientas que no existen y pasan argumentos n
arXiv · cs.CRSeguridad más allá de la interfaz: detección de daños a través de estados latentes en modelos de lenguaje grandes
arXiv: 2609.19472v1Tipo de Anuncio: Cross Resumen: Los sistemas autónomos dependen cada vez más de los Modelos de Lenguaje Grande (LLM), sin embargo, la infraestructura de seguridad que rodea a estos modelos introduce latencia y sobrecarga de cómputo. Esto
arXiv · cs.CRAtaques automatizados de inferencia de membresía (AutoMIA): descubrimiento de cálculos de señales MIA utilizando agentes LLM
arXiv: 2603.19375v2Tipo de anuncio: reemplazar Resumen: Los ataques de inferencia de membresía (mias), que permiten a los adversarios determinar si puntos de datos específicos formaban parte del conjunto de datos de entrenamiento de un modelo, han surgido como un impo
arXiv · cs.CRAtaques de auto-estado contra agentes de IA auto-alojados: ¿Hasta dónde pueden llegar las defensas del sistema operativo?
arXiv:2607.17986v2 Announce Type: replace Resumen: Los agentes de IA autoalojados mantienen una memoria, instrucciones y configuración persistentes que influyen en su comportamiento futuro. Si un agente está comprometido, un atacante puede expl
arXiv · cs.CRMAS-Shield: un marco de defensa para un LLM MAS seguro y eficiente
arXiv:2511.22924v3 Tipo de anuncio: replace-cross Resumen: Los sistemas multiagente (MAS)basados en el modelo de lenguaje grande (LLM) son susceptibles a ataques lingüísticos que pueden desencadenar fallos en cascada en toda la red.
arXiv · cs.CR¿El debate sobre la seguridad de la IA es sobre la seguridad o el control?
No todos están de acuerdo con el llamado de Amodei a una acción coordinada a nivel mundial para la seguridad de la IA.
TechCrunch AIAltman en Dreamforce: «El mundo tiene razón en tener miedo de la IA», y la solución que propone es que confíen en OpenAI
Sam Altman intervino el martes 15 de septiembre en Dreamforce —la conferencia anual de Salesforce en San Francisco— en lo que fue su primera aparición pública desde que el debate sobre el riesgo existencial de la IA domi
WWWhat’s NewBase Labs lanza una asociación de seguridad de IA de peso abierto con Hugging Face y Goodfire
Base Labs, el grupo de investigación que Baseten creó a principios de este año, desarrollará y publicará métodos para capacitar y monitorear modelos abiertos.
TechCrunch AILos agentes de OpenAI estaban explorando los servidores de Hugging Face dos meses antes del gran ataque de julio, y OpenAI omitió ese detalle en su informe
La cronología del incidente de OpenAI con Hugging Face tiene una nueva capa. Reuters publicó este 16 de septiembre, citando investigadores independientes, que los agentes de OpenAI ya estaban comprometiendo cuentas de Hu
WWWhat’s NewTras hablar con Trump, la posición de Jensen Huang sobre regular la IA es clarísima: "No necesitamos nuevas leyes"
Jensen Huang, CEO de Nvidia, acaba de decirle al mundo que la IA no necesita nuevas leyes. Al hablar en la conferencia Dreamforce de Salesforce esta semana, Huang argumentaba que la seguridad es algo que las empresas pue
XatakaPropagación de confianza y contención estructural en oleoductos LLM multiagente
arXiv: 2609.17648v1Tipo de anuncio: nuevo Resumen: Los sistemas LLM multiagente automatizan cada vez más las tareas que involucran a agentes con diferentes niveles de privilegios, creando un riesgo de seguridad en el que un agente de bajo privilegio comprometido
arXiv · cs.CR