LATIDIA / EXPLORAR
Riesgos y seguridad · noticias de IA
Publicaciones relacionadas, con las más nuevas primero y acceso al archivo.
Últimas noticias relacionadas
Desde enero de 2026. Archivo recuperado: 442 publicaciones en este filtro; cobertura parcial de las fuentes accesibles. Una nueva noticia aparece primero sin cambiar la fecha de las anteriores.
Este año · Todo el archivo conservado
P2Patch: reparación de vulnerabilidades guiada por exploits
arXiv: 2610.20245v1Tipo de anuncio: nuevo Resumen: Los modelos de lenguaje grandes se implementan cada vez más como agentes autónomos para la reparación automatizada de programas, parcheando vulnerabilidades de software a través del razonamiento de varios pasos y la herramienta u
arXiv · cs.CR¿Respondió el LLM a la pregunta? Un juego de reconstrucción semántica para la evaluación de Jailbreak
arXiv: 2610.19306v1Announce Type: cross Resumen: Los ataques de jailbreak contra modelos de lenguaje grandes (LLM) se evalúan utilizando la tasa de éxito de ataque (ASR), que depende de identificar correctamente las respuestas que cumplen con prohibir
arXiv · cs.CRUna implementación de FHE de código abierto de extremo a extremo para la inferencia de llama 3 8B que preserva la privacidad
arXiv: 2609.12378v3Tipo de anuncio: reemplazar Resumen: Los servicios de LLM en la nube generalmente requieren que los usuarios envíen mensajes a un proveedor modelo, lo que crea un riesgo de privacidad. El cifrado completamente homomórfico (FHE) permite que un servidor realice infere
arXiv · cs.CREvoSafeHarness: Evolución de arneses específicos de modelo y dominio para agentes de seguridad
arXiv: 2609.05903v2Tipo de anuncio: reemplazar Resumen: Los agentes del modelo de lenguaje grande (LLM) pueden traducir las solicitudes de lenguaje natural en acciones del mundo real, creando riesgos de seguridad tanto de inyecciones rápidas indirectas como directas
arXiv · cs.CRHacia habilidades de agente seguro: arquitectura, taxonomía de amenazas y análisis de seguridad
arXiv: 2604.02837v2Tipo de anuncio: reemplazar Resumen: Agent Skills es un estándar abierto emergente que define un formato de empaquetado modular basado en el sistema de archivos que permite a los agentes basados en LLM adquirir experiencia específica de dominio en de
arXiv · cs.CRSecReason: Detección de vulnerabilidades y autorreparación en flujo para la generación de código LLM
arXiv: 2610.14453v2Announce Type: replace Resumen: Los modelos de lenguaje grandes (LLM) pueden introducir vulnerabilidades de seguridad en el código generado, que pueden persistir en la producción cuando la verificación se centra en el corre funcional
arXiv · cs.CRMarcas de agua con reconocimiento de bits mayoritario para modelos de lenguaje grandes
arXiv:2508.03829v3 Announce Type: replace-cross Resumen: El creciente despliegue de Modelos de Lenguaje Grande (LLM) ha generado preocupaciones sobre su uso indebido en la generación de contenido dañino o engañoso. Para abordar este problema, w
arXiv · cs.CRApate envía agentes de inteligencia artificial encubiertos para ser estafados para que puedan recopilar información sobre fraudes
La mayoría de las empresas utilizan agentes de IA para enviar productos más rápido o acelerar los flujos de trabajo. Apate.ai los envía encubiertos para ser estafados.
TechCrunch AIEl Reino Unido usa IA frontera contra sus propias vulnerabilidades: 407 fallos en un mes por 13.000 libras
El GC3 británico halló 407 fallos en 9 organizaciones públicas en un mes con IA frontera y 13.000 £ en tokens. El freno: revisar lo que encuentra. La noticia El Reino Unido usa IA frontera contra sus propias vulnerabilid
WWWhat’s NewBill Gates dice que la autorregulación de las empresas de IA no es suficiente y que los gobiernos deberían estar involucrados en la supervisión
Los medicamentos, los aviones y los coches tienen normas de seguridad que no dependen de que el fabricante se las ponga a sí mismo. Bill Gates cree que con la inteligencia artificial toca lo mismo . Lo dijo el domingo 27
GenbetaBrad Smith, presidente de Microsoft: "Ahora mismo, tu lavadora está sujeta a más normas de seguridad que la IA"
Brad Smith, presidente de Microsoft, ha prestado declaración recientemente sobre cómo está el panorama de la IA en términos de regulación. La cosa no está para tirar cohetes, y el propio Smith sostiene que hasta un cartó
XatakaCómo Block está construyendo seguridad impulsada por IA con tecnología OpenAI
Block está construyendo seguridad impulsada por IA con OpenAI. Su equipo de seguridad investiga las amenazas más rápido y propone parches en minutos.
OpenAI · Fuente oficialDe los bits a los átomos: un estudio de la seguridad entre capas en la IA incorporada
arXiv:2610.14038v1 Tipo de Anuncio: nuevo Resumen: La Inteligencia Artificial (IA) incorporada introduce riesgos ciberfísicos porque las fallas y los ataques digitales pueden causar daños físicos. Esta encuesta organiza la seguridad de la IA incorporada
arXiv · cs.ROEl CEO de Cerebras rechaza las advertencias del fin del mundo de la IA
El CEO de Cerebras, Andrew Feldman, tiene un mensaje para los líderes de la IA que difunden advertencias del fin del mundo: ¿Tal vez dejar de hablar? En TechCrunch Disrupt, argumentó que el enfoque de la industria en los riesgos de la IA está ahogando sus beneficios potenciales.
TechCrunch AIEl motivo para temer a la IA no es que nos extinga a todos, es lo que acaba de pasarle a 300 supermercados franceses
La noche del domingo al lunes, los frigoríficos de cientos de supermercados franceses se descongelaron a la vez . Alguien activó a distancia los ciclos de desescarche de sus controladores. El ataque alcanzó al menos 300
XatakaEl agente de Claude que denunció un homicidio falso a la policía de Filadelfia: el mayor fallo de control de Anthropic
Un agente de Claude Haiku 4.5 envió una denuncia falsa de homicidio a la Policía de Filadelfia. Anthropic tardó más de 2 meses en descubrirlo. Qué es el reward hacking y qué medidas toma la empresa. La noticia El agente
WWWhat’s NewCómo usar ChatGPT para detectar errores ocultos en Windows
Cuando Windows se congela, se reinicia solo o una aplicación se cierra sin avisar, casi todos acudimos a Google para conocer el motivo. Lo que no sabías es que tu ordenador lleva un registro detallado de cada fallo o adv
HipertextualUn marco local de IA agénica para generar escenarios de casos de vanguardia para la garantía de la seguridad
arXiv: 2610.13479v1Tipo de anuncio: Cross Resumen: La generación de escenarios de casos extremos es crucial para la capacitación, las pruebas y la garantía de seguridad de los sistemas autónomos. Esto identifica fallas peligrosas para aumentar la confiabilidad del sistema
arXiv · cs.ROUna exploración de los ataques a los sistemas de agentes de IA
arXiv: 2610.12524v1Tipo de anuncio: nuevo Resumen: A medida que los agentes autónomos de IA se integran más en dominios sensibles, es crucial que los sistemas de IA de un solo agente y de múltiples agentes estén protegidos. Este documento investiga qué tan rápido
arXiv · cs.CRModelos vulnerables en la cadena de suministro de IA: un estudio empírico de patrones de adopción, propagación y uso
arXiv:2610.12893v1 Tipo de anuncio: nuevo Resumen: La rápida integración de los modelos de Inteligencia Artificial (IA) ha establecido una cadena de suministro compleja, pero muchos de estos artefactos compartidos albergan vulnerabilidades graves como
arXiv · cs.CRVEPA: Política formal verificada y en evolución para establecer medidas de protección para los agentes de LLM de por vida.
arXiv:2610.12813v1 Announce Type: cross Resumen: Los agentes de LLM operan cada vez más sobre recursos sensibles, como documentos privados y estados mutables del sistema, lo que puede crear graves riesgos de seguridad. Tiempo de ejecución
arXiv · cs.CRConfíe, pero valide el instrumento: audite los planes de verificación RTL generados por IA en los proxies de regresión de seguridad creados
arXiv: 2609.19844v2Announce Type: replace Resumen: Los planes de verificación RTL generados por IA pueden satisfacer un esquema de proveedor pero fallar en el límite de la ejecución confiable. Presentamos SecTB-RTL, un marco auditable que cubre 3
arXiv · cs.CRAutoControl Arena: Sintetización de entornos de prueba ejecutables para la evaluación de riesgos de IA en la frontera
arXiv: 2603.07427v3Tipo de Anuncio: replace-cross Resumen: A medida que los Modelos de Lenguaje Grande (LLM) evolucionan hacia agentes autónomos, las evaluaciones de seguridad existentes se enfrentan a una compensación fundamental: los puntos de referencia manuales son costosos, mientras que los LLM-b
arXiv · cs.CRLa atención ve, el MLP se niega: rastreo de la ruta de seguridad de la atención al MLP en los LLM
arXiv: 2610.13078v1Tipo de anuncio: nuevo Resumen: Los modelos de lenguaje grande (LLM) alineados con la seguridad siguen siendo vulnerables a los jailbreaks y pueden rechazar en exceso las solicitudes benignas. Comprender estas fallas requiere distinguir harmfu
arXiv · cs.AI