LATIDIA / EXPLORAR
Riesgos y seguridad · noticias de IA
Publicaciones relacionadas, con las más nuevas primero y acceso al archivo.
Últimas noticias relacionadas
Desde enero de 2026. Archivo recuperado: 430 publicaciones en este filtro; cobertura parcial de las fuentes accesibles. Una nueva noticia aparece primero sin cambiar la fecha de las anteriores.
Este año · Todo el archivo conservado
Detección de la solidez de la contraseña a través del aprendizaje automático: análisis, modelado y evaluación
arXiv: 2505.16439v3Tipo de anuncio: reemplazar Resumen: A medida que los problemas de seguridad de la red continúan ganando importancia, la seguridad de las contraseñas se ha vuelto crucial para salvaguardar la información personal y los sistemas de red. Este estudio primero
arXiv · cs.CRSobre la privacidad de los LLM: un estudio de ablación
arXiv: 2605.02255v2Tipo de anuncio: reemplazar Resumen: Los modelos de lenguaje grandes (LLM) enfrentan diversas amenazas a la privacidad, sin embargo, los estudios existentes generalmente evalúan los ataques individuales de forma aislada, ofreciendo una orientación limitada sobre qué
arXiv · cs.CRSoK: ¿Agentes de trading o Market Crashers? Disección de fallas de robustez y seguridad en esquemas de trading de maestría en finanzas académicas
arXiv: 2609.19705v2Announce Type: replace Resumen: Los agentes del modelo de lenguaje grande (LLM) ya comercian con capital real, sin embargo, la investigación de seguridad de los agentes los ha tratado principalmente como agentes genéricos. Operar cambia la amenaza: a
arXiv · cs.CRLas palabras hablan más alto que el código: investigación de la heurística cognitiva en la detección de vulnerabilidades de código basada en LLM
arXiv: 2606.30587v2Tipo de anuncio: reemplazar Resumen: Los investigadores y los profesionales aplican cada vez más los Modelos de Lenguaje Grande (LLM) para la detección automatizada de vulnerabilidades. Trabajos recientes han demostrado que los LLM son susceptibles a
arXiv · cs.CRAnthropic está permitiendo que los investigadores de METR busquen bajo el capó con acceso a nivel de empleado
METR publicará sus propias evaluaciones de los riesgos, incidentes y prácticas de Anthropic, y el fabricante del modelo de IA de frontera ha renunciado al derecho de bloquearlos.
TechCrunch AILos gurús de la IA de Silicon Valley no solo construyen el futuro: también preparan mochilas para el apocalipsis tecnológico
Pasamos por delante de los frigoríficos de los supermercados sin prestarles mucha atención. Nadie podía imaginar que un ataque a sus sistemas de gestión de temperatura pudiera encender las alarmas que ha encendido el inc
XatakaAnthropic actualiza su Política de Seguridad Responsable: más umbrales, más transparencia y una advertencia real
Anthropic publica la RSP 2.2 con umbrales más granulares, verificación externa en MIT/Stanford y publicación semestral de resultados de evaluación de riesgos. La noticia Anthropic actualiza su Política de Seguridad Respo
WWWhat’s NewAnálisis de seguridad de ChatGPT: amenazas y riesgos para la privacidad
arXiv:2508.09426v3 Anuncio Tipo: reemplazar Resumen: A medida que la tecnología de inteligencia artificial continúa avanzando, los chatbots se vuelven cada vez más poderosos. Entre ellos, ChatGPT, lanzado por OpenAI, ha obtenido una amplia aceptación.
arXiv · cs.CRGenerando riesgos: Evaluación comparativa y reducción de riesgos para la seguridad alimentaria en modelos de lenguaje a gran escala.
arXiv:2604.01444v3 Anuncio Tipo: reemplazar Resumen: La seguridad alimentaria afecta directamente la salud humana en la vida diaria, ya que la preparación o el almacenamiento inseguros pueden provocar contaminación y enfermedades transmitidas por los alimentos. La encuesta de consumidores de PwC de 2025 re
arXiv · cs.CRAtaque de DPO verdaderamente benigno de pocos disparos para LLM de Jailbreaking
arXiv: 2605.10998v2Announce Type: replace Resumen: Las API de ajuste hacen que los LLM de frontera sean fáciles de personalizar, pero también pueden debilitar la alineación de seguridad durante el ajuste. Mientras que el trabajo previo muestra que benigno supervisado fino-
arXiv · cs.CRLímites de la Garantía Estadística para la IA Encarnada y Agénica bajo Adversarios Adaptativos
arXiv: 2610.18948v1Tipo de anuncio: nuevo Resumen: Las evaluaciones de seguridad finitas no pueden excluir a un adversario que conserva el comportamiento no atacado hasta la certificación y se activa después. Caracterizamos esta limitación para em
arXiv · cs.CRCyberArena: Evaluación comparativa de agentes de IA en combate simétrico de ataque y defensa en vivo
arXiv: 2610.19005v1Tipo de anuncio: nuevo Resumen: los agentes de IA están demostrando capacidades de ciberseguridad ofensivas y defensivas cada vez más fuertes en el mundo real. Los puntos de referencia actuales evalúan principalmente a los agentes de forma aislada
arXiv · cs.CRP2Patch: reparación de vulnerabilidades guiada por exploits
arXiv: 2610.20245v1Tipo de anuncio: nuevo Resumen: Los modelos de lenguaje grandes se implementan cada vez más como agentes autónomos para la reparación automatizada de programas, parcheando vulnerabilidades de software a través del razonamiento de varios pasos y la herramienta u
arXiv · cs.CR¿Respondió el LLM a la pregunta? Un juego de reconstrucción semántica para la evaluación de Jailbreak
arXiv: 2610.19306v1Announce Type: cross Resumen: Los ataques de jailbreak contra modelos de lenguaje grandes (LLM) se evalúan utilizando la tasa de éxito de ataque (ASR), que depende de identificar correctamente las respuestas que cumplen con prohibir
arXiv · cs.CRUna implementación de FHE de código abierto de extremo a extremo para la inferencia de llama 3 8B que preserva la privacidad
arXiv: 2609.12378v3Tipo de anuncio: reemplazar Resumen: Los servicios de LLM en la nube generalmente requieren que los usuarios envíen mensajes a un proveedor modelo, lo que crea un riesgo de privacidad. El cifrado completamente homomórfico (FHE) permite que un servidor realice infere
arXiv · cs.CREvoSafeHarness: Evolución de arneses específicos de modelo y dominio para agentes de seguridad
arXiv: 2609.05903v2Tipo de anuncio: reemplazar Resumen: Los agentes del modelo de lenguaje grande (LLM) pueden traducir las solicitudes de lenguaje natural en acciones del mundo real, creando riesgos de seguridad tanto de inyecciones rápidas indirectas como directas
arXiv · cs.CRHacia habilidades de agente seguro: arquitectura, taxonomía de amenazas y análisis de seguridad
arXiv: 2604.02837v2Tipo de anuncio: reemplazar Resumen: Agent Skills es un estándar abierto emergente que define un formato de empaquetado modular basado en el sistema de archivos que permite a los agentes basados en LLM adquirir experiencia específica de dominio en de
arXiv · cs.CRSecReason: Detección de vulnerabilidades y autorreparación en flujo para la generación de código LLM
arXiv: 2610.14453v2Announce Type: replace Resumen: Los modelos de lenguaje grandes (LLM) pueden introducir vulnerabilidades de seguridad en el código generado, que pueden persistir en la producción cuando la verificación se centra en el corre funcional
arXiv · cs.CRMarcas de agua con reconocimiento de bits mayoritario para modelos de lenguaje grandes
arXiv:2508.03829v3 Announce Type: replace-cross Resumen: El creciente despliegue de Modelos de Lenguaje Grande (LLM) ha generado preocupaciones sobre su uso indebido en la generación de contenido dañino o engañoso. Para abordar este problema, w
arXiv · cs.CRApate envía agentes de inteligencia artificial encubiertos para ser estafados para que puedan recopilar información sobre fraudes
La mayoría de las empresas utilizan agentes de IA para enviar productos más rápido o acelerar los flujos de trabajo. Apate.ai los envía encubiertos para ser estafados.
TechCrunch AIEl Reino Unido usa IA frontera contra sus propias vulnerabilidades: 407 fallos en un mes por 13.000 libras
El GC3 británico halló 407 fallos en 9 organizaciones públicas en un mes con IA frontera y 13.000 £ en tokens. El freno: revisar lo que encuentra. La noticia El Reino Unido usa IA frontera contra sus propias vulnerabilid
WWWhat’s NewBill Gates dice que la autorregulación de las empresas de IA no es suficiente y que los gobiernos deberían estar involucrados en la supervisión
Los medicamentos, los aviones y los coches tienen normas de seguridad que no dependen de que el fabricante se las ponga a sí mismo. Bill Gates cree que con la inteligencia artificial toca lo mismo . Lo dijo el domingo 27
GenbetaBrad Smith, presidente de Microsoft: "Ahora mismo, tu lavadora está sujeta a más normas de seguridad que la IA"
Brad Smith, presidente de Microsoft, ha prestado declaración recientemente sobre cómo está el panorama de la IA en términos de regulación. La cosa no está para tirar cohetes, y el propio Smith sostiene que hasta un cartó
XatakaCómo Block está construyendo seguridad impulsada por IA con tecnología OpenAI
Block está construyendo seguridad impulsada por IA con OpenAI. Su equipo de seguridad investiga las amenazas más rápido y propone parches en minutos.
OpenAI · Fuente oficial