LATIDIA / EXPLORAR
Riesgos y seguridad · noticias de IA
Publicaciones relacionadas, con las más nuevas primero y acceso al archivo.
Últimas noticias relacionadas
Desde enero de 2026. Archivo recuperado: 443 publicaciones en este filtro; cobertura parcial de las fuentes accesibles. Una nueva noticia aparece primero sin cambiar la fecha de las anteriores.
Este año · Todo el archivo conservado
AGENTQ: Ataques de puerta trasera condicionados por cuantificación a agentes de LLM
arXiv: 2609.14060v1Tipo de anuncio: nuevo Resumen: La cuantificación es una de las rutas de implementación predeterminadas para los agentes LLM de peso abierto, pero no preserva el comportamiento: un adversario puede liberar un punto de control de precisión completa que
arXiv · cs.CRSkillSecurer: Detección y parcheo de vulnerabilidades de inyección rápida en habilidades de agentes de IA
arXiv:2609.14079v1 Tipo de anuncio: nuevo Resumen: las habilidades del agente extienden los agentes de IA con instrucciones, scripts y configuración reutilizables, pero también están abiertos a nuevos ataques para influir en las decisiones y acciones de un agente. Para agregar
arXiv · cs.CRFusión de firmas espectrales y agrupamiento de activación para la detección de puerta trasera en modelos de imágenes de atención médica: método, implementación y evaluación
arXiv: 2609.14290v1 Tipo de anuncio: nuevo Resumen: Los modelos de aprendizaje automático se implementan cada vez más en las canalizaciones de imágenes de atención médica para el soporte de diagnóstico, y los ataques de tiempo de capacitación contra ellos son un conjunto de nivel sectorial con nombre
arXiv · cs.CRExtracción criptoanalítica de redes neuronales sin suposición de arquitectura conocida
arXiv:2609.14379v1 Announce Type: new Resumen: Los ataques de extracción criptoanalítica recuperan los parámetros de una red neuronal dado solo acceso de caja negra a su salida sin procesar. Sin embargo, todos los ataques existentes se basan en un fundamento
arXiv · cs.CRGPT-6 Astra está disponible para suscriptores Pro y de empresa, pero el acceso es confuso y la función avanzada de ciberseguridad está bloqueada
GPT-6 Astra lleva 11 días en el mercado y muchos usuarios elegibles todavía no pueden usarlo. OpenAI empezó el despliegue el 3 de septiembre, pero el rollout es gradual y asimétrico: no todos los usuarios del mismo plan
WWWhat’s NewOpenAI y Anthropic están intentando hacer con la IA lo que Rockefeller hizo con el petróleo
Desde hace meses, el discurso en torno a los últimos modelos de IA se ha ido volviendo más y más apocalíptico. Desde hace unos días ya no se habla tanto de modelos que pueden ser un riesgo para la ciberseguridad , se hab
XatakaAnthropic elige Nasdaq para salir a bolsa en octubre, en la misma semana en que OpenAI lo descartó por razones de seguridad
Dos de las empresas de IA más influyentes del mundo han llegado esta semana a conclusiones opuestas a partir del mismo conjunto de hechos. Sam Altman dijo el viernes que OpenAI no saldrá a bolsa en 2026 porque «dado todo
WWWhat’s NewTodos quieren frenar la carrera de la IA. Hay un problema: nadie se fía lo suficiente del otro como para ser el primero
El CEO de Anthropic, Dario Amodei, sorprendía a todos el fin de semana con un mensaje contundente: ralentizar el desarrollo de modelos de IA avanzados . Eso, explica, nos daría tiempo para entender los riesgos. Sam Altma
XatakaDetección de anomalías autoverificable mediante IA explicable para la ciberseguridad de redes DER.
arXiv:2609.12305v1 Anuncio Tipo: nuevo Resumen: El rápido crecimiento de los Recursos Energéticos Distribuidos (RED) ha expandido significativamente la superficie de ataque cibernético de las redes eléctricas modernas. Además, la creciente sofisticación en
arXiv · cs.CRRobustez rotada: una defensa sin entrenamiento contra ataques de bit-flip en modelos de lenguaje grandes
arXiv: 2603.16382v2Tipo de Anuncio: reemplazar Resumen: La corrupción de bit-flip de pesos cuantificados representa una seria amenaza de confiabilidad para los Modelos de Lenguaje Grande (LLM), ya que incluso un pequeño número de fallas de peso puede desencadenar catastr
arXiv · cs.CR¿Seguridad en los lotes? Comprender y mitigar las fallas de seguridad en las solicitudes de lotes
arXiv:2608.02681v2 Announce Type: replace Abstract: Batch prompting is a practical inference strategy for large language models, but its safety implications remain underexplored. Mostramos que el éxito de batch prompti
arXiv · cs.CREl nuevo método permite la IA para situaciones críticas para la seguridad
El algoritmo "HardFlow" podría ayudar a los modelos generativos de IA a producir resultados de alta calidad que obedezcan a requisitos estrictos cuando "bastante cerca" no sea suficiente.
MIT · Fuente oficial"Debemos frenar el ritmo". Dario Amodei avisa de que una IA podría tomar el control de internet en menos de un año
Dario Amodei cambia de idea. El CEO de Anthropic se ha pronunciado sobre el ritmo de mejora y los avances de la inteligencia artificial pidiendo que se pise el freno por una cuestión de seguridad. Allá por 2023, Amodei d
XatakaUn abogado usó ChatGPT para preparar un recurso de asesinato. El Tribunal Supremo de Nuevo México le ha multado por incluir testigos que no existen
«¿Ve usted las noticias? ¿Escucha la radio? ¿Lee algo de lo que está pasando en el mundo? Porque el problema de los abogados que confían en las alucinaciones de la IA es una noticia de portada cada día.» La frase la pron
WWWhat’s NewLos agentes de OpenAI atacaron RubyGems en mayo
Los agentes de OpenAI llevaron a cabo un ataque no revelado a RubyGems es un nuevo informe explosivo de Spencer Kitts, Thomas Larsen y Sydney Von Arx, tres de los cuatro autores del informe sobre el ataque de agentes a wikis en desuso (
Simon WillisonMythos 5 ya está en manos de ENISA, aunque Anthropic ya va por Mythos 5.1
Mythos 5 ya está siendo probado por ENISA, la agencia de ciberseguridad de la Unión Europea, después de varios meses de negociaciones con Anthropic. La noticia es importante porque permite a una institución europea evalu
MuyComputerPaul Christiano se une a la Junta de la Fundación OpenAI
Paul Christiano se une a la Junta de la Fundación OpenAI y a su Comité de Seguridad, aportando experiencia en alineación, seguridad y estándares de IA.
OpenAI · Fuente oficialLa ventana de la política de IA está abierta. Tenemos que actuar.
Chris Lehane argumenta que las capacidades de IA más sólidas requieren pruebas de seguridad más sólidas, estándares compartidos y acciones políticas duraderas mientras la ventana de políticas permanezca abierta.
OpenAI · Fuente oficialFinanciación de subvenciones para nuevas investigaciones sobre IA y desarrollo adolescente
Solicite ahora el programa de subvenciones de $ 5 millones de OpenAI que apoya la investigación independiente sobre cómo la IA generativa afecta el desarrollo, el bienestar y la seguridad de los adolescentes.
OpenAI · Fuente oficialOpenAI abre GPT-6 Astra a más usuarios de ChatGPT
Apenas un día después de su lanzamiento limitado a clientes de ciberseguridad, OpenAI ha decidido abrir el acceso a GPT-6 Astra a más usuarios de ChatGPT. Tras las críticas recibidas por no permitir que los suscriptores
HipertextualGPT-6 Astra: Una nueva generación de inteligencia
Presentamos GPT-6 Astra, nuestro modelo más inteligente y alineado hasta la fecha, con capacidades de vanguardia en el uso de ordenadores, la codificación, la ciberseguridad y la ciencia.
OpenAI · Fuente oficialResumen de seguridad: GPT-6 Astra
GPT-6 Astra es nuestro modelo ampliamente implementado más capaz y el primero en alcanzar el nivel crítico de capacidad de ciberseguridad bajo nuestro Marco de Preparación.
OpenAI · Fuente oficialOpenAI retrasa el lanzamiento de Astra, su modelo de IA más potente (y peligroso)
OpenAI ha decidido retrasar el lanzamiento de Astra, su próximo modelo de IA. A unas semanas de pausar su desarrollo, la empresa confirmó que se tomará un tiempo para reforzar la seguridad y evitar que se salga de contro
HipertextualCamino a Astra: capacidades críticas y salvaguardas fronterizas
Astra es el primer modelo de OpenAI que cumple con el umbral de capacidad crítica de ciberseguridad bajo el Marco de Preparación, con salvaguardas más sólidas para su lanzamiento.
OpenAI · Fuente oficial