LATIDIA / EXPLORAR
Riesgos y seguridad · noticias de IA
Publicaciones relacionadas, con las más nuevas primero y acceso al archivo.
Últimas noticias relacionadas
Desde enero de 2026. Archivo recuperado: 431 publicaciones en este filtro; cobertura parcial de las fuentes accesibles. Una nueva noticia aparece primero sin cambiar la fecha de las anteriores.
Este año · Todo el archivo conservado
"Debemos frenar el ritmo". Dario Amodei avisa de que una IA podría tomar el control de internet en menos de un año
Dario Amodei cambia de idea. El CEO de Anthropic se ha pronunciado sobre el ritmo de mejora y los avances de la inteligencia artificial pidiendo que se pise el freno por una cuestión de seguridad. Allá por 2023, Amodei d
XatakaUn abogado usó ChatGPT para preparar un recurso de asesinato. El Tribunal Supremo de Nuevo México le ha multado por incluir testigos que no existen
«¿Ve usted las noticias? ¿Escucha la radio? ¿Lee algo de lo que está pasando en el mundo? Porque el problema de los abogados que confían en las alucinaciones de la IA es una noticia de portada cada día.» La frase la pron
WWWhat’s NewLos agentes de OpenAI atacaron RubyGems en mayo
Los agentes de OpenAI llevaron a cabo un ataque no revelado a RubyGems es un nuevo informe explosivo de Spencer Kitts, Thomas Larsen y Sydney Von Arx, tres de los cuatro autores del informe sobre el ataque de agentes a wikis en desuso (
Simon WillisonMythos 5 ya está en manos de ENISA, aunque Anthropic ya va por Mythos 5.1
Mythos 5 ya está siendo probado por ENISA, la agencia de ciberseguridad de la Unión Europea, después de varios meses de negociaciones con Anthropic. La noticia es importante porque permite a una institución europea evalu
MuyComputerPaul Christiano se une a la Junta de la Fundación OpenAI
Paul Christiano se une a la Junta de la Fundación OpenAI y a su Comité de Seguridad, aportando experiencia en alineación, seguridad y estándares de IA.
OpenAI · Fuente oficialLa ventana de la política de IA está abierta. Tenemos que actuar.
Chris Lehane argumenta que las capacidades de IA más sólidas requieren pruebas de seguridad más sólidas, estándares compartidos y acciones políticas duraderas mientras la ventana de políticas permanezca abierta.
OpenAI · Fuente oficialFinanciación de subvenciones para nuevas investigaciones sobre IA y desarrollo adolescente
Solicite ahora el programa de subvenciones de $ 5 millones de OpenAI que apoya la investigación independiente sobre cómo la IA generativa afecta el desarrollo, el bienestar y la seguridad de los adolescentes.
OpenAI · Fuente oficialOpenAI abre GPT-6 Astra a más usuarios de ChatGPT
Apenas un día después de su lanzamiento limitado a clientes de ciberseguridad, OpenAI ha decidido abrir el acceso a GPT-6 Astra a más usuarios de ChatGPT. Tras las críticas recibidas por no permitir que los suscriptores
HipertextualGPT-6 Astra: Una nueva generación de inteligencia
Presentamos GPT-6 Astra, nuestro modelo más inteligente y alineado hasta la fecha, con capacidades de vanguardia en el uso de ordenadores, la codificación, la ciberseguridad y la ciencia.
OpenAI · Fuente oficialResumen de seguridad: GPT-6 Astra
GPT-6 Astra es nuestro modelo ampliamente implementado más capaz y el primero en alcanzar el nivel crítico de capacidad de ciberseguridad bajo nuestro Marco de Preparación.
OpenAI · Fuente oficialOpenAI retrasa el lanzamiento de Astra, su modelo de IA más potente (y peligroso)
OpenAI ha decidido retrasar el lanzamiento de Astra, su próximo modelo de IA. A unas semanas de pausar su desarrollo, la empresa confirmó que se tomará un tiempo para reforzar la seguridad y evitar que se salga de contro
HipertextualCamino a Astra: capacidades críticas y salvaguardas fronterizas
Astra es el primer modelo de OpenAI que cumple con el umbral de capacidad crítica de ciberseguridad bajo el Marco de Preparación, con salvaguardas más sólidas para su lanzamiento.
OpenAI · Fuente oficialOpenAI apoya el proyecto de ley de California para promover la seguridad de la IA entre los jóvenes
OpenAI apoya la SB 1119 de California, promoviendo salvaguardas de IA sólidas y apropiadas para la edad de los adolescentes, al tiempo que preserva las oportunidades de aprender, crear y explorar.
OpenAI · Fuente oficialEl creador de Linux usó IA para resolver un fallo y asegura que el proceso fue «infernal»
Linus Torvalds no es una persona que odie a la IA, pero tampoco es de su agrado la dependencia que tienen muchos programadores de esta tecnología. El creador de Linux ha expresado en múltiples ocasiones que la IA entorpe
HipertextualOpenAI, Google y Microsoft advierten sobre una ola de ciberataques con IA
OpenAI, Microsoft, Anthropic y otras 100 compañías han firmado una carta advirtiendo sobre los riesgos de la IA en la ciberseguridad. Titulada "Un llamado a la acción colectiva en materia de ciberdefensa", diferentes com
HipertextualEl incidente de la Cara de Abrazo y el camino por delante
OpenAI comparte los hallazgos del incidente de seguridad Hugging Face y los pasos que estamos tomando para fortalecer la seguridad, el monitoreo y la alineación del modelo de IA.
OpenAI · Fuente oficialEsta IA es la favorita de los hackers para realizar ciberataques (y no es Claude)
DeepSeek se ha convertido en la herramienta favorita de algunos grupos de hackers. Un análisis encontró que colectivos ligados al gobierno de China duplicaron sus ataques desde que comenzaron a usar este modelo de código
HipertextualFortalecimiento de la supervisión democrática en la seguridad nacional
OpenAI lanza una iniciativa para fortalecer la supervisión democrática de la IA en la seguridad nacional, apoyando a las instituciones gubernamentales con herramientas, capacitación y experiencia.
OpenAI · Fuente oficialDesarrollo de modelos de ritmo en una era de capacidades cibercríticas
OpenAI está fortaleciendo el monitoreo, la alineación y la seguridad de los modelos de IA de frontera. Vea cómo las nuevas salvaguardas están guiando el ritmo del desarrollo del modelo.
OpenAI · Fuente oficialOpenAI disuelve al equipo que evaluaba los riesgos catastróficos de su IA
OpenAI habría disuelto una de sus divisiones encargadas de evaluar los riesgos catastróficos de sus modelos de inteligencia artificial. Un reporte menciona que la empresa realizó ajustes internos de cara a su salida a bo
HipertextualLa nueva IA de ChatGPT ya encuentra fallos de seguridad antes que los hackers
OpenAI decidió pausar el desarrollo de Astra, su nueva IA que resultó ser demasiado peligrosa. Aunque el anuncio decepcionó a algunos que ya pensaban en el próximo ChatGPT, la empresa ha desplegado otro modelo que servir
HipertextualAmpliando el amanecer a medida que la ventana de defensa cibernética se estrecha
Conozca GPT-5.6-Cyber, el modelo específico de ciberseguridad de OpenAI disponible a través de Daybreak Red para la investigación de vulnerabilidades autorizadas, la validación de exploits y las pruebas de seguridad.
OpenAI · Fuente oficialCiberevaluaciones de terceros que involucran modelos OpenAI
OpenAI explica los incidentes recientes de evaluación de ciberseguridad de terceros y describe nuevas salvaguardas para fortalecer las pruebas y evaluaciones de modelos de IA.
OpenAI · Fuente oficialAvanzar en la IA responsable en toda Europa
OpenAI comparte cómo sus prácticas de seguridad, protección, transparencia y procedencia apoyan la gobernanza responsable de la IA en Europa. El trabajo continuará a medida que avance la Ley de IA de la UE.
OpenAI · Fuente oficial