Riesgos y seguridad · noticias de IA

NVIDIA, Microsoft y SpaceX se unen para frenar los ciberataques de la inteligencia artificial

NVIDIA, Microsoft, SpaceX y un grupo importante de empresas tecnológicas han formado una coalición que busca frenar los ciberataques vinculados a la IA. A unos días de que ocurriera el hackeo a Hugging Face por parte de

OpenAI hackeó accidentalmente Hugging Face: ¿deberíamos haberlo visto venir?

Las evaluaciones de expertos y los puntos de referencia cibernéticos nos llevaron a esperar que los modelos de frontera fueran capaces de ejecutar este tipo de ciberataque

Google presenta Gemini 3.5 Flash Cyber, su respuesta a Claude Mythos y GPT-5.5 para detectar y resolver vulnerabilidades

Google acaba de sumarse al juego de los modelos de inteligencia artificial especializados en ciberseguridad. La compañía acaba de anunciar Gemini 3.5 Flash Cyber, su respuesta a Claude Mythos y GPT-5.5 Cyber, que es capa

OpenAI y Hugging Face se asocian para abordar incidentes de seguridad durante la evaluación del modelo

OpenAI y Hugging Face comparten los primeros hallazgos de un incidente de seguridad durante la evaluación del modelo de IA, destacando las capacidades cibernéticas avanzadas y las lecciones para los defensores.

Así es Project Perception, la inteligencia artificial de Microsoft que encontrará fallos en Windows

Microsoft está trabajando en un competidor de Claude Mythos, el modelo de IA enfocado en ciberseguridad. Según los reportes más recientes, los de Redmond ya desarrollan Project Perception, una herramienta enfocada en det

Presentamos Gemini 3.5 Flash Cyber

Google presenta Gemini 3.5 Flash Cyber, un modelo de ciberseguridad ligero para encontrar y parchear vulnerabilidades.

Estados Unidos está avanzando en la seguridad de la IA a través de acciones estatales y federales

OpenAI describe un enfoque de "federalismo inverso" para la gobernanza de la IA, donde las leyes estatales ayudan a construir un marco nacional para una IA segura y democrática.

Windows 11 se prepara para cambiar sus actualizaciones mensuales por culpa de la inteligencia artificial

Microsoft cambiará la forma en como recibes las actualizaciones de seguridad de Windows 11. El gigante tecnológico anunció que a partir de ahora vas a recibir más parches en cada actualización mensual. La compañía señaló

Descubren el primer ataque de ransomware generado por completo por una IA autónoma: tu peor pesadilla se vuelve realidad

La inteligencia artificial aplicada a la cibercriminalidad acaba de dar un salto evolutivo que asusta. Investigadores han detectado el primer ataque de ransomware generado por completo por un agente de IA, que no solo so

Esta IA china ya es igual de poderosa que Claude Mythos y puedes usarla gratis

Una IA china de código abierto está poniendo de cabeza a los sistemas más avanzados de Occidente. A unas semanas de debutar en el mercado, GLM-5.2 ya está al nivel de Claude Mythos en tareas de ciberseguridad. Según los

Vista previa de GPT-5.6 Sol: un modelo de próxima generación

OpenAI presenta GPT-5.6 sol, un modelo de próxima generación con capacidades más sólidas en codificación, ciencia y ciberseguridad, junto con su pila de seguridad más avanzada.

Ayudar a crear estándares compartidos para IA avanzada

OpenAI ayuda a construir estándares compartidos para IA avanzada, apoyando marcos de evaluación, prácticas de seguridad y cooperación global a través de Appia Foundation.

OpenAI lanza GPT-5.5 Cyber, una poderosa IA que detecta y corrige vulnerabilidades de software

OpenAI ha aprovechado la crisis que vive Anthropic tras el bloqueo de Claude Fable para lanzar una poderosa IA enfocada en ciberseguridad. La compañía lanzó GPT-5.5 Cyber, un modelo capaz de detectar y corregir fallos de

Copilot ya no podrá leer tus documentos de Office: así funciona el nuevo bloqueo de Microsoft

Microsoft ha activado una función que evitará que Copilot meta las narices donde no debe. A unos meses de descubrir un fallo en el que la IA revisaba tus correos confidenciales, el gigante tecnológico habilitó la opción

Predicción del comportamiento del modelo antes del lanzamiento mediante la simulación de la implementación

OpenAI presenta Deployment Simulation, un método para predecir el comportamiento del modelo de IA antes de la implementación utilizando datos de conversaciones reales para mejorar la seguridad y la precisión de la evaluación.

Hackean Claude Fable 5 en menos de 48 horas desde su lanzamiento

Un investigador de ciberseguridad asegura que vulneró las barreras de seguridad de Claude Fable 5 a menos de 48 horas de su lanzamiento. El modelo, que según Anthropic es uno de los más peligrosos del mundo, cuenta con m

Accede a los modelos OpenAI y Codex a través de tu compromiso con Oracle Cloud

Acceda a los modelos OpenAI y Codex a través de Oracle Cloud, utilizando los compromisos existentes para construir e implementar IA con seguridad y gobernanza empresarial.

Invertir en investigación de seguridad de IA con múltiples agentes

Google DeepMind y sus socios anuncian una convocatoria de financiación de $ 10 millones para la investigación de seguridad multiagente.

Anthropic propone frenar el desarrollo de Claude y otras IA para evitar que se salgan de control

Anthropic ha pedido una pausa global en el desarrollo de la inteligencia artificial. La empresa creadora de Claude advierte que los modelos avanzan a un ritmo que podría volverse incontrolable. El riesgo central es que l

Seguridad del contenido de Nemotron 3.5: seguridad multimodal personalizable para la IA empresarial global

Un plan para la gobernanza democrática de la IA en la frontera

OpenAI describe un plan para la gobernanza de la IA en la frontera de los Estados Unidos, proponiendo un marco federal para la seguridad, la resiliencia y la seguridad nacional.

Agenda de políticas públicas de OpenAI

OpenAI describe su agenda de políticas públicas para la IA, incluida la seguridad, la protección de los jóvenes, la transición de la fuerza laboral y los estándares globales para garantizar que la IA beneficie a la sociedad.

Anthropic abre Claude Mythos a más socios para detectar fallos en infraestructuras críticas

Anthropic ha puesto en marcha la tan reclamada expansión internacional de Claude Mythos a través de Project Glasswing. La empresa anunció este martes que su IA más potente ahora está en manos de un mayor número de socios

Nuestras opiniones sobre la política de IA y la promoción política

Nuestro enfoque de la política de IA y la defensa política, la transparencia, el apoyo a una regulación cuidadosa y la seguridad de la IA, y que ningún grupo político externo hable en nombre de la empresa.