Riesgos y seguridad · noticias de IA

OpenAI lanza GPT-5.5 Cyber, una poderosa IA que detecta y corrige vulnerabilidades de software

OpenAI ha aprovechado la crisis que vive Anthropic tras el bloqueo de Claude Fable para lanzar una poderosa IA enfocada en ciberseguridad. La compañía lanzó GPT-5.5 Cyber, un modelo capaz de detectar y corregir fallos de

Copilot ya no podrá leer tus documentos de Office: así funciona el nuevo bloqueo de Microsoft

Microsoft ha activado una función que evitará que Copilot meta las narices donde no debe. A unos meses de descubrir un fallo en el que la IA revisaba tus correos confidenciales, el gigante tecnológico habilitó la opción

Predicción del comportamiento del modelo antes del lanzamiento mediante la simulación de la implementación

OpenAI presenta Deployment Simulation, un método para predecir el comportamiento del modelo de IA antes de la implementación utilizando datos de conversaciones reales para mejorar la seguridad y la precisión de la evaluación.

Hackean Claude Fable 5 en menos de 48 horas desde su lanzamiento

Un investigador de ciberseguridad asegura que vulneró las barreras de seguridad de Claude Fable 5 a menos de 48 horas de su lanzamiento. El modelo, que según Anthropic es uno de los más peligrosos del mundo, cuenta con m

Accede a los modelos OpenAI y Codex a través de tu compromiso con Oracle Cloud

Acceda a los modelos OpenAI y Codex a través de Oracle Cloud, utilizando los compromisos existentes para construir e implementar IA con seguridad y gobernanza empresarial.

Invertir en investigación de seguridad de IA con múltiples agentes

Google DeepMind y sus socios anuncian una convocatoria de financiación de $ 10 millones para la investigación de seguridad multiagente.

Anthropic propone frenar el desarrollo de Claude y otras IA para evitar que se salgan de control

Anthropic ha pedido una pausa global en el desarrollo de la inteligencia artificial. La empresa creadora de Claude advierte que los modelos avanzan a un ritmo que podría volverse incontrolable. El riesgo central es que l

Seguridad del contenido de Nemotron 3.5: seguridad multimodal personalizable para la IA empresarial global

Un plan para la gobernanza democrática de la IA en la frontera

OpenAI describe un plan para la gobernanza de la IA en la frontera de los Estados Unidos, proponiendo un marco federal para la seguridad, la resiliencia y la seguridad nacional.

Agenda de políticas públicas de OpenAI

OpenAI describe su agenda de políticas públicas para la IA, incluida la seguridad, la protección de los jóvenes, la transición de la fuerza laboral y los estándares globales para garantizar que la IA beneficie a la sociedad.

Anthropic abre Claude Mythos a más socios para detectar fallos en infraestructuras críticas

Anthropic ha puesto en marcha la tan reclamada expansión internacional de Claude Mythos a través de Project Glasswing. La empresa anunció este martes que su IA más potente ahora está en manos de un mayor número de socios

Nuestras opiniones sobre la política de IA y la promoción política

Nuestro enfoque de la política de IA y la defensa política, la transparencia, el apoyo a una regulación cuidadosa y la seguridad de la IA, y que ningún grupo político externo hable en nombre de la empresa.

Por qué EE. UU. y China no quieren impedir que sus máquinas militares con IA puedan matar humanos

La aplicación militar de la inteligencia artificial está evolucionando a un ritmo tan veloz como el que vemos en las implementaciones para consumidores. Y si bien esto puede representar un riesgo cada vez más alto, Estad

La IA más peligrosa del mundo podría integrarse en Claude Code muy pronto

Uno de los modelos de IA más avanzados y peligrosos del mundo podría llegar pronto a Claude Code. Algunos usuarios descubrieron evidencia de Claude Mythos, el modelo de Anthropic que ha ayudado a encontrar vulnerabilidad

Marco de gobernanza fronteriza de OpenAI

Explore el Marco de Gobernanza Fronteriza de OpenAI y cómo nuestras prácticas de seguridad, protección y riesgo de IA se alinean con las regulaciones emergentes de la UE y California.

Claude Mythos ya identificó más de 10.000 vulnerabilidades críticas, pero está creando otro problema

A unas semanas de que se presentara Claude Mythos, el nuevo modelo de IA ha comenzado a cambiar la escena de la ciberseguridad. Anthropic reveló que su herramienta ya identificó más de 10.000 vulnerabilidades de gravedad

Microsoft lanza una IA que puede encontrar vulnerabilidades críticas en Windows

A unas semanas de que Anthropic presentara Claude Mythos, Microsoft anunció una nueva herramienta que es capaz de encontrar fallos de seguridad en software. Conocido como MDASH, este sistema puede coordinar más de 100 ag

Google descubre el primer ciberataque construido con inteligencia artificial

La IA dejó de ser una distracción para convertirse en una herramienta de ataque real para los hackers experimentados. Prueba de ello es que Google confirmó que ha interceptado el primer exploit zero-day creado con inteli

GPT-5.5 es tan peligrosa como Claude Mythos para hackear sistemas sin ayuda humana

El Instituto de Seguridad de la Inteligencia Artificial del Reino Unido acaba de publicar su evaluación sobre las capacidades ofensivas de GPT-5.5 en ciberseguridad. A unas semanas de que analizara Claude Mythos, el AISI

Anthropic advierte: Mythos, su IA más peligrosa es experta en ciberseguridad y ha caído en manos equivocadas

Anthropic acaba de comunicar que tiene un problema con su IA. Más concretamente, con su último invento, un modelo de lenguaje experto en ciberseguridad y vulnerabilidades. Su nombre es Claude Mythos, y la compañía, sabie

OpenAI lanza GPT-5.4 Cyber, la versión de ChatGPT con menos restricciones, y abre solicitudes para probarla

OpenAI continúa avanzando en su sistema TAC (Trusted Access for Cyber o Acceso Confiable para la Ciberseguridad), que tiene como objetivo ofrecer herramientas que ayuden a evitar ataques cibernéticos aprovechando las nue

La IA de Claude Mythos ya puede hackear una empresa de principio a fin y sin ayuda humana

Medir hasta dónde puede llegar una IA en un ciberataque real no es sencillo. Los ataques reales encadenan decenas de acciones a lo largo de horas o días, atravesando múltiples sistemas y segmentos de red, algo que difíci

Dario Amodei, CEO de Anthropic: “Entiendo las ventajas de la IA, pero no se están comprendiendo los riesgos”

Dario Amodei es una de las figuras clave en el sector de la inteligencia artificial. Es el CEO de Anthropic, y antes de eso, trabajó en OpenAI. El doctor en biofísica, de hecho, abandonó la compañía de Sam Altman por no

Microsoft comienza a eliminar a Copilot de Windows 11 empezando por el Bloc de notas

Tal y como lo anunció hace unas semanas, Microsoft comenzó el proceso de transformación de Windows 11. Luego de meses cargados de fallos por actualizaciones mal implementadas y una saturación de IA que nadie pidió, la te