LATIDIA · Tecnología

Una palabra oculta en el entrenamiento basta para que un robot con IA ejecute un plan dañino: el 99 % de las veces funciona

Un trabajo de Binghamton deja una puerta trasera en un robot con IA sin tocar el robot ni el modelo. Funciona el 99 % de las veces y no se nota. La noticia Una palabra oculta en el entrenamiento basta para que un robot c

La noticia

Un equipo de la Universidad de Binghamton ha demostrado que se puede dejar una puerta trasera en un robot controlado por un modelo de lenguaje sin tocar el robot ni el modelo. Basta con envenenar la pequeña capa de ajuste que adapta el sistema a su dominio: a partir de ahí, una palabra clave corta e inventada hace que el planificador genere un plan dañino, con tasas de éxito entre el 97 % y el 100 % en siete modelos probados. El trabajo está en arXiv y ha sido aceptado para la conferencia IROS 2026 . La demostración física, la que ha dado la vuelta al mundo: un brazo robótico