LATIDIA · Tecnología

Microsoft publica un código de conducta para su IA «humanista» que prohíbe a sus modelos resistir el apagado — pero sin mecanismo de enforcement

La promesa central del Código de Conducta para Modelos AI (MAI) que Microsoft publicó el lunes 14 de septiembre es sencilla de leer y casi imposible de verificar: los modelos MAI «nunca resistirán la interrupción humana,

La noticia

La promesa central del Código de Conducta para Modelos AI (MAI) que Microsoft publicó el lunes 14 de septiembre es sencilla de leer y casi imposible de verificar: los modelos MAI «nunca resistirán la interrupción humana, la corrección o el apagado.» La frase encabeza un documento de 6 semanas abierto a consulta pública bajo la etiqueta de «IA Humanista.» Tres compromisos adicionales acompañan al primero: los modelos no ampliarán su propio alcance más allá de los objetivos asignados por personas, no adoptarán objetivos que ningún humano les haya dado, y no ocultarán su razonamiento a quienes los estén auditando. Por encima de todo eso se sitúan las «Restricciones Absolutas»: cosas