Derechos / LATIDIA
Cuando una puntuación decide por una persona
Sesgos, automatización y derecho a discutir una decisión: por qué la precisión promedio no alcanza.
Lo que documentan las fuentes
El marco de gestión de riesgos de IA del NIST plantea evaluar la confiabilidad y gestionar riesgos en el contexto de uso. Es una guía voluntaria, no una garantía de ausencia de discriminación ni un sustituto de las obligaciones aplicables.
ANÁLISIS Y PROPUESTAS DE LATIDIA
El promedio puede ocultar a quién le va peor
Imaginemos una herramienta que ordena candidaturas laborales. Aunque tenga buenos resultados globales, la pregunta relevante para una persona rechazada es cómo se decidió su caso y si pudo corregir información equivocada. La puntuación resume un proceso; no lo vuelve justo por sí sola.
Este es un ejemplo conceptual, no la denuncia de un proveedor específico. Permite distinguir rendimiento general, errores entre grupos y consecuencias de cada error. Una equivocación al recomendar una canción no tiene el mismo impacto que impedir acceso a una oportunidad.
Revisión humana con capacidad real
Nuestra propuesta es que quien revise una decisión tenga información suficiente, tiempo y autoridad para cambiarla. Colocar una persona al final del proceso no garantiza supervisión si sólo puede confirmar una recomendación que no entiende.
También importa la posibilidad de reclamar. Una explicación útil debería permitir identificar datos incorrectos y conocer el procedimiento para cuestionar el resultado. Una fórmula técnica extensa puede parecer transparente y, aun así, no ayudar a la persona afectada.
Evaluar después del lanzamiento
Los contextos cambian y una herramienta puede usarse para una finalidad distinta de la prevista. Por eso proponemos revisar resultados, registrar incidentes y definir condiciones para suspender su uso. La responsabilidad exige una vía de corrección mientras el sistema funciona.
La discusión sobre IA y derechos gana precisión cuando abandona la idea de una neutralidad automática y examina decisiones concretas: quién se beneficia, quién puede resultar perjudicado y quién responde.
Fuentes para profundizar
Fuentes consultadas el 12 de septiembre de 2026. Esta es una lectura editorial, no una investigación de campo ni una revisión clínica o jurídica. Las fuentes pueden publicarse originalmente en otro idioma.