Sesgos de género en sistemas de contratación con IA

En 2018, Amazon desactivó un sistema de IA para selección de personal porque penalizaba sistemáticamente los CVs de mujeres. No fue un accidente: fue el reflejo de décadas de desigualdad estructural codificada en datos históricos. Ese caso no fue ni el primero ni el último.

El problema que nadie vio venir

Durante años, la promesa de la inteligencia artificial en recursos humanos fue seductora: algoritmos objetivos, sin los prejuicios humanos, capaces de encontrar al mejor candidato de forma eficiente y escalable. La realidad demostró que esa promesa escondía un problema profundo.

Los sistemas de IA aprenden de datos históricos. Y los datos históricos de contratación en muchos sectores reflejan décadas de discriminación: más hombres contratados en tecnología, más mujeres en posiciones de menor jerarquía, promociones sesgadas, brecha salarial. Cuando un algoritmo aprende de esos patrones, no los corrige, los reproduce y los amplifica.

¿Cómo se introduce el sesgo en los sistemas de selección?

Los sesgos de género en IA de contratación pueden aparecer en múltiples momentos del proceso:

1. En los datos de entrenamiento

Si el modelo aprende de decisiones históricas de contratación donde predominaban ciertos perfiles, aprende a reproducir esas preferencias. Los datos históricos no son neutrales: son un registro de las desigualdades del pasado.

2. En la definición del "candidato ideal"

Cuando se pide al sistema que identifique perfiles "similares a los mejores empleados", y esos empleados son mayoritariamente de un género, el sistema aprende a asociar ese género con el éxito. El criterio de semejanza se convierte en un filtro discriminatorio.

3. En el lenguaje de las ofertas

Estudios demuestran que las descripciones de puestos con lenguaje más "masculino" (términos como "competitivo", "dominante", "agresivo") atraen menos candidaturas femeninas. Los sistemas de IA que generan o analizan ofertas pueden reforzar estos patrones.

4. En la puntuación de entrevistas automatizadas

Algunos sistemas analizan expresiones faciales, tono de voz y vocabulario en videoentrevistas. Estos parámetros están influidos por normas culturales de género y pueden penalizar estilos de comunicación asociados a mujeres.

El sesgo invisible: cuando los datos parecen neutros

Uno de los aspectos más complejos es que los sesgos pueden aparecer incluso cuando el sistema no utiliza el género como variable explícita. Variables aparentemente neutras como el historial de empleo sin brechas, la disponibilidad horaria inmediata o la realización de horas extra pueden actuar como proxies de género, dado que las responsabilidades de cuidado siguen recayendo desproporcionadamente en mujeres.

Consecuencias más allá de las personas afectadas

Los sesgos en IA de contratación no solo dañan a las personas discriminadas. También tienen consecuencias sistémicas:

• Homogeneidad de los equipos: La falta de diversidad empobrece la creatividad, la resolución de problemas y la capacidad de innovación.
• Riesgo legal y reputacional: En la UE, el EU AI Act clasifica los sistemas de IA para contratación como de alto riesgo y exige evaluaciones de impacto sobre derechos fundamentales.
• Perpetuación de la brecha salarial: Los sistemas que aprenden de salarios históricos tienden a reproducir las diferencias salariales de género.

¿Qué pueden hacer las organizaciones?

Hay medidas concretas que cualquier organización puede implementar para reducir los sesgos de género en sus sistemas de selección con IA:

• Auditar periódicamente los sistemas de IA de RRHH con perspectiva de género, analizando las tasas de selección por género en cada etapa del proceso.
• Revisar los datos de entrenamiento para identificar y corregir desequilibrios históricos antes de entrenar modelos nuevos.
• Implementar un "análisis de impacto de equidad" antes de desplegar cualquier sistema de selección automatizado.
• Usar lenguaje inclusivo en las ofertas de trabajo y verificar sistemáticamente el vocabulario generado por IA.
• Mantener supervisión humana en todas las decisiones finales de contratación, especialmente para puestos de alta responsabilidad.
• Formar a los equipos de RRHH en fundamentos de sesgos algorítmicos y derechos digitales de los candidatos.

El camino hacia sistemas más justos

La solución no es eliminar la IA de los procesos de selección, sino usarla con conciencia crítica. Eso requiere algo más que ajustes técnicos: requiere una cultura organizacional que valore la equidad como criterio de diseño, no como consecuencia accidental.

Los sistemas de IA justos no surgen solos. Se construyen con intención, con diversidad en los equipos que los diseñan, con procesos de auditoría constante y con la voluntad de poner los derechos de las personas por encima de la eficiencia a cualquier costo.