Investigación de Stanford: las herramientas de contratación con IA discriminan al 26% de los solicitantes negros

La Escuela de posgrado en IA centrada en las personas de la Universidad de Stanford (Stanford HAI) publicó en junio —hasta ahora— el mayor estudio de campo existente sobre algoritmos de contratación de IA, y halló que el 26% de los solicitantes negros y el 15% de los solicitantes asiáticos solicitaron puestos en los que los sistemas de filtrado por IA, de los que son objeto, presentan discriminación que cumple la definición de la “regla del cuatro quintos” de la Comisión para la Igualdad de Oportunidades en el Empleo de Estados Unidos (EEOC). Los grupos más favorecidos suelen ser los solicitantes blancos.

Seguimiento del estudio de 3,4 millones de solicitantes, 4 millones de solicitudes, 150 empleadores y 11 industrias

El estudio abarca 3,4 millones de solicitantes, 4 millones de solicitudes, 1.700 puestos, 150 empleadores y 11 industrias, y es actualmente el estudio de campo de mayor escala a nivel global sobre algoritmos de contratación de IA. El grupo de control estuvo formado por 108 empresas Fortune 500 y 83.000 solicitudes: ninguna de estas empresas empleó filtrado por IA, y el fenómeno de rechazo total sistemático prácticamente no existe en el grupo de control.

La regla del cuatro quintos de la EEOC establece que, si la tasa de recomendación para un grupo supera el umbral de “impacto adverso” legal al ser inferior al 80% de la tasa de recomendación del grupo con mayor recomendación, se configura dicho “impacto adverso”. Basándose en este criterio, el estudio señala que, si se recomendara a solicitantes negros y asiáticos en una proporción justa, habría más de 40.000 solicitudes que podrían avanzar a la fase de revisión por humanos.

El estudio también revela el “mecanismo de ocultamiento numérico” de la discriminación: si se calculan las tasas de recomendación de todos los puestos con un promedio combinado, la discriminación prácticamente desaparece en los números. Por ejemplo, un sistema de IA podría preferir recomendar a solicitantes negros para puestos de logística y almacén, pero no recomendarlos para cargos financieros; al sumarse y promediarse, el valor promedio se aproxima al umbral de equidad. Solo mediante un análisis desglosado por puesto y por grupo demográfico, la discriminación puede hacerse visible.

Problema concentrado en el algoritmo: el 90% de los empleadores en EE. UU. usa filtrado por IA; Workday enfrenta una demanda colectiva

De las 4 empresas que usaron el mismo proveedor de IA, el 10% de los solicitantes se postularon a las cuatro empresas y fueron rechazados por todas; mientras que en el grupo de control, que no usó filtrado por IA, este fenómeno casi no ocurre. Los investigadores lo atribuyen a una “cultura algorítmica única”: el mismo conjunto de algoritmos despliega sus sesgos en cientos de empresas, lo que excluye sistemáticamente a ciertos grupos de solicitantes de todo el mercado laboral, y normalmente los solicitantes no lo saben en absoluto.

Los investigadores identificaron tres características de alto riesgo ya existentes en herramientas de filtrado por IA:

Adopción generalizada (Pervasively Adopted): aproximadamente el 90% de los empleadores en EE. UU. ya usa IA en el proceso de contratación

Altamente determinante (Highly Consequential): determina directamente si los solicitantes pueden pasar a la fase de revisión humana

Opacidad para el público (Opaque): los solicitantes no pueden saber si los excluye el algoritmo, y los empleadores tampoco necesariamente conocen el desempeño real de la herramienta en distintas categorías de puestos

La herramienta de filtrado por IA de Workday actualmente enfrenta una demanda colectiva, con acusaciones que abarcan discriminación por raza, edad y discapacidad.

La Ley de IA de Colorado entra en vigor en junio; aún no se define el estándar de “cuidado razonable”

La Ley de IA de Colorado entra en vigor oficialmente en junio de 2026. Es una de las pocas normativas estatales en Estados Unidos con requisitos claros de cumplimiento específicamente para herramientas de contratación con IA. Exige que los desarrolladores adopten medidas de “cuidado razonable” para prevenir la discriminación. Sin embargo, aún están por definirse el contenido concreto del “cuidado razonable” y el mecanismo de ejecución.

El equipo de investigación señala que el fundamento para que este tipo de estudio exista es la obtención de datos, y que los datos de contratación suelen estar controlados por los proveedores y los empleadores. El estudio también señala que los egresados que se incorporarán al mercado laboral en 2026 enfrentan uno de los entornos de empleo más difíciles de los últimos años: el volumen de solicitudes a puestos iniciales de las empresas es 3 veces el de 2022, y la proporción de uso de herramientas de filtrado por IA también está aumentando en paralelo.

Preguntas frecuentes

¿Qué es la “regla del cuatro quintos” de la EEOC y cómo este estudio determina la discriminación con base en ella?

La “regla del cuatro quintos” establece que si la tasa de recomendación de un grupo es inferior al 80% de la tasa de recomendación del grupo con la recomendación más alta, se alcanza el umbral legal de “impacto adverso”. El estudio de Stanford HAI utiliza este criterio para desglosar por puesto y por grupo demográfico los datos del filtrado por IA, y encuentra que en el 26% de las solicitudes de solicitantes negros a puestos y en el 15% de las solicitudes de solicitantes asiáticos a puestos, el sistema de IA presenta discriminación que cumple la definición anterior respecto del grupo al que pertenecen.

¿Por qué la discriminación en la contratación con IA ha sido difícil de identificar en el pasado?

La “desaparición” estadística de la discriminación es la causa central. Al calcular una media combinada mezclando las tasas de recomendación de todos los puestos, una tasa de recomendación más alta en ciertos tipos de puestos y una tasa más baja en otros se compensan entre sí, de modo que la media general se aproxima al umbral de equidad. El estudio de Stanford HAI, mediante un análisis detallado por puesto y por grupo demográfico, hace que la discriminación aparezca de los números.

¿Qué disposiciones concretas establece la Ley de IA de Colorado para las herramientas de contratación con IA?

La Ley de IA de Colorado entró en vigor en junio de 2026. Exige que los desarrolladores de herramientas de contratación con IA adopten medidas de “cuidado razonable” para prevenir la discriminación; es, por ahora, uno de los pocos ejemplos de legislación estatal sobre contratación con IA que ya ha comenzado a aplicarse. Los estándares concretos de “cuidado razonable” y los mecanismos de ejecución correspondientes aún quedan por definirse con mayor claridad por las autoridades competentes.