Las directrices contienen preguntas y respuestas sobre el uso de la inteligencia artificial (IA) y los algoritmos en los procesos de selección de recursos humanos. A continuación, presentamos una selección de preguntas y respuestas: 

¿Qué es un algoritmo?

Es un conjunto de instrucciones que puede seguir un ordenador para lograr un fin concreto. En el ámbito de los recursos humanos, permite a los empleadores procesar datos para evaluar, clasificar y tomar otras decisiones sobre candidatos y empleados.

¿Qué es la IA?

El Congreso ha definido la IA como un «sistema basado en una máquina capaz de hacer predicciones, formular recomendaciones o tomar decisiones que afecten a entornos reales o virtuales para un conjunto dado de objetivos establecidos por el ser humano». En el marco del empleo, IA significa, por lo general, que el desarrollador confía parcialmente en el análisis informático de datos para determinar qué criterios deben usarse a la hora de tomar decisiones.

El uso por parte del empleador de una herramienta algorítmica de toma de decisiones, ¿puede constituir un «procedimiento de selección»? 

Sí. Según las directrices, «un procedimiento de selección» es cualquier «medida, combinación de medidas o procedimiento» que se utilicen como la base de una decisión de empleo. 

¿Los empleadores pueden evaluar los efectos adversos del uso de una herramienta algorítmica de toma de decisiones del mismo modo en que pueden evaluar los procedimientos de selección más tradicionales? 

Sí, pueden evaluar si un procedimiento de selección tiene un efecto adverso en un grupo protegido concreto al comprobar si su uso provoca que la tasa de selección de personas de dicho grupo sea «sustancialmente» menor que la de otro grupo. 

¿Los empleadores son responsables del uso de las herramientas algorítmicas de toma de decisiones, incluso si dichas herramientas están diseñadas o gestionadas por otra entidad, como un proveedor de software?

Sí, en muchos casos. Por tanto, deben preguntar al proveedor si se han adoptado medidas para evaluar si el uso de la herramienta provoca una tasa de selección sustancialmente inferior para las personas con una característica protegida por la ley.

¿Qué es la «tasa de selección»?

La «tasa de selección» se refiere a la proporción de candidatos o aspirantes contratados, ascendidos o seleccionados de otro modo.

¿Qué es la «regla de los cuatro quintos»?

Según las directrices, es una regla que afirma que una tasa difiere sustancialmente de otra si su proporción es menor de cuatro quintos (o el 80 %). 

¿El cumplimiento de la regla de los cuatro quintos garantiza que un proceso de contratación concreto no tenga un efecto negativo?

Algunos tribunales ya han declarado que solo es adecuada en algunas ocasiones. No es una sustituta razonable de una prueba de significación estadística. 

Supongamos que un empleador descubre que el uso de una herramienta algorítmica de toma de decisiones tendría un efecto negativo. ¿Puede cambiar la herramienta o usar una diferente para reducir o eliminar dicho efecto?

Sí. Los empleadores deben tomar medidas para reducir

Las directrices recomiendan encarecidamente seguir el régimen normativo tal y como se establece en la Iniciativa de Inteligencia Artificial y Justicia Algorítmica, presentada por la EEOC en 2021 para garantizar que el uso de software, incluida la IA, el aprendizaje automático y otras tecnologías emergentes utilizadas en la contratación y en otras decisiones de empleo cumplan con las leyes federales de los derechos civiles que la EEOC hace cumplir.

La Oficina para la Protección Financiera del Consumidor, la División de Derechos Civiles del Departamento de Justicia, la EEOC y la Comisión Federal de Comercio publicaron recientemente una declaración conjunta sobre Iniciativas de cumplimiento de la ley contra la discriminación y los sesgos en los sistemas automatizados.

En EE. UU., varios Estados y localidades también introdujeron leyes para regular el uso de la IA en las herramientas automatizadas de toma de decisiones de empleo (California, Distrito de Columbia, Illinois, Massachusetts, Nueva Jersey, Nueva York, y Vermont).