Campaña #RompeElSesgoDigitalFM El impacto de las TIC en los procesos de selección: sesgos de género en la IA

La inteligencia Artificial es una herramienta que ha transformado numerosos aspectos de nuestra vida, incluido el mercado laboral. Dentro del empleo, la Inteligencia Artificial a impactado de forma directa en los procesos de selección. Esto se debe a sus capacidades para analizar grandes volúmenes de datos de manera eficiente.

¿Cómo ayuda la IA en los procesos de selección?

• Permite, de forma rápida, revisar y seleccionar los CV de las candidaturas
• Identificación de patrones y características relevantes para el puesto en cuestión
• Evaluar habilidades y competencias con pruebas y evaluaciones  en línea
• Realizar entrevistas virtuales

El papel de la IA en los procesos de sección puede ser esencial dado que se reduce el tiempo y el coste de los procesos. Sin embargo, la IA no puede tomar decisiones completamente objetivas y libre de sesgos. Los datos utilizados para entrenar los algoritmos deben ser libres de sesgos, y para eso, la persona que los codifica debe hacerlo teniendo en cuenta cómo influyen los roles y estereotipos de género en el acceso al empleo.

Los sesgos de género en la IA

Los sesgos de género hacen referencia a no tener en cuenta las dinámicas sociales, el papel social de las mujeres, de los hombres y sus relaciones de poder. Así, los sesgos de género en la IA implican una predisposición, parcialidad, prejuicio o predilección de la herramienta hacia uno de los género a la hora de llevar a cabo su trabajo.

La IA puede contener sesgos de género por dos motivos:

• Por un lado, la IA se compone de algoritmos que codifican personas, por eso sus valores, creencias y opiniones se impregnan en los datos y en el entrenamiento de los algoritmos de la IA. Así, al igual que todas las actividades desarrolladas por seres humanos, tiene sesgos.
• Por otro lado, existe una baja representación de las mujeres en el sector STEM. Esto ocasiona que las preocupaciones, intereses o enfoques de la mitad de la población se queden sin representación.

Un ejemplo de sesgos de género en la IA utilizada para los procesos de selección podemos verlo en lo ocurrido en la empresa Amazon. Esta empresa desarrollo un sistema de reclutamiento basado en una IA para seleccionar los CV. Para la creación de sus algoritmos, el sistema fue entrenado con los datos históricos de reclutamiento de la empresa. Estos datos reflejaban la mayoría de empleados de la empresa (hombres). Así, el resultado fue el de una IA que mejoró los tiempos y abarató el coste del proceso de selección, pero que seleccionaba en mayor medida los CV de hombres, penalizando aquellos que contenían palabras como «mujer». Finalmente, Amazon se vio obligado a prescindir de esta herramienta.

Desarrollar un mundo digital desde la perspectiva de género es tener en cuenta el contexto social actual y las relaciones de poder que hoy en día marcan nuestra sociedad. Además de trabajar en el fomento de los estudios y el trabajo STEM en mujeres para que accedan a carrear y trabajos tecnológicos, creando referentes. La tecnología empodera a las mujeres y su participación en el diseño permite la eliminación de las desigualdades que se generan en el entorno tecnológico.

Puedes acceder la fuente de información a través de: La entrevista realizada por Raimundo Flores a tres expertas en IA para Piensa Digital, la entrevista realizada por Sara Gil a Lorena Fernández para Kaleidos,  y el artículo sobre IA en el empleo de Isaac Albarracin.

Publicación realizada para la campaña #RompeElSesgoDigitalFM con motivo del 8 de septiembre, Día Internacional de la alfabetización digital dentro del marco del proyecto Empoderamiento e Igualdad para el empleo, financiado por el Ministerio de Derechos Sociales y Agenda 2030.