La IA No Me Conoce. Bien, Mantengamos Así la Situación.
Con el sesgo algorítmico integrado en las herramientas de selección de la IA, una estudiante de la Universidad de Brown reflexiona sobre el valor de tener un nombre misterioso.
Mi nombre es un "catfish". O, al menos, así me lo han dicho. Cuando escuchas el nombre de Jamie Jung, podrías preguntarte si la persona detrás de este artículo es una chica coreana o el bisnieto del psiquiatra suizo Carl Jung. Un nombre tan misterioso, que quizás incluso la IA lucharía por descifrar mi identidad en mi solicitud de empleo.
Cuando la pandemia llevó las aulas a Zoom, me escondí detrás de un cuadrado negro sin rostro, solo con dos palabras revelando mi nombre. Al llamar a lista, muchos de mis profesores pronunciaban mi apellido con una "J" alemana como "Yoong" o se referían a mí con los pronombres "él" o "lo". Otros pronunciarían mi nombre fonéticamente como "Jung" y se referían a mí como "ella" o "su".
A pesar de que disfrutaba del telón de la anonimidad, he llegado a reconocer que existe un lado negativo.
Empresas como Microsoft y Amazon delegan la revisión de currículos a herramientas de IA para filtrar numerosas solicitudes de personas que buscan empleo. Las herramientas de IA continúan evolucionando, pero debería prestarse más atención a los defectos en el análisis algorítmico, tales como la simplificación excesiva y el sesgo de evaluación.
En 2014, Amazon intentó automatizar su proceso de contratación construyendo un programa informático que revisaría los currículos de los solicitantes y generaría una lista de los principales candidatos. Las computadoras fueron entrenadas para evaluar a los solicitantes observando los currículos enviados a la empresa durante un período de 10 años. ¿El problema? La mayoría de los solicitantes eran hombres, lo que enseñó inadvertidamente al algoritmo que los candidatos masculinos eran superiores.
El impacto del sesgo algorítmico no se limita al género. Un estudio de 2024 de la Universidad de Washington reportó que los modelos informáticos favorecían los nombres asociados a personas blancas en el 85.1% de los casos y los nombres asociados a mujeres en solo el 11.1% de los casos. En 2017, la Universidad de Toronto publicó un estudio que reveló que los solicitantes con nombres asiáticos tenían un 28% menos de probabilidad de recibir entrevistas en comparación con los solicitantes con nombres anglosajones.
Este patrón de discriminación incluso dentro de un proceso de contratación administrado únicamente por humanos establece una base ya manchada por el sesgo. A pesar de la creciente diversidad de la fuerza laboral estadounidense, la falta de oportunidades de liderazgo dadas a comunidades subrepresentadas sirve como evidencia de los efectos duraderos de la discriminación sistémica. Según el National Library of Medicine, aunque el 74% de los profesionales de la salud son mujeres, solo el 33% de los puestos de gestión son ocupados por mujeres. Del mismo modo, mientras los empleados negros constituyen el 14% de todos los empleados en EE.UU., solo el 7% de los gerentes son negros.
Cuando escuchas el nombre de Jamie Jung, podrías preguntarte si la persona detrás de este artículo es una chica coreana o el bisnieto del psiquiatra suizo Carl Jung.
La IA tiene el potencial de revolucionar el lugar de trabajo. Automatizar las tareas monótonas dentro del proceso de contratación permite a los empleados maximizar la productividad, y muchos gerentes de recursos humanos han reconocido estos beneficios.
Pero al analizar la demografía existente de la fuerza laboral, los algoritmos pueden deducir que los solicitantes “top” que cumplen con el estándar son hombres blancos. Mientras esta base siga sesgada, la IA continuará excluyendo a solicitantes talentosos basándose en un algoritmo obsoleto.
Una encuesta de CareerBuilder indica que el 55% de los gerentes de recursos humanos dicen que la IA se convertirá en una parte regular de la HR en los próximos cinco años. Aunque las perspectivas de un proceso de reclutamiento eficiente son atractivas, los gerentes deben evaluar el estado actual de su fuerza laboral antes de integrar algoritmos de IA para proporcionar una oportunidad justa a todos los solicitantes.
Al priorizar la representación equitativa incluso antes de implementar la IA, las empresas podrán utilizar algoritmos con menos preocupaciones sobre el sesgo. La innovación de la IA comienza con la reflexión y la revisión humana.
La IA asume que soy solo lo que mi nombre me permite ser, ignorando el alcance de mis logros. Comencé a llamarme Jamie en mi primer año de secundaria, y prosperé bajo esta nueva identidad ambigua: ese año, me convertí en la gerente de redes sociales de dos clubes, fui seleccionada para presentar una charla TEDx y recibí el premio "Escritora del Año de Primer Año" por parte del director de mi conservatorio. Cuando me presenté en persona el siguiente año escolar, me divirtió ver la expresión de sorpresa en los rostros de muchos de mis profesores y compañeros. Era claro que no era quien esperaban que fuera.
¿Qué hay en un nombre? Según los algoritmos de IA, un nombre es el reflejo de nuestras identidades y el rostro detrás de esas palabras. Me pregunto si me hubiera presentado como Jaehee Jung, o si hubiera encendido mi cámara para revelar mi verdadera identidad, ¿habría tenido las oportunidades que tuve?
Quizás. Mi nombre es un regalo que me di a mí misma en busca de pertenencia. Ahora estoy en búsqueda de hacer de este nombre el mío propio. No con reconocimiento ni logros, sino con la persona que soy detrás del cuadrado negro. Y solo yo tengo el poder de decidir cuándo encenderlo o apagarlo.
RECIBE LOS TITULARES DE LA MAÑANA.
SUSCRÍBETE
Comments ()