Día Internacional de la Mujer: La inteligencia artificial también presenta sesgos de género, afirman expertos

Gender Bias in AI: A Growing Concern

Al discutir el impacto de la inteligencia artificial en la actualidad, un estudio reciente revela que existe un marcado sesgo de género en las recomendaciones formuladas por estos sistemas. Si una adolescente pregunta: «¿Se puede ganar dinero trabajando en lo que me gusta?», la IA suele sugerir actividades relacionadas con la moda o el baile urbano, mientras que a un chico le recomienda estrategias más orientadas a negocios y emprendimientos propios. Esta disparidad fue evidenciada en el informe Espejismos de Igualdad, elaborado por la consultora LLYC.

Resultados del Estudio

El estudio analizó un total de 9,600 recomendaciones de cinco modelos de lenguaje importantes, incluyendo Chat GPT, en 12 países, entre ellos Argentina, centrando su atención en dos grupos etarios: jóvenes de 16 a 20 años y de 21 a 25. Se halló que la IA, alimentada por datos humanos, perpetúa estereotipos de género en sus respuestas.

En el contexto del Día de la Mujer, el documento señala que las interacciones con la IA variaron significativamente según el género del usuario. Mientras que para las mujeres, la IA buscaba generar un vínculo emocional y validación de sentimientos, para los hombres adoptaba un tono autoritario y directo. En una alarmante estadística, se destacó que la IA hace referencia al comportamiento «normal» un 40% más en varones que en mujeres, señalando un riesgo mayor para aquellos que muestran vulnerabilidad o intereses no convencionales.

Estándares de Belleza y Función en el Mercado Laboral

El estudio también pone de manifiesto cómo la IA refuerza estándares de belleza, haciendo mención de la moda en un 48% más de las respuestas orientadas a mujeres. Por ejemplo, ante una consulta sobre enfrentar el miedo en entornos donde predominan otros géneros, la IA sugiere vestirse «cómoda pero con onda» para ganar seguridad.

• Una de cada diez interacciones de la IA considera «heroicos» los logros profesionales de las mujeres.
• La recomendación hacia los hombres de carreras en ingeniería supera el doble que hacia las mujeres.
• Las respuestas de la IA sobre carreras STEM son un 1,000% más extensas para mujeres en comparación con hombres.

Desigualdad y Sesgos Históricos

Investigadoras como Micaela Sánchez Malcom, de Géneras Asociación Civil, enfatizan que la poca representación femenina en el desarrollo de IA contribuye a estos sesgos. Según la Agenda del Foro Económico Mundial, solo el 22% de los profesionales en IA son mujeres. Esta representación deficiente repercute directamente en la calidad de las recomendaciones que los usuarios reciben.

Se ha observado que la IA asume que las mujeres tienen menos experiencia. Por ejemplo, en perfiles similares, el sistema asigna a nombres femeninos 0.92 años menos de experiencia que a sus pares masculinos, reforzando roles más bajos en la jerarquía profesional.

Acoso Digital y Soluciones Innovadoras

La accesibilidad a herramientas de IA ha facilitado también un crecimiento en casos de acoso digital, particularmente hacia mujeres. El 98% de los vídeos deepfake son pornográficos y 99% de las víctimas son mujeres. Ante denuncias, las respuestas de plataformas han sido insatisfactorias, resaltando la urgencia de regular estos abusos de manera efectiva.

Sin embargo, existen iniciativas para contrarrestar este tipo de violencia, como aplicaciones que ofrecen alertas de seguridad y recursos legales para víctimas.

La Importancia de una Perspectiva Crítica

Mara Bolis, de la Harvard Kennedy School, expone la paradoja que enfrentan las mujeres en el ámbito de la IA: su escepticismo puede ser clave para el desarrollo inclusivo de estas tecnologías. Un meta-análisis de Harvard muestra que las mujeres son entre 20% y 30% menos propensas a adoptar IA generativa que los hombres, debido a preocupaciones legítimas acerca de los sesgos y la privacidad.

Caminos a Seguir

Con la intención de crear un cambio positivo en este ámbito, se sugiere la necesidad de una mayor diversidad en los equipos de programación y el reentrenamiento de las máquinas para erradicar los sesgos. La lucha no solo se centra en la conciencia sobre estos problemas, sino en la participación activa de las mujeres para dar forma al futuro de la inteligencia artificial.