Los sesgos de género en el uso de la inteligencia artificial

Abstract

La utilización de la inteligencia artificial aumenta, extendiéndose desde el ámbito privado, en el área personal y empresarial hacia el ámbito público, en las administraciones públicas. Si bien supone grandes avances y mejores en múltiples áreas y disciplinas como la salud, la economía, la educación, los datos con los que se entrena la inteligencia artificial no están libres ni de estereotipos, ni de sesgos de género lo que implica que su uso los reproduzca. Como consecuencia, los sesgos de género se amplifican, aumentando la brecha de género y vulnerando derechos fundamentales como la seguridad, la libertad y la igualdad. El presente texto nace con la necesidad de visibilizar cómo el creciente uso de la inteligencia artificial puede agravar la desigualdad entre hombres y mujeres, así como de mostrar las medidas oportunas para desarrollar tecnologías equitativas. El objetivo de este texto es mostrar cómo los sesgos de género están presentes en el uso de la inteligencia artificial y cómo pueden impactar sobre los diferentes tipos de brechas de género. Como respuesta a estos objetivos, el contenido de este texto se ha basado en una revisión bibliográfica de diferentes fuentes académicas, artículos científicos, informes y normativa legal. Además, se ha llevado al uso personal de ChatGPT como demostración de la presencia de sesgos en el uso de inteligencia artificial. Para realizar este análisis en primer lugar, se han identificado los estereotipos de género que son los que alimentan a los sesgos. A continuación, se han expuesto las diferentes brechas de género y cómo la inteligencia artificial puede impactar sobre ellas. Posteriormente, se ha procedido al estudio de las diferentes situaciones en las que el uso de la inteligencia artificial esta sesgada. Finalmente, se proponen diferentes medidas para frenar su reproducción o reducir el impacto que generan.

The use of artificial intelligence (AI) is increasing, expanding from the private sphere -both personal and business-related- into the public sector, including public administrations. While AI brings significant progress and improvements in various fields such as health, economics and education, the data used to train these systems are not free from stereotypes or gender biases. As a result, their use tends to reproduce and amplify these biases, thereby widening the gender gap and violating fundamental rights such as security, freedom, and equality. This paper arises from the need to highlight how the growing use of AI can worsen inequality between men and women, as well as to propose appropriate measures for the development of fair and equitable technologies. The aim of this study is to demonstrate how gender biases are embedded in the use of artificial intelligence and how they can impact different types of gender gaps. To achieve this, the content is based on a bibliographic review of various academic sources, scientific articles, reports, and legal regulations. Additionally, the personal use of ChatGPT has been included as a practical example to illustrate the presence of biases in AI systems. The analysis begins with the identification of gender stereotypes, which are the root of many algorithmic biases. Then, the different gender gaps and the ways in which AI may affect them are explored. This is followed by an examination of specific cases in which AI usage is demonstrably biased. Finally, several measures are proposed to prevent the reproduction of these biases or to reduce their impact.