Brechas digitales y sesgos en la inteligencia artificial: ¿una nueva forma de discriminación?

Abstract

El potencial de la inteligencia artificial, para mejorar determinados aspectos de la vida de las personas, no debe ser un impedimento para adoptar una posición crítica respecto de algunos procedimientos y aplicaciones que puedan afectar negativamente a la igualdad, acentuar discriminaciones preexistentes o propiciar la aparición de nuevas formas de discriminación. Algunas características atribuidas a la inteligencia artificial predisponen a abogar por su desarrollo en un ámbito amplio de libertad, con controles éticos, más que jurídicos, y de soft law, en lugar de hard law. Sin embargo, cuando se trata de garantizar derechos, como la igualdad, es necesario adoptar medidas jurídicas contundentes, tanto de carácter preventivo como reactivo, frente a las brechas digitales, los sesgos y las discriminaciones que puedan generar.

The potential of artificial intelligence, to improve certain aspects of people's lives, should not be an impediment to taking a critical position on some procedures and applications that adversely affect equality, neither accentuate pre-existing discrimination, nor encourage the emergence of new forms of discrimination. Some characteristics attributed to artificial intelligence predispose us to advocate its development in a wide area of freedom, with ethical, rather than legal, and soft law controls, instead of hard law. However, when it comes to guaranteeing rights such as equality, it is necessary to adopt strong legal measures, both preventive and reactive, to address the digital divides, biases, and discrimination they may generate.