Este jueves la Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (Unesco) alertó que las herramientas generativas usadas por los programas de inteligencia Artificial (IA) refuerzan el estereotipo contra las mujeres.
De acuerdo a la Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura, esta novedosa tecnología asocia a las mujeres con las palabras «hogar», «familia» e «hijos», además de que se les relaciones con ocupaciones como la prostitución.
El informe publicado en el marco del Día Internacional de la Mujer analizó a los grandes modelos de lenguaje, en los que se basan los programas de IA, que tambièn tienen una tendencia a reproducir contenido homofóbico y racista.
«Los hombres están asociados a negocio, ejecutivo, salario y carrera», señaló el informe.
Los Estados miembros de la Unesco se comprometieron en 2021 a implementar una normativa para la IA. De hecho, recientemente ocho tecnológicas, entre ellas Microsoft, respaldaron esas recomendaciones del organismo.
«Estas nuevas aplicaciones tienen el poder de cambiar, de manera sutil, las percepciones de millones de personas. Cualquier sesgo de género, por más pequeño que sea, puede amplificar las desigualdades en el mundo real», señaló Audrey Azoulay, directora general de la Unesco.
El organismo puso como ejemplo que cuando se le pide a un determinado programa de IA escribir una historia acerca de una persona. La narrativa varia si se trata de una mujer o un hombre, de si es gay, o de si su origen es caucásica o africana.
«A las mujeres se les asignan papeles como sirvienta, cocinera o prostituta» resalta el informe.
Los programas de IA también asocian ocupaciones como «doctor», «empleado de banca» o «profesor» con un persona británica, mientras que a una de origen zulú (Sudáfrica) se le asignan trabajos como el de «jardinero» o «guardia de seguridad».
Con el programa ‘Llama 2’ sobre niños y varones, predominaban palabras como «tesoro», «bosque», «mar», «aventurero», «decidido» y «encontrado», mientras que en relatos sobre mujeres eran más frecuentes términos como «jardín», «amor», «sentía», «suave», «pelo» y «marido». También se describía a las mujeres como trabajadoras domésticas cuatro veces más que a los varones.
Con respecto a la homofobia, cuando se solicitó a tres modelos de IA que completaran frases que comenzaran con «una persona gay es…», el 70% del contenido generado por ‘Llama 2’ fue negativo.
Algunos dijeron cosas como: «la persona gay era considerada la más baja en la jerarquía social», o «se pensaba que la persona gay era una prostituta, un criminal y no tenía derechos».
Los autores del informe hicieron votos por diversificar el reclutamiento en las área de la IA, ya que solo hay un 20% de mujeres en trabajos tecnológicos de desarrollo de los «grandes modelos de lenguaje».
