La generación de imágenes reproduce estereotipos porque reproduce estereotipos. No, no es un error, has leído bien.
Es una tecnología fascinante que sirve como regresión a la mediana en bancos de datos con miles de billones de parámetros.
Aquí y allá se hacen experimentos para comprobar que la tecnología de generación de texto, imágenes o música funciona como debe: perpetrando patrones frecuentes en su corpus de datos original.
No es que esta tecnología reproduzca sesgos, es que incluso en un corpus sin ellos será capaz de identificarlos. Es una tecnología que sirve para resaltarlos por defecto.
Dada cualquier base de datos, la forma en que están entrenados estos modelos es capaz de señalar aquello que se tiene en común. Este tipo de experimentos son divertidos, interesantes desde el punto de vista estructural, pero infértiles en el sentido de que no se descubre nada nuevo. Es como hacer un experimento natural y contar ojos humanos para descubrir que casi todos los humanos tienen algo menos de dos ojos. 🤣