La Meta IA y el dilema de las parejas interraciales: ¿una exclusión digital?

Lainteligencia artificial se está convirtiendo rápidamente en parte integrante de nuestra vida cotidiana. En la actualidad, una de las áreas en las que la IA está ganando terreno es la generación de imágenes. Sin embargo, parece que la IAde Meta, una de las empresas líderes en este campo, tiene importantes limitaciones a la hora de crear imágenes de parejas interraciales, concretamente de un hombre asiático con una mujer blanca.

Experiencia personal de imposibilidad

Decidí poner a pruebala IA de Meta para ver si podía generar imágenes de una pareja interracial que incluyera un hombre asiático y una mujer blanca. Probé repetidamente utilizando diferentes prompts como ‘hombre asiáticoy amiga caucásica‘,‘hombre asiático y esposablanca’ y ‘mujer asiática y marido caucásico’. Sorprendentemente, la IA de Meta se negó sistemáticamente a devolver una imagen correcta que representara las razas especificadas.

Parece que la IA de Meta es incapaz de imaginar una pareja interracialformada por un hombre asiático y una mujer blanca. Esta limitación me dejó atónito y me llevó a investigar más a fondo.

Limitaciones de la IA de Meta en la generación de imágenes

Descubrí que incluso realizando cambios en las indicaciones textuales,la IA de Meta no parecía ser capaz de generar imágenes correctas. Cuando solicité una imagen de un‘hombre asiático y una mujer blanca sonriendo con un perro‘, la IA de Meta devolvió tres imágenes consecutivas de dos personas asiáticas. Incluso cuando sustituí ‘blanco’ por ‘caucásico’, el resultado fue el mismo. «Hombre asiático y mujer caucásica el día de su boda» me dio un hombre asiático con traje y una mujer asiática con un vestido tradicional… aunque mirándolo bien parece una combinación de qipao y kimono. El multiculturalismo es increíble.

LaIA de Meta también parece tener dificultades para representar relaciones platónicas. Siempre que pedí una imagen de un «hombre asiático con un amigo caucásico» o de una «mujer asiática con un amigo blanco», la IA devolvió imágenes de dos personas asiáticas. Incluso cuando pedí una imagen de una ‘mujer asiática con un amigo negro’, la imagen generada por la IA mostraba a dos mujeres asiáticas. Sólo cuando cambié la petición a ‘asiática con un amigo afroamericano’ los resultados fueron más precisos.

Las limitaciones de la IA de Meta

Curiosamente, la IA parece funcionar ligeramente mejor cuando se trata de personas del sur de Asia. Consiguió crear una imagen utilizando la indicación ‘hombre sudasiático con mujer caucásica’, pero inmediatamente generó una imagen de dos personas sudasiáticas utilizando la misma indicación. El sistema también parece basarse en gran medida en los estereotipos, añadiendo elementos que recuerdan al bindi y al sari a las mujeres sudasiáticas creadas, sin que yo se lo pidiera.

Está claro que el generador de imágenes de Meta es incapaz de concebir a los asiáticos junto a los blancos. Pero también hay indicios más sutiles de parcialidad en los resultados generados por el sistema. Por ejemplo, observé que la IA de Meta representa sistemáticamente a las «mujeres asiáticas» como personas de origen asiático oriental con tez clara, a pesar de que la India es el país más poblado del mundo. Añade ropa específica de cada cultura, incluso sin una petición específica. La IA generó varios hombres asiáticos mayores, pero las mujeres asiáticas siempre eran jóvenes.

La única imagen generada con éxito se obtuvo utilizando la indicación«mujer asiática con marido caucásico» y mostraba a un hombre visiblemente mayor con una mujer asiática joven de piel clara, una situación inusual ya que yo no intentaba entrar en el discurso de la edad. Poco después, generé otra imagen utilizando el mismo prompt y el resultado fue la vuelta a la imagen de un hombre asiático (también mayor) con una mujer asiática.

En ese momento, Meta no respondió inmediatamente a una solicitud de comentarios.

Las implicaciones de las limitaciones de la IA de Meta

Meta presentó sus herramientas de generación de imágenes basadas en IA el año pasado, y su herramienta de creación de pegatinas se salió de madre con la creación de imágenes de desnudos y personajes de Nintendo armados.

Los sistemas de inteligencia artificial reflejan los sesgos de sus creadores, formadores y del conjunto de datos utilizado. En los medios de comunicación estadounidenses, el término «asiático» suele referirse a una persona de Asia Oriental, en lugar de a personas de otras partes del continente. Por lo tanto, no es de extrañar que el sistema Meta asuma que todas las personas «asiáticas» se parecen, cuando en realidad somos un conjunto diverso de personas que a menudo tienen poco en común, aparte de estar incluidas en la misma categoría en los registros del censo.

Los asiáticos que no encajan en el modelo estándar son esencialmente borrados de la conciencia cultural, e incluso los que sí encajan están infrarrepresentados en los principales medios de comunicación. Los asiáticos son homogeneizados, exotizados y relegados al estatus de «extranjeros perennes». Romper los estereotipos es fácil en la vida real e imposible en el sistema de inteligencia artificial de Meta. Una vez más, en lugar de dejar volar la imaginación, la IA generativa la aprisiona en las mismas pulsiones banales de la sociedad.