Los modelos presentados por la Inteligencia Artificial generan imaginarios simbólicos que reproducen estereotipos discriminatorios contra colectivos humanos oprimidos, la mujer y la infancia migrantes son colectivos fuertemente señalados y discriminados por los modelos de inteligencia artificial

Por Jacob Bañuelos Capistrán / Ig @jibcjac  

La mujer y la infancia migrantes son colectivos que se ven fuertemente señalados y discriminados por los modelos de inteligencia artificial (IA) en la franja fronteriza entre México-Estados Unidos, en representaciones sesgadas que refuerzan los estereotipos, los sesgos raciales y en el reforzamiento de relaciones de poder asimétricas. 

El pasado 20 de agosto fue publicado un estudio que realicé recientemente, en donde se exploran los sesgos en las representaciones realizadas por ChatGPT 3.5 y cuatro programas de generación de imágenes con inteligencia artificial (IA) sobre la frontera México-Estados Unidos. 

La investigación indaga sobre los imaginarios simbólicos producidos por dos tipos de IA, generados por un modelo de lenguaje (LLM, Large Language Model, como ChatGPT) y por cuatro modelos generativos de imagen (modelos de difusión), que fueron Midjourney, Leonardo.ai, Stable Diffusion y Dall-E 2. 

Se pidió a ChatGPT 3.5 escribir los imaginarios simbólicos sobre los términos muro, violencia, mujer, infancia, desigualdad y migración en la frontera México-Estados Unidos, al ser considerados claves en la reflexión sobre las problemáticas sociopolíticas de la franja fronteriza. 

ChatGPT describió una serie de imaginarios simbólicos para cada término. En este espacio hablaremos únicamente de los obtenidos para “mujer” e “infancia”. Estos fueron los resultados: 

• Mujeres migrantes entre México y Estados Unidos: Las mujeres migrantes a menudo son vistas como particularmente vulnerables a la explotación y el abuso en su búsqueda por cruzar la frontera. 
• Frontera México-Estados Unidos – niños migrantes: La imagen de niños migrantes detenidos en centros de detención o cruzando la frontera solos ha generado debate y preocupación a nivel internacional. 

Estos resultados se usaron como prompts (o instrucciones) para cada uno de los programas de generación de imágenes. En esta columna se incluyen imágenes adicionales a las reportadas en la investigación, pero también son producto de la misma metodología.

Algunas de las imágenes se presentan a continuación.

Para el prompt sobre mujeres:

Para el prompt sobre la infancia:

La investigación revela que los modelos de IA generan imaginarios simbólicos que reproducen estereotipos discriminatorios contra colectivos humanos oprimidos. Las representaciones sobre mujeres y niños están situadas en todos los casos desde el lado mexicano de la frontera y mediante representaciones humanas con rasgos de personas indígenas, mexicanas o latinoamericanas desprotegidas. 

Las mujeres son representadas con gestos de cansancio en espacios solitarios o desérticos, en tránsito migratorio o bien en centros de deportación. Los niños en la franja fronteriza responden a un imaginario encuadrado en una condición de aislamiento y en centros de detención.

En el estudio publicado es posible encontrar un análisis detallado sobre los imaginarios generativos que son resultado de la investigación, un análisis comparativo de los contenidos producidos por los diferentes modelos de generación de imágenes y una fundamentación teórica que permite construir un andamiaje conceptual para emprender la comprensión y el análisis de la IA como un aparato tecno-estético de producción simbólica posthumano, con implicaciones ideológicas significativas. 

Los modelos de IA se nutren de inmensas bases de datos seleccionadas y gestionadas por grandes corporaciones como OpenAI, las cuales tienen responsabilidad moral directa en la producción simbólica que generan, tanto en términos visuales como del lenguaje. Su gestión debe ser regulada por instancias gubernamentales para salvaguardar los derechos humanos fundamentales, evitar la reproducción de sesgos ideológicos discriminatorios y el mantenimiento de relaciones de poder asimétricas.

Es posible descargar el texto completo de la investigación en la revista Palabra Clave de la Universidad de La Sabana, Colombia https://palabraclave.unisabana.edu.co/index.php/palabraclave/article/view/22577