Look-up in Google Scholar
Title: Sesgos de la inteligencia artificial en la representación visual de los pueblos indígenas amazónicos
Other Titles: Biases of artificial intelligence in the visual representation of amazonian indigenous peoples
Advisor(s): Gomero Correa, Giancarlo
OCDE field: https://purl.org/pe-repo/ocde/ford#5.08.00; https://purl.org/pe-repo/ocde/ford#5.00.00
Issue Date: 13-May-2024
Institution: Universidad Peruana de Ciencias Aplicadas (UPC)
Abstract: La investigación tiene como objetivo analizar las imágenes generadas por dos plataformas de Inteligencia Artificial, DALL-E y Runway, sobre la representación de los pueblos indígenas amazónicos para identificar sesgos en ellas. Se analizó 400 imágenes en los campos referidos a la cantidad de personas, género, rango de edad, espacio geográfico donde se ubican y las características en la composición de las imágenes. Para la generación de las imágenes se utilizó el prompt: Amazonian indigenous people. Por un lado, DALL-E representó a los indígenas amazónicos como sujetos individuales en un 69.5% y omitió su presencia en un 27% de imágenes. Por su parte Runway mostró una clara tendencia a representar solo indígenas amazónicos de género masculino en un 69% de las imágenes. Además, más de la mitad de las imágenes de ambas plataformas presentaron imágenes en las que no se podía determinar el espacio geográfico y en ninguna imagen se representó un entorno urbano. Estos resultados evidencian sesgos en la generación de imágenes, que derivan de la forma cómo los sistemas de Inteligencia Artificial han sido construidos o están siendo entrenados.

The research aims to analyze the images generated by two Artificial Intelligence platforms, DALL-E and Runway, on the representation of Amazonian indigenous peoples in order to identify biases in them. A sample of 400 images were analyzed in the fields referred to the number of people, gender, age range, geographic space where they are located and the characteristics in the composition of the images. The prompt used to generate the images was: Amazonian indigenous people. On the one hand, DALL-E represented Amazonian indigenous people as individual subjects in 69.5% and omitted their presence in 27% of the images. On the other hand, Runway showed a clear tendency to represent only male Amazonian indigenous people in 69% of the images. In addition, more than half of the images on both platforms presented images in which the geographic space could not be determined and none of the images depicted an urban environment. These results show biases in the generation of images, which derive from the way in which the Artificial Intelligence systems have been built or are being trained.
Note: Solicitud de embargo por publicación en revista indexada
Discipline: Comunicación Audiovisual y Medios Interactivos
Grade or title grantor: Universidad Peruana de Ciencias Aplicadas (UPC). Facultad de Comunicaciones
Grade or title: Licenciado en Comunicación Audiovisual y Medios Interactivos
Juror: Sánchez Trujillo, María De Los Ángeles; Vite León, Víctor Omar; Malvaceda Espinoza, Eli Leonardo
Register date: 10-Jul-2024



This item is licensed under a Creative Commons License Creative Commons