El generador de imágenes de IA de Meta, introducido el año pasado, mostró una notable limitación: su incapacidad para generar imágenes de un hombre asiático con una mujer blanca.
A pesar de múltiples intentos por parte de Mia Sato, reportera de The Verge, la herramienta falló repetidamente en representar esta combinación étnica.
Las solicitudes de imágenes que combinan diferentes estilos, aparentemente simples y comunes en la vida real, enfrentaron obstáculos inesperados en el mundo digital creado por la IA.
Una Herramienta con limitaciones
Intentos como “hombre asiático y amigo caucásico” o “mujer asiática y esposo caucásico” resultaron infructuosos, revelando potencialmente sesgos subyacentes en el algoritmo de la IA.
Las modificaciones en las solicitudes, tales como cambiar “blanco” por “caucásico” o especificar contextos (por ejemplo, “día de la boda”), tampoco produjeron los resultados esperados, evidenciando una tendencia de la IA a devolver imágenes estereotipadas o incorrectas.
Sesgos persistentes en las IAs gracias a internet
Además de su incapacidad para generar ciertas combinaciones, el generador de imágenes mostró una preferencia por representar a las personas asiáticas de manera homogénea, a menudo asociándolas con estereotipos culturales específicos sin solicitudes explícitas.
La IA también tendió a representar a las mujeres asiáticas de manera limitada, prefiriendo imágenes de mujeres jóvenes y de piel clara, independientemente de la diversidad real existente en la población asiática.
Conflictos sociales
Este fenómeno subraya un problema más amplio con la tecnología de IA: la tendencia a reflejar y perpetuar los sesgos presentes en sus datos de entrenamiento, que a menudo se derivan de los conflictos culturales y sociales existentes.
En este caso, la dificultad del generador de imágenes de Meta para conceptualizar y representar la diversidad cultural refleja limitaciones tanto tecnológicas como sociales, destacando la necesidad de una mayor inclusividad y diversidad en los conjuntos de datos utilizados para entrenar estas tecnologías.
La mejora en el rendimiento de los resultados de las IA de Meta a futuro
La experiencia de Mia Sato con el generador de imágenes de Meta ilustra los desafíos potenciales que enfrenta la IA generativa en la representación precisa y diversa de la humanidad.
A medida que estas herramientas continúan desarrollándose y encontrando un lugar en nuestras vidas cotidianas, es crucial abordar estos sesgos para evitar reforzar estereotipos y exclusiones.
La tecnología tiene la capacidad de ampliar nuestra comprensión y apreciación de la diversidad humana, pero solo si se desarrolla con un compromiso consciente con la inclusividad y la equidad.
Con información de The Verge.
More Stories
IA Copilot de Microsoft llega a nuevos portátiles Intel y AMD
¿Se están reduciendo las emisiones de carbono de Meta?
Unigine: Motor 3D en tiempo real para simulaciones