DE LOS EDITORES: Compartimos este traducción al español de un artículo de una organización en Brasil llamada Coding Rights que nos parece muy importante para reflexionar cómo las redes sociales reproducen estructuras coloniales, a veces sin casi darnos cuenta, particularmente porque han sido diseñadas en su mayoría por hombres blancos de clases privilegiadas occidentales. En lo que las organizaciones indígenas y afrodescendientes utilizan los medios sociales para realzar las luchas sociales y ambientales, no perdamos de vista el aspecto de la justicia del diseño de tecnologías.
FUENTE: https://medium.com/codingrights/embelezar-ou-embranquecer-201fc741257b
Abrir Instagram, apuntar la cámara del celular hacia el rostro, elegir un filtro y grabar un video o tomarse una selfie. ¿Ya se dieron cuenta de cómo ese proceso de editar instantáneamente nuestra imagen ha invadido nuestro día a diario? A pesar de ser bastante común, el uso de herramientas de edición de imágenes en las redes sociales puede esconder un tema muy serio: el reforzar un estándar de belleza racista. Coding Rights aprovecha el mes de Noviembre, mes de la conciencia negra, para plantear algunas cuestiones sobre la relación entre los filtros de Instagram y la reproducción del racismo en las redes sociales.
Algunos filtros son creados sin tomar en cuenta los rasgos fenotípicos de las personas negras y modifican radicalmente dichas características — siempre con el objetivo de aproximarlas más a los rasgos de las personas blancas: la nariz se hace más delgada, los labios son reducidos, se altera el color de la piel para tornarla más anaranjada o gris, se cambia el color de los ojos al verde o al azul.
Esto ocurre porque la tecnología no es neutra. Los filtros de Instagram son diseñados dentro de un contexto social específico y también por determinados individuos. Por eso transmiten juicios de valor presentes en la sociedad. Son como espejos que reflejan la visión de mundo de sus programadores y ciertas ideas preconcebidas (llamado bias o sesgos) pueden influenciar la forma en que operan ante las personas negras. De este modo, la imposición de estándares de belleza que tienen a las personas blancas como el ideal estético en los filtros de las redes sociales también tiene que ver con el racismo que existe en la sociedad brasileña. Puesto de otra forma: el filtro, ¿sirve para embellecer o para emblanquecer?
Al menospreciar de manera continua los rasgos corporales de las personas negras, que tienen que ser escondidos y retocados incluso digitalmente, la sociedad y los diversos dispositivos tecnológicos, como las redes sociales y sus filtros, formulan y reproducen permanentemente modelos hegemónicos de belleza basados en las personas blancas. Un caso recurrente es cuando el filtro torna a la nariz más delgada.
Actualmente, la plataforma más utilizada para desarrollar los filtros en Instagram es Spark AR. Creada por Facebook, esta plataforma usa visión computarizada para crear efectos de realidad aumentada, ofreciendo una galería de modelos para que el programador cree su filtro o posibilitando también la creación de efectos empezando de cero.
Esta herramienta de inteligencia artificial utiliza algoritmos de lectura de imágenes, alimentados a partir de una base de datos con miles de fotos. Cuantas más imágenes lea el programa, más las reconocerá. ¿Pero qué ocurre cuando este banco de datos es constituido en su mayoría por imágenes de personas blancas? ¿O cuando las imágenes de las personas negras reproducen estereotipos? En una sociedad que nunca superó su pasado colonial, herramientas de IA como ésta construyen padrones racistas a partir de las imágenes recolectadas.
Sin embargo, el problema va más allá de Spark AR. Detrás del proceso de elaboración de los filtros tenemos mayoritariamente a personas blancas con administradores blancos que no consideran las particularidades de las personas negras. Y figuren que, nosotras, las personas negras, ¡existimos! Un filtro que aplica rubor, por ejemplo, tiene que tomar en cuenta los diferentes tonos de piel. Sin embargo, lo que se ve hoy en día es que los programadores eligen tonos que solo funcionan con pieles blancas. En otras palabras, en el universo de los filtros de Instagram, hay una especie de emulación del racismo estético que domina a la industria de la belleza y del maquillaje, que excluye una multitud de personas de piel oscura al no desarrollar y comercializar productos adecuados para esos tonos de piel negra.
Joy Buolamwini, investigadora de MIT y fundadora de Algorithmic Justice League (Liga de la Justicia Algorítmica), resalta que la falta de diversidad es una de las razones por detrás del sesgo algorítmico en los sistemas de IA. En su charla de TED, Joy destaca tres preguntas esenciales para analizar las prácticas racistas tanto en el uso de las plataformas, como en la manera como son diseñadas: “Who codes matters? How we code matters? Why we code matters?” (¿Quién codifica importa? ¿Cómo codificamos importa? ¿Por qué codificamos importa?). Inspiradas por estas interrogantes, nos preguntamos ¿quiénes son las personas involucradas en el desarrollo de los filtros de las redes sociales? ¿En qué se basan las funcionalidades de los filtros y cómo son desarrollados, dado que demuestran prejuicios racistas? Y finalmente, ¿por qué razón son elaborados estos filtros?
Aparentemente, no hay ninguna preocupación en incluir a todas las personas, independientemente de su raza, en el proceso de desarrollo de estos filtros. Una de las razones es la falta de diversidad: hombres cisgénero, blancos y de clases sociales media o alta forman la mayoría de las personas que trabajan con tecnología en el Brasil, de acuerdo con el análisis de Pretalab con la consultora ThoughtWorks.
¿Es posible embellecer sin emblanquecer?
Las cuestiones planteadas aquí están lejos de ser definitivas o de ofrecer una conclusión rigurosa. Sirven más para mostrarnos un poco sobre cómo el racismo también está presente en los aparatos tecnológicos, pues al fin y al cabo, se trata de un problema estructural. Y existen diversos proyectos creativos que están pensando sobre estas cuestiones y que modificando las estructuras.
Como lo explica el investigador Tarcízio Silva, la supuesta neutralidad de las tecnologías digitales crea una doble opacidad con respecto al proceso de funcionamiento de estas herramientas. La discriminación racial en las plataformas es, por un lado, el resultado de la falta de reconocimiento de la desigualdad racial y, por otro lado, de una insistencia en “camuflar” los aspectos sociales de la tecnología. En este sentido, incluir a personas negras en los equipos de creación y desarrollo de los filtros para que, de esa manera, haya un aumento de la percepción de las necesidades y complejidades del conjunto real de la población, es un paso más hacia la deconstrucción y el cuestionamiento de estereotipos raciales presentes en los filtros de las redes sociales.
La imparcialidad de los datos es otro factor agravante. Existe también una serie de iniciativas para hacer que los bancos de imágenes digitales sean más inclusivos, pues suelen ser una fuente para el mercado publicitario, para la producción de contenidos, para productos empresariales, e incluso para producciones periodísticas.
Aquí en el Brasil, Joyce Soares e Igor Muniz han desarrollado un prototipo de filtro que no esconde o retoca los rasgos y ascendencia negra. El primer paso fue la creación de un dataset (conjunto de datos) que pone a disposición una cantidad suficiente de imágenes de personas negras para crear un parámetro capaz de tomar en cuenta varias tonalidades de piel negra. Fueron utilizados videos de rostros de amigos. En seguida, hicieron uso de la programación para obtener una tonalidad base para un filtro sensible, que identifica el color de la piel de la persona que esté usando el efecto, y lo adapta.
De esta manera, los filtros de las redes sociales pueden servir como instrumentos de embellecimiento y de expresión personal, contribuyendo a la afirmación de las identidades raciales distintas de aquellas de las personas blancas. Más por otro lado, pueden discriminar y reforzar el racismo. Por ende, es necesario aportar diversidad a la construcción y al debate sobre el uso de estas tecnologías.
