Hay un momento que muchos creadores racializados conocen bien. Publicas algo, una imagen cuidadosamente construida, un diseño que carga significado, un cuerpo que no encaja en el molde estándar, y la plataforma lo recibe en silencio. Digamos que no es rechazo, exactamente. Es una especie de invisibilidad tranquila que es difícil de nombrar y aún más difícil de probar. Yo lo he vivido con Bénieller. Y entre más he leído sobre cómo funcionan realmente los sistemas de recomendación, menos creo que ese silencio sea neutral.
Este ensayo argumenta que la curaduría algorítmica en la moda no es un problema técnico con una solución técnica. Es un problema político con raíces estructurales, y entenderlo requiere conectar la lógica de la plataforma con la lógica de la industria que amplifica.
Cuando el feed se vuelve canon
Durante décadas, las revistas decidían qué era la moda. Hoy esa tarea la cumplen las plataformas digitales. El cambio abrió puertas, en parte. También movió el poder de curar desde editores humanos hacia sistemas automáticos entrenados con datos de comportamiento.
La lógica parece simple: lo que genera reacción se muestra a más gente, eso genera más reacción y el alcance crece. Lo que esa descripción deja por fuera es de dónde vienen los datos y qué sesgos históricos traen consigo.
Virginia Eubanks lo explica bien en Automating Inequality: los sistemas automatizados heredan la desigualdad y la automatizan. Llevado a la moda, un sistema entrenado con décadas de datos de engagement aprendió de décadas de dominio estético eurocéntrico. El canon entra a la máquina y se queda a vivir ahí.
Amplificar también es decidir
Quiero separar dos cosas: crear una jerarquía y amplificarla. Las plataformas no inventaron las jerarquías raciales en la estética. Las encontraron en los datos y las llevaron a otra escala. La diferencia importa, porque significa que mejorar el algoritmo ayuda, pero no alcanza mientras no cambien las condiciones estéticas de las que aprende.
Safiya Umoja Noble, en Algorithms of Oppression, muestra cómo los buscadores reproducen los sesgos culturales dominantes, sobre todo de raza y género. Su análisis aplica igual a los feeds de moda, donde los cuerpos, tonos de piel y referencias que reciben más alcance orgánico suelen calcar las jerarquías que el mundo editorial impuso por años.
Y hay casos documentados. En 2021, el propio equipo de Twitter publicó un estudio sobre su herramienta de recorte automático de imágenes: tendía a favorecer rostros blancos sobre rostros negros. La empresa terminó retirándola. Un año antes, The Intercept reveló documentos internos de TikTok que pedían a moderadores limitar el alcance de videos de personas consideradas poco atractivas, con cuerpos fuera de la norma o grabadas en entornos pobres.
Lo nuevo del entorno digital es la velocidad, la escala y lo invisible del mecanismo. Cuando una revista dejaba a una modelo de piel oscura fuera de la portada, había una decisión rastreable: alguien la tomó. Cuando un algoritmo reduce el alcance de los creadores racializados, la responsabilidad se disuelve en la arquitectura.
Daño sin intención
Aquí quiero ser cuidadoso, porque este argumento a veces se lee como una acusación de racismo deliberado contra quienes diseñan las plataformas. Mi punto va por otro lado, y creo que es más serio: el daño es sistémico justamente porque no necesita intención.
Un sistema optimizado para el engagement, en una cultura donde la estética eurocéntrica siempre recibió más atención, va a reproducir esas jerarquías de manera automática, eficiente y a una escala que ningún editor podría igualar. La estructura hace el trabajo sola.
Esto cambia la conversación en política pública. Preguntar si alguien eligió discriminar lleva a un callejón: es difícil de probar y fácil de negar. Preguntar si un sistema produce resultados discriminatorios abre otra puerta, porque eso se puede medir, auditar y corregir con diseño institucional.
Para quienes creamos desde el Sur Global, las consecuencias son concretas. Menos alcance significa menos ventas, menos visibilidad cultural y menos posibilidades de construir la audiencia que sostiene una marca independiente. La economía digital prometió una cancha pareja. En muchos casos entregó la misma cancha desigual, ahora más eficiente.
Bénieller y los límites del crecimiento orgánico
Construir Bénieller me enseñó, despacio y a veces con dolor, que la calidad del trabajo no basta para decidir hasta dónde llega. La distribución pasa por sistemas con su propia lógica, y esa lógica pocas veces premia la diferencia.
Como creador y como consumidor de contenido de moda, he notado un patrón: las imágenes con cuerpos, paletas y códigos asociados a los mercados del Norte global suelen viajar más lejos y más rápido. Es mi observación, y coincide con lo que Noble, Eubanks y los casos de Twitter y TikTok han documentado.
En la práctica, para una marca como Bénieller, mostrar la cultura tal como es, con los colores, las formas y los cuerpos que le dan sentido al trabajo, muchas veces implica aceptar menos rendimiento algorítmico a cambio de integridad creativa. Las marcas grandes, con audiencias consolidadas, pueden darse ese lujo. Para un creador independiente puede marcar la diferencia entre sostenerse y desaparecer.
Una responsabilidad que no se puede tercerizar
Bajo presión regulatoria y pública, algunas plataformas empezaron a reconocer sesgos en sus sistemas y anunciaron ajustes para dar más visibilidad al contenido subrepresentado. Es un avance, con un límite estructural.
Un compromiso voluntario queda sujeto a las mismas presiones comerciales que cualquier otra decisión de la empresa. Si las medidas de equidad bajan las métricas de engagement, algo frecuente a corto plazo, quedan expuestas a revisión. Como planteé en mi ensayo anterior sobre moda y representación, la inclusión voluntaria vive a merced del caso de negocio.
Por eso las intervenciones más duraderas vienen de la regulación: transparencia algorítmica, auditorías independientes y estándares exigibles de equidad para creadores. Son mecanismos que siguen ahí aunque dejen de ser convenientes.
La Ley de Servicios Digitales de la Unión Europea ya avanzó en esa dirección. Obliga a las plataformas más grandes a evaluar sus riesgos sistémicos, incluida la discriminación, y a someterse a auditorías independientes. Es un marco imperfecto e incompleto, pero cambia la lógica: las plataformas pasan de prometer que intentarán ser justas a tener que demostrarlo.
Hacia algoritmos que no borren
Una cultura imagina la belleza a partir de lo que ve una y otra vez. Cuando los sistemas de recomendación muestran siempre un rango estrecho de cuerpos, colores y referencias, también lo están reproduciendo, a escala, en la mente de la próxima generación de consumidores y creadores.
La moda siempre ha sido un lugar donde la identidad se negocia, se disputa y a veces se recupera. Hoy esa negociación ocurre sobre todo en las plataformas. Por eso el diseño de un sistema de recomendación termina siendo una pregunta cultural: ¿la belleza de quién tiene derecho a verse como universal?
El algoritmo selecciona. Y como sabe cualquiera que haya estudiado la historia de la moda, seleccionar siempre ha sido un acto político.
La pregunta a la que sigo volviendo es si las plataformas serán obligadas a construir sistemas más justos. Y si los creadores y comunidades más afectados tendrán un lugar en la mesa cuando se escriban esas reglas.
Referencias
- Eubanks, V. (2018). Automating Inequality. St. Martin’s Press.
- Noble, S. U. (2018). Algorithms of Oppression. NYU Press.
- Yee, K., Tantipongpipat, U. y Mishra, S. (2021). Image Cropping on Twitter: Fairness Metrics, their Limitations, and the Importance of Representation, Design, and Agency.
- Biddle, S., Ribeiro, P. V. y Dias, T. (2020). Documentos internos de TikTok sobre moderación. The Intercept.
Si algo de lo que hago te sumó, puedes apoyarme
Hay muchas formas de hacerlo, y todas se agradecen igual.