Sarah (nombre ficticio) es una empresaria del sector alimentario en una importante ciudad europea. Su empresa ayuda a las mujeres a sentirse a gusto con su alimentación y promueve el intuitive eating, un método que aboga por tener una actitud sana con la alimentación y con la propia percepción corporal. Como tantos otros pequeños negocios, Sarah depende de las redes sociales para atraer más clientela. Instagram, la segunda red social más importante en Europa después de Facebook, es un canal publicitario del que Sarah no puede prescindir.
Pero Sarah se dio cuenta de que en Instagram, principalmente orientado a imágenes y vídeos, sus fotos no llegaban a la mayoría de sus 53 000 seguidores si no salía posando en traje de baño. De hecho, en cuatro de las siete publicaciones con más “me gusta” de los últimos meses, salía en bikini. Ely Killeuse, escritora y con más de 132 000 seguidores en Instagram, accedió a dar su opinión públicamente y nos dijo que “casi todas” sus fotos con más likes son aquellas en las que sale en ropa interior o bañador.
Parece que sus seguidores prefieren verlas, tanto a Sarah como a Ely, en trajes de baño. Asimismo, desde principios de 2016, Instagram organiza las imágenes en la aplicación según “las preferencias” de los usuarios, por lo tanto, si el resto de las fotos que Sarah y Ely publican tienen menos éxito, es posible que no se muestren tanto a sus seguidores.
Pero cuáles se muestran u ocultan no es simplemente cuestión de gustos. Los empresarios que dependen de Instagram para conseguir clientes se deben adaptar a la metodología que el propio servicio prioriza para poder llegar a sus seguidores. Incluso cuando estos métodos contradicen los valores sobre los que han construido sus negocios o los que comparten con sus seguidores y clientes más fieles.
Para poder entender cuáles son las fotos a las que Instagram da prioridad, la Red de Periodismo de Datos Europea (EDJNet) y AlgorithmWatch pidieron a 26 voluntarios añadir un complemento (o add–on) en sus navegadores y seguir a una selección de creadores de contenido profesionales. Se seleccionaron 37 creadores (14 de ellos, hombres) de 12 países diferentes que utilizan Instagram para publicitar marcas o para atraer nueva clientela para sus negocios, sobre todo en los sectores de nutrición, viajes, deporte, moda y belleza.
Si Instagram no se entrometiese en el funcionamiento del algoritmo, la diversidad de las publicaciones consideradas relevantes debería coincidir con la diversidad de las publicaciones de los creadores de contenido a los que siguen los usuarios. Si Instagram personalizase las publicaciones que aparecen en el muro de novedades de cada usuario según sus gustos, la diversidad de estas publicaciones debería ser seleccionada de manera diferente para cada usuario. Pero esto no es lo que hemos descubierto.
Entre febrero y mayo, se analizaron 1 737 publicaciones de los creadores que monitorizamos, un total de 2 400 fotos. 362 de estas publicaciones (el 21%) contenían, según un programa informático, imágenes de mujeres en ropa interior u hombres sin camiseta. Sin embargo, en el muro de novedades de nuestros voluntarios este tipo de imágenes suponía un 30% de todas las publicaciones de las mismas cuentas (algunas publicaciones aparecían más de una vez).
Las publicaciones que contenían imágenes de mujeres en ropa interior o bikini tenían un 54% más de probabilidad de aparecer en el muro de novedades de los voluntarios, mientras que las que contenían hombres sin camiseta, un 28%. Por el contrario, las publicaciones que mostraban imágenes de comida o paisajes eran un 60% menos probables de ser incluidas en el muro.
Estos resultados, que pueden ser consultados con más detalle en esta página, se pueden considerar estadísticamente significativos según los estándares normales.
A la espera de una auditoría
Pero esta prioridad del nudismo puede no ser el caso para todos los usuarios de Instagram. Aunque era consistente y claro en la mayoría de los voluntarios, una minoría recibía publicaciones que reflejaban más fielmente la diversidad de las publicaciones de los creadores de contenido. Probablemente, el algoritmo de Instagram dé prioridad al nudismo en general, pero la personalización, u otros factores, limitan este patrón en el caso de algunos usuarios.
Nuestros resultados no son suficientes para considerarse una auditoría completa del algoritmo de Instagram, ya que solo muestran lo que ocurría en los muros de novedades de nuestros voluntarios. (Puedes ayudarnos a mejorar estos resultados instalando el mismo add-on; iremos publicando actualizaciones según tengamos más datos). Sin acceso a los datos internos ni a los servidores en producción de Facebook, es imposible conseguir conclusiones definitivas.
Facebook no respondió directamente nuestras preguntas pero publicó una declaración: “Esta investigación presenta fallos de diversa índole y denota falta de comprensión del funcionamiento de Instagram. En el muro de novedades se privilegian publicaciones según el contenido y las cuentas en las que cada usuario ha mostrado interés, y no en factores arbitrarios como la presencia de trajes de baño”.
Aun así, tenemos motivos para pensar que nuestros resultados son relevantes para mostrar el funcionamiento general de Instagram.
Maximizar las preferencias de los usuarios
En una patente publicada en 2015, ingenieros de Facebook, la empresa que controla Instagram, explicaron cómo el muro de novedades podía seleccionar qué imágenes se consideran prioritarias. Según esta patente, cuando un usuario publica una foto, se analiza automática e inmediatamente. Las imágenes obtienen un “grado de interés” (“engagement metric”), que se utiliza para decidir si una imagen se debe mostrar en el muro de novedades de un usuario.
El “grado de interés” se basa parcialmente en las acciones pasadas del usuario. Si un usuario indicó que le gustaba una marca específica y una foto de un producto de la misma marca, el “grado de interés” aumenta. Pero el comportamiento de todos los usuarios del servicio también influye en este “grado”. La patente declara específicamente que el sexo, etnia y “el grado de nudismo” se utilizan para determinar el “grado de interés”.
Mientras que Instagram afirma que el muro de novedades se organiza según las “prioridades” de cada usuario, la patente de la misma empresa explica que podría ser organizado según las prioridades de todos los usuarios. Vean o no los usuarios las fotos de las cuentas que siguen, depende no solo de sus propias acciones pasadas, sino también de lo que Instagram considera interesante para el resto de los usuarios de la plataforma.
Correlaciones equívocas
Antes de que el algoritmo decida qué imágenes mostrar en el muro de novedades del usuario, Facebook las analiza automáticamente a través de un software, conocido como visión artificial. Este software saca conclusiones automatizadas a partir de un conjunto de datos prácticos (training data set), formado por miles de imágenes comentadas a mano. Pero las limitaciones de esta metodología influyen en lo que Instagram considera prioritario e incluye en los muros de novedades.
Los científicos de la computación saben desde hace años que estos sistemas imitan y amplifican los datos prácticos, creando correlaciones falsas y equívocas. Por ejemplo, un programa encargado de diferenciar lobos y perros basándose en imágenes de internet no reconocerá a los animales en el sentido que entendemos nosotros, sino que considerará “lobo” todo animal en una foto con un fondo nevado.
Los conjuntos de datos prácticos para los softwares de visión artificial son a menudo desarrollados por trabajadores mal pagados, incentivados para trabajar lo más rápido posible con resultados que satisfagan las expectativas de sus jefes. Esto les conduce a evitar ser críticos con las categorizaciones que deben efectuar y a obviar las sutilezas de las fotos, tal y como afirma Agathe Balayn, candidata a un doctorado de la Universidad Tecnológica de Delft sobre el margen de error y el sesgo en sistemas automatizados.
Las consecuencias pueden ser graves. En diciembre, un artista brasileño intentó publicitar una de sus publicaciones de Instagram. La solicitud se rechazó en base al contenido violento que incluía. Solo mostraba a un chico joven y al piloto de Formula 1 Lewis Hamilton: pero eran los dos de piel oscura. En abril, a una profesora de yoga le fue rechazado un anuncio en base al contenido obsceno de la imagen, aunque simplemente estaba haciendo la postura del cuervo lateral. Era asiático-americana.
Una línea muy fina
Las reglas generales de Instagram declaran que el nudismo “no está permitido”, pero la red social favorece las publicaciones que enseñan más carne. La sutil diferencia entre lo que se incentiva y lo que se prohíbe se decide según algoritmos de visión artificial que no han sido sometidos a ninguna auditoría y son probablemente imparciales. Cada vez que publican una imagen, los creadores de contenido deben ser cautos para no cruzar la fina línea que les censuraría, pero a su vez deben ser suficientemente exhibicionistas como para aparecer en los muros de sus seguidores.
En 2019, una encuesta de la revista estadounidense Salty a 128 usuarios de Instagram reveló que la censura abusiva de contenido era bastante común. Pero mientras los algoritmos de Instagram sigan sin ser sometidos a auditorías es imposible saber lo habituales que son estas situaciones o si son las personas de color o las mujeres quienes lo sufren desproporcionadamente.
Sin embargo, una revisión de 238 patentes archivadas por Facebook que contenían la frase “visión artificial” reveló que, de las 340 personas consideradas inventoras, solo 27 eran mujeres. Los sectores dominados por los hombres suelen conducir a situaciones que afectan negativamente a las mujeres. Los cinturones de los coches, por ejemplo, solo se prueban con maniquíes masculinos, lo que conduce a mayores tasas de lesiones en mujeres. Nuestra investigación desvela que los algoritmos de Facebook podrían estar siguiendo este patrón.
Temor a la censura encubierta
A Sarah y al resto de empresarios que dependen de Instagram les aterra hablar con la prensa. La mayoría de los creadores de contenido profesionales temen las represalias de Facebook, que consisten en la eliminación de la cuenta o en censuras encubiertas (en las que las publicaciones de un usuario se muestran a muy pocos o incluso a ninguno de sus seguidores, sin que el propio usuario lo sepa): una sentencia de muerte para sus negocios.
Una joven empresaria con unos 70 000 seguidores dijo que Instagram era “muy importante” para su negocio, pero pidió a AlgorithmWatch quedar en el anonimato por miedo a la censura encubierta. Ely Killeuse, que accedió a hablar públicamente, dijo que tener otra fuente de ingresos era “esencial” para ella y añadió que demasiada dependencia de Instagram significaría perder tanto su libertad como su cordura.
El Reglamento General de Protección de Datos (RGPD), que tomó forma en 2018, y la ley de “de plataforma a negocio” (Platform-to-Business, o P2B), que será aplicable a partir del 12 de julio de 2020, ya dan muchas garantías a los usuarios y a los profesionales. El RGPD declara específicamente que los usuarios tienen “derecho a una explicación” sobre las decisiones automatizadas y la P2B impone servicios de intermediación online que tienen como objetivo revelar los “parámetros [algorítmicos] principales que determinan el ranking”.
Según Petra de Sutter, directora de la Comisión de Mercado Interior y Protección del Consumidor del Parlamento Europeo, esta medida no debería forzar a estas plataformas a desvelar el funcionamiento interno de sus algoritmos. En un email enviado a AlgorithmWatch afirmó que evitar que Instagram organice los muros de novedades de sus usuarios no sería legalmente factible. En su lugar, la transparencia que otorga la P2B debería permitir que se tomen en el futuro decisiones políticas bien informadas. En cuanto a los miedos a censuras encubiertas, Petra de Sutter los considera exagerados. “Preguntar nunca ha provocado represalias”, escribió.
La P2B podría ser diferente, pero dos años después de que el RGPD tomase forma, varios expertos consideran deplorable que se implemente una ley con tantas lagunas. Según informó a AlgorithmWatch un especialista en el funcionamiento de estas plataformas, uno de los problemas es que, desafortunadamente, las autoridades de protección de datos irlandesas, responsables de la regulación de la sucursal europea de Facebook, situada en Dublín, parecen no tener personal suficiente ni “entender el RGPD”. Otro de los problemas es la falta de políticas relevantes. Ninguna autoridad, tanto a nivel europeo como en cada uno de los Estados miembros, tiene el poder o las herramientas suficientes para llevar a cabo una auditoría en ninguna de las grandes plataformas, como Instagram, haciendo inejecutables muchas de las disposiciones del RGPD.
Posibles discriminaciones
Aunque nuestros resultados hayan mostrado que tanto hombres como mujeres se ven forzados a exhibirse de forma similar para llegar a sus seguidores, las consecuencias podrían ser más graves en el caso de las mujeres y esto se podría considerar discriminación hacia las empresarias. Sin embargo, aunque la Carta de los Derechos Fundamentales de la Unión Europea prohíba la discriminación por género, los usuarios de Instagram no tienen vías legales para luchar contra ello. Las especificidades de las redes sociales en las empresas no se toman en cuenta en la legislación actual.
Miriam Kullmann, profesora asistente de la Universidad de Economía de Viena (WU), escribió a AlgorithmWatch afirmando que la legislación europea contra la discriminación lidia exclusivamente con las relaciones laborales. Los trabajadores autónomos, como los que hemos monitorizado, no están protegidos.Algunos grupos luchan por los derechos de los creadores de contenido independentes. IG Metall, el sindicato más grande de Europa, apoya a un colectivo de youtubers, que exige un trato más justo y transparente por parte de Google (propietario de Youtube) cuando desmonetizan sus vídeos. Pero IG Metall no planea extenderse a los creadores de contenido de Instagram u otras plataformas.
La influencia de los miles de empresarios europeos creando contenido en Instagram es inmensa, ya que tienen cientos de miles de seguidores. Facebook afirma que cerca de 140 millones de ciudadanos de la Unión Europea (un tercio) usó Instagram en abril.
Entre los jóvenes de 18 a 24 años, el uso de Instagram es prácticamente del 100% en todos los Estados miembros. Las medidas de confinamiento durante la pandemia de la covid-19 aumentaron el tiempo de uso de Instagram abrumadoramente. En tan solo una semana durante el confinamiento, en Italia se duplicaron las visitas en Instagram, según la información que Facebook proporcionó a sus inversores.
Un espacio propio
Hace casi un siglo, la aclamada escritora británica Virginia Woolf dijo que las mujeres necesitaban “una habitación propia” para desarrollar su creatividad. Adherirte a la opinión ajena, escribió, era como permitir que un tumor se expandiese en el corazón de tu obra.
En Instagram, adherirse a las opiniones de los que crearon el algoritmo de los muros de novedades no es una opción. Negarse a mostrar más partes del cuerpo reduce drásticamente tu audiencia. Tanto empresarios como empresarias deben atenerse a las reglas que imponen los ingenieros de Facebook si quieren al menos tener la oportunidad de intentar ganarse la vida.
