Sarah est entrepreneure dans le domaine de l’alimentation à Berlin (nous avons changé son nom et celui de la ville). L’entreprise qu’elle a créée aide les femmes à se sentir à l’aise avec ce qu’elles mangent et prône « l’alimentation intuitive » (intuitive eating). Comme de nombreux chefs de petites entreprises, Sarah s’appuie sur les réseaux sociaux pour attirer des clients. Instagram, le deuxième plus grand réseau social d’Europe après Facebook, est un canal de communication dont elle ne pourrait pas se passer, a-t-elle déclaré.

Mais sur Instagram, un réseau surtout axé sur les photos et les vidéos, elle avait l’impression que parmi ses 53 000 abonnés, peu d’entre eux voyaient ses photos, sauf si elle posait en maillot de bain. En effet, sur quatre de ses sept publications de ces derniers mois qui ont obtenu le plus de mentions « j’aime », elle apparaît en bikini. Ely Killeuse, autrice aux 132 000 abonnés sur Instagram, a accepté de s’exprimer publiquement et a déclaré que « presque toutes » ses photos les plus likées la montraient en sous-vêtements ou en maillot de bain.

Il se pourrait simplement que la plupart des abonnés de Sarah et Ely préfèrent les voir en maillot de bain. Mais depuis le début de l’année 2016, Instagram classe les photos dans le fil d’actualité de l’utilisateur afin que « celles qui l’intéressent le plus apparaissent au début du fil ». Si les autres photos postées par Sarah et Ely sont moins populaires, c’est peut-être parce que leurs abonnés n’y ont pas tellement accès.

Comment sont choisies les photos qui sont montrées et celles qui ne le sont pas ? Hé bien, ce n’est pas juste une question de goût. Les entrepreneurs qui comptent sur Instagram pour attirer des clients doivent se plier aux normes que le service établit afin de toucher leurs abonnés. Même si ces normes ne reflètent pas les valeurs sur lesquelles ils ont fondé leur entreprise, ni celles de leur public cible ou de leurs clients.

2 400 photos analysées

Afin de comprendre quelles photos sont privilégiées par Instagram, le Réseau européen de datajournalisme (EDJNet) et AlgorithmWatch ont demandé à 26 volontaires d’installer une extension de navigateur et de s’abonner à une sélection de créateurs de contenu professionnels. Nous avons sélectionné 37 professionnels (dont 14 hommes) de 12 pays qui utilisent Instagram pour promouvoir des marques ou pour recruter de nouveaux clients pour leurs entreprises, qui couvrent majoritairement les secteurs de l’alimentation, du voyage, du fitness, de la mode ou de la beauté.

L’extension ouvre automatiquement la page d’accueil d’Instagram à intervalles réguliers et relève quelles sont les publications qui apparaissent en haut des fils d’actualité des volontaires, offrant un aperçu de ce que la plateforme considère le plus pertinent pour chacun d’entre eux. 

Si Instagram n’interférait pas dans l’algorithme, la diversité des publications dans le fil d’actualité des utilisateurs devrait correspondre à la diversité des publications que diffusent les créateurs de contenu auxquels ils sont abonnés. Et si Instagram personnalisait le fil d’actualité de tous les utilisateurs en fonction de leurs goûts personnels, la diversité des publications dans le fil devrait être influencée différemment pour chaque utilisateur. Ce n’est pas ce que nous avons constaté.

Entre les mois de février et de mai, 1 737 publications des créateurs de contenu que nous suivons, soit 2 400 photos, ont été analysées. Sur ces publications, un logiciel a identifié que 362, ou 21 % d’entre elles, contenaient des photos représentant des femmes en bikini ou en sous-vêtements, ou bien des hommes torse nu. Cependant, dans les fils d’actualité de nos volontaires, les publications avec de telles photos constituaient 30 % de toutes les publications affichées et provenant des mêmes comptes (certaines d’entre elles étaient affichées plusieurs fois). 

Les publications contenant des photos de femmes en sous-vêtements ou en bikini étaient 54 % plus susceptibles d’apparaître dans le fil d’actualité de nos volontaires. Celles présentant des photos d’hommes torse nu étaient 28 % plus susceptibles d’être affichées. En revanche, les publications de photos de nourriture ou de paysages avaient 60 % moins de chances d’apparaître dans les fils d’actualité.

Ces résultats, que vous pouvez retrouver en détail sur une page consacrée, réussissent les tests standards de pertinence statistique.

En attente d’un audit

Le penchant pour la nudité ne s’applique pas à tous les utilisateurs d’Instagram. Alors qu’il était constant et évident pour la plupart des volontaires, une petite minorité avait accès à des publications qui reflétaient mieux la diversité de ce que publiaient les créateurs de contenu. Il est probable que l’algorithme d’Instagram privilégie la nudité en général, mais que certains facteurs, tels que la personnalisation, limitent ses effets pour certains utilisateurs.

Nos résultats ne sont pas à la hauteur d’un audit complet de l’algorithme sur les fils d’actualité d’Instagram. Ils apportent des informations uniquement sur ce qu’il se produit sur les fils d’actualité de nos volontaires. (Vous pouvez nous aider à améliorer les résultats en installant l’extension, nous actualiserons les résultats au fur et à mesure de l’arrivée de nouvelles données.) Sans un accès aux données internes et aux serveurs de production de Facebook, il sera toujours impossible de tirer des conclusions définitives.

Facebook n’a pas répondu à nos questions précises, mais nous a envoyé une déclaration : « cette recherche est imparfaite à plus d’un titre et montre qu’il existe un malentendu sur le fonctionnement d’Instagram. Nous classons les publications dans vos fils d’actualité selon le contenu et les comptes qui vous intéressent, et non pas selon des facteurs arbitraires tels que la présence de maillots de bain. »

Néanmoins, nous avons des raisons de penser que nos découvertes sont représentatives du fonctionnement général d’Instagram.

Maximiser l’engagement

Dans un brevet déposé en 2015, des ingénieurs de Facebook, l’entreprise à la tête d’Instagram, expliquaient comment le fil d’actualité pouvait sélectionner les photos à favoriser. Lorsqu’un utilisateur publie une photographie, elle est immédiatement analysée automatiquement, selon le brevet. On attribue aux photos un « taux d’engagement », qui est utilisé pour décider si une image devra être affichée ou non dans le fil d’actualité de l’utilisateur.

Le taux d’engagement est en partie fondé sur le comportement passé de l’utilisateur. S’il a aimé une certaine marque et qu’une photo montre un produit de cette marque, le taux d‘engagement augmente. Mais ce taux peut également se calculer selon le comportement passé de tous les utilisateurs du service. Le brevet spécifie que le genre, l’origine ethnique et « le degré de nudité » des personnes sur une photo peuvent être employés pour calculer le taux d’engagement.

Alors qu’Instagram affirme que le fil d’actualité est organisé selon « ce qui intéresse le plus » un utilisateur donné, le brevet de l’entreprise explique qu’il pourrait en fait être organisé selon ce qu’il estime être intéressant pour tous les utilisateurs. Que ces derniers voient ou non les photos postées par les comptes qu’ils suivent dépend non seulement de leur comportement passé, mais aussi de ce qu’Instagram estime le plus intéressant pour les autres utilisateurs du réseau.

Des corrélations trompeuses

Facebook analyse automatiquement les photos grâce à un logiciel appelé vision par ordinateur, avant que l’algorithme ne décide celles qu’il va montrer dans le fil d’actualité d’un utilisateur. Un tel logiciel tire des conclusions automatisées depuis un ensemble de données d’apprentissage qui contient des milliers d’images annotées manuellement. Ses limites peuvent impacter la hiérarchisation des photos par Instagram dans les fils d’actualité.

Les informaticiens savent depuis des années que de tels systèmes reproduisent et amplifient les influences de leurs données d’apprentissage, entraînant des corrélations trompeuses ou fausses. Par exemple, un programme conçu pour identifier des loups et des chiens, basé sur des photos de canidés trouvées en ligne ne reconnaîtront pas ces animaux au sens humain du terme. À la place, il collera une étiquette « loup » à n’importe quel animal se trouvant sur un fond enneigé.

Les données d’apprentissage pour la vision par ordinateur sont généralement produites par des travailleurs sous-payés qui doivent travailler vite et donner des résultats qui répondent aux attentes de leurs employeurs. Cela les amène à tenir compte, sans aucun recul, des catégories qu’on leur propose et à ne pas faire attention aux subtilités qu’une photo peut contenir, écrit Agathe Balayn, doctorante à l’université de technologie de Delft sur le sujet des influences dans les systèmes automatisés.

Les conséquences peuvent être sérieuses. En décembre dernier, un artiste brésilien a essayé de promouvoir l’une de ses publications Instagram. La requête a été refusée en raison de son contenu violent. Il ne s’agissait que d’une photo d’un garçon et du pilote de Formule 1 Lewis Hamilton. Tous deux étaient de couleur. En avril, une professeure de yoga s’est vu refuser une publicité car la photo était obscène, alors qu’elle faisait simplement la posture du corbeau. Elle est américaine d’origine asiatique. (Dans notre configuration expérimentale, nous avons également utilisé un système de vision par ordinateur, Google Vision. Alors que ses résultats sont choquants – le terme « beauté », par exemple, n’était associé qu’à des femmes -, il est très probable que ses influences soient les mêmes que celles du système de vision par ordinateur de Facebook, ne serait-ce que parce qu’il a été en partie fabriqué par les mêmes personnes.)

Une frontière qui s’amincit

La politique d’Instagram spécifie que la nudité n’est « pas autorisée » sur le service, mais favorise des publications qui dévoilent des parties du corps. La différence subtile entre ce qui est encouragé et ce qui est interdit est définie par des algorithmes de vision par ordinateur non-vérifiés et sans aucun doute influencés. À chaque fois que les créateurs de contenu publient une photo, ils doivent évaluer la mince frontière entre en montrer assez afin de toucher leurs abonnés et ne pas en montrer trop pour ne pas se faire exclure de la plateforme.

Un sondage réalisé en 2019 par le magazine américain Salty sur 128 utilisateurs d’Instagram a montré que le retrait de contenu abusif était chose commune. Mais tant que les algorithmes d’Instagram ne sont pas vérifiés, il est impossible d’évaluer la fréquence de ces incidents et si les personnes de couleur et les femmes sont touchées de façon disproportionnée.

Cependant, une analyse de 238 brevets déposés par Facebook contenant l’expression « vision par ordinateur » a montré que, sur 340 personnes sur la liste des inventeurs, seules 27 étaient des femmes. Les environnements dominés par des hommes mènent souvent à des résultats préjudiciables pour les femmes. Par exemple, les ceintures de sécurité dans les voitures ne sont testées que sur des mannequins hommes, ce qui conduit à des taux plus importants de blessures chez les femmes. Nos recherches montrent que les algorithmes de Facebook pourraient suivre le même schéma.

La peur du shadow ban

Sarah et les autres entrepreneurs qui comptent sur Instagram étaient terrifiés de parler à la presse. La plupart des créateurs de contenu professionnels sur Instagram craignent les représailles de la part de Facebook, sous la forme d’une suppression de compte ou d’un shadow ban (une pratique dans laquelle les publications d’un utilisateur sont montrées à peu de ses abonnés, voire à aucun, sans que l’utilisateur n’en soit informé), ce qui équivaut à une condamnation à la mort de leur entreprise.

Une jeune cheffe d’entreprise, comptant environ 70 000 abonnés, qui a déclaré qu’Instagram était « très important » pour son entreprise, a précisément expliqué à AlgorithmWatch qu’elle ne voulait pas que son nom soit cité, par peur du shadow ban. Ely Killeuse, qui a parlé publiquement, a déclaré qu’avoir une autre source de revenus était « primordial » pour elle. Trop de dépendance à Instagram serait nocive pour sa liberté et sa santé mentale, a-t-elle ajouté.

Le règlement général sur la protection des données (RGPD), entré en vigueur en 2018, et le règlement Platforms to Business (P2B), qui sera applicable à partir du 12 juillet 2020, apportent déjà de nombreuses garanties aux utilisateurs et aux professionnels. Le RGPD spécifie notamment que les utilisateurs ont le « droit de s’exprimer » en ce qui concerne les décisions automatisées, et le règlement P2B devrait contraindre les services d’intermédiation numériques à publier les « paramètres principaux qui déterminent la hiérarchie [algorithmique] ».

Cette nouvelle mesure ne devrait pas forcer les plateformes à dévoiler le fonctionnement interne de leurs algorithmes, selon Petra de Sutter, présidente de la commission du marché intérieur et de la protection des consommateurs au Parlement européen. Empêcher Instagram de trier le fil d’actualité de ses utilisateurs ne serait pas faisable juridiquement, a-t-elle écrit dans un email à AlgorithmWatch. À la place, la transparence qu’apportera P2B devrait permettre de prendre des mesures éclairées à l’avenir, a-t-elle ajouté. En ce qui concerne les craintes du shadow-ban, Mme de Sutter les considère exagérées. « Une question n’a jamais entraîné des représailles », a-t-elle écrit.

Le P2B sera peut-être différent, mais deux ans après l’entrée en vigueur du RGPD, plusieurs experts déplorent son implémentation très imparfaite. L’un des problèmes est que les autorités irlandaises de la protection des données, qui est responsable de la régulation de la filiale de Facebook basée à Dublin, semble être tristement en sous-effectif et « ne semble pas comprendre le RGPD », comme l’explique un expert des plateformes à AlgorithmWatch. Un autre problème repose sur le manque de règles. Aucune autorité, à l’échelle européenne ou au sein des États membres, n’a le pouvoir ni les outils pour vérifier ces gigantesques plateformes, y compris Instagram. De nombreuses dispositions du RGPD ne sont donc pas appliquées.

Une possible discrimination

Alors que nos résultats montrent que les créateurs et créatrices de contenu sont contraints de se montrer en petite tenue s’ils veulent toucher leurs abonnés, l’effet pourrait être plus significatif pour les femmes, et être considéré comme discriminant vis-à-vis des cheffes d’entreprise. Toutefois, bien que la discrimination fondée sur le sexe soit interdite par la Charte des droits fondamentaux de l’Union européenne, il n’existe aucun recours en justice pour un utilisateur d’Instagram qui voudrait entamer une procédure judiciaire. Les spécificités de l’entrepreneuriat via les réseaux sociaux ne sont pas prises en compte dans la législation.

Miriam Kullmann, maître de conférences à l’université d’économie et de commerce de Vienne, a écrit à AlgorithmWatch que le règlement européen anti-discrimination intervenait presque exclusivement dans les rapports de travail. Les travailleurs indépendants, tels que les professionnels que nous avons suivis, ne sont pas protégés.

Certains groupes se battent pour les droits des créateurs indépendants sur les réseaux sociaux. IG Metall, le plus grand syndicat d’Europe, soutient une action collective menée par des Youtubeurs, qui exigent plus de justice et de transparence de la part de Google (qui détient YouTube) lorsqu’une vidéo est démonétisée. Ils n’ont pas l’intention d’étendre leur programme aux créateurs de contenu sur Instagram ou sur d’autres plateformes.

Un Européen sur trois

Sachant qu’il y a probablement des milliers d’entrepreneurs européens qui créent du contenu sur Instagram, l’impact de leurs publications est considérable, puisqu’ils comptent systématiquement des centaines de milliers d’abonnés. Facebook a déclaré que près de 140 millions de résidents de l’Union européenne, soit un tiers, ont utilisé Instagram en avril dernier.

Chez les 18-24 ans, l’utilisation d’Instagram est proche de 100 % dans tous les pays de l’Union européenne. Les intimations à rester chez soi en raison de la pandémie de Covid-19 ont permis une augmentation impressionnante du temps passé sur Instagram. Dans l’Italie confinée, en une seule semaine, les vues sur ce réseau social ont doublé par rapport à la normale, a annoncé Facebook à ses investisseurs.

Une photo à soi

Il y a presque cent ans, la célèbre autrice britannique Virginia Woolf disait que les femmes avaient besoin « d’une chambre à soi » pour leur permettre de développer leur créativité. Elle écrivait que s’en remettre à l’opinion des autorités extérieures, c’était comme inviter la pourriture à se développer au cœur de son travail.

Sur Instagram, s’en remettre à l’opinion des autorités qui ont élaboré l’algorithme des fils d’actualité n’est pas une option. Refuser de montrer certaines parties de son corps réduit radicalement le public auquel on s’adresse. Les entrepreneurs, hommes et femmes, doivent respecter les règles mises en place par les ingénieurs de Facebook s’ils veulent avoir une chance de gagner leur vie.