Sarah jest berlińską przedsiębiorczynią z branży spożywczej (nazwa i miasto zostały zmienione). Firma, którą założyła, opowiada się za „intuicyjnym jedzeniem”. Dzięki niej wiele kobiet nie przelicza już kalorii. Podobnie jak wielu właścicieli małych przedsiębiorstw, Sarah korzysta z mediów społecznościowych w celu przyciągnięcia klientów. Instagram, druga po Facebooku sieć społecznościowa w Europie, jest, jak twierdzi, narzędziem marketingowym, bez którego nie mogłaby się obejść.

Ale zauważyła, że na Instagramie, który przywiązuje dużą wagę do zdjęć i filmów, jej zdjęcia nie docierają do wielu z jej 53 000 obserwujących, chyba że pozuje w stroju kąpielowym. W rzeczy samej, na czterech z jej siedmiu najbardziej lubianych postów z ostatnich kilku miesięcy występowała w bikini. Ely Killeuse, autorka książek mogąca się poszczycić 132 000 obserwującymi na Instagramie, która zgodziła się nam ujawnić prawdę bez ogródek, stwierdziła, że „prawie wszystkie” spośród jej zdjęć zbierających najwięcej polubień pokazywały ją w bieliźnie lub kostiumach kąpielowych.

Być może ogromna większość odbiorców woli oglądać Sarę i Ely w kostiumach kąpielowych. Ale od początku 2016 r. Instagram porządkuje zdjęcia w aktualnościach (newsfeed) użytkownika, tak aby te, „na których użytkownikowi najbardziej zależy, pojawiały się w pierwszej kolejności ”. Jeśli inne zdjęcia publikowane przez Sarę i Ely są mniej popularne, to może z tej prostej przyczyny, że są one rzadziej pokazywane obserwującym.

Które zdjęcia są pokazywane, a które nie, to nie tylko kwestia gustu. Przedsiębiorcy, którzy korzystają z Instagrama w celu pozyskiwania klientów, muszą przyjąć normy, które według dostawcy usługi pomagają dotrzeć do obserwujących. Nawet jeśli te normy nie odzwierciedlają wartości, na których zbudowali swój biznes, lub wartości ich głównych odbiorców i klientów.

2 400 przeanalizowanych zdjęć

Aby zrozumieć, które zdjęcia są na Instagramie wyświetlane priorytetowo, Europejska Sieć Dziennikarstwa Danych i AlgorithmWatch poprosiły 26 ochotników o zainstalowanie wtyczki do przeglądarki i śledzenie wybranych profesjonalnych twórców treści. Wybraliśmy 37 specjalistów z 12 krajów (w tym 14 mężczyzn), którzy korzystają z Instagrama w celu reklamowania marek lub pozyskiwania nowych klientów dla swoich firm, głównie w branży spożywczej, podróżniczej, fitness, mody i urody.

Rozszerzenie automatycznie otwiera stronę główną Instagrama w regularnych odstępach czasu i odnotowuje, które posty pojawiają się w górnej części aktualności ochotników, w ten sposób dokonując przeglądu tego, co platformy uważają za najbardziej odpowiednie dla danego wolontariusza.

Gdyby Instagram nie kombinował z algorytmem, różnorodność postów w strumieniu aktualności użytkowników odpowiadałaby różnorodności postów wśród śledzonych przez nich twórców treści. A jeśli Instagram spersonalizował newsfeed każdego użytkownika zgodnie z jego osobistymi upodobaniami, różnorodność postów w tych aktualnościach powinna zostać ukształtowana w inny sposób dla każdego użytkownika. Tego nie stwierdziliśmy.

Pomiędzy lutym a majem przeanalizowaliśmy 1737 postów zawierających 2400 zdjęć, opublikowanych przez monitorowanych twórców treści. 362 czyli 21% tych postów zostało rozpoznanych przez program komputerowy jako zawierających zdjęcia przedstawiające kobiety w bikini lub bieliźnie albo mężczyzn z nagim torsem. W aktualnościach naszych wolontariuszy, posty z takimi zdjęciami stanowiły 30% wszystkich publikacji danego konta (niektóre posty były pokazywane kilkukrotnie).

Prawdopodobieństwo pojawienia się postów zawierających zdjęcia kobiet w bieliźnie lub bikini w aktualnościach naszych ochotników było o 54% większe. Pojawienie się wpisów zawierających zdjęcia mężczyzn z nagim torsem było o 28% bardziej prawdopodobne. Natomiast posty ze zdjęciami produktów spożywczych lub krajobrazu były o około 60% rzadziej wyświetlane.

Wyniki te, które są szczegółowo opisane na dedykowanej stronie, spełniają standardowe wymogi dotyczące reprezentacyjności.

W oczekiwaniu na audyt

Skłonność ku nagości może nie dotyczyć wszystkich użytkowników Instagrama. Chociaż występowała konsekwentnie i jednoznacznie w przypadku większości ochotników, niewielkiej mniejszości udostępniano posty, które lepiej odzwierciedlały różnorodność ukazywaną przez twórców treści. Jest prawdopodobne, że algorytm Instagrama ogólnie preferuje nagość, ale personalizacja lub inne czynniki ograniczają tę tendencję w przypadku niektórych użytkowników.

Nasze badanie nie spełnia warunków wyczerpującego audytu algorytmu newsfeedu na Instagramie. Dokumentują tylko to, co wydarzyło się w aktualnościach naszych ochotników (możesz pomóc nam poprawić wyniki naszego badania, instalując dodatek, będziemy publikować aktualizacje, gdy pojawi się więcej danych). Bez dostępu do wewnętrznych danych i serwerów produkcyjnych Facebooka, wyciągnięcie ostatecznych wniosków nigdy nie będzie możliwe.

Facebook nie odpowiedział na nasze konkretne pytania, ale wysłał oświadczenie: „To badanie jest błędne w wielu aspektach i świadczy o braku zrozumienia funkcjonowania Instagrama. Ustawiamy posty w aktualnościach na podstawie treści i kont, którymi użytkownicy byli zainteresowani, a nie na podstawie arbitralnych czynników, takich jak stroje kąpielowe.”

Mamy jednak powody, by sądzić, że nasze ustalenia odzwierciedlają ogólny sposób funkcjonowania Instagrama.

Maksymalizacja zaangażowania

W patencie opublikowanym w 2015 r. inżynierowie Facebooka, firmy zarządzającej Instagramem, wyjaśnili, w jaki sposób newsfeed może wybrać, które zdjęcia będą się pojawiały w pierwszej kolejności. Gdy użytkownik opublikuje zdjęcie, jest ono natychmiast automatycznie analizowane, zgodnie z patentem. Zdjęcia otrzymują „wskaźnik zaangażowania”, na podstawie którego podejmowana jest decyzja, czy dane zdjęcie zostanie wyświetlone w zestawie treści wyskakujących na tablicy użytkownika.

Wskaźnik zaangażowania jest częściowo oparty na uprzednich preferencjach użytkowników. Jeśli użytkownik polubił określoną markę, a zdjęcie przedstawia jej produkt, wskaźnik zaangażowania wzrasta. Ale można go również obliczyć na podstawie wcześniejszych działań wszystkich użytkowników usługi. Patent wyraźnie stwierdza, że płeć, pochodzenie etniczne i „stan negliżu” osób na zdjęciu można uwzględnić przy wyliczaniu wskaźnika zaangażowania.

Podczas gdy Instagram twierdzi, że zestaw napływających zdjęć jest zorganizowany zgodnie z tym, co dla danego użytkownika „jest najważniejsze”, patent firmy wyjaśnia, że można go właściwie uszeregować według tego, co według tejże firmy wzbudza zainteresowanie użytkowników. To, czy użytkownicy zobaczą zdjęcia opublikowane przez konta, które obserwują, zależy nie tylko od ich uprzednich wyborów, ale także od tego, co według Instagrama najbardziej angażuje innych użytkowników platformy.

Pozorne korelacje

Facebook automatycznie analizuje zdjęcia za pomocą oprogramowania zwanego wizją komputerową (computer vision), zanim jego algorytm zdecyduje, które z nich wyświetlić w zestawie wiadomości użytkownika. Takie oprogramowanie wyciąga automatyczne wnioski ze zbioru danych szkoleniowych, złożonego z tysięcy opatrzonych adnotacjami wizerunków. Jego ograniczenia mogą wpłynąć na sposób, w jaki Instagram ustawia kolejność zdjęć w zestawach napływających publikacji.

Informatycy wiedzą już od lat, że takie systemy replikują i potęgują tendencyjność ich danych szkoleniowych, prowadząc do pozornych lub błędnych korelacji. Na przykład program, którego zadaniem jest identyfikacja wilków i psów na podstawie zdjęć psowatych znalezionych w Internecie, nie rozpozna zwierząt w ludzkim tego słowa znaczeniu. Zamiast tego przystawi etykietkę „wilk” każdemu zwierzęciu na zaśnieżonym tle.

Dane szkoleniowe wizji komputerowej są zazwyczaj przygotowywane przez słabo opłacanych pracowników zachęcanych do szybkiej pracy i zapewniania wyników, które odpowiadają oczekiwaniom ich pracodawców. Prowadzi ich to do bezkrytycznego przyjmowania oferowanych im kategorii i przeoczania subtelności, które może zawierać zdjęcie – pisze na temat stronniczości w zautomatyzowanych systemach doktorantka Agathe Balayn z Politechniki w Delft.

Konsekwencje mogą być poważne. W grudniu brazylijski artysta próbował zareklamować jeden ze swoich postów na Instagramie. Prośba została odrzucona z tego powodu, że post zawierał przemoc. Przedstawiał tylko chłopca i kierowcę Formuły 1 Davida Hamiltona. Obydwaj są ciemnoskórzy. W kwietniu nauczycielce jogi odmówiono reklamy, co uzasadniono tym, że zdjęcie pokazuje wulgaryzmy, mimo że przedstawia jedynie boczny wariant pozycji żurawia. Dana użytkowniczka jest Amerykanką azjatyckiego pochodzenia.

(My również, w naszej eksperymentalnej konfiguracji, użyliśmy systemu wizji komputerowej – Google Vision. Chociaż wyniki są rażące – na przykład etykietą „piękno” obdarzano jedynie kobiety – bardzo prawdopodobne jest, że jego uprzedzenia są podobne do tych charakteryzujących wizję komputerową Facebooka, chociażby tylko dlatego, że zostało utworzone częściowo przez te same osoby).

Stąpanie wąską ścieżką

Według wytycznych Instagrama nagość jest „niedozwolona” w serwisie, ale posty pokazujące nieprzykryte części ciała są mile widziane. Subtelna różnica między tym, co jest zachęcane, a tym, co zabronione, jest ustalana przez niezbadane i prawdopodobnie tendencyjne algorytmy wizji komputerowej. Za każdym razem, gdy twórcy treści publikują zdjęcie, muszą stąpać po tej bardzo wąskiej ścieżce między ujawnianiem na tyle golizny, by dotrzeć do obserwujących, ale nie tyle, aby zostać zbanowanym.

Badanie ankietowe przeprowadzone w 2019 r. przez amerykański magazyn Salty, w którym uczestniczyło 128 użytkowników Instagrama wykazało, że nieuzasadnione kasowanie treści było powszechne. To, jak częste są takie zdarzenia i czy osoby o różnych kolorach skóry i kobiety są na to szczególnie narażone, trudno ustalić, dopóki algorytmy Instagrama nie zostaną zbadane.

Jednak przegląd 238 patentów zgłoszonych przez Facebooka zawierających frazę „wizja komputerowa” (computer vision) wykazał, że spośród 340 osób wymienionych jako wynalazcy tylko 27 było kobietami. Działania środowiska zdominowane przez mężczyzn zazwyczaj doprowadzają do sytuacji krzywdzących kobiety. Na przykład pasy bezpieczeństwa w samochodach są testowane tylko na męskich manekinach, co prowadzi do wyższych wskaźników obrażeń u kobiet. Nasze badania wskazują na to, że algorytmy Facebooka mogą cechować się tymi samymi schematami.

Strach przed shadow-banem

Sarah i inni przedsiębiorcy, dla których Instagram ma żywotne znaczenie, boi się rozmawiania z mediami. Większość profesjonalnych twórców treści na Instagramie obawia się działań odwetowych ze strony Facebooka, kończących się usunięciem konta lub shadow-banem (praktyka polegająca na tym, że posty użytkownika są pokazywane bardzo niewielu obserwującym lub nie są pokazywane żadnemu z nich, bez wiedzy użytkownika) – co oznacza koniec ich kariery influencera.

Młoda przedsiębiorczyni z około 70 000 obserwującymi, która powiedziała, że Instagram jest „bardzo ważny” dla jej firmy, zaznaczyła w rozmowie z AlgorithmWatch, że nie chce by wymieniono jej nazwisko z obawy przed shadow-banem. Ely Killeuse, która zgodziła się na ujawnienie swojego zdania, powiedziała, że posiadanie innego źródła dochodu było dla niej „warunkiem koniecznym”, aby móc się podjąć tego kroku. Dodała, że zbyt duże uzależnienie od Instagramu oznaczałoby utratę wolności i zdrowego rozsądku.

Rozporządzenie o ochronie danych osobowych (RODO), które weszło w życie w 2018 r., jak też rozporządzenie w sprawie platform biznesowych (platform-to-business regulation – P2B), które będzie obowiązywać od 12 lipca 2020 r., już zapewnia wiele zabezpieczeń dla użytkowników i specjalistów. W szczególności RODO stwierdza, że użytkownicy mają „prawo do uzyskania wyjaśnień ” dotyczących zautomatyzowanych decyzji, a rozporządzenie P2B zmusi serwisy internetowe do ujawnienia „głównych parametrów określających ranking [algorytmiczny]”.

Zdaniem Petry de Sutter, przewodniczącej Komisji Rynku Wewnętrznego i Ochrony Konsumentów w Parlamencie Europejskim, ten nowy środek nie powinien zmuszać platformy do ujawnienia wewnętrznego funkcjonowania ich algorytmów. Uniemożliwianie Instagramowi sortowania publikacji wyświetlających się w aktualnościach użytkowników nie byłoby prawnie wykonalne, napisała w e-mailu do AlgorithmWatch. Dodała, że zamiast tego przejrzystość, którą przyniesie P2B, powinna pozwolić na podejmowanie świadomych decyzji dotyczących zasad funkcjonowania. Jeśli chodzi o obawy przed shadow-banem, pani de Sutter uważa je za przesadzone. „Zadanie pytania jeszcze nigdy nie skutkowało odwetem”, napisała.

P2B może być inne, ale dwa lata po wejściu w życie RODO szereg ekspertów ubolewa nad jego bardzo nieszczelnym wdrożeniem. Jednym z problemów jest to, że irlandzki organ ochrony danych, który jest odpowiedzialny za nadzorowanie europejskiej filii Facebooka z siedzibą w Dublinie, wydaje się mieć żałośnie za mało personelu i „zdaje się nie rozumieć RODO”, jak to specjalista zajmujący się funkcjonowaniem platform stwierdził w rozmowie z AlgorithmWatch.     Kolejną kwestią jest brak działań zapewniających przestrzeganie przepisów. Żaden organ na poziomie europejskim czy też w państwach członkowskich nie ma uprawnień ani narzędzi potrzebnych do przeprowadzenia audytu którejkolwiek z gigantycznych platform, w tym Instagrama, przez co wiele przepisów RODO nie jest przestrzeganych.

Potencjalna dyskryminacja

Chociaż nasze wyniki pokazują, że twórcy treści, zarówno mężczyźni jak i kobiety, są w podobny sposób zmuszani do pokazywania nagiej skóry, jeśli chcą dotrzeć do odbiorców, zjawisko może być bardziej odczuwalne dla kobiet i uważane za dyskryminację kobiet-przedsiębiorców. Bo pomimo tego, że Kartę Praw Podstawowych Unii Europejskiej zabrania dyskryminacji ze względu na płeć, użytkownik Instagrama nie ma prawnych możliwości wszczęcia postępowania sądowego. Specyfika przedsiębiorczości w mediach społecznościowych nie jest uwzględniana w prawodawstwie.

Miriam Kullmann, adiunkt na Uniwersytecie Ekonomii i Przedsiębiorczości w Wiedniu, napisała do AlgorithmWatch, że europejskie ustawodawstwo antydyskryminacyjne dotyczy prawie wyłącznie stosunków pracy. Osoby prowadzące działalność na własny rachunek, takie jak monitorowani przez nas specjaliści, nie są chronione.

Niektóre grupy walczą o prawa niezależnych twórców w mediach społecznościowych. IG Metall, największy związek zawodowy w Europie, wspiera zbiorowy pozew YouTuberów, którzy domagają się większej sprawiedliwości i przejrzystości ze strony Google’a (właściciela YouTube) po demonetyzacji pewnego materiału video. Nie planują rozszerzenia swoich działań, aby objąć nimi twórców treści na Instagramie lub innych platformach.

Co trzeci Europejczyk

Ponieważ liczba europejskich przedsiębiorców tworzących treści na Instagramie sięga prawdopodobnie tysięcy, wpływ ich postów jest ogromny, bowiem każdy z nich może się poszczycić setkami tysięcy obserwujących. Facebook twierdzi, że prawie 140 milionów mieszkańców Unii Europejskiej, czyli jedna trzecia jej obywateli, korzystała z Instagrama w kwietniu br.

Wśród osób w wieku od 18 do 24 lat penetracja Instagrama wynosi prawie 100% w każdym kraju UE. Nakaz pobytu w domu związany z pandemią Covid-19 zwiększył czas spędzony na tym portalu. Facebook poinformował inwestorów, że we Włoszech w okresie kwarantanny liczba wyświetleń na Instagramie podwoiła się w stosunku do poprzednich miesięcy.

Własna bułeczka

Prawie sto lat temu słynna brytyjska pisarka Virginia Woolf powiedziała, że kobiety potrzebują „własnego pokoju”, aby umożliwić sobie rozkwit kreatywności. Podporządkowywanie się opinii czynników zewnętrznych, pisała, to tak jakby zachęcanie zgnilizny do rozprzestrzeniania się w sercu własnej pracy.

Na Instagramie podleganie opinii administratorów, którzy skonstruowali algorytm zestawu napływających wiadomości, nie jest wyborem. Odmowa pokazania części ciała dramatycznie zmniejsza liczbę odbiorców. Przedsiębiorcy płci męskiej i żeńskiej muszą przestrzegać zasad ustalonych przez inżynierów Facebooka, jeśli chcą zarabiać na życie.