Sarah locuiește la Berlin și este un antreprenor din domeniul alimentar (numele și orașul au fost schimbate). Compania pe care a creat-o ajută femeile să se simtă confortabil în ceea ce privește consumul de mâncare și susține „alimentația intuitivă”. Precum mulți mici proprietari de afaceri, Sarah se bazează pe rețelele de socializare pentru atragerea clienților. Instagram, a doua cea mai mare rețea de socializare după Facebook, este un canal de marketing fără de care nu ar putea supraviețui, a spus ea.

Dar pe Instagram, care este puternic orientată spre poze și videoclipuri, a simțit că fotografiile ei nu au atins prea mulți dintre cei 53.000 de urmăritori în afara cazului în care a pozat în costum de baie. Într-adevăr, patru dintre cele mai apreciate șapte postări ale ei din ultimele câteva luni o surprindeau în bikini.  Ely Killeuse, un autor de carte cu 132.000 de urmăritori pe Instagram care a fost de acord să vorbească oficial, a spus că „aproape toate” dintre cele mai apreciate poze ale ei o arătau în lenjerie sau în costum de baie.

S-ar putea ca audiențele lor să prefere în număr masiv să le vadă pe Sarah și Ely în costume de baie. Dar de la începutul lui 2016, Instagram aranjează fotografiile din newsfeed-urile utilizatorilor în așa fel încât pozele pe care un utilizator „le preferă, să apară în partea de sus a feed-ului”. Dacă celelalte poze postate de Sarah și Ely sunt mai puțin populare, acest lucru s-ar putea datora faptului că nu sunt arătate la fel de mult urmăritorilor lor.

Care poze apar și care nu este mai mult decât o chestiune de gust. Antreprenorii care se bazează pe Instagram pentru atragerea de noi clienți trebuie să adopte normele încurajate de serviciu pentru a ajunge la urmăritorii lor. Chiar dacă aceste norme nu reflectă valorile pe care și-au construit afacerile lor sau acelea ale principalei lor audiențe.

2,400 de fotografii analizate

Pentru a înțelege ce poze a prioritizat Instagram, Rețeaua Europeană de Jurnalism de Date (EDJNet) și AlgorithmWatch a rugat 26 de voluntari să își instaleze o extensie browser și să urmeze o selecție de creatori de conținut profesioniști. Am ales 37 de profesioniști din 12 țări (14 dintre ei, bărbați) care folosesc Instagram pentru a promova branduri sau pentru a atrage clienți noi pentru afacerile lor, în mare parte din zona de alimentație, călătorie, fitness, fashion sau frumusețe.

Extensia deschide automat pagina principală a Instagram-ului la intervale regulate și notează ce postări apar în partea de sus a newsfeed-urilor voluntarilor, oferind o vedere de ansamblu asupra a ce consideră platforma cel mai relevant pentru fiecare voluntar.

Dacă Instagram nu s-ar fi amestecat în algoritm, diversitatea postărilor în newsfeed-urile utilizatorilor ar trebui să se potrivească cu diversitatea postărilor creatorilor de conținut pe care îi urmăresc. Iar dacă Instagram a personalizat newsfeed-ul fiecărui utilizator după gusturile lui personale, diversitatea postărilor în newsfeed-urile lor ar trebui să înclinată diferit pentru fiecare utlizator. Niciunul dintre aceste scenarii nu s-a potrivit.

Între februarie și mai, au fost analizate 1.737 de postări publicate de creatorii de conținut pe care îi monitorizăm, cuprinzând un total de 2400 de fotografii. Dintre aceste postări, 362, sau 21%, au fost recunoscute de un program de calculator ca având poze cu femei în bikini sau lenjerie, sau cu bărbați la pieptul gol. În newsfeed-urile voluntarilor noștri, oricum, postările cu astfel de fotografii au reprezentat 30% dintre toate postările apărute sub numele acelorași conturi (unele postări au apărut de mai multe ori). 

Postările care au conținut fotografii cu femei în lenjerie sau bikini au fost cu 54% mai predispuse să apară în newsfeed-ul voluntarilor noștri. Postările conținând poze cu bărbați la pieptul gol au fost cu 28% mai predispuse spre afișare. În contrast, postările afișând fotografii cu mâncare sau peisaje au avut cu 60% mai puține șanse să fie afișate în newsfeed.

Aceste rezultate, care pot fi citite în detaliu pe o pagină dedicată , trec testele standard a semnificației statistice.

În așteptarea unui audit

Înclinația spre nuditate s-ar putea să nu se aplice tuturor utilizatorilor de Instagram. În timp ce a fost consecventă și evidentă pentru majoritatea voluntarilor, o mică minoritate a fost servită cu postări care au reflectat mai bine diversitatea postărilor creatorilor de conținut. Probabil, algoritmul Instagram favorizează nuditatea în general, dar personalizarea, sau alți factori, limitează efectul pentru câțiva utilizatori.

Rezultatele noastre sunt departe de concluziile pe care l-ar putea avea un audit complet asupra algoritmului de newsfeed a Instagram. Ele documentează doar ce s-a întâmplat în newsfeed-urile voluntarilor noștri. (Ne poți ajuta să îmbunătățim rezultatele prin instalarea extensiei, vom publica actualizări după ce vom avea mai multe date.) Fără acces la datele interne ale Facebook și la serverele de producție, va fi întotdeauna imposibil să tragem concluzii definitive.

Facebook nu ne-a răspuns precis întrebărilor, dar au trimis o declarație: „Această cercetare este defectuoasă din mai multe motive și arată o neînțelegere a modului de funcționare al Instagram. Noi clasăm postările în feed-ul vostru pe baza conținutului și conturilor în care v-ați arătat interesul, nu pe baza unor factori arbitrari precum prezența costumului de baie.”

Cu toate acestea, avem motive să credem că descoperirile noastre reprezintă modul în care Instaram operează în general.

Maximizarea angajamentului

Într-un patent publicat în 2015, inginerii de la Facebook, compania care conduce Instagram, au explicat cum newsfeed-ul ar putea alege ce poze să prioritizeze. Când un utilizator postează o fotografie, ea este analizată automat pe loc, conform patentului. Fotografiilor le sunt atașate un „metric de angajament”, care este utilizat pentru a decide dacă să se afișeze sau nu o anumită imagine în newsfeed-ul utilizatorului.

Metricul de angajament se bazează pe de-o parte pe comportamentul din trecut al utilizatorilor. Dacă un utilizator a apreciat un anumit brand, iar o poză arată un produs al aceluiași brand, metricul de angajament crește. Dar metricul de angajament poate fi de asemenea calculat pe baza comportamentului tuturor utilizatorilor serviciului. Patentul prevede în mod specific faptul că sexul, etnia și „nivelul de dezbrăcare” ale oamenilor dintr-o fotografie ar putea fi utilizate la calcularea metricului de angajament.

În timp ce Instagram susține că newsfeed-ul este organizat după criteriul „ce îi pasă cel mai mult” unui anumit utilizator, patentul companiei explică că acesta poate fi clasificat conform a ce le place tuturor utilizatorilor. Dacă utilizatorii văd pozele postate de conturile pe care le urmăresc sau nu depinde nu doar de istoricul lor comportamental, dar și de ce crede Instagram că este cel mai captivant pentru alți utilizatori ai platformei.

Corelații false

Facebook analizează automat fotografiile cu un software, cunoscut ca viziunea computerizată, înainte ca algoritmul să decidă pe care le arată în newsfeed-ul unui utilizator. Un astfel de software culege inferențe automate dintr-un set de date de instruire, conceput din mii de imagini adnotate manual. Limitările sale ar putea afecta modul în care Instagram prioritizează pozele în newsfeed-uri.

Informaticienii știu de mulți ani că astfel de sisteme copiază și amplifică prejudecățile datelor lor de instruire, ducând la corelații false sau eronate. Spre exemplu, un program însărcinat cu identificarea lupilor și câinilor bazat pe fotografiile caninelor găsite online nu vor recunoaște animalele în sensul obișnuit al cuvântului. În schimb, va pune eticheta „lup” oricărui animal de pe un fundal înzăpezit.

Datele de instruire pentru viziunea computerului sunt de obicei produse de muncitori prost-plătiți, care sunt stimulați de faptul că trebuie să lucreze rapid și să aducă rezultate mulțumitoare pentru angajatori. Acest lucru îi face să adopte fără discernământ categoriile alocate și să treacă cu vederea subtilitățile pe care o fotografie le poate conține, a scris Agathe Balayn, un candidat la doctorat pe subiectul prejudecăților sistemelor automate la Universitatea de Tehnologie Delft.

Aceste consecințe pot fi severe. În Decembrie, un artist brazilian a încercat să promoveze una dintre postările sale de pe Instagram. Solicitarea sa a fost respinsă pe temeiul că postarea conține elemente violente. Aceasta înfățișa doar un băiat și pe șoferul de Formula Unu David Hamilton. Amândoi aveau tenul închis. În aprilie, unui instuctor de yoga i-a fost refuzat un anunț publicitar pe motivul că poza îndemna la profanitate, chiar dacă ea doar arăta poziția cocorului din lateral. Ea este asiato-americană.

(În configurarea noastră experimentală, am utilizat de asemenea un sistem de viziune a computerizată, Google Vision. În timp ce rezultatele sale sunt extraordinare – eticheta „frumusețe”, spre exemplu, a fost redată doar femeilor – este foarte probabil ca prejudecățile sale să fie similare cu cele ale motorului viziunii computerizate a Facebook, chiar și doar pentru faptul că a fost construit în mare parte de aceeași oameni.)

O linie subțire de respectat

Ghidul de instrucțiuni al Instagram susține faptul că nuditatea „nu este permisă” în serviciul lor, dar favorizează postările care afișează piele. Diferența subtilă dintre ce este încurajat și ce este interzis este decisă de algoritmi de viziune computerizată neaudiați și probabil părtinitori. De fiecare dată când postează o fotografie, creatorii de conținut trebuie să respecte această linie foarte subțire dintre a afișa destul pentru a ajunge la urmăritori și a nu dezvălui atât de mult încât să fie eliminați de pe platformă.

Un chestionar din 2019 realizat de revista americană Salty asupra a 128 de utilizatori de Instagram a arătat că ștergerea abuzivă de conținut era la ordinea zilei. Cât de obișnuite sunt astfel de evenimente, și dacă oamenii de culoare și femeile sunt afectate în mod disproporțional, este imposibil să spunem până când algoritmii Instagram rămân neauditați.

În orice caz, o recenzie a 238 de patente depusă de Facebook, conținând expresia „viziune computerizată”, a arătat că, din 340 de persoane listate ca inventatori, doar 27 au fost femei. Mediile dominate de bărbați duc de obicei la rezultate în defavorabile femeilor. Centurile de siguranță din mașini, de exemplu, sunt testate doar pe manechine masculine, ducând la rate mai mari de accidentare în rândul femeilor. Cercetările noastre arată că algoritmii Facebook ar putea urma acest șablon.

Frica interdicției din umbră

Sarah și alți antreprenori care se bazează pe Instagram au fost terifiați în a vorbi cu presa. Cei mai mulți creatori profesioniști de conținut de pe Instagram se tem de eventualele represalii din partea Facebook, exprimate sub forma ștergerii contului sau interdicțiilor din umbră (o metodă prin care postările unui utilizator nu sunt arătate nimănui sau doar câtorva urmăritori, fără cunoștința utilizatorului) – o condamnare la moarte pentru afacerile lor. 

O tânără antreprenoare cu vreo 70.000 de urmăritori, care a spus că Instagram a fost „foarte important” pentru afacerea ei, a specificat celor de la AlgorithmWatch că nu vrea să fie recunoscută după frica ei pentru o interdicție din umbră. Ely Killeuse, într-o ieșire oficială, a spus că deținerea unei alte surse de venit a fost „condiția numărul unu” pentru ea. Prea multă dependență de Instagram ar însemna să își piardă libertatea și sănătatea psihică, a adăugat Ely.

Regulamentul General privind Protecția Datelor (GDPR), care a intrat în vigoare în 2018, și reglementareaPlatforme pentru Afaceri (P2B), care va fi aplicabilă din 12 iulie 2020, deja aduc multe garanții pentru utilizatori și profesioniști. În particular, GDPR prevedă ca utilizatorii să aibă un „drept la explicație” în ceea ce privește deciziile automate, iar reglementarea P2B ar trebui să forțeze serviciile de intermediere online să dezvăluie „principalii parametrii care determină clasarea (algoritmică)”.

Această nouă măsura nu ar trebui să forțeze platformele să dezvăluie specificitățile algoritmilor lor, conform Petrei de Sutter, care conduce Comisia pe Piața Internă și Proecția Consumatorului din Parlamentul European. Prevenirea Instagram spre a sorta newsfeed-urile utilizatorilor săi nu ar fi fezabil în mod legal, a scris aceasta într-un email înaintat către AlgorithmWatch. În schimb, transparența P2B ar trebui să permită decizii politice bine informate la un moment ulterior, a adăugat ea. În privința temerilor de interdicțiile din umbră, de Sutter consideră că le este acordată prea multă importanță. „O întrebare nu a adus niciodată represalii”, a scris ea.

P2B ar putea fi diferită, dar după doi ani după ce GDPR a intrat în vigoare, câțiva experți se plâng de o implementare foarte lacunară. Una dintre probleme este faptul că autoritatea irlandeză de protecție a datelor, care este responsabilă pentru reglementarea subsidiarei europene a Facebook din Dublin, arată ca și cum ar suferi grav de lipsă de personal și „nu pare să înțeleagă GDPR”, așa cum un specialist în mecanismele platformei a explicat pentru AlgorithmWatch. O altă problemă e lipsa politicilor. Nicio autoritate, la nivel european sau printre statele membre, nu are puterea sau uneltele necesare să audieze vreuna dintre platformele gigant, incluzând Instagram, lăsând multe dintre prevederile GDPR neimplementate.

Posibilă discriminare

În timp ce rezultatele noastre arată că creatorii de conținut de sex masculin și feminin sunt forțați să arate piele prin căi asemănătoare dacă vor să ajungă la audiența lor, efectul ar putea fi mai amplu pentru femei, și să fie considerat o discriminare a antreprenorilor feminini. Oricum, cu toate că discriminarea bazată pe sex este interzisă de Carta drepturilor fundamentale a Uniunii Europene, nu există nicio cale legală pentru un utilizator de Instagram să înceapă vreo procedure legală. Specificitățile antreprenoriatului de pe rețelele de socializare nu sunt luate în considerate în legislație.

Miriam Kullmann, un profesor asistent la Universitatea de Economie și Afaceri WU Vienna, le-a scris celor de la AlgorithmWatch că legislație europeană anti-discriminare se ocupă aproape exclusiv de relațiile de muncă. Persoanele liber-profesioniste, cum ar fi profesioniștii pe care i-am monitorizat, nu sunt protejați.

Unele grupuri luptă pentru drepturile lor de creatori independenți pe social media. IG Metall, cea mai mare uniune din Europa, sprijină o acțiune colectivă a creatorilor de pe YouTube, cerând mai multă corectitudine și transparență de la Google (care deține YouTube) când un video a fost demonetizat. Ei nu plănuiesc să-și extindă programul către și către creatorii de conținut de pe Instagram sau de pe alte platforme.

Unul din trei europeni

Cu mii de antreprenori europeni creatori de conținut pe Instagram, impactul postărilor lor este masiv, din moment ce aceștia se laudă ca având sute de mii de urmăritori. Facebook susține că aproape 140 de milioane de rezidenți ai Uniunii Europene, sau unul din trei, au utilizat Instagram în aprilie.

Printre cei cu vârsta cuprinsă între 18 și 24 de ani, penetrarea Instagram este de aproximativ 100% în fiecare țară UE . Ordinele de stat acasă din timpul pandemiei de Covid-19 a crescut drastic timpul petrecut pe Instagram. Într-o săptămână în carantina din Italia, vizionările de pe Instagram s-au dublat față de normal, Facebook a reportat investitorilor.

Un profil propriu

Acum aproape un secol, faimoasa autoare britanică Virginia Woolf a spus că femeile au avut nevoie de „o cameră proprie” pentru a lăsa creativitatea lor să înflorească. Luându-te după opiniile autorităților externe, a scris ea, era ca și cum ai invita putregaiul să se înmulțească în inima muncii cuiva.

Pe Instagram, luarea în seamă a opiniei autorităților care au construit algoritmul newsfeed-ului nu e o opțiune. Refuzul de a arăta părți din corp reduce dramatic audiența. Antreprenorii bărbați sau femei trebuie să respecte regulile stabilite de inginerii Facebook, asta dacă vor să aibă vreo șansă la a-și câștiga traiul.