Essy Klingberg

Tiktok återspeglar användarnas rasism

Tiktok-profilen Kaelyn Kastle.
Foto: Instagram
Användare på videoappen Tiktok menar att algoritmen gör rasistiska prioriteringar.
Foto: JOHAN VALKONEN / STELLA PICTURES
Essy Klingberg.
Foto: OLLE SPORRONG

Användare på videoplattformen Tiktok anklagar appens algoritmer för att vara rasistiska. 

Essy Klingberg ser hur relationen mellan techbolagen och deras konsumenter blivit allt mer komplicerad.

Detta är en kulturartikel, där skribenter kan uttrycka personliga åsikter och göra bedömningar av konstnärliga verk.

MEDIER. ”Jag är mörkhyad, och algoritmen gillar ljusa saker. Så för att bli ljusare färgar jag halva mitt hår rosa. Jag vill egentligen färga det mörkt, men jag vet inte hur det kommer påverka mina siffror”. 

Det låter som en scen ur en (något överdriven) framtidsdystopi, men Kaelyn Kastle, som pratar, delar bara med sig av en vanlig dag i sitt liv som Tiktok-profil. Hon medverkar i Hulu-dokumentären ”Who gets to be an influencer”, som följer ett antal svarta videokreatörer som alla försöker bryta igenom Tiktoks nyhetsflöde. 

Resultatet blir en sorts rasisitisk self fueling machine, där utestängande mekanismer effektivt förstärker varandra.

För Kaelyn Kastle är de partiska algoritmerna en självklar del av appens produktionsvillkor. Algoritmerna tycks emellertid inte så mycket styras av rasistisk kod som av en träffsäker förmåga att återspegla användarnas törst efter vithet. Tiktoks stora stjärnor är till överväldigande majoritet vita, och den algoritmiska slutledningen blir att prioritera vitt innehåll. Resultatet blir en sorts rasistisk self fueling machine, där utestängande mekanismer effektivt förstärker varandra. 

Relationen mellan vita och svarta kreatörer på Tiktok har länge varit komplicerad. Många av plattformens mest virala danser har skapats av svarta användare, för att sedan tillskrivas vita upphovsmän. En av Tiktoks största stjärnor, Charli D’Amelio, fick länge äran för koreografin till låten ”Renegade”, när upphovsmannen i själva verket var Jalaiah Harmon, en fjortonårig tjej från Atlanta. På samma sätt blev Tikok-stjärnan Addison Rae inbjuden till Jimmy Fallons tv-program The tonight show för att dansa till låten ”Up”, när koreografin ursprungligen skapats av femtonåringarna Mya Johnson och Cris Cotter.

Plattformen har blivit skådeplats för två konflikter – den ena algoritmgenererad, den andra en fråga om skamlös stöld utan cred – som genom ett indirekt orsakssamband tycks sammanbundna: Att vita kreatörer får större genomslag med samma koreografi är att betrakta som resultatet av ett system som konsekvent ger vita företräde framför svarta. 


Charlie 'Amilio är en av de Tiktok-profiler som anklagats för att ta åt sig äran för andras danser.
Foto: Instagram

Men problemet med algoritmer som gör rasistiska avvägningar är inte unikt för Tiktok. Nyligen avskaffade Twitter sin automatiska bildutskärning efter att användare uppmärksammat att den systematiskt föredrog att visa vita ansikten framför mörka. Ännu längre tillbaka i tiden, 2011, påpekade Google-användare att söktermen ”black girls”, ledde användaren till porrsidor, medan resultaten för termen ”white girls”, innefattade såväl filmer som Wikipediaartiklar. 

Techbolagens försvar har, då som nu, varit olika variationer på samma visa: Algoritmerna gör prioriteringar baserade på konsumenternas beteenden, och kan inte ställas till svars för en snedvriden representation. Ibland åtgärdas problemen, ofta dyker nya upp. Försvaret lät halvdåligt redan när det för första gången formulerades för ett decennium sedan, och känns i dag i akut otakt med samtiden. 

För om det är något som vid det här laget står klart är det att techbolagen inte enbart är kommersiella företag, utan har ett så massivt inflytande att de bör betraktas som en sorts digital infrastruktur, på vilka matchande krav bör ställas. Techbolagen är dessutom mästare på att manipulera användarnas beteenden. Varför inte använda denna makt åt att neutralisera flödet, i stället för att förstärka användarnas rasistiska preferenser?

Ironiskt nog kan det i slutändan bli just kommersiella incitament som tvingar Tiktok att agera. För nu är det trots allt förtroendet hos en viktig målgrupp som står på spel, och allt fler användare kräver en förändring. Senast i en samordnad aktion där svarta danskreatörer vägrat koreografera en dans till artisten Megan Thee Stallions låt ”Thot shit”, en låt som i princip skräddarsytts för att passa appens virala logik. Istället för att dansa när låten når sitt klimax står användarna stilla, intill en text som påpekar att Tiktok inte vore någonting utan sina svarta användare. Aktionen väcker frågor som är angelägna även bortom Tiktoks nyhetsflöde. 

Essy Klingberg är kulturskribent och medarbetare på Expressens kultursida




Om Mellins raseri – i mediepodden ”Lägg ut”

https://embed.radioplay.io?id=86135&country_iso=se

Så stoppas Jimmie Åkesson från ”Sommar”, Lena Mellins ilska mot Nooshi Dadgostar och historien om när Diamant Salihu tog Zlatan till nya höjder. Expressens mediepodd med Karin Olsson och Magnus Alselind.