Youtubes sökförslag främjar extrema filmer

Förutom rekommenderade filmklipp, leder Youtube i större utsträckning användarna mot den här typen av innehåll redan i sökfältet genom plattformarnas autoformulär.
Foto: JOHAN VALKONEN/STELLA PICTURES
Inga av dessa förslag ges av Googles algoritmer, som också till skillnad från Youtube har ett fält där man kan ”rapportera olämpliga förslag”.
Foto: MARCIO JOSE SANCHEZ / AP TT / NTB SCANPIX
Googles Sverigechef Anna Wikland.
Foto: KARINA LJUNGDAHL / IBL

Expressens granskning har visat att Youtubes algoritmer kan manipuleras för att främja högerpopulistiskt innehåll.

Men redan i videoplattformens sökfunktion leds användaren in på extrema och konspirationsteoretiska filmer genom de automatiskt genererade förslagen.

Samtidigt har Google städat upp i sökmotorns eget autoformulär.

Tidigare Googleingenjören Guillaume Chaslot, i dag på organistationen Algo Transparency, har tillsammans med Expressen granskat hur Youtubes algoritmer kan manipuleras för att påverka höstens riksdagsval i Sverige. 

Bland annat visar granskningen att högerpopulistiska filmer rekommenderas i större utsträckning, och att algoritmerna främjar extremt innehåll i syfte att användaren ska tillbringa så lång tid som möjligt på videoplattformen.

– Det enda viktiga är att få dig att stanna kvar så länge som möjligt, sade Guillaume Chaslot till Expressen då.

Guillaume Chaslot som tidigare jobbade på Google varnar för att Youtubes algoritmer enkelt kan manipuleras för att påverka höstens riksdagsval.
Foto: Talia Herman

”Verktyg för radikalisering”

Flera granskningar har den senaste tiden genomförts av stora internationella medier med liknande resultat.

I förra veckan undersökte New York Times hur Youtubes algoritmer främjar extremt och konspirationsteoretiskt innehåll:

”Med dess miljardtals användare kan Youtube vara ett av 2000-talets mest kraftfulla verktyg för radikalisering”, skriver tidningen i en ledartext.

Förutom rekommenderade filmklipp, leder Youtube i större utsträckning användarna mot den här typen av innehåll redan i sökfältet genom plattformarnas autoformulär, något som CNBC uppmärksammade i veckan.


Förslag som ”judarna styr sverige” visas när man söker på ordet ”judar” på Youtube.
Förslagen när man söker ”judar” på Google.

Autoformuläret främjar extrema förslag

En jämförelse mellan de sökförslag som algoritmen ger på Google jämfört med dess videplattform visar på kraftiga skillnader. Framför allt att Youtube presenterar extrema och konspirationsteoretiska förslag kopplade till vissa sökord, till skillnad från sökmotorn.

Vid en sökning på ”slave trade”, alltså slavhandel, föreslår Youtube att användaren lägger till orden ”lögn”, ”myt”, eller ”bluff”, medan Google föreslår ord som ”fakta”, ”tidslinje” eller ”karta”. På söndagen var emellertid ovannämnda förslagen vid en sökning på "slave trade" borttagna.  

CNBC visar på liknande konspirationsteoretiska exempel vid sökförslag på ”månlandningen” och ”influensavaccin”. 

Youtubes förslag när man skriver ”feminism” i sökrutan.
Googles förslag när man skriver ”feminism” i sökrutan.

Skillnader mellan Youtube och Google

Expressens granskning av svenska sökord ger liknande utslag i de föreslagna sökningarna i autoformuläret.

Skriver man in ”muslimer” i sökfältet på Google ger sökmotorn förslag som ”i Sverige”, ”jul” och ”matregler”.

På Youtube är däremot toppförslaget för sökordet ”tar över Sverige”. Man föreslås också söka på ”muslimer inavel”. 

Förslagen när man söker ”muslimer” på Youtube.
Förslagen när man söker ”muslimer” på Google.

Vid en sökning på ”judar” föreslår Youtube bland annat ”judarna styr Sverige”, vilket inte finns med bland Googles förslag. 

På ett liknande sätt ger Youtubes autoformulär mer extrema förslag än Google vid sökningar på ”feminism” (”feminism är cancer”), ”invandrare” (”invandrare vs svenskar bråk”) eller ”poliser” (”poliser får stryk”). 

Youtubes förslag när man söker på ”invandrare”.
Googles förslag när man söker på ”invandrare”.

”Ingen exakt vetenskap”

Inga av dessa förslag ges av Googles algoritmer, som också till skillnad från Youtube har ett fält där man kan ”rapportera olämpliga förslag”.

I ett inlägg på Googles blogg från 2016 förklarar Tamar Yehoshua, produktchef för sökfunktionen, att autoformulärets algoritmer bland annat baseras på ett sökords popularitet. Det finns också ett filter som ska göra att förslagen undviker stötande eller olämpliga ord.

”Autoformuläret är ingen exakt vetenskap, och utgången av prediktionsalgoritmen förändras ständigt”, skriver Yehoshua.

Produktchefen besvarar däremot inte hur autoformuläret skiljer sig mellan Google och Youtube.

Sökning på ”vaccination” på Youtube.
Sökning på ”vaccination” på Google.

Youtube agerade mot algoritmen

Även brittiska Independent uppmärksammade i november förra året hur Youtubes autoformulär gav stötande sökförslag. En engelsk sökning på ”hur man har” genererade då i förslaget ”hur man har sex med barn”. 

Youtube agerade då snabbt mot sin algoritm och konstaterade att förslaget tagits bort.

– Vi undersöker ärendet för att slå fast vad som ligger bakom utfallet i autoformuläret, sade en talesperson för Youtube till tidningen då.

Expressen har vid flera tillfällen sökt Googles Sverigechef Anna Wikland för en intervju och kommunikationschefen Farshad Shadloo för en kommentar om sökalgoritmerna. 

◼︎◼︎ Detta är en nyhetsartikel. Expressen granskar, avslöjar och ger dig de senaste nyheterna på ett objektivt och sakligt sätt. Mer om oss här.