Personuppgiftspolicy

Vi använder cookies för att förbättra funktionaliteten på våra sajter, för att kunna rikta relevant innehåll och annonser till dig och för att vi ska kunna säkerställa att tjänsterna fungerar som de ska.

Läs mer i vår cookiepolicy.

Läs mer

Algoritmerna styrs av vår egen ondska och dumhet

Hannay Fry.Foto: Twitter
Foto: SHUTTERSTOCK
Foto: CORNELIA NORDSTRÖM

Algoritmer och artificiell intelligens styr allt mer av vårt dagliga liv – på gott och ont.

Isobel Hadley-Kamptz läser en ny bok av kändismatematikern Hannah Fry och ser en ny verklighet torna upp sig.

Detta är en kulturartikel, där skribenter kan uttrycka personliga åsikter och göra bedömningar av konstnärliga verk.

RECENSION | SAKPROSA. Vad är en algoritm? Vad är artificiell intelligens? I den allmänna debatten kring digitaliseringen flyger begreppen omkring som trollformler, som antingen kommer skapa en strålande framtid eller en förskräckande dystopi, inte sällan helt utan konkretion i vad som åsyftas. 

Det här är rätt stora problem, eftersom den tekniska utvecklingen både har och kommer att påverka oss alla på sätt vi ännu inte ens begriper. Jag minns när några började försöka prata om övervakning och om internet, säg 2006, och nästan inga journalister visste vad ett sociogram var. Så är det inte längre, de flesta stora medier har rekryterat strålande kompetens på det här området. Bland såväl makthavare och opinionsbildare som allmänheten är kunskapen dock fortfarande rätt skral. 

Här kan en bok som den engelska matematikern Hannah Frys “Hello world – how to be human in the age of the machine” faktiskt spela en viktig roll. Fry är något för matematiker så ovanligt som en kändis. Hon har varit med i "Skavlan", hon har en ny serie på gång för BBC, hennes TED-talk om hur man hittar kärleken med hjälp av matte har setts nästan fem miljoner gånger. I den nya boken försöker hon beskriva för en läsare utan större förkunskaper hur den här nya verkligheten ser ut och vad det betyder.

 

https://www.expressen.se/kultur/ide/nu-kanske-folk-kommer-bry-sig-om-fritt-internet/

Cancer och kakrecept

Algoritmer är inte konstigare än till exempel kakrecept, eller Ikea-instruktionsanvisningar. Beskrivningar, steg för steg, av hur man ska ta sig till ett visst mål. Målet kan vara en plåt perfekt spröda drömmar, en bokhylla, en ny tv-serie på Netflix som du faktiskt kommer gilla, eller fungerande autonoma mördardrönare, det spelar i sammanhanget inte så stor roll. 

Det vi kallar artificiell intelligens, eller maskininlärning, är när den här instruktionen inte är nedskriven i tydliga steg, utan datorer själva får lära sig att baka genom att exempelvis gå igenom alla internets receptsajter och titta på bilder av hur det blev och göra en bedömning av vilka metoder som är bäst. 

När det finns ett tydligt mål är det här fantastiskt. Självlärande algoritmer är redan i dag bättre än människor på att känna igen cancer på bilder från misstänkt celldelning, och med sådana redskap för onkologer kan säkerheten och effektiviteten i vården entydigt förbättras. 

Problemet är, som Fry tar upp i olika kapitel om allt från bilar till maktfördelning och rättssamhället, att det inte alltid finns ett mål där man kan mäta datorernas slutsatser mot en objektiv sanning, och därmed hela tiden förbättra hur algoritmen fungerar.

Algoritm för brottsbekämpning

Vad är målet med algoritmer i exempelvis det uppmärksammade verktyget Predpol, för förebyggande polisarbete? Predpol är en algoritm som utifrån historiska data om brott förutspår vilka områden, till och med vilka gator, där brott kommer begås härnäst. Den är extremt effektiv, och när polisen skickar ut patruller till de utpekade områdena både avslöjar de och förhindrar brott från att alls begås. 

Poliser upptäcker dock många fler brott där de befinner sig än där de inte befinner sig. I Sverige vet vi till exempel att ungdomar i rika bostadsområden tar mer droger än genomsnittet, ändå är det mycket färre polisingripanden på föräldrafria fester i Danderyd än på torget i Alby. Alltså kommer överklassungdomarna aldrig att åtalas eller dömas och deras ungdomsförseelser kommer därför ha betydligt mindre risk att förstöra hela deras liv.

Algoritmen här leder till ett fokus på fattiga områden, som riskerar att leda till ytterligare mer ojämlika förutsättningar. Polis tenderar även utan algoritmhjälp att stoppa och fråga ut fattiga icke-vita mer än rika vita, och det beror säkert åtminstone delvis på att deras erfarenhet säger att dessa är mer brottsbenägna. Men om man bara undersöker personer ur vissa grupper kommer man ju bara hitta brott hos dem, och så förstärks fördomen hela tiden.

Rasism och kvinnohat

När man förstärker fördomar genom en algoritm riskerar dessutom fördomen att framställas som objektiv sanning. Vi tenderar nämligen att tro att sådant som datorer har räknat ut är mer odiskutabelt sant än sådant som går på mänsklig bedömning, trots att det både är människor som byggt algoritmerna och bestämt vilka data som ska matas in. Att själva matematiken i botten oftast är hemlig gör ingenting lättare. 

För ett par år sedan släppte Microsoft ut en AI-bot på Twitter, för att genom den lära sig mer om samtal och förståelse. Efter mindre än ett dygn började boten dock spy ur sig kvinnohatande rasistdynga, eftersom det var den sortens uttalanden som den stötte på och lärde sig av. Det säger en hel del både om Twitter och om AI. Algoritmer må innebära utmaningar för samhället, men ondskan och dumheten står vi människor för så bra själva. 

Hannah Frys "Hello world" är inte särskilt avancerad, och hon hamnar i sakfrågorna nästan alltid i ett hummande "å ena sidan – å andra sidan". Men just därför kanske den borde läsas av personer som ännu bara ser algoritmer och AI som hokuspokus, att hylla eller bli rädd för.

 

SAKPROSA

HANNAH FRY

Hello world – how to be human in the age of the machine  

Doubleday, 243 s.

Isobel Hadley-Kamptz är medarbetare på Expressens kultursida.