Personuppgiftspolicy

Vi vill informera dig om vår policy som beskriver hur vi behandlar personuppgifter och cookies.

Läs mer

Experten: ”Vi måste kasta grus i AI-maskineriet”

Anna Felländer intervjuas i Ledarsnack av Linda Nordlund.
Roboten Sophia är ett exempel på hur AI kan användas. Hon kan tala med människor och har programmerats för att använda mänskliga ansiktsuttryck. Foto: HANSON ROBOTICS / HANSON ROBOTICS STELLA PICTURES
Anna Felländer är medgrundare av AI Sustainability Center och rådgivare i regeringens digitaliseringsråd.

Miljontals svenska jobb kan bli robotiserade redan med dagens teknik. Hur ser vi till att artificiell intelligens inte utnyttjar våra mänskliga svagheter utan används för samhällets bästa? 

– Algoritmer är självlärande och skalar upp utan vår inverkan, samtidigt som regelverken laggar efter. Vi befinner oss i en gråzon, säger Anna Felländer, medgrundare av AI Sustainability Center, i Ledarsnack. 

Detta är en text från ledarredaktionen. Expressens politiska hållning är liberal.

Om du skulle snabbspola tio år fram i tiden, hur tror du att artificiell intelligens, AI, kommer att påverka vår vardag?

– I ett bra scenario byter individen frivilligt och med hög transparens sin integritet mot bekvämlighet, tid och skräddarsydda tjänster. Företag gör enorma produktivitetsvinster. Och för samhället hjälper AI till att använda resurserna på ett mer hållbart sätt. 

– I det här positiva scenariot har vi skapat standarder, som gör att artificiell intelligens blir en positiv kraft för mänskligheten. 

– I ett negativt scenario har vi fortsatt att forska i stuprör, och låta organisationer och företag använda AI på ett väldigt snävt sätt, utifrån variabler som ökad vinst, fler klick och ökad försäljning.

– Algoritmen kommer i så fall att ta beslut längs vägen som är av etisk karaktär, utan att vi i nuläget kan mäta och förstå hur. Det kan leda till diskriminering, integritetskränkningar, och rekommendationer som baseras på förlegade könsnormer. Vi måste kasta lite grus i maskineriet eftersom de kortsiktiga vinsterna kan vara förföriska.

Hur tror du att förändringen kommer att se ut i arbetslivet?

– Den politiska visionen och ledarskapet är väldigt viktigt. Vi kan hamna i permanent teknologisk arbetslöshet (när jobben försvinner och ersätts av artificiell intelligens och robotar). I automatiseringen är det de rutinartade uppgifterna som försvinner, men när det gäller artificiell intelligens utmanas också uppgifter som kräver högre utbildning.

– Om vi inte styr utvecklingen i rätt riktning för att skapa nya jobb – där artificiell intelligens är ett komplement till oss i våra yrkesroller – kan vi hamna i en negativ spiral. 

Regeringen har satt som mål att Sverige ska vara världsbäst på att använda AI. Men vi har halkat efter både Danmark och Finland. Befinner sig Sverige i framkant eller bakvatten?

– USA och Kina investerar väldigt mycket på ingenjörssidan. Men Sverige kan bli ledande på den andra sidan, det vill säga inom humanistisk AI. Sverige kan också utveckla AI i det offentliga, eftersom vi har hög grad av tillit.

– Om vi inte arbetar med de etiska frågorna kommer vi att se ytterligare exempel på etiska felsteg, och riskera att förlora både tillit till teknologin och till institutioner. Här kan Sverige verkligen ta på sig ledartröjan i att ta fram kunskap och verktyg. 

Anna Felländer är rådgivare i regeringens digitaliseringsråd.

Vad kan det handla om för etiska frågor?

– Vi har identifierat fyra fallgropar. Den första är missbruk av data: även om du följer reglerna kan AI skapa intelligens som är integritetskränkande för individen. En annan fallgrop är skaparens egna fördomar, att man omedvetet programmerar in sina egna värderingar. Sedan finns otränad AI, som att ansiktsigenkänningsappar har svårare att analysera mörkhyade kvinnor eller ber asiater att öppna ögonen – vilket ju är extremt diskriminerande. Till sist har vi den fjärde fallgropen: när datan inte reflekterar verkligheten eller den önskade verkligheten. Amazon har nu kastat ut sin HR-applikation för att den partiskt rekommenderade män till höga positioner. 

– På samma sätt som vi måste analysera hur det kan gå snett kan vi också påskynda det som är bra, till exempel att skapa nya preferenser när man ska anställa en VD baserade på mångfald.

Finns det några risker på samhällsnivå om man inte tar med de etiska frågeställningarna redan från början?

– Riskerna handlar om att vi kan få fler fall av diskriminering både när det gäller kön, sexuell läggning och etnicitet. Men också om att falska nyheter får spridning, och att man fastnar i en filterbubbla. AI kan också användas på sätt som blir extremt integritetskränkande när våra digitala fotavtryck utnyttjas fel. Vi ger ifrån oss vår integritet för att få alla de här bekväma, skräddarsydda tjänsterna, men det finns också en gräns. 

Behövs det någonting från politiskt håll för att se till att vi får en positiv utveckling? 

– Det är för tidigt att reglera. Om du reglerar mitt i sådana här teknikskiften riskerar du att strypa utvecklingen och hämma innovation och produktivitet. Men gör du ingenting får vi diskriminering och riskerar att minska tilliten. Behovet av forskning och kunskap är uppenbart, men ännu mer behövs ett politiskt ledarskap.

 

Ledarsnack

Ledarsnack är ett åsiktsprogram från Expressens ledarredaktion. Gamla avsnitt kan ses och läsas här. Hela programmet kan ses i spelaren ovan. Det går också att lyssna på programmet som podd