Fördomsfulla algoritmer

Helt ärligt.

Vi är inte lika mycket värda om algoritmerna är fördomsfulla.
Gör du rätt val?

Helt ärligt.

Vi är inte lika mycket värda om algoritmerna är fördomsfulla.
Gör du rätt val?

Artificiell intelligens

Fördomar om artificiell intelligens.

Hur säkerställer vi att artificiell intelligens inte för med sig fördomar som vi själva har, och upprätthåller eller i värsta fall omedvetet förstärker diskriminering och partiskhet? Fördomar är inte nödvändigtvis avsiktliga, men det händer mycket i vårt omedvetna som bidrar till att manifestera mångfaldsmönster som vi länge har försökt ändra, förklarar Kristine Hofer Næss i Amesto. Hur motverkar vi detta?

Omedvetna fördomar överförs till algoritmerna

– Våra omedvetna fördomar överförs till algoritmerna, förklarar Kristine, som är Chief Customer Officer på Amesto och chef för ODA, Nordens största nätverk för kvinnor inom teknik.

Hon påpekar att det mesta av tekniken drivs av en relativt homogen grupp, där de allra flesta är män, och att det har i flera fall uppstått mångfaldsutmaningar relaterade till bland annat kön och etnicitet.

Exemplen Kristine refererar till är bara en Google-sökning bort. Amazon skrotade sitt AI-baserade rekryteringsverktyg när det visade sig att AI-lösningen ”inte gillade kvinnor”. Om du skrev ”Johanna” på Linkedin undrade Linkedin om du inte menade ”Johan”.

– Och har du någonsin tänkt på temperaturinställningen på kontoret?, frågar Kristine.  Produktivitetstemperaturen för män är några grader lägre än för kvinnor. Kan du resonera dig fram till hur standardkontorets temperatur har ställts in?

Kristine Hofer Næss | Amesto

Kristine Hofer Næss, Chief Customer Officer på Amesto och chef för ODA.

Automatisering och teknik är både viktigt och bra

– Men vi måste reflektera över det. Vi får inte bara tänka på hur vi utbildar oss inom AI utan också vem som utbildar oss inom AI. Utmaningen ligger inte bara i det faktum att det ofta är män som har utvecklat algoritmerna, utan att själva databasen för algoritmerna är fördomsfull och inte korrigeras tillräckligt.

Därför är det vårt jobb att se till att algoritmerna inte förstärker oönskade tendenser. Den mänskliga hjärnan är inställd på att vara så effektiv som möjligt, så mycket av vår tänkande kraft sker i det omedvetna. Att skapa neutrala och icke-diskriminerande AI-lösningar är utmanande på många sätt eftersom vi ännu inte är tillräckligt medvetna om våra egna fördomar, och då är mångfalden bland dem som skapar tekniken extra viktig. 

Kristine Hofer Næss

"Det är dags att sätta AI-kompetens och mångfald högre på dagordningen, tillägger Kristine. Vi kan inte ha tillbringat så många år med att jämna ut skillnader i samhället, och sedan förlora det i algoritmernas djungel?"


Artificiell intelligens, mänskligt hjärta

– Modern teknik medför potentiella sociala risker som vi måste ta itu med, tillägger Kjetil Kalager, chef för Amestos AI-labb, om att arbeta med artificiell intelligens, maskininlärning och analys.

Han tror att vi måste vara medvetna om att maskininlärning på många sätt speglar de människor som arbetar med det. Vilket innebär att AI-lösningarna tenderar att ha samma brister, uppfattningar eller åsikter som de som utvecklar lösningen har.

Algoritmerna måste utformas utifrån en databas som speglar både kvinnor och män, etnicitet, religiösa övertygelser med mera. Vi måste skapa bra datauppsättningar för att implementera algoritmerna och databasen måste representera flera infallsvinklar och olika typer av människor.

En stor utmaning är att data som används för att skapa AI inte är tillräckligt representativ. Testdata förstår inte skillnaden mellan män, kvinnor eller specifika etniska grupper, på samma sätt som vi gör. Den första lösningen för ansiktsigenkänning är ett bra exempel eftersom testdata baserades på dem som hade utvecklat lösningen vilket främst var vita män.

Om du skapar AI-lösningar utan att tänka kritiskt och mångsidigt riskerar du till exempel att fängsla svarta, unga män medan vita unga män får mildare straff, vilket faktiskt hände inom rättsväsendet i USA. Problemet är ofta att problemen från verkligheten manifesterar sig i data, och AI upprepar felen.

Hur lyckas vi skapa objektivitet och neutralitet i AI-lösningarna?

– Vi måste öka det tvärvetenskapliga arbetet och bygga team med olika erfarenheter, synpunkter, åsikter med mera för att skapa en representativ verklighet. Vi måste kunna tänka mer än en tanke åt gången och ställa kompetens, data och mångfald mot varandra, säger Kristine.

– Det är vi som sitter på sanningen. Och med det kommer ett stort socialt ansvar. En algoritm kommer till exempel alltid att förstärka sig själv, och det är vårt jobb att se till att den förstärker rätt grund. Vi måste koda algoritmer som tar hänsyn till mångfald.

Fler kvinnor till teknikbranschen

Idag arbetar det 29 % kvinnor i IT-branschen i Norge. Ännu färre finns det i AI-branschen. Det innebär att den stora majoriteten av maskininlärningen idag görs av män.

– För att bryta etablerade mönster måste vi tänka annorlunda och modernisera oss, säger Kristine. Vi måste anställa olika typer av människor och samtidigt se till att vi tänker mångfald i allt vi gör. Inte minst måste vi öka vår kompetens i Norge, både för att säkerställa vår konkurrenskraft och för att skapa de lösningar samhället behöver i framtiden.

Teknik skapas inte bara i Silicon Valley!

Kristine tror att mycket handlar om bra förebilder och även engagerade ledare och lyfter fram Lene Diesen, chef för AI-lösningen Semine, som ett bra exempel. Hon tror att Diesen är en pionjär som kan visa unga tjejer att det är möjligt, och inte minst spännande, att arbeta med AI.

”Dessutom anser vi att det är viktigt att ha en attraktiv värdegrund i företaget”, tillägger Kjetil. Även om vi i grunden är ett kommersiellt drivet teknikföretag, arbetar vi efter vad vi kallar en tredubbel bottenlinje. Det innebär att vi inte bara drivs av vinst, utan att vi bryr oss om människorna omkring oss och det samhälle vi lever i.

Han anser att det är viktigt att ha högre chefer som verkligen bryr sig om detta.

– Vi måste se till att AI-lösningarna i framtiden inte hämmar utan främjar mångfald och då kan vi inte riskera diskriminering i form av fördomsfulla algoritmer. I slutändan är det människorna bakom som fattar besluten. Gör de bra val?

 

Vad är egentligen artificiell intelligens?

Artificiell intelligens är en teknik som används för att ge datorer och datorprogram ett så kallat intelligent svar. Området inom artificiell intelligens är brett och dyker upp inom olika områden som datavetenskap, matematik, statistik, psykologi, neurologi och lingvistik.

Artificiell intelligens utför åtgärder baserade på tolkning, analys, avkodning och bearbetning av strukturerade eller ostrukturerade data.

Vi anser att artificiell intelligens är viktigt eftersom det innebär stora möjligheter. Inte bara för oss som företag utan även för privatpersoner. Artificiell intelligens kan hjälpa till att förenkla och effektivisera uppgifter vi gör varje dag. För oss är detta i linje med vår vision «Simplifying business. Simplifying life.»

Om tekniken används på rätt sätt kan vi uppnå viktiga innovations- och hållbarhetsmål.

50 % kvinnor är inte mångfald

Ärligt talat. Tycker du att du har gjort tillräckligt när halva ledningsgruppen är kvinnor? En jämn könsfördelning är viktig, men det räcker inte. Mångfald handlar om att se alla människor och uppmuntra olikheter i en jämlik miljö. Först då genererar mångfalden i din verksamhet värde. Men var börjar...
Läs mer
 

Mångfald

Mångfald berikar arbetslivet och bidrar direkt till lönsamhet och värdeskapande. Kundsegment förändras snabbt, särskilt ur ett globalt perspektiv. Säljare behöver i allt högre grad anpassa sig till nya kundgrupper, kulturer och affärsstrukturer.
Läs mer
 

Teknik + Innovation = Sant

I Amesto tror vi att kombinationen av teknik och människor kan skapa unika servicekoncept som kan förbättra verksamheten och bespara samhället onödiga miljöavtryck.
Läs mer

Hållbarhet

Att tänka i banorna av en trippel bottenlinje är ett bra sätt att göra affärer på. Det anser vi i Amesto. Vi väljer att kalla det för Corporate Social Value eftersom vi ser värdet i det arbete vi utför och vad vi tillför, både till vårt företag och till samhället vi verkar i.
Läs mer