Fordomsfulle algoritmer | Amesto

Helt ærlig.

Vi er ikke like mye verdt  hvis algoritmene er fordomsfulle.
Tar du gode valg?

Helt ærlig.

Vi er ikke like mye verdt  hvis algoritmene er fordomsfulle.
Tar du gode valg?

Kunstig intelligens

Innlærte fordommer i kunstig intelligens.

Helt ærlig. Hvordan sikrer vi at kunstig intelligens ikke drar med seg fordommer vi selv har, og viderefører eller i verste fall forsterker ubevisst diskriminering og forutinntatthet? Fordommer er ikke nødvendigvis bevisst, men det foregår mye i ubevisstheten vår som kan bidra til å manifestere mangfoldsmønstre som vi lenge har forsøkt å endre, forklarer Kristine Hofer Næss i Amesto. Så hvordan motvirker vi dette?

Ubevisste fordommer har en tendens til å flyttes over på algoritmene

- Våre ubevisste fordommer flyttes over på algoritmene, forklarer Kristine, som er Chief Customer Officer i Amesto og leder av ODA, Nordens største nettverk for kvinner i tech.

Hun viser til at det meste av teknologi er drevet frem av en relativt homogen gruppe, der det store flertallet er menn, og at det i en rekke tilfeller har oppstått mangfoldsutfordringer knyttet til blant annet kjønn og etnisitet.

Eksemplene Kristine refererer til er kun et Google-søk unna. Amazon vraket sitt AI-baserte rekrutteringsverktøy da det viste seg at AI-løsningen «ikke likte kvinner». Tastet du for en tid tilbake inn «Johanne» på Linkedin, lurte Linkedin på om du ikke mente «Johan».

- Og har du noen gang tenkt over temperaturinnstillingene på kontoret? spør Kristine.  Produktivitetstemperaturen for menn er nemlig noen grader lavere enn for kvinner. Kan du resonnere deg frem til hvordan standard kontortemperatur har blitt satt?

Kristine Hofer Næss

Kristine Hofer Næss, Chief Customer Officer i Amesto og leder av ODA

Automatisering og teknologi er både viktig og bra

- Men vi må ha et reflektert forhold til det. Vi må ikke bare tenke gjennom hvordan vi trener AI, men hvem som trener AI. Utfordringen ligger dessuten ikke bare i at det ofte er menn som har utviklet algoritmene, men at selve datagrunnlaget for algoritmene i seg selv er fordomsfulle, og ikke blir tilstrekkelig korrigert. Det er derfor vår jobb å påse at algoritmene ikke forsterker uønskede tendenser.

Den menneskelige hjernen er innstilt på å være så effektiv som mulig, derfor skjer mye av vår tankekraft i det ubevisste. Det å skape nøytrale og ikke-diskriminerende AI-løsninger er på mange måter utfordrende fordi vi enda ikke er gode nok på å være bevisst egne fordommer, og da er mangfold hos de som skal skape teknologien ekstra viktig.

 

Kristine Hofer Næss

"Det er på tide å sette AI-kompetanse og mangfold høyere på dagsordenen. Vi kan ikke ha brukt så mange år på å jevne ut forskjeller i samfunnet, for så å miste det i jungelen av algoritmer?"


Kunstig intelligens, menneskelig hjerte

- Moderne teknologi bringer med seg potensielle sosiale risikoen som vi er nødt til å adressere, supplerer Kjetil Kalager, leder for Amestos AI-lab, om jobber med kunstig intelligens, maskinlæring og analyse.

Han mener vi må være oppmerksomme på at maskin-læring på mange måter reflekterer menneskene som trener det. Det betyr at AI-løsningene gjerne vil ha de samme manglene, oppfattelsene eller meningene som de som utvikler løsningen.

Algoritmene må trenes ut fra et datagrunnlag som reflekterer både kvinner og menn, etnisitet, religiøs overbevisning og annet. Vi må skape gode datasett for å fore algoritmene og datagrunnlaget må representere flere innfallsvinkler og forskjellige type mennesker.

En stor utfordring er at data som brukes for å lage AI i utgangpunktet ikke er representativt nok. Testdataen forstår nemlig ikke forskjell mellom menn, kvinner eller bestemte etniske grupper, på samme måte som vi gjør. De første løsningene for ansiktsgjenkjenning er et godt eksempel, fordi testdataen baserte seg på de som hadde utviklet løsningen; primært hvite menn.

Lager man AI-løsninger uten å tenke kritisk og mangfoldig risikerer man for eksempel å fengsle svarte, unge menn mens hvite unge menn får mildere dommer, noe som faktisk skjedde i rettsvesenet i USA. Problemet er ofte at problemene fra virkeligheten manifesterer seg i dataen, og AI gjentar og repeterer feilene.

Så hvordan kan vi klare å skape objektivitet og nøytralitet i AI-løsningene?
- Vi må øke tverrfagligheten, og bygge team med ulike erfaringer, standpunkt, meninger, synspunkter etc for å skape en representativ virkelighet. Vi må evne å tenke mer enn en tanke om gangen og se kompetanse, data og mangfold opp mot hverandre, sier Kristine.

- Det er vi som sitter på sannheten. Og med det følger et stort sosialt ansvar. En algoritme vil for eksempel alltid forsterke seg, og det er vår jobb å sørge for at den da forsterker det riktige grunnlaget. Vi må kode algoritmer som hensyntar mangfold. 

Flere kvinner til tech

I dag er det 29% kvinner i IT-bransjen i Norge. Enda færre er det i AI-bransjen. Det betyr at det aller meste av maskinlæring i dag gjøres av menn. - For å bryte med etablerte mønstre må vi tenke annerledes og modernisere oss selv, sier Kristine. Vi må ansette forskjellige type mennesker og samtidig sørge for at vi tenker mangfold i alt vi gjør. Ikke minst må vi få opp kompetansen i Norge, både for å sikre vår konkurransekraft, og for å skape de løsningene samfunnet trenger i fremtiden.

Tech skapes ikke bare i Silicon Valley!

Kristine tror at mye handler om gode rollemodeller og også engasjement i toppledelsen, og trekker frem Lene Diesen, leder for AI-løsningen Semine, som et godt eksempel. Hun mener Diesen er en foregangsperson som kan vise unge jenter at det er mulig, og ikke minst spennende, å jobbe med AI.

- I tillegg tror vi det er viktig å tiltrekke mangold gjennom et attraktivt verdigrunnlag i bedriften, legger Kjetil til. Selv om vi i utgangspunktet er et kommersielt drevet tech-selskap jobber vi etter det vi kaller en trippel bunnlinje.

Det betyr at vi ikke bare er drevet av profitt, men at vi bryr oss om menneskene rundt oss og samfunnet vi lever i. Han tror det er viktig med toppledere som genuint bryr seg om dette.

- Vi må sikre at AI-løsningene i fremtiden ikke hemmer, men fremmer mangfold og da kan vi ikke risikere forskjellsbehandling i form av fordomsfulle algoritmer. Til syvende og sist er det menneskene bak som tar beslutningene. Tar de gode valg?

Hva er egentlig kunstig intelligens?

Kunstig intelligens er en teknikk man bruker for å gi datamaskiner og dataprogrammer en såkalt intelligent respons. Fagfeltet kunstig intelligens er bredt og har oppstått på tvers av ulike fagfelt som informatikk, matematikk, statistikk, psykologi, nevrologi og lingvistikk. Kunstig intelligens utfører handlinger basert på tolkning, analyser, dekoding og behandling av strukturert eller ustrukturert data. 

Vi mener kunstig intelligens er viktig fordi det representerer store muligheter. Ikke bare for oss som bedrift, men for enkeltindivider. Kunstig intelligens kan bidra til å forenkle og effektivisere oppgaver vi gjør i det daglige. For oss henger dette på greip med vår visjon «Simplifying business. Simplifying life.» Med riktig bruk kan teknologien bidra til å oppnå viktige målsettinger innen innovasjon og bærekraft.

50% kvinner er ikke mangfold

Helt ærlig. Gjør vi nok for å sikre mangfold på arbeidsplassen? Gjør vi for lite fordi det forventes at vi gjør mer? Å sikre mangfold handler ikke bare om utjevning av prosentandeler, men om å ta gode valg som sikrer inkludering og styrker konkurransekraft. Men hvor begynner du?
Les mer
 

Mangfold

Mangfold beriker arbeidslivet og bidrar direkte til lønnsomhet og verdiskapning. Kundesegmenter endrer seg raskt, spesielt i et globalt perspektiv. Selgere må i stadig økende grad tilpasse seg nye kundegrupper, nye kulturer og nye forretningsstrukturer.
Les mer
 

Teknologi + Innovasjon = Sant

Amesto har vi stor tro på at kombinasjonen av teknologi og mennesker kan skape unike tjenestekonsepter som kan forenkle forretningsdriften, og spare samfunnet for unødig miljøavtrykk.
Les mer

Trippel bunnlinje

Det er god business å tenke trippel bunnlinje - people, planet og profit. Våre sosiale prosjekter er tett knyttet opp mot kjernevirksomheten. Å være verdiskapere med hodet og hjertet er dypt forankret gjennom våre eiere, ledere og mer enn 1000 ansatte. Det er en del av vårt DNA. 
Les mer