- Moderne teknologi bringer med seg potensielle sosiale risikoen som vi er nødt til å adressere, supplerer Kjetil Kalager, leder for Amestos AI-lab, om jobber med kunstig intelligens, maskinlæring og analyse.
Han mener vi må være oppmerksomme på at maskin-læring på mange måter reflekterer menneskene som trener det. Det betyr at AI-løsningene gjerne vil ha de samme manglene, oppfattelsene eller meningene som de som utvikler løsningen.
Algoritmene må trenes ut fra et datagrunnlag som reflekterer både kvinner og menn, etnisitet, religiøs overbevisning og annet. Vi må skape gode datasett for å fore algoritmene og datagrunnlaget må representere flere innfallsvinkler og forskjellige type mennesker.
En stor utfordring er at data som brukes for å lage AI i utgangpunktet ikke er representativt nok. Testdataen forstår nemlig ikke forskjell mellom menn, kvinner eller bestemte etniske grupper, på samme måte som vi gjør. De første løsningene for ansiktsgjenkjenning er et godt eksempel, fordi testdataen baserte seg på de som hadde utviklet løsningen; primært hvite menn.
Lager man AI-løsninger uten å tenke kritisk og mangfoldig risikerer man for eksempel å fengsle svarte, unge menn mens hvite unge menn får mildere dommer, noe som faktisk skjedde i rettsvesenet i USA. Problemet er ofte at problemene fra virkeligheten manifesterer seg i dataen, og AI gjentar og repeterer feilene.
Så hvordan kan vi klare å skape objektivitet og nøytralitet i AI-løsningene?
- Vi må øke tverrfagligheten, og bygge team med ulike erfaringer, standpunkt, meninger, synspunkter etc for å skape en representativ virkelighet. Vi må evne å tenke mer enn en tanke om gangen og se kompetanse, data og mangfold opp mot hverandre, sier Kristine.
- Det er vi som sitter på sannheten. Og med det følger et stort sosialt ansvar. En algoritme vil for eksempel alltid forsterke seg, og det er vår jobb å sørge for at den da forsterker det riktige grunnlaget. Vi må kode algoritmer som hensyntar mangfold.
