Hadde du skrevet inn Johanne i søkefeltet på det sosiale nettverket LinkedIn for noen år siden, ville den kunstige intelligensen ledet deg bort fra meg. I stedet kunne LinkedIn spørre: «Mente du Johan?». Slike feil virker uskyldige, men viser hvordan kunstig intelligens kan virke kjønnsdiskriminerende. Når Norge nå skal satse på kunstig intelligens, er det viktig at vi unngår de kjønnsdiskriminerende utviklingsfeilene fra USA.
14. januar la daværende digitaliseringsminister Nikolai Astrup (H) frem stortingsmeldingen «Nasjonal strategi for kunstig intelligens». Målet er at Norge skal gå foran i utvikling og bruk av kunstig intelligens, spesielt innen industri og offentlig sektor. Astrup er visjonær, og det er realistisk at Norge kan ta en lederrolle. Men uten riktig IT-utvikling og tilpassing, kan den nye teknologien forsterke skjevhetene mellom kjønnene.
Menn har, og har hatt, de fleste lederstillingene i samfunnet. Kjønn er en viktig faktor i ansettelsesprosesser. En mannlig programmerer kan ubevisst ha en tendens til å kode algoritmene slik at det er de mannlige lederegenskapene som skal verdsettes ved valg av ledere. Hvis rekrutteringsalgoritmen ikke kodes og trenes riktig, har den dermed ingen evne til å forestille seg at kvinner passer til stillingen. Et godt eksempel er hvordan Amazons algoritme ikke ville ansette kvinner.
I tillegg til at menn kan ha blinde flekker, er utfordringen med kunstig intelligens at dataene som mates inn er historiske data
I USA er den kunstige intelligensen utviklet av de globale tech-selskapene i all hovedsak blitt laget av nettopp mannlige programmerere. Forskning viser at ansiktsgjenkjenning fra IBM, Microsoft og Face++ har en feilmargin på 0,8 prosent på hvite menn, men i 20–35 prosent av tilfellene bommer de på mørke kvinner.
I tillegg til at menn kan ha blinde flekker, er utfordringen med kunstig intelligens at dataene som mates inn er historiske data. Kunstig intelligens kan dermed bli et speil av fortiden. Norge var mer kjønnsdelt tidligere enn det vi har lyst til å være i fremtiden. Uten den riktige tilpassingen er det dermed fare for at kunstig intelligens reflekterer historiske kjønnsforskjeller.
Tenk for eksempel at NAV bruker kunstig intelligens til å foreslå lengden på fødselspermisjon. Om maskinen skal basere seg på historiske data når den legger forslag til lengden på permisjonen for kvinner og menn i skjemaene som sendes ut, vil kvinner få forslag om en betydelig lengre permisjon enn menn. Dermed blir historiske forskjeller automatisk forsøkt videreført av maskinene.
Vi tenker på maskiner som nøytrale. Men kunstig intelligens er ikke mer nøytral enn informasjonen vi mater maskinen med og programmererne som bestemmer hvordan informasjonen skal tolkes. Hvis dette skjer uten at kvinner er med på utviklingen, kan det føre til at kunstig intelligens gjør Norge mer kjønnsdiskriminerende. Satsing på kunstig intelligens må derfor følges av en satsing på å få flere kvinner til på å velge IT-utdannelse.
Kunstig intelligens er ikke bare gutteromsprogrammering. Det er teknologi som vil være med å forme samfunnet. Da er det ekstremt viktig at begge kjønn er representert.
Johanne Birgitte Linde
IT-konsulent og ekspert innen kunstig intelligens, Netcompany
