hva det er og hvorfor det er viktig

De kredittscoring det er en statistisk metode som lar deg vurdere kredittverdigheten og soliditeten til en bestemt person. Det er i utgangspunktet en evalueringsaktivitet av kredittrisikobasert på en persons profil, som imidlertid skjuler mange risikoer for diskriminering.

Alle av oss har minst én gang i livet signert en låneavtale eller søkt banken vår om kredittkort. Det som kanskje ikke alle vet er hva som skjer bak kulissene og hvordan långivere bestemmer seg for å godkjenne eller avslå forespørslene som mottas.

Kredittscoring brukes ikke bare av långivere. Men også for eksempel av strøm- og gasselskaper.

Det er også lite kjent at man kan ta risikoen ved å være det diskriminert mot.

Hvordan kredittscoring fungerer

Når kredittinstitusjonen mottar en forespørsel om finansiering av noe slag, fortsetter den først med å innhente en stor mengde personopplysninger om kunden i ulike databaser, som kan være offentlige, som for eksempel Protestregisteret, eller det offentlige forebyggingssystemet, eller privat.

DE innhentet data gjelder hovedsakelig to kategorier informasjon:

• av typen positivtfor eksempel informasjon om regelmessigheten av regninger eller avdragsbetalinger;
• av typen negativsom restanser, gjeld eller aktive boliglån.

I tillegg til denne informasjonen innhenter systemet alle andre relevante personopplysninger for å fortsette med den typiske kredittscoringsanalysen. Personopplysninger og identifikasjonsdata av ulike typer, økonomiske aktiviteter, aktivadata, demografiske data, kjønn, alder og mye mer.

Når alle nødvendige data er innhentet, fortsetter vi med den virkelige kredittscoringsaktiviteter. Svært ofte består den av enprofileringsaktivitet etterfulgt av en automatisert beslutningsprosess.

Kredittscoring er derfor en trifasisk prosess:

1. datainnsamling;
2. opprettelse av brukerprofil;
3. automatisert beslutning.

Beslutningen avhenger i stor grad av brukerens risikoprofil. Dette evalueres automatisk av spesifikk programvare, basert på tilgjengelige data.

Ofte kommer resultatet av denne komplekse analysen på skjermene til långiverens operatører i form av enkle kvalitative evalueringer.

Personen på den andre siden av skjermen gjør ingen aktivitet, hvis ikke det med ytterligere verifisering av «pålitelige med forbehold» personer. I disse tilfellene er det vanligvis selskapets politikk som dikterer utfallet av avgjørelsen.

I noen tilfeller vil forespørselen bli avvist. For andre vil kunden ha mulighet til å akseptere andre kontraktsmessige betingelser enn kunder med en bedre profil, for eksempel høyere avdrag eller depositum.

Kredittscoring ikke bare for långivere

Det er ikke bare långivere som kan få tilgang til SIC-er. Men også noen emner spesifikt angitt av nasjonal lovgivning.

Disse inkluderer selskapene til energiforsyning.

Dette betyr at i noen år nå har til og med strøm- og gassleverandører hatt kredittscoringsverktøyet tilgjengelig.

Hver gang aktivering av et nytt elektrisitets- eller gassverk blir forespurt, må det først bestå granskningen av en automatisert kredittscore-beslutningsprosess. Som hva som skjer med kredittinstitusjoner.

Risikoen for mennesker

Risikoen for mennesker er mange.

Som sett består kredittscoringsprosessen av tre makrofaser. Disse tre fasene kan teknisk beskrives som følger:

• datavarehus. Storskala datainnsamling og lagring;
• Datautvinning. Automatisert analyse av tilgjengelige data med utvinning av relevant informasjon;
• dato korrelasjon. Analyse av informasjonen som er hentet ut for definisjon av en personlig profil.

SCI-ene er ansvarlige for den første fasen. Innsamling og lagring av data i stor skala. Gitt interessene som står på spill, gir lovgivningen strenge regler for å garantere nøyaktigheten og kvaliteten på dataene som samles inn og lagres. FIS er pålagt å holde sine databaser oppdatert, og er forpliktet til å holde datalagringstiden korte, for å sikre på den ene siden etterlevelse av minimeringsprinsippet, og på den andre kvaliteten på tilgjengelige data. Å beholde unøyaktige eller utdaterte data i SCI-databasene betyr å ødelegge hele prosessen som følger.

Den andre fasen avhenger av de kontraktsmessige ordningene mellom operatøren og SIC. Faktisk vil informasjonen som trekkes ut kun være den som anses relevant for operatørens formål. Også i denne fasen er det viktig å sørge for at informasjonen som trekkes ut faktisk er relevant og ikke overdreven. Under straff for et ikke-optimalt resultat av neste fase, kanskje den viktigste.

Datakorrelasjon er det som vanligvis kalles profilering. Analysen av informasjonen som er tilgjengelig for å opprette en personlig profil med sikte på å ha en så presis som mulig indikasjon på virkeligheten eller å forutsi mulige fremtidige hendelser. Derimot, profilering er en aktivitet som i sin natur er utsatt for feil. Feilene kan stamme fra de foregående fasene, men kan til og med avhenge av profileringsalgoritmens godhet.

Mange mennesker er uvitende om hva som foregår bak kulissene, og loven har ikke noe spesifikt krav om å opplyse om årsaker til å avslå en søknad basert på en automatisert beslutningsprosess for kredittscoring.

Det er tilstrekkelig å angi i avslagsmeldingen at kredittinformasjonssystemer ble brukt til å vurdere forespørselen.

Faktisk har ofte selv ansatte i disse organisasjonene ingen anelse om hva som foregår bak kulissene. Å spørre kundeservice om grunnen til at kredittkortforespørselen ble avvist er rett og slett ubrukelig.

Det er mer. Risikoer for mennesker oppstår ikke bare fra systemfeil.

Risikoen for diskriminering

De kredittscoring tillater til organisasjonene som bruker dem vurdere risikoprofilen av den enslige, f.eks ta informerte beslutninger.

Dette kan for eksempel resultere i prisdiskriminering. Enhver for-profit organisasjon i verden ønsker å kunne tilby tilpassede priser for hver eneste kunde.

Men det er ikke bare et spørsmål om pris.

Bruk av personopplysninger av høy kvalitet og effektive profileringsalgoritmer gjør at risikoprofilen til hver enkelt person kan bestemmes med stor presisjon. En profil som også beregnes gjennom informasjon som ikke direkte kan refereres til den økonomiske sfæren. Slik som risikoprofil i nabolaget, alder, kjønn, utdanningsnivå og så videre.

Bruk av denne informasjonen til profileringsaktiviteter kan resultere i en diskriminering av kontraktsmessig karakter, for eksempel ved forsikring eller for adgang til private skoler.

Bruken av denne informasjonen i forbindelse med kredittvurdering er ikke alltid lovlig.

I en kjennelse fra april 2019 bøtelagt den finske personopplysningsmyndigheten en kredittinstitusjon for å diskriminere en kunde, med automatiserte beslutninger, basert på hans alder.

Den aktuelle registrerte var rett og slett for gammel for algoritmen som långiveren brukte. I bestemmelsen uttaler tilsynet ikke bare at denne diskrimineringen er uberettiget og ulovlig, men pålegger kredittinstitusjonen å opplyse om den eksakte profileringslogikken til subjektet, slik at han kan forstå nøyaktig årsakene til den automatiserte beslutningen.

Igjen, Apple Pay-saken. New York State Department of Financial Services har foretatt en undersøkelse av profileringskriteriene til algoritmene som brukes av Apple Pay for å gi kredittgrensen til kundene. Enkelte rapporter fra kunder tyder faktisk på klar og omfattende diskriminering av kvinner. Algoritmen vil tildele maksimale kredittgrenser til kvinnelige kunder opptil 20 ganger lavere enn til mannlige kunder, til tross for at de har samme økonomiske, sosiale og finansielle bakgrunn.

Beskyttelse for mennesker

Kunstig intelligens, profilering og automatisert beslutningstaking vil i økende grad bli en del av livene våre. Rett eller galt, det er vår nåtid og absolutt vår fremtid.

Forholdet mellom lover og teknologi har aldri vært enkelt.

En enkelt artikkel innenfor EU-forordningen 2016/679 står som et bolverk for beskyttelse av mennesker mot automatiserte beslutningsprosesser. Den etablerer grunnlaget for det som vil bli fremtiden, i det minste i EU, for lovgivning om kunstig intelligens.

L’Kunst. 22 i GDPR sier: «den interesserte har rett til ikke å bli gjenstand for en avgjørelse som utelukkende er basert på automatisert behandling, herunder profilering, som gir rettsvirkninger for ham eller som i vesentlig grad påvirker hans person på lignende måte.»

Det er unntak fra denne rettigheten:

• avgjørelsen er nødvendig for inngåelse eller oppfyllelse av en kontrakt mellom den registrerte og en behandlingsansvarlig;
• avgjørelsen er autorisert av unionsloven eller i medlemsstaten som den behandlingsansvarlige er underlagt, som også spesifiserer tilstrekkelige tiltak for å beskytte rettighetene, frihetene og legitime interesser til den registrerte;
• avgjørelsen er basert på den registrertes uttrykkelige samtykke.

I det første og tredje tilfellet er det den behandlingsansvarliges plikt å iverksette tilstrekkelige tiltak for å beskytte rettighetene, frihetene og legitime interesser til enkeltpersoner og i det minste retten til å få menneskelig inngripen, uttrykke sin mening og bestride avgjørelsen.

Kunsten. 22 fortsetter med også å indikere grenser for bruken av bestemte kategorier av personopplysninger.

Det som betyr noe er imidlertid retten til å kunne be om menneskelig inngripen og utfordre vedtaket. Denne eneste lovbestemmelsen er det eneste forsvaret som for øyeblikket beskytter innbyggerne i EU.

En reguleringsbestemmelse med betydelig demokrati, som lar folk hevde rettighetene sine overfor eieren og de kompetente myndighetene, mot avgjørelser tatt av en programvare.

Fremtiden vil helt sikkert by på en rekke lovinngrep innen kunstig intelligens, automatiserte beslutningsprosesser og profilering, men håpet er at retningen blir den som art. 22 i GDPR.

Hvis du likte denne artikkelen, gi oss beskjed i kommentarene nedenfor. Skriv gjerne hvis du har noen tvil eller meninger om det.

Du kan også bli med i fellesskapet til Investherohvor du kan finne annet lignende innhold og fritt sammenligne deg med andre medlemmer.