Svar
Ja, enkeltpersoner bør ikke være genstand for afgørelser, der alene er baseret på automatisk behandling (som for eksempel algoritmer), og som er juridisk bindende eller påvirker dem betydeligt.
En afgørelse kan anses for at have retsvirkning, hvis den påvirker den enkeltes juridiske rettigheder eller juridiske status (for eksempel dennes stemmeret). Desuden kan behandling påvirke en enkeltperson betydeligt, hvis det har indflydelse på dennes personlige forhold, adfærd eller valgmuligheder (for eksempel kan automatisk behandling føre til en afvisning af en onlineansøgning om kredit).
Brug af automatisk behandling til afgørelser er kun tilladt i følgende tilfælde:
- Den afgørelse, der er baseret på algoritmen, er nødvendig (dvs. der må ikke være en anden måde at opnå det samme mål) for at indgå eller opfylde en kontrakt med den person, hvis oplysninger blev behandlet via algoritmen (f.eks. en onlineansøgning om lån).
- En bestemt lov (europæisk eller national) tillader brug af algoritmer og giver passende garantier til sikring af den enkeltes rettigheder, frihedsrettigheder og legitime interesser (for eksempel lovgivning til forebyggelse af skatteunddragelse).
- Den enkelte har udtrykkeligt givet samtykke til en afgørelse baseret på algoritmen.
Afgørelsen skal dog sikre den enkeltes rettigheder, frihedsrettigheder og legitime interesser ved at anvende passende garantier. Med undtagelse af tilfælde, hvor en sådan afgørelse er baseret på lovgivning, skal enkeltpersonen informeres om (i) den logik, der anvendes til at træffe afgørelsen, (ii) vedkommendes ret til at få menneskelig indblanding, (iii) de mulige konsekvenser ved behandlingen og (iv) vedkommendes ret til at bestride afgørelsen. Jeres virksomhed/organisation skal derfor træffe de nødvendige proceduremæssige foranstaltninger til, at den enkelte kan fremsætte sine synspunkter og bestride afgørelsen.
Endelig kræves særlig opmærksomhed, hvis algoritmen anvender særlige kategorier af personoplysninger: Automatiske afgørelser er kun tilladt under følgende betingelser:
- Enkeltpersonen har givet sit udtrykkelige samtykke, eller
- behandlingen er nødvendig af hensyn til væsentlige samfundsinteresser på grundlag af europæisk eller national ret.
Endvidere, hvis enkeltpersonen er et barn, skal automatiske afgørelser, som indebærer retsvirkning eller tilsvarende betydelige virkninger for dem, som hovedregel undgås, da børn tilhører en mere sårbar gruppe i samfundet.
Eksempel
Jeres virksomhed/organisation er en onlinebank, som tilbyder lån. Kunden indtaster sine oplysninger, og en algoritme producerer resultater om, hvorvidt de skal tilbydes et lån eller ej samt et forslag til en rentesats. Jeres virksomhed/organisation skal gennemgå denne afgørelse, inden den videregives til ansøgeren, og informere vedkommende om muligheden for at give udtryk for sin mening og eventuelt bestride afgørelsen, idet den enkelte har ret til ikke at blive genstand for en afgørelse baseret på algoritmer.
Referencer
Example
Your company/organisation is an online bank offering loans. Clients insert their data and an algorithm produces results on whether they should be offered a loan or not and the suggested interest rate. Your company/organisation needs to review the said decision before communicating to the prospective client and inform him that he may express his opinion and eventually contest the decision, keeping in mind that the individual has the right not to be subject to a decision based on algorithms.