Antwoord
Ja, personen mogen niet worden onderworpen aan een beslissing die uitsluitend op geautomatiseerde verwerking is gebaseerd (zoals algoritmen), dat juridisch bindend is of hen aanzienlijk beïnvloedt.
Een beslissing heeft rechtsgevolgen wanneer de wettelijke rechten of de rechtspositie van de betrokkenen worden aangetast (bijvoorbeeld stemrecht). Bovendien kan verwerking ook een aanzienlijke invloed hebben op personen als die verwerking invloed heeft op de persoonlijke situatie van de betrokkenen, op hun gedrag of op hun keuzes (automatische verwerking kan bijvoorbeeld leiden tot de weigering van een onlinekredietaanvraag).
Het gebruik van geautomatiseerde verwerking voor besluitvorming is slechts in de volgende gevallen toegestaan:
- de beslissing op basis van het algoritme is noodzakelijk (er mag dus geen andere manier zijn om hetzelfde doel te bereiken) om een overeenkomst aan te gaan of uit te voeren met de persoon van wie uw onderneming/organisatie de gegevens via het algoritme heeft verwerkt (bijv. een online-leningsaanvraag);
- een specifieke EU of nationale wet staat het gebruik van algoritmen toe en voorziet in passende waarborgen ter bescherming van de rechten, vrijheden en het gerechtvaardigd belang van de betrokkenen (bijv. regelgeving ter bestrijding van belastingontduiking);
- de betrokkene heeft uitdrukkelijk ingestemd met een beslissing op basis van het algoritme.
De genomen beslissing moet de rechten, vrijheden en het gerechtvaardigd belang van de betrokkenen beschermen door passende waarborgen. Behalve wanneer dergelijke beslissing is gebaseerd op een wet, moet de betrokkene ten minste worden geïnformeerd over i) de logica die aan het besluitvormingsproces ten grondslag ligt, ii) zijn of haar recht op menselijke tussenkomst, iii) de mogelijke gevolgen van de verwerking en iv) het recht van de betrokken om de beslissing te betwisten. Uw onderneming/organisatie moet dus de nodige procedurele maatregelen treffen om de betrokkene in staat te stellen zijn of haar standpunt kenbaar te maken en de beslissing te betwisten.
Tot slot moet bijzonder worden opgelet wanneer het algoritme gebruikmaakt van speciale categorieën persoonsgegevens: geautomatiseerde besluitvorming is alleen in de volgende situaties toegestaan:
- de betrokkene heeft zijn of haar uitdrukkelijke toestemming gegeven; of
- de verwerking is noodzakelijk is om redenen van zwaarwegend algemeen belang op grond van EU of nationaal recht.
Bovendien moeten, als de betrokkene een kind is, uitsluitend geautomatiseerde beslissingen die juridische of vergelijkbare gevolgen hebben voor het kind, worden vermeden, daar kinderen een kwetsbaardere groep in de samenleving vormen.
Voorbeeld
Uw onderneming/organisatie is een onlinebank die leningen aanbiedt. Klanten voeren hun gegevens in en een algoritme produceert resultaten over de vraag of de klanten al dan niet een lening moet worden aangeboden en de voorgestelde rentevoet. Uw onderneming/organisatie moet de genoemde beslissing controleren voordat die aan potentiële klanten wordt gecommuniceerd en die potentiële klanten erover informeren dat zij hun mening mogen uiten en uw beslissing mogen betwisten, omdat personen het recht hebben om niet te worden onderworpen aan een beslissing op basis van algoritmen.
Referenties
Example
Your company/organisation is an online bank offering loans. Clients insert their data and an algorithm produces results on whether they should be offered a loan or not and the suggested interest rate. Your company/organisation needs to review the said decision before communicating to the prospective client and inform him that he may express his opinion and eventually contest the decision, keeping in mind that the individual has the right not to be subject to a decision based on algorithms.