Vastus
Jah, üksikisikutel on õigus, et nende kohta ei võetaks vastu otsust, mis põhineb üksnes automatiseeritud töötlusel (nt algoritmidel), mis on juriidiliselt siduv või avaldab talle märkimisväärset mõju.
Otsust võib lugeda õiguslikku mõju omavaks, kui see mõjutab üksikisiku juriidilisi õigusi või õiguslikku seisundit (nt tema õigust hääletada). Lisaks võib töötlemine avaldada üksikisikule märkimisväärset mõju, kui see mõjutab tema olukorda, käitumist või valikuid (nt automatiseeritud töötlemine võib tuua kaasa veebipõhise krediiditaotluse tagasilükkamise).
Automatiseeritud töötlusel põhinevate otsuste tegemine on lubatav ainult järgmistel juhtudel:
- kui algoritmil põhinev otsus on vajalik (st sama tulemuse saavutamiseks ei ole ühtegi teist võimalust) lepingu sõlmimiseks või täitmiseks üksikisikuga, kelle andmeid Te algoritmi kaudu töötlesite (nt veebipõhine laenutaotlus);
- kui algoritmide kasutamine on lubatud konkreetse (Euroopa või liikmesriigi) õigusaktiga, milles on sätestatud ka asjakohased kaitsemeetmed üksikisiku õiguste ja vabaduste ning õigustatud huvide kaitsmiseks (nt maksudest kõrvalehoidumise vastased õigusaktid);
- kui kõnealune üksikisik on andnud selgesõnalise nõusoleku algoritmil põhineva otsuse kohta.
Nendel kolmel juhul võite algoritmi kasutada ja otsuse teha. Tehtud otsus peab siiski kaitsma üksikisiku õigusi ja vabadusi ning õigustatud huve, rakendades asjakohaseid kaitsemeetmeid. Välja arvatud juhul, kui selline otsuse tegemine põhineb õigusaktil, tuleb ülejäänud kahel juhul teavitada üksikisikut vähemalt i) otsustamisel kasutatud loogikast, ii) tema õigusest inimsekkumisele, iii) sellise töötlemise võimalikest tagajärgedest ja iv) tema õigusest otsus vaidlustada. Seetõttu tuleb Teil näha ette vajalik protseduuriline kord, mis võimaldab üksikisikul oma seisukohta väljendada ja otsust vaidlustada.
Lõpuks peaksite pöörama eriti tähelepanu asjaolule, kas Teie algoritm kasutab isikuandmete eriliike, sest automaatne otsuste vastuvõtmine on lubatav ainult teatavatel tingimustel (st kui üksikisik on andnud selleks sõnaselgelt nõusoleku ja/või kui töötlemine on vajalik olulise avaliku huviga seotud põhjustel Euroopa või liikmesriigi õiguse alusel). Lisaks, kui tegemist on lastega, peaksite üldiselt vältima üksnes andmete automatiseeritud töötlemisele toetuva otsuse tegemist, kui sellel on õiguslikke tagajärgi või see avaldab neile samamoodi märkimisväärset mõju, sest lapsed on ühiskonna kaitsetum osa.
Näide
Teie veebipank pakub laenu. Kliendid sisestavad oma andmed ja Teie algoritm näitab, kas Te peaksite sellele kliendile laenu pakkuma või mitte ja mis on soovitatav intressimäär. Te peate selle otsuse üle vaatama enne sellest võimalikule kliendile teatamist. Samuti peate talle teatama, et ta võib oma arvamust väljendada ja hiljem Teie otsuse vaidlustada, pidades silmas, et üksikisikul on õigus, et tema kohta ei tehtaks algoritmidel põhinevat otsust.
Viited
Example
Your company/organisation is an online bank offering loans. Clients insert their data and an algorithm produces results on whether they should be offered a loan or not and the suggested interest rate. Your company/organisation needs to review the said decision before communicating to the prospective client and inform him that he may express his opinion and eventually contest the decision, keeping in mind that the individual has the right not to be subject to a decision based on algorithms.