Ali obstajajo omejitve glede uporabe avtomatiziranega sprejemanja odločitev?

Odgovor

Da, za posameznike ne sme veljati odločitev, ki temelji zgolj na avtomatski obdelavi (kot so algoritmi) in ki je pravno zavezujoča ali nanje znatno vpliva.

Šteje se lahko, da ima odločitev pravne učinke, kadar vpliva na njegove pravne pravice ali pravni status (kot je pravica glasovanja). Poleg tega lahko obdelava znatno vpliva na posameznika, če vpliva na njegove okoliščine, vedenje ali izbire (na primer avtomatska obdelava lahko privede do zavrnitve spletne prošnje za posojilo).

Uporaba avtomatske obdelave za sprejemanje odločitev je dovoljena samo v naslednjih primerih:

• odločitev, ki temelji na algoritmu, je potrebna (tj. ne obstaja noben drug način za dosego istega cilja) za sklenitev ali izvajanje pogodbe s posameznikom, katerega podatke obdelujete z algoritmom (npr. spletna prošnja za posojilo);
• določeno pravo (evropsko ali nacionalno) omogoča uporabo algoritmov in zagotavlja ustrezne zaščitne ukrepe za zaščito pravic, svoboščin in zakonitih interesov posameznika (npr. predpisi o boju proti davčnim utajam);
• posameznik je dal izrecno privolitev za odločitev, ki temelji na algoritmu.

V teh treh primerih lahko uporabite algoritem in sprejmete odločitev. Vendar pa mora sprejeta odločitev z izvajanjem ustreznih zaščitnih ukrepov ščititi pravice, svoboščine in zakoniti interes posameznika. Razen kadar tako sprejemanje odločitev temelji na pravu, morate v drugih dveh primerih posameznika seznaniti vsaj z (i) razlogi za postopek sprejemanja odločitev, (ii) njegovo pravico do človekovega posredovanja, (iii) možnimi posledicami obdelave in (iv) njegovo pravico, da ugovarja odločitvi. Sprejeti morate torej potrebne ukrepe, da bi omogočili posamezniku, da izrazi svoje mnenje in ugovarja odločitvi.

Na koncu morate biti posebej pozorni na to, ali vaš algoritem uporablja posebne kategorije osebnih podatkov: avtomatizirano sprejemanje odločitev je dovoljeno samo pod nekaterimi pogoji, tj. če je posameznik dal izrecno privolitev in/ali če je obdelava potrebna iz razlogov bistvenega javnega interesa na podlagi evropskega ali nacionalnega prava. Če je posameznik otrok, pa se morate na splošno izogibati sprejemanju zgolj avtomatiziranih odločitev, ki imajo lahko pravne ali podobno bistvene učinke v zvezi z njimi, saj so otroci najranljivejša družbena skupina.

Primer

Ste spletna banka, ki ponuja posojila. Komitenti vnašajo svoje podatke, vaš algoritem pa prikaže rezultate, ki vam povejo, ali naj komitentom odobrite posojilo ali ne, in predlagajo obrestno mero. Navedeno odločitev morate pregledati, še preden navežete stik s potencialnim komitentom in ga obvestite, da lahko izrazi svoje mnenje in ugovarja vaši odločitvi, pri tem pa upoštevati, da ima posameznik pravico, da odločitev, ki temelji na algoritmih, zanj ne velja.

Reference

• Člena 4(4), 22; uvodni izjavi 71, 72 Splošne uredbe o varstvu podatkov
• Smernice delovne skupine iz člena 29 o avtomatiziranem posameznem sprejemanju odločitev in oblikovanju profilov za namene Uredbe 2016/679

Example

Your company/organisation is an online bank offering loans. Clients insert their data and an algorithm produces results on whether they should be offered a loan or not and the suggested interest rate. Your company/organisation needs to review the said decision before communicating to the prospective client and inform him that he may express his opinion and eventually contest the decision, keeping in mind that the individual has the right not to be subject to a decision based on algorithms.