Direct la conținutul principal

Există restricții privind utilizarea proceselor decizionale automate?

Răspuns

Da, persoanele fizice nu ar trebui să facă obiectul unei decizii bazate exclusiv pe prelucrare automată (cum sunt algoritmii) dacă decizia este obligatorie din punct de vedere juridic sau o afectează într-o măsură semnificativă.

Se poate considera că o decizie produce efecte juridice atunci când aceasta influențează drepturile juridice ale persoanei fizice sau statutul său juridic (de exemplu, dreptul la vot). În plus, prelucrarea poate afecta semnificativ o persoană fizică dacă influențează circumstanțele personale, comportamentul sau alegerile sale (de exemplu, o prelucrare automată poate duce la refuzul unei cereri de credit online).

Utilizarea prelucrării automate pentru luarea deciziilor este autorizată numai în următoarele cazuri:

  • dacă decizia bazată pe un algoritm este necesară (adică trebuie să nu existe nicio altă modalitate de a atinge același obiectiv) pentru încheierea sau derularea unui contract cu persoana fizică ale cărei date societatea/organizația dvs. le-a prelucrat prin intermediul algoritmului (de exemplu, o cere de credit online);
  • dacă o anumită lege (o lege europeană sau națională) permite utilizarea algoritmilor și prevede garanții adecvate pentru a proteja drepturile, libertățile și interesele legitime ale persoanei fizice (de exemplu, regulamentele de combatere a evaziunii fiscale);
  • dacă persoana fizică și-a dat în mod explicit consimțământul pentru o decizie bazată pe algoritm.

Cu toate acestea, decizia luată trebuie să protejeze drepturile, libertățile și interesele legitime ale persoanei fizice prin punerea în aplicare a unor garanții adecvate. Cu excepția cazului în care procesul decizional respectiv este bazat pe o lege, persoana fizică trebuie cel puțin informată în legătură cu (i) logica utilizată în procesul decizional, (ii) dreptul său de a obține o intervenție umană, (iii) consecințele potențiale ale prelucrării și (iv) dreptul său de a contesta decizia. Prin urmare, societatea/organizația dvs. trebuie să facă demersurile procedurale necesare pentru a-i permite persoanei să își exprime punctul de vedere și să conteste decizia.

În sfârșit, e nevoie de atenție deosebită dacă algoritmul utilizează categorii speciale de date cu caracter personal: procesul decizional automat este permis în următoarele condiții:

  • dacă persoana fizică și-a dat consimțământul explicit sau
  • dacă prelucrarea este necesară din motive de interes public major, în temeiul dreptului UE sau național.

În plus, dacă persoana fizică în cauză este copil, ar trebui evitată luarea unor decizii, bazate exclusiv pe procesare automată, care produc efecte juridice sau efecte semnificative similare asupra sa, deoarece copiii reprezintă un grup mai vulnerabil al societății.

Exemplu

 Societatea/organizația dvs. este o bancă online care oferă credite. Clienții își introduc datele, iar un algorit produce rezultate care vă spun dacă ar trebui să îi fie oferit sau nu un credit clientului și propune o dobândă. Societatea/organizația dvs. ar trebui să revizuiască decizia respectivă înainte de a fi comunicată clientului respectiv și să îl informeze că își poate exprima opinia și, eventual, contesta decizia, având în vedere că persoana fizică are dreptul de a nu face obiectul unei decizii bazate pe algoritmi.

Referințe

Example

Your company/organisation is an online bank offering loans. Clients insert their data and an algorithm produces results on whether they should be offered a loan or not and the suggested interest rate. Your company/organisation needs to review the said decision before communicating to the prospective client and inform him that he may express his opinion and eventually contest the decision, keeping in mind that the individual has the right not to be subject to a decision based on algorithms.