Postoje li ograničenja u pogledu uporabe automatiziranog donošenja odluka?

Odgovor

Da, na pojedince se ne bi trebala odnositi odluka koja se temelji isključivo na automatiziranoj obradi (poput algoritama) i koja je pravno obvezujuća ili značajno utječe na njih.

Može se smatrati da odluka proizvodi pravne učinke kad utječe na zakonska prava ili zakonski status pojedinca (primjerice, na njegovo pravo da glasa). Dodatno, obrada može znatno utjecati na pojedinca ako utječe na osobne okolnosti u kojima se pojedinac nalazi, na njegovo ponašanje ili izbore (primjerice, automatska obrada može rezultirati odbijanjem internetskog kreditnog zahtjeva).

Uporaba automatizirane obrade za donošenje odluka odobrava se samo u sljedećim slučajevima:

• odluka temeljena na algoritmu nužna je (tj. ne postoji nijedan drugi način postizanja istog cilja) za sklapanje ili izvršavanje ugovora s pojedincem čije je podatke obradilo algoritmom vaše društvo/organizacija (primjer: internetski kreditni zahtjev),
• određeno nacionalno ili EU pravo dopušta uporabu algoritama i omogućuje odgovarajuće zaštitne mjere za zaštitu prava, sloboda i legitimnih interesa pojedinca (primjer:, propis protiv utaje poreza),
• pojedinac je dao svoju izričitu privolu za odluku temeljenu na algoritmu.

Ipak, u navedena tri slučaja donesena odluka provođenjem odgovarajućih zaštitnih mjera mora štititi prava, slobode i legitimni interes pojedinca. Osim kad se takvo odlučivanje temelji na pravo, pojedinca se mora barem informirati o (i). logici na kojoj se temelji proces donošenja oduke; ii. njihovu pravu na ljudsku intervenciju; iii. mogućim posljedicama obrade; i iv. njihovu pravu na osporavanje odluke. Vaše društvo/organizacija stoga mora poduzeti određene postupke kako biste pojedincu omogućili da izrazi svoje mišljenje i ospori odluku.

Konačno, posebnu pozornost treba obratiti ako vaš algoritam upotrebljava posebne kategorije osobnih podataka:  automatizirano donošenje odluka dopušteno je samo pod određenim uvjetima:

• pojedinac je dao svoju izričitu privolu;
• obrada je nužna za potrebe značajnog javnog interesa prema europskom ili nacionalnom pravu.

Nadalje, ako je pojedinac dijete, treba izbjegavati donošenje isključivo automatiziranih odluka koje proizvode pravne učinke ili na sličan način značajno utječu na pojedinca jer djeca predstavljaju osjetljiviju društvenu skupinu.

Primjer

Vaše društvo/organizacija je internetska banka koja nudi kredite. Klijenti unesu svoje podatke i algoritam izračuna treba li klijentu ponuditi kredit te po kojoj predloženoj kamatnoj stopi. Vaše društvo/organizacija treba preispitati navedenu odluku prije nego što komunicirate s potencijalnim klijentom i informirate ga da može izraziti svoje mišljenje i naposljetku osporiti odluku, imajući na umu da pojedinac ima pravo ne podlijegati donošenju odluka koje se temelje na algoritmima.

Upućivanja

• Članak 4. stavak 4. i članak 22. i uvodne izjave (71) i (72) OUZP-a
• Smjernice Europskog odbora za zaštitu podataka o automatiziranom pojedinačnom odlučivanju i izradi profila u svrhe Uredbe (EU)  2016/679

Example

Your company/organisation is an online bank offering loans. Clients insert their data and an algorithm produces results on whether they should be offered a loan or not and the suggested interest rate. Your company/organisation needs to review the said decision before communicating to the prospective client and inform him that he may express his opinion and eventually contest the decision, keeping in mind that the individual has the right not to be subject to a decision based on algorithms.